标签：resource HADOOP yarn Hadoop Yarn scheduler 核数 nodemanager 内存

1 常用的调优参数

1）调优参数列表

（1）Resourcemanager相关

yarn.resourcemanager.scheduler.client.thread-count    ResourceManager处理调度器请求的线程数量
yarn.resourcemanager.scheduler.class    配置调度器

（2）Nodemanager相关

yarn.nodemanager.resource.memory-mb                  NodeManager使用内存数
yarn.nodemanager.resource.system-reserved-memory-mb  NodeManager为系统保留多少内存，和上一个参数二者取一即可

yarn.nodemanager.resource.cpu-vcores    NodeManager使用CPU核数
yarn.nodemanager.resource.count-logical-processors-as-cores    是否将虚拟核数当作CPU核数
yarn.nodemanager.resource.pcores-vcores-multiplier    虚拟核数和物理核数乘数，例如：4核8线程，该参数就应设为2
yarn.nodemanager.resource.detect-hardware-capabilities    是否让yarn自己检测硬件进行配置

yarn.nodemanager.pmem-check-enabled    是否开启物理内存检查限制container
yarn.nodemanager.vmem-check-enabled    是否开启虚拟内存检查限制container
yarn.nodemanager.vmem-pmem-ratio        虚拟内存物理内存比例

（3）Container容器相关

yarn.scheduler.minimum-allocation-mb         容器最小内存
yarn.scheduler.maximum-allocation-mb         容器最大内存
yarn.scheduler.minimum-allocation-vcores     容器最小核数
yarn.scheduler.maximum-allocation-vcores     容器最大核数

2）参数具体使用案例

9.2 容量调度器使用

9.3 公平调度器使用

标签：resource,HADOOP,yarn,Hadoop,Yarn,scheduler,核数,nodemanager,内存
来源： https://www.cnblogs.com/qiu-hua/p/15229366.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。