《HadoopYARN配置参数剖析(一)—RM与NM相关参数.docx》由会员分享，可在线阅读，更多相关《HadoopYARN配置参数剖析(一)—RM与NM相关参数.docx（2页珍藏版）》请在三一文库上搜索。
1、Hadoop YARN配置参数剖析(1)RM与NM相关参数注意，配置这些参数前，应充分理解这几个参数的含义，以防止误配给集群带来的隐患。另外，这些参数均需要在 yarn-site.xml中配置。AD :注意，配置这些参数前，应充分理解这几个参数的含义，以防止误配给集群带来的隐患。另外，这些参数均需要在 yarn-site.xml中配置。1. ResourceManager相关配置参数(1)参数解释：ResourceManager对客户端暴露的地址。客户端通过该地址向RM提交应用程序，杀死应用程序等。默认值：$ 参数解释：ResourceManager 对 ApplicationMaster 暴
2、露的访问地址。 ApplicationMaster 通过该地 址向RM申请资源、释放资源等。默认值：$(3)参数解释：ResourceManager对NodeManager暴露的地址.。NodeManager通过该地址向 RM汇 报心跳，领取任务等。默认值：$(4)参数解释：ResourceManager对管理员暴露的访问地址。管理员通过该地址向RM发送管理命默认值：$ 参数解释：ResourceManager水草玛瑙 对外web ui地址。用户可通过该地址在浏览器 中查看集群各类信息。默认值：$(6)参数解释：启用的资源调度器主类。目前可用的有 FIFO、Capacity Scheduler
3、和Fair Schedulero 默认值：参数解释：处理来自 NodeManager的RPC请求的Handler数目。默认值：50 参数解释：处理来自 ApplicationMaster的RPC请求的Handler数目。默认值：50(9)参数解释：单个可申请的最高山茶 小最大内存资源量。比如设置为1024和3072,则运行 MapRedce作业时，每个 Task最少可申请1024MB内存，最多可申请 3072MB内存。 默认值：(10)参数解释：单个可申请的最小最大虚拟 CPU个数。比如设置为 1和4,则运行MapRedce作业 时，每个Task最少可申请1个虚拟CPU ,最多可申请4个虚拟C
4、PU。什么是虚拟 CPU,可阅 读我的这篇文章： YARN资源调度器剖析 。默认值：132(11)参数解释：NodeManager黑白名单。如果发现若干个 NodeManager存在问题，比如故障率很高，（调用一任务运行失败率高，则可以将之加入黑名单中。注意，这两个配置参数可以动态生效。个refresh命令即可）默认值：（参数解释：NodeManager心跳间隔默认值：1000 （毫秒）2. NodeManager相关配置参数（1）参数解释：NodeManager总的可用物理内存。注意，该参数是不可修改的，一旦设置，整个运行过程中不 可动态修改。另外，该参数的默认值是 8192MB，即使你的机
5、器内存不够 8192MB, YARN也会按照这些内存来使用（傻不傻？） ，因此，这个值通过一 定要配置。不过，Apache 已经正在尝试将该参数做成可动态修改的。默认值：8192参数解释：每使用 1MB物理内存，最多可用的虚拟内存数。默认值：2.1（3）参数解释：NodeManager总的可用虚拟 CPU个数。默认值：8（4）参数解释：中间结果存放位置，类似于 1.0中的，这个参数通常会配置多个目录，已分摊磁盘 IO负载。默认值：$参数解释：日志存放地址（可配置多个目录）。默认值：$（6）参数解释：NodeManager上日志最多存放时间（不启用日志聚集功能时有效）。默认值：10800 （3小
6、时）参数解释：NodeManager上运行的附属服务。需配置成 mapreduce_shuffle,才可运行 MapReduce默认值：原文链接： mapreduce-nextgenhadoop-yarn-configurations-resourcemanager-nodemanager【编辑推 荐】Hadoop YARN常见问题以及解决方案 Hadoop MapReduce两种常见的容错场景分析 Hadoop 2.0中作业日志收集原理以及配置方法Hadoop YARN中内存和CPU两种资源的调度和隔离 【责任编辑：chensf TEL: （010）】 网络工程师教程（第2版）本书是全国计算机技术与软件专业技术资格（水平）考试的指定用书。按照新的网络工程师考试大纲的规定，本书包含了数据通信基础知