2012-10-28 29 views
3

更新的hadoop mapred-site.xml中的配置参数/更新下列参数如何无需重新启动我想补充集群

<property> 
    <name>mapred.map.tasks.speculative.execution</name> 
    <value>false</value> 
    </property> 
在mapred-site.xml中

在Hadoop中。我如何在不重新启动集群的情况下执行此操作?

回答

5

您可以在作业配置中设置此每项作业。如果您想要全局更改此行为,则必须重新启动群集。没有重新启动的情况下无法更改它。

5

按照Hadoop - The Definitive Guide

注意的是,在客户端配置设置时,某些属性没有任何效果。例如,如果您在作业提交中设置了mapred.tasktracker.map.tasks.maximum,并期望它会更改执行作业的任务管理器的任务槽的数量,那么您会感到失望,因为此属性只有在在tasktracker的mapred-site.xml文件中设置。一般情况下,您可以通过名称来告诉组件的属性,因此mapred.tasktracker.map.tasks.maximum以mapred.tasktracker开头的事实为您提供了一个线索,它只能为tasktracker守护程序。然而,这不是一条硬性规定,所以在某些情况下,您可能需要尝试进行反复试验,甚至是阅读来源。

其中很荣幸在客户端和特定的工作性质并不需要集群重启,但像mapred.tasktracker.map.tasks.maximum另一方面集群特定的配置需要集群重新启动。

+0

因此,推测执行属性仅适用于JobTracker,因此群集不应该重新启动? – Julias

+0

不确定 - 尝试它的最佳方式。 –

1

如果您使用MRv2(YARN for资源调度),每次提交作业时都会读取在mapred-site.xml文件中所做的更改,并且所有配置都将保存为作业配置xml文件(当作业被提交给群集)。没有必要重新启动任何服务。

相关问题