更新的hadoop mapred-site.xml中的配置参数/更新下列参数如何无需重新启动我想补充集群
<property>
<name>mapred.map.tasks.speculative.execution</name>
<value>false</value>
</property>
在mapred-site.xml中
在Hadoop中。我如何在不重新启动集群的情况下执行此操作?
更新的hadoop mapred-site.xml中的配置参数/更新下列参数如何无需重新启动我想补充集群
<property>
<name>mapred.map.tasks.speculative.execution</name>
<value>false</value>
</property>
在mapred-site.xml中
在Hadoop中。我如何在不重新启动集群的情况下执行此操作?
您可以在作业配置中设置此每项作业。如果您想要全局更改此行为,则必须重新启动群集。没有重新启动的情况下无法更改它。
按照Hadoop - The Definitive Guide
注意的是,在客户端配置设置时,某些属性没有任何效果。例如,如果您在作业提交中设置了mapred.tasktracker.map.tasks.maximum,并期望它会更改执行作业的任务管理器的任务槽的数量,那么您会感到失望,因为此属性只有在在tasktracker的mapred-site.xml文件中设置。一般情况下,您可以通过名称来告诉组件的属性,因此mapred.tasktracker.map.tasks.maximum以mapred.tasktracker开头的事实为您提供了一个线索,它只能为tasktracker守护程序。然而,这不是一条硬性规定,所以在某些情况下,您可能需要尝试进行反复试验,甚至是阅读来源。
其中很荣幸在客户端和特定的工作性质并不需要集群重启,但像mapred.tasktracker.map.tasks.maximum另一方面集群特定的配置需要集群重新启动。
如果您使用MRv2(YARN for资源调度),每次提交作业时都会读取在mapred-site.xml文件中所做的更改,并且所有配置都将保存为作业配置xml文件(当作业被提交给群集)。没有必要重新启动任何服务。
因此,推测执行属性仅适用于JobTracker,因此群集不应该重新启动? – Julias
不确定 - 尝试它的最佳方式。 –