2017-02-01 116 views
1

我们正在运行的火花流应用有批次排队..但它不使用被配置给它的所有执行者..星火:星火不使用的所有配置的执行者

enter image description here

它的配置为使用执行者,但实际上它只是使用和批次越来越排队

Spark UI executors

我们怎样才能让它在使用所有的24个执行者,而不是让它排队批了

+0

群集中没有其他作业正在运行? –

+0

nope这是唯一正在运行的作业 – user2359997

+0

您的群集有24个容器吗? – code

回答

2

它的配置为使用24个执行人,但实际上它只是使用16

你的工作是期待 24容器/执行人要被分配给它,但它是仅接收16。这可能是因为以下原因:

  1. 群集不被配置为提供预期的资源量

资源可能是由您的基础集群管理器(yarn/mesos)配置的内存或vcore。您可以通过检查您的群集资源并相应地进行配置来解决此问题。

  • Cluster不贯穿你的工作的一生有足够的资源
  • 这可能是因为其他的工作都在同一个集群和集群的一部分运行资源被他们消耗。