2014-09-10 32 views
4

我有spark.cores.max设置为24 [3个工人节点],但是如果我进入我的工作节点,看到只有一个进程[命令= Java]运行,消耗内存和CPU。我怀疑它不使用全部8个内核(在m2.4x large上)。如何检查Spark使用的内核数量?

如何知道数字?

回答

3

你可以看到火花的Web UI下的集群中占据每个工人的内核数量: Spark Web UI

+0

我能在这里看到...但我的问题is..when我登录到工人节点和检查与spark..it相关的进程数量通常只有每个工作者节点一个....我想知道是否所有的内核都被利用了? – user3279189 2014-09-11 15:32:41

+1

只需触发一个并行计算,并观察您的内核负载。你会看到他们秒杀。 – 2014-09-11 17:41:50

+0

Web UI的默认端口为18080。否则访问机器(SSH),然后使用顶部将提供更多的细节。 – 2015-11-13 06:55:42

相关问题