2016-08-04 69 views
0

,我得到下面的错误/警告:Hadoop的命令'Hadoop的FS当我运行像Hadoop的<code>hadoop fs -ls</code>命令-ls`给ConnectionRefused错误

16/08/04 11:24:12 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 
ls: Call From master/172.17.100.54 to master:9000 failed on connection exception: java.net.ConnectException: Connection refused; For more details see: http://wiki.apache.org/hadoop/ConnectionRefused 

难道我做错什么与Hadoop的路径?

+1

这'WARN util.NativeCodeLoader'只是一个警告,它不会停止工作。您需要查看“连接被拒绝”,例如主机是否可以解析? –

回答

1

Hadoop本地库指南说它与 安装有关。请检查文档以解决此问题。

Native Hadoop Library

的Hadoop具有性能方面的原因某些组件和用于Java实现的非可用性本地实现。这些组件可以在一个名为本地hadoop库的动态链接本地库中使用。在* nix平台的库命名为libhadoop.so.

请注意以下事项:

它是强制性的,以建设同时安装zlib的的gzip发展目标平台上的包本地hadoop库;但是,如果您只想使用一个编解码器,则只需安装一个包就足够了。 对于zlib,根据目标平台的32/64位jvm,需要拥有正确的32/64库,以便构建和部署本机hadoop库。

运行

bin/hadoop脚本确保hadoop本地库是通过系统属性库路径:-Djava.library.path=<path>

在运行期间,检查Hadoop的日志文件,为您的MapReduce任务。

如果一切正常,则:DEBUG util.NativeCodeLoader - Trying to load the custom-built native-hadoop library... INFO util.NativeCodeLoader - Loaded the native-hadoop library

如果出现错误,则:INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

检查

NativeLibraryChecker是检查本机库是否正确加载的工具。您可以启动NativeLibraryChecker如下

$ hadoop checknative -a 
    14/12/06 01:30:45 WARN bzip2.Bzip2Factory: Failed to load/initialize native-bzip2 library system-native, will use pure-Java version 
    14/12/06 01:30:45 INFO zlib.ZlibFactory: Successfully loaded & initialized native-zlib library 
    Native library checking: 
    hadoop: true /home/ozawa/hadoop/lib/native/libhadoop.so.1.0.0 
    zlib: true /lib/x86_64-linux-gnu/libz.so.1 
    snappy: true /usr/lib/libsnappy.so.1 
    lz4: true revision:99 
    bzip2: false 

第二件事拒绝连接的东西与你的设置。请仔细检查设置。 还看到下面的指针..

Hadoop cluster setup - java.net.ConnectException: Connection refused

Hadoop - java.net.ConnectException: Connection refused