Hadoop本地库指南说它与 安装有关。请检查文档以解决此问题。
Native Hadoop Library
的Hadoop具有性能方面的原因某些组件和用于Java实现的非可用性本地实现。这些组件可以在一个名为本地hadoop库的动态链接本地库中使用。在* nix平台的库命名为libhadoop.so.
请注意以下事项:
它是强制性的,以建设同时安装zlib的和的gzip发展目标平台上的包本地hadoop库;但是,如果您只想使用一个编解码器,则只需安装一个包就足够了。 对于zlib,根据目标平台的32/64位jvm,需要拥有正确的32/64库,以便构建和部署本机hadoop库。
运行
的bin/hadoop
脚本确保hadoop本地库是通过系统属性库路径:-Djava.library.path=<path>
在运行期间,检查Hadoop的日志文件,为您的MapReduce任务。
如果一切正常,则:DEBUG util.NativeCodeLoader - Trying to load the custom-built native-hadoop library... INFO util.NativeCodeLoader - Loaded the native-hadoop library
如果出现错误,则:INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
检查
NativeLibraryChecker是检查本机库是否正确加载的工具。您可以启动NativeLibraryChecker如下
$ hadoop checknative -a
14/12/06 01:30:45 WARN bzip2.Bzip2Factory: Failed to load/initialize native-bzip2 library system-native, will use pure-Java version
14/12/06 01:30:45 INFO zlib.ZlibFactory: Successfully loaded & initialized native-zlib library
Native library checking:
hadoop: true /home/ozawa/hadoop/lib/native/libhadoop.so.1.0.0
zlib: true /lib/x86_64-linux-gnu/libz.so.1
snappy: true /usr/lib/libsnappy.so.1
lz4: true revision:99
bzip2: false
第二件事拒绝连接的东西与你的设置。请仔细检查设置。 还看到下面的指针..
Hadoop cluster setup - java.net.ConnectException: Connection refused
Hadoop - java.net.ConnectException: Connection refused
这'WARN util.NativeCodeLoader'只是一个警告,它不会停止工作。您需要查看“连接被拒绝”,例如主机是否可以解析? –