在虚拟分布式模式下运行Hadoop示例vm

我使用Virtualbox在OpenSuse 11.2 VM上设置了Hadoop。我已经完成了必备配置。我成功地在独立模式下运行了这个例子。但在伪分布式模式，我得到以下错误：在虚拟分布式模式下运行Hadoop示例vm

$./bin/hadoop fs -put conf input 
10/04/13 15:56:25 INFO hdfs.DFSClient: Exception in createBlockOutputStream java.net.SocketException: Protocol not available                
10/04/13 15:56:25 INFO hdfs.DFSClient: Abandoning block blk_-8490915989783733314_1003   
10/04/13 15:56:31 INFO hdfs.DFSClient: Exception in createBlockOutputStream java.net.SocketException: Protocol not available                
10/04/13 15:56:31 INFO hdfs.DFSClient: Abandoning block blk_-1740343312313498323_1003   
10/04/13 15:56:37 INFO hdfs.DFSClient: Exception in createBlockOutputStream java.net.SocketException: Protocol not available                
10/04/13 15:56:37 INFO hdfs.DFSClient: Abandoning block blk_-3566235190507929459_1003   
10/04/13 15:56:43 INFO hdfs.DFSClient: Exception in createBlockOutputStream java.net.SocketException: Protocol not available                
10/04/13 15:56:43 INFO hdfs.DFSClient: Abandoning block blk_-1746222418910980888_1003   
10/04/13 15:56:49 WARN hdfs.DFSClient: DataStreamer Exception: java.io.IOException: Unable to create new block.                   
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.nextBlockOutputStream(DFSClient.java:2845)                      
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.access$2000(DFSClient.java:2102) 
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream$DataStreamer.run(DFSClient.java:2288)                       

10/04/13 15:56:49 WARN hdfs.DFSClient: Error Recovery for block blk_-1746222418910980888_1003 bad datanode[0] nodes == null                
10/04/13 15:56:49 WARN hdfs.DFSClient: Could not get block locations. Source file "/user/max/input/core-site.xml" - Aborting...               
put: Protocol not available                 
10/04/13 15:56:49 ERROR hdfs.DFSClient: Exception closing file /user/max/input/core-site.xml : java.net.SocketException: Protocol not available 
java.net.SocketException: Protocol not available 
     at sun.nio.ch.Net.getIntOption0(Native Method) 
     at sun.nio.ch.Net.getIntOption(Net.java:178) 
     at sun.nio.ch.SocketChannelImpl$1.getInt(SocketChannelImpl.java:419) 
     at sun.nio.ch.SocketOptsImpl.getInt(SocketOptsImpl.java:60) 
     at sun.nio.ch.SocketOptsImpl.sendBufferSize(SocketOptsImpl.java:156) 
     at sun.nio.ch.SocketOptsImpl$IP$TCP.sendBufferSize(SocketOptsImpl.java:286) 
     at sun.nio.ch.OptionAdaptor.getSendBufferSize(OptionAdaptor.java:129) 
     at sun.nio.ch.SocketAdaptor.getSendBufferSize(SocketAdaptor.java:328) 
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.createBlockOutputStream(DFSClient.java:2873) 
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.nextBlockOutputStream(DFSClient.java:2826) 
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.access$2000(DFSClient.java:2102) 
     at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream$DataStreamer.run(DFSClient.java:2288)

来源

2010-04-13 Manas

什么时候开始Hadoop的恶魔。与独立模式不同，这需要在psuedo-dist模式下完成。你使用类似启动：

所需的步骤

$bin\start-all.sh

文档可以发现here。

您是否遵循了所有这些步骤？你可以浏览NameNode和JobTracker Web界面吗？

来源

2010-04-13 22:44:26

这就是我试图运行的例子。我可以浏览Namenode和JobTracker，core-site.xml文件就在那里。当我启动守护进程时，日志看起来不错。它仅在'./bin/hadooop -put conf input'发生异常之后。 – Manas 2010-04-14 08:12:37

也许尝试使用预先配置的虚拟机？ http://www.cloudera.com/developers/downloads/virtual-machine/我认为这可能是开始学习hadoop的最好方法，那些问题不应该发生在那里。

来源

2010-05-04 21:44:59 wlk

你能告诉我我是否可以使用Cloudera的VM以完全分布式模式运行Hadoop？每个虚拟机将运行在不同的计算机上。因为我不能在我工作的机器上安装Linux：（ – Manas 2010-05-05 11:08:18

）如果你想在不同的计算机上运行Cloudera的VM，你会遇到一些问题（与网络有关）。但是为了测试，在一台PC上运行2或3个虚拟机工作。 – wlk 2010-05-06 17:12:21

好像集群中没有活动数据节点。你检查状态页面是否显示活动节点？ http://localhost:50070/

使用命令$ bin/start-all.sh启动所有Hadoop守护进程。

来源

2010-07-11 03:59:31

在虚拟分布式模式下运行Hadoop示例vm

回答

相关问题