2012-11-27 139 views
0

我已经写了一个hadoop 1.0.4应用程序,在半分布模式下本地运行良好。我还在集群上安装了Cloudera Hadoop 4。我认为CDH4运行hadoop 1.0.4是因为它在hadoop网站上列为稳定,但似乎并非如此。当我跑我的群,我得到了下面的错误上的应用:就在我assmptionCloudera Hadoop没有运行hadoop 1.0.4?

12/11/27 16:14:38 WARN mapred.JobClient: Use GenericOptionsParser for parsing the arguments. Applications should implement Tool for the same. 
12/11/27 16:14:38 INFO input.FileInputFormat: Total input paths to process : 16 
12/11/27 16:14:39 INFO mapred.JobClient: Running job: job_201211271520_0004 
12/11/27 16:14:40 INFO mapred.JobClient: map 0% reduce 0% 
12/11/27 16:14:50 INFO mapred.JobClient: Task Id : attempt_201211271520_0004_m_000013_0, Status : FAILED 
Error: Found interface org.apache.hadoop.mapreduce.TaskAttemptContext, but class was expected 
12/11/27 16:14:50 INFO mapred.JobClient: Task Id : attempt_201211271520_0004_m_000000_0, Status : FAILED 
... and so on... 

我是,这是因为CHD4不是用Hadoop 1.0.4兼容吗?如果有的话,是否有人知道什么版本与hadoop 1.0.4兼容?我宁愿切换cloudera软件,而不是重写我的应用程序。

回答

3

你是对的; CDH3使用版本0.20.2,CDH4使用版本2.0.0。 Hadoop版本的命名是一团糟,我不假装理解它。但它看起来像你可能能够基于在this blog post by Cloudera下列规定使用CDH3:

"The CDH3 distribution incorporated the 0.20.2 Apache Hadoop release plus the features of the 0.20.append and 0.20.security branches that collectively are now known as “1.0.” The Apache Hadoop in CDH3 has been the equivalent of the recently announced Apache Hadoop 1.0 for approximately a year now."

如果是这样的话,我会给CDH3一试。如果它不起作用,你可能只需要寻找除了Cloudera的安装之外的东西。

+0

谢谢,我会稍后再试。我会让你知道它是否有效。 – KarelV

+0

CDH3.5它是;)显然,重新编译HAdoop 2.0.0库也可以解决我的问题,但我没有测试。 – KarelV

相关问题