我注意到有两组Hadoop配置参数:一个使用mapred。*,另一个使用mapreduce。 。我猜这些可能是由于旧API与新API有关,但如果我没有弄错,这些似乎在新的API中共存。我对么?如果是这样,是否有一个广义的语句是什么用于mapred。什么是mapreduce。*?Hadoop配置:mapred。* vs mapreduce。*
8
A
回答
3
检查0.20.2的源代码,只有几个mapreduce.*
属性,它们围绕配置作业输入/输出格式,映射器/合并器/缩减器和分区器类(它们还向作业客户端发送新的API被用于由用户 - 看通过源o.a.h.mapreduce.Job
,setUseNewAPI()
方法)
mapreduce.inputformat.class
mapreduce.outputformat.class
mapreduce.partitioner.class
mapreduce.map.class
mapreduce.combine.class
mapreduce.reduce.class
有一些更多特性,但它们是次要结构
的输入和输出格式,无论是新的还是旧的API版本,通常使用mapred.*
属性
例如,您的地图信号减少了您使用的输入路径mapred.input.dir
(无论您是usi新的或旧的API)。同为输出特性mapred.output.dir
所以长和短的,如果是,如果没有一个配置属性(FileInputFormat.setInputPaths(Job, String)
)实用程序方法,那么你就需要检查源
0
hadoop.mapred
已被弃用。
使用0.20.1
之前的版本使用mapred
。 之后的版本使用mapreduce
。
我不认为它们是共存的。
2
是mapred库已被弃用。 mapreduce库是hadoop 0.20.1中的新功能..
但是,仍然可以使用mapred提供的一些功能,这就是为什么您仍然可以在目录中找到它的原因。
请看看这个链接就知道什么功能,你仍然可以使用:http://hadoop.apache.org/common/docs/r0.20.0/api/org/apache/hadoop/mapred/package-summary.html
相关问题
- 1. Hadoop Mapreduce配置(新API)
- 2. 的Hadoop和MapReduce配置
- 3. 使用mapred或mapreduce包创建Hadoop作业会更好吗?
- 4. Hadoop管道和新的mapred软件包
- 5. 排序顺序与Hadoop MapRed
- 6. Hadoop的mapred:附加源HOWTO
- 7. hadoop mapreduce
- 8. hadoop mapred job - 初始化尝试mapred任务时出错
- 9. Hadoop Mapreduce wordcount
- 10. Hadoop mapreduce编程
- 11. hadoop mapreduce model java
- 12. Hadoop和MapReduce
- 13. hadoop mapreduce teragen FAIL_CONTAINER_CLEANUP
- 14. hadoop mapreduce两种
- 15. 在hadoop mapreduce
- 16. hadoop的Dumbo mapreduce
- 17. Hadoop Mapreduce ClassNotFoundException
- 18. Hadoop MapReduce思维
- 19. Hadoop中的MapReduce
- 20. 搭配chmod:无法访问“/app/hadoop/tmp/mapred/staging/hduser896097807/.staging/job_local89609780chmod:
- 21. 的Hadoop MapReduce的基于Eclipse:清理临时区域文件:/app/hadoop/tmp/mapred/staging/myname183880112/.staging/job_local183880112_0001
- 22. MapReduce的用Hadoop类型匹配:
- 23. 查找与Hadoop/MapReduce的匹配行
- 24. Hadoop MapReduce vs MPI(vs Spark vs Mahout vs Mesos) - 何时使用另一种?
- 25. MapReduce - 使用hadoop配置对象读取文本文件
- 26. 是否可以配置运行mapreduce v1框架的hadoop 2.6.0? (classic)
- 27. 如何为hadoop mapreduce配置java内存堆空间?
- 28. 在hadoop mapReduce项目下设置pom.xml
- 29. Hadoop:设置MapReduce资源权限
- 30. Hadoop配置getConf()返回null
我想我的问题是相当含糊。我不是在问图书馆。我在问两个不同的hadoop配置参数namings。 – kee