0
如何更改此配置? 对于我的应用程序,64/128的分割大小对我来说太大了,Amazon ElasticMapReduce(EMR)控制分割大小/数量的映射器
而我想要分割大小为16 MB的例子。
我该怎么办?
如何更改此配置? 对于我的应用程序,64/128的分割大小对我来说太大了,Amazon ElasticMapReduce(EMR)控制分割大小/数量的映射器
而我想要分割大小为16 MB的例子。
我该怎么办?
您可以通过设置fs.s3n.block.size来更改默认块大小。请在代码中尝试下面的代码 - jobConf.set(“fs.s3n.block.size”,value);
请参考下面的链接,以及 - http://docs.aws.amazon.com/ElasticMapReduce/latest/DeveloperGuide/emr-plan-bootstrap.html
http://s3.amazonaws.com/awsdocs/ElasticMapReduce/latest/emr-dg.pdf
我使用Hadoop流 – member555
我在哪里可以把这个设置? fs.s3n.block.size 我通过aws网站运行emr,请帮我 – member555
我还没有试过EMR与流媒体,我想你也可以改变参数,如下面的链接中给出的。但不是很确定https://hadoop.apache.org/docs/stable/hadoop-aws/tools/hadoop-aws/index.html –