2016-06-25 48 views
0
hadoop fs -put popularNames.txt /user/hadoop/dir1/popularNames.txt 

我的文件夹非常庞大,大约3TB。 我不想复制文件夹,我想将hdfs设置为该位置。如何做到这一点?hadoop on windows,how to add D: folder1 and E: folder1 to hdfs?

+1

将hdfs设置为该位置?这是什么意思? –

+0

旧的大文件夹'D:\ folder1和E:\ folder1'只是在'D:\ folder1和E:\ folder1'上保存hdfs' – Gank

+1

不需要在hdfs上使用hadoop功能。否则,你只是在本地的文件,hadoop不能运行地图/减少工作或维护复制等。 –

回答

1

HDFS:Hadoop分布式文件系统。

您不能添加指向某个位置的链接,因为数据必须存在于HDFS中(不在本地)。使用hadoop的重点是分布式计算,当您的数据分布在集群上时这是可能的。必须使用

hadoop fs -put将文件从本地移动到hdfs才能使用hadoop框架。

+0

但我不想移动或复制,因为磁盘容量太小而无法复制。旧的软件系统使用较旧的文件夹。我可以只是'hadoop fs -put'并使hdfs保存在文件夹的旧位置上吗? – Gank

+1

@Gank否文件不得不驻留在hdfs上,以便利用包含map reduce和所有其他功能的hadoop框架。 –

+0

谢谢!我的文件都是图片资源。我不需要缩小地图,我只想访问,保存和删除它们。我可以做到吗? – Gank