我有一个包含在一个包含大约30,000个子目录的目录中的数据集。这些目录中的每一个都包含一个文本文件和另一个子目录。该子目录包含一些文本文件(范围从0个文本文件到数百个)。我的许多同事都使用这个数据集,但实际上它至少需要6个小时才能将数据集从实验室中的一台计算机/硬盘传输到另一台 - 不是因为数据集的大小,而是因为繁琐它的存储格式。我想创建一些存档(如.tar.gz)来存储这些数据,以便它们可以在计算机之间快速传输。我想看看有没有人曾经使用过类似的东西,并能告诉我最快,最好的方法来做到这一点?我在想,一个shell脚本可能比我自己创建这个档案更快。我需要制作一个包含几个子目录的大目录
0
A
回答
0
建议:NFS挂载目录。然后,一个窗口框或一个unix框可以访问该目录。
评论:像这样的目录结构对文件系统中的inode是坏消息,并且也增加了搜索时间。
答:这将工作在任何POSIX兼容的Unix机器,并假定存在的只是一个基本目录中repository--
cd /path/to/archive; tar cvf mycharhive.tar ./archive_dir; gzip myarchive.tar
这将创建一个相对路径tar归档 - 这意味着你可以将它解压缩到一个低级目录,而不是根目录。
+0
真棒,谢谢 – WordWalk 2010-06-30 21:03:11
相关问题
- 1. 我需要git包含父目录
- 2. IntelliJ包含一个包含在排除目录中的目录?
- 3. 在一个ftp请求中创建一个包含子目录的目录?
- 4. 将包含子目录的整个目录添加到路径
- 5. rsync排除一个目录,但包括一个子目录
- 6. Wy我的GOPATH/src包含安装后的几个目录?
- 7. 下载整个目录(包含文件和子目录)
- 8. CMake的:包含子目录
- 9. 如何复制包含子目录的目录?
- 10. iOS复制目录包括子目录
- 11. Bash将一个目录的内容复制到父目录中包含的每个目录
- 12. Android可绘制目录是否可以包含子目录?
- 13. 制作php包括在一个子目录中工作
- 14. 重命名目录和一些包含的文件/子目录
- 15. 我需要多少个Tortoise SVN目录?
- 16. CMAKE选项包含一个目录
- 17. MSVC2012 Qt应该包含一个目录?
- 18. 如何检查一个目录是否包含Powershell中的另一个目录?
- 19. Python:用另一个包含相同文件的目录覆盖一个目录
- 20. 包含目录
- 21. 如何从子目录制作包含javascript文件的包
- 22. 如何在CentOS 6.4上使用tar包含一个目录和/或子目录
- 23. 的makefile,什么是几个子目录
- 24. 我如何才能找到一个包含在目录和子目录中的多个文件中的函数?
- 25. 如何将所有文件以几个子目录到一个目录
- 26. 根据每个目录在ubuntu中包含的子目录数重命名一组目录
- 27. 创建硬链接到包含在一个子目录文件到另一个子目录
- 28. 在Python中制作多个子目录
- 29. 如何创建几个子目录
- 30. 将一个目录的内容复制到另一个目录
运行Linux?你可能会有更多的运气在superuser.com – 2010-06-30 18:33:51