我有一个10TB桶,需要尽快创建它的副本。什么是最快和最有效的方法呢?复制Google存储分区的最快方法是什么?
1
A
回答
0
您可以通过gsutil轻松实现。
gsutil -m cp -r gs://source-bucket gs://duplicate-bucket
您是否在Google云端存储中复制到具有相同位置和存储空间的存储分区?如果是这样,这个操作应该非常快。如果存储桶具有不同的位置和/或存储类别,则操作将会更慢(并且更昂贵),但这仍然是最快的方式。
+0
我提出了Mike Schwartz的回答。我建议的命令会稍微快一点,因为它不必在开始复制之前完全枚举源存储桶中的所有对象。但是,如果在操作过程中出现任何问题(例如,您遇到暂时的网络中断),则需要从头开始复制。在源存储桶的内容发生变化后,Mike的命令也可以重新运行,以便以后逐渐同步源桶中的目标桶。 –
2
假设你想桶复制到另一个桶中相同的位置和存储类,你可以在GCE实例执行gsutil的rsync:
gsutil -m rsync -r -d -p gs:://source-bucket gs://dest-bucket
如果要在位置或存储类的复制上面的命令仍然可以工作,但会花费更长的时间,因为在这种情况下,数据(不仅仅是元数据)需要被复制。
无论使用哪种方式,都应该检查结果状态,如果发生任何错误,请重新运行rsync命令。 (rsync命令将避免重新复制已复制的对象。)您应该重复rsync命令,直到成功完全复制存储桶为止。
1
一个简单的方法是使用谷歌的Cloud Storage Transfer Service。它也可能是最快的,但我没有证实这一点。
相关问题
- 1. 什么是复制我的阵列的最快方法?
- 2. 在mysql中复制表的最快方法是什么?
- 3. 什么是复制mysql行的最快方法?
- 4. 在Cassandra中复制Column族的最快方法是什么?
- 5. 什么是更快的复制或克隆一个FreeBSD分区?
- 6. ReadProcessMemory最快的方法是什么?
- 7. 什么是写XML的最快方法
- 8. 复制visual studio项目的最快方式/脚本是什么?
- 9. 将Azure存储表数据清除/复制到SQL Azure的最快方法是什么?
- 10. 什么是最快的方式存储逗号分隔诠释在std :: vector
- 11. .net最快的分布式缓存解决方案是什么?
- 12. 在RichTextBox中存储ascii文件的文本的最快方法是什么?
- 13. 检查号码重复数字的最快方法是什么?
- 14. 在Python中检查重复项的最快方法是什么?
- 15. 什么是MySQL中域存储的快速方法?
- 16. 在java中存储未知数量字符串的最快方法是什么?
- 17. 什么是存储大量唯一字符串的最快方法?
- 18. 什么是计算存储数字所需位数的最快方法
- 19. 什么是储存化学配方的最有效方法?
- 20. 根据数组分配变量的最快方法是什么?
- 21. 什么是检查mongodb文档存在的最快方法?
- 22. 保存lucene-solr搜索结果的最快方法是什么?
- 23. 在SharedPreferences中保存字符串的最快方法是什么?
- 24. 在Windows.Forms中绘制图像的最快方法是什么?
- 25. 在现代Windows上绘制HWND的最快方法是什么?
- 26. 什么是绘制线阵列的最快方法?
- 27. 从Node.js将大文件复制到S3的最快方法是什么?
- 28. 在vb.net中复制List(Of T)Class的最快方法是什么?
- 29. 什么是在Java中复制2D int数组的最快方法?
- 30. 在Java对象之间复制数据的最快方法是什么?
你看过内置的Transfer Service吗? https://cloud.google.com/storage/transfer/ – jarmod
我试过这个S3,但从来没有想过它可以从gs复制到gs。谢谢 – Misko
希望它有帮助。已经添加为未来的读者的答案。 – jarmod