2014-01-24 64 views
2

我在AWS的各种EBS卷上存储了大量(100GB-400GB)文件。我需要将这些文件的本地副本脱机使用。考虑到它们的大小,我很谨慎地尝试从AWS中下载这些文件。我曾考虑将这些文件分割成更小的部分,并在所有文件成功到达时重新组合。但我想知道是否有更好的方法。有什么想法吗?下载AWS EBS卷内容的最佳方式是什么?

回答

3

有多种方法,这里有一些:

  1. 您的文件复制到S3,并从那里下载。 S3在后端下载文件时有更多的支持(它由亚马逊处理)

  2. 使用rsync代替scp。 rsync比scp更可靠,你可以恢复下载。

    rsync -azv remote-ec2-machine:/dir/iwant/to/copy /dir/where/iwant/to/put/the/files

  3. 创建文件的私人洪流。如果你使用Linux mktorrent是一个很好的工具可以使用:http://mktorrent.sourceforge.net/

0

这里是多一个选择,如果你想要传输大量数据的话,可以考虑:

AWS导入/导出是一种利用物理存储设备加速将数据传入和传出AWS的服务,绕过了Internet。 AWS导入/导出磁盘最初是AWS为通过邮件传输数据而提供的唯一服务。磁盘支持将数据直接传输到您使用Amazon高速内部网络所拥有的存储设备。

基本上从我的理解,你发送amazon你的硬盘驱动器,他们会将数据复制到它并发送回来。

据我所知,这只在美国可用,但它可能已扩大到其他地区。

+0

为什么选择投票?这不是一个有效的方法吗? OP没有提到他们这样做的目的。对于我所知道的他们可能只是想要1次备份,这是一个有效的解决方案。当然,它不是一个编程解决方案,但它仍然是解决问题的一种方法。 – KNejad

相关问题