我有一长串我想从ftp站点下载的文件。我使用python执行下载,并使用多处理模块同时下载4个左右的文件。我希望使用多个处理器的文件下载速度比使用一个线程更快。使用多重处理执行多个下载命令是否有好处?或者一个线程会填充下载带宽?在多个处理器上下载文件是否有益(增加速度)?
0
A
回答
0
对于其他感兴趣的人,我进行这个简单的测试:
下载从FTP站点18文件,每个文件约114MB,使用(对于两个独立的下载尝试显示时间)Python的多处理模块和ftp.retrbinary
下载时间1处理器:14分钟7.2分钟
下载时间2处理器:4.0分钟3.8分钟
3处理器下载时间:2.5分钟4.0分钟
4处理器下载时间:6.0分钟2.3分钟
下载速度受到其他几个因素的影响,但在这个小样本中,似乎添加了几个处理器会减少下载多个文件所需的时间。可能是
1
一个线程可能会使您的带宽饱和。无论如何,您可能想尝试一下:它可能是FTP服务器通过连接限制其输出,并使用多个连接来获取更多资源。
相关问题
- 1. 增加下载速度?
- 2. 增加大文件的加载速度
- 3. 加快文件下载的处理速度从网络
- 4. Android:加速多个小文件下载
- 5. 如何增加ClickOnce下载速度?
- 6. Cython在CPython + NumPy上没有速度增益
- 7. 在Grails中是否有Django的上下文处理器?
- 8. Android上的JavaRx:观察是否有多个文件已下载
- 9. 增加上传速度(多部分POST)
- 10. 多个@ font-face格式是否会减慢下载速度?
- 11. sdk 11的硬件加速,是否有益于早期版本?
- 12. 下载经理提高下载速度
- 13. 使用多处理来处理图像,但没有性能增益与8 cpus
- 14. 增加速度
- 15. 速度增加
- 16. 有多少上下文类加载器有一个EAR?
- 17. Java下载器 - 下载多个文件
- 18. 如何告诉OpenGL上下文是否是硬件加速?
- 19. 下载管理器如何在没有多个请求的情况下在HTTP上下载大文件?
- 20. show处理器速度
- 21. w3wp处理下载文件
- 22. 开销是否包含在下载管理器的下载速率描述中?
- 23. 在批处理文件中加速ssh
- 24. 在IBM Worklight JSONStore中是否有处理加载增量同步的API?
- 25. AMD处理器上的几个pthreads没有收益?
- 26. 在多处理器上添加事件监听器。管理器
- 27. 下载管理器 - 限制下载速度
- 28. 是否可以使用three.js .obj文件格式加载器加载多个纹理文件?
- 29. Django上下文处理器
- 30. 在iphone上下载多个文件
。效果会在速度上类似于分段下载...我认为 – Nullman
它可能。另外:由于您只是在执行I/O绑定任务,因此您可以在这种情况下简单地使用多线程。 – Bakuriu
当你尝试时发生了什么? – Goyo