在处理Web抓取项目时,为了提取我需要的所有信息,我需要发出很多请求,但服务器发出大约50次请求后,它会用429状态码来表示错误“请求太多”,如何处理?Web Scraping和http太多的请求回答
0
A
回答
0
我的猜测是你要么需要频率减慢您的请求,或匿名。我们有一对夫妇对我们网站的文章会解释你的选择,如果你决定去匿名路线:
0
也许你应该尝试使用HideMyIP例如,改变你的IP,每5分钟或10分钟
相关问题
- 1. 不回答HTTP请求
- 2. 如何阻止Apache回答http请求?
- 3. HTTP GET请求和XML答案
- 4. 避免Sails.js + AngularJS中的太多请求(缓存HTTP请求)
- 5. jmeter和多个http请求
- 6. 的请求或应答太大
- 7. 黑莓HTTP请求太慢
- 8. HTTP请求与HttpClient太慢?
- 9. ORA-29273:HTTP请求失败,ORA-29270:太多的开放式HTTP请求
- 10. 为什么tomcat答复HTTP 1.1使用HTTP 1.0请求回复?
- 11. 简单的HTTP请求和Web服务
- 12. 多个http请求
- 13. 同时cURL HTTP请求答案?
- 14. Web服务的错误:HTTP 413:请求实体太大
- 15. Python 3中的HTTP错误403 Web Scraping
- 16. 的Python:太多请求
- 17. 来自url的Python http请求,以xml格式回答
- 18. Web服务 - HTTP GET请求和响应
- 19. 什么是HTTP请求和web服务
- 20. SOAP,HTTP Web服务请求和URL
- 21. 并行运行一系列函数来回答HTTP请求
- 22. Python的多线程和HTTP请求
- 23. http请求的HTTP请求
- 24. HTTP 414错误的请求URL太长
- 25. 一台电脑要处理多少个xml http请求太多?
- 26. m.request问题太多请求
- 27. Twitter Ruby Gem太多请求
- 28. Ajax提出太多请求
- 29. 获取用户已回答的请求
- 30. 请求URI太大:: IBM HTTP服务器