2017-07-04 50 views

回答

1

不使用中间件?不,这是中间件的要点!然而scrapy内置了中间件,你不需要下载或启用任何东西。 你可以对任何单独的请求通过proxymeta属性中设置代理:

Request('someurl', meta={'proxy': 'http://some_proxy_server:port'}) 

结帐HttpProxyMiddleware

+0

啊我想,这是事实,我想我最好的解决方案是使用请求和BeautifulSoup不使用scrapy处理整个框架,因为我只需要一次功能有限的一次性工作 –

+0

@EdwardFu Scrapy完全可以在小范围内工作。中间件没有问题。请求具有与HttpProxyMiddleware相同的逻辑,它不像中间件那样是孤立的和暴露的 - 它是硬编码的。 – Granitosaurus

相关问题