请教关于分布式 scrapy, scrapy-cluster 和 scrapy-redis 的问题

2018-05-31 14:58:00 +08:00
 yangyaofei

最近需要用分布式爬虫,准备用 scrapy 找到两个项目: scrapy-cluster scrapy-redis

我看了半天还是没有搞懂

  1. scrapy-cluster 上面 engine 是怎么负载均衡的?手动控制?scrapy-redis 上面 engine 放在一台机器上?还是放在多台机器上的?
  2. 除了 1 以外,这两个的区别是后者仅仅是用了 redis 来分配需要请求的地址,而前者还将需要存储的结果放在 kafka 上了?
  3. 如果 scrapy-redis 只是在一台机器上 engine,那么存下结果(准备存入 hbase)不是又成了瓶颈了,还是要写一个队列分发给所有机器来存?
  4. 我可不可以用 scrapyd 来控制 scrapy-redis+scrapy?
2306 次点击
所在节点    程序员
2 条回复
hooopo
2018-05-31 15:24:35 +08:00
可以
yangyaofei
2018-05-31 16:21:18 +08:00
@hooopo 是说 4 可以么?请问 scrapy-redis 是单机 engine?

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/459245

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX