爬虫管理平台 Crawlab 部署指南(Docker and more)

2019-06-13 07:25:54 +08:00
 tikazyq

Crawlab 是基于 Celery 的分布式爬虫管理平台,可以集成任何语言和任何框架。自今年三月份上线以来受到爬虫爱好者们和开发者们的好评,不少使用者还表示会用 Crawlab 搭建公司的爬虫平台。经过近 3 个月的迭代,我们陆续上线了定时任务、数据分析、网站信息、可配置爬虫、自动提取字段、下载结果、上传爬虫等功能,将 Crawlab 打造得更加实用,更加全面,能够真正帮助用户解决爬虫管理困难的问题。

但是,不断有朋友提出来 Crawlab 存在部署复杂的问题。从安装 Crawlab 到最终打开界面需要大概 10-20 分钟的时间,而这还不包括数据库的安装和环境的配置。如果要将 Crawlab 部署在生产环境,或者用作分布式管理的话,部署将更加困难。因此,本篇文章将详细介绍 Crawlab 的部署,帮助开发者们更加方便地部署爬虫管理平台。

文章链接: 爬虫管理平台 Crawlab 部署指南( Docker and more )

Github: https://github.com/tikazyq/crawlab

3182 次点击
所在节点    Python
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/573408

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX