爬虫管理平台 Crawlab v0.4.5 发布 - V2EX
2020-02-04 21:21:34 Author: www.v2ex.com(查看原文) 阅读量:347 收藏

pythonee

3

pythonee   8 小时 56 分钟前

感谢分享

看了下文档,建议增加一些术语解释,比如说阶段这个概念

另外,不知道 scrapy 是不是默认已经集成?

tikazyq

4

tikazyq   8 小时 51 分钟前

@pythonee 是的,现在文档还有些不那么完善,后续我们会进一步逐步完善的。

在 Docker 镜像中,scrapy 是已经集成了的了。

qsbaq

6

qsbaq   7 小时 30 分钟前

demo 登录出错了

musi

7

musi   6 小时 16 分钟前

看了一下是支持多节点部署的?最近刚好想找一个爬虫管理平台管理一些内网环境下的爬虫(机器可通外网,但获取的数据在内网)貌似可以试试?

tikazyq

10

tikazyq   4 小时 26 分钟前

@musi 是的,这个本身就是支持分布式的平台,可以多节点部署。Crawlab 分主节点工作节点,主节点主要控制 API 和节点注册等,工作节点主要负责抓取,你可以让主节点在内网,工作节点在外网,这样就可以实现你想要做的事情了。


文章来源: https://www.v2ex.com/t/642005#reply10
如有侵权请联系:admin#unsafe.sh