V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
dzshubin
V2EX  ›  Python

Python 扫描工具 实现求助

  •  1
     
  •   dzshubin · 2017-07-04 15:21:19 +08:00 · 1846 次点击
    这是一个创建于 2505 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近在写一个扫描工具

    网页端发送一个任务,后台根据任务类型,调用 celery 的服务,进行相应的扫描。 现在能够运行,但是效率很低。

    我想进行几处优化: 1. 把分发任务的代码当作一个 worker,多启几个实例 2. 再有一个类似 scheduler 的角色,将网页端发的任务,做个负载均衡的功能,转发给 worker 3. worker 再每隔一定时间给网页端返回一个心跳

    各位大佬,能不能给我介绍能够实现我需求的框架 /思路?

    3 条回复    2017-07-04 16:44:38 +08:00
    janxin
        1
    janxin  
       2017-07-04 16:06:55 +08:00
    思路不是有了吗...
    dzshubin
        2
    dzshubin  
    OP
       2017-07-04 16:40:45 +08:00
    @janxin 我不知道怎么做...
    fiht
        3
    fiht  
       2017-07-04 16:44:38 +08:00
    1. 效率很低
    为什么很低?是完成一个任务需要的周期长还是任务太多但是完成一个任务所需要的时间很短?
    如果是单个任务周期长的话多开几个消费者就可以了
    如果是单个任务周期短的话多开几个消费者也可以了
    另外如果是单个任务周期长的话有没有考虑过让单个任务周期变短呢?
    其实还是得看具体的任务背景啦~
    一楼说得对,你思路已经有了,只是懒得实现而已
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1031 人在线   最高记录 6547   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 21:53 · PVG 05:53 · LAX 14:53 · JFK 17:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.