为啥感觉用 Celery 的大公司比较少

2018-10-01 22:35:35 +08:00
 YuuuZeee

RT 不知道是不是个人见识比较少 感觉国内用 python 的远不及 java 的多。。。然后同理导致使用 Celery 的公司也很少。。。

同事们好多都是表示没听说过这个东西=-=

面试的时候好不容于遇到一个用这个的。。。只会用这个发邮件。。。问点消息中间件 /Celery 是如何处理一个 task 的就 GG

个人感觉这个东西是类似调度系统来离线 /异步去执行各类任务的 而且感觉 learning curve 也不高呀。。。咋没啥人用

用 Celery 的筒子们举起你们的小手手!

23589 次点击
所在节点    Python
54 条回复
ashin
2018-10-02 09:58:16 +08:00
感觉 celery 自身一点都不稳 issue 里面好多 bug 的样子,感觉还是比较重又容易出问题,可能是我太菜,现在用的 worker 使用 gevent 的模式每次启动后差不多 3 分钟后的样子就会稳定的报一次连接 mq 的错误,然后再也不发生,对业务貌似没有实际影响,prefork 的话大概 15 分钟发生。而且 flower 现在也有 bug 的样子 页面点 worker 根本进不去,其他都正常
GoLand
2018-10-02 11:23:39 +08:00
我们公司也重度使用 celery 吧,中等厂。挺好的。
zhangsen1992
2018-10-02 14:06:31 +08:00
我记得 zhihu AD 都用过这个吧
akmonde
2018-10-02 15:43:19 +08:00
关键 v 站玩这个的也不算多...
zhengxiaowai
2018-10-02 17:25:34 +08:00
celery 坑太多真的太多,异步任务可以使用消息队列替代,定时任务那就更多了。

celery beat 添加修改任务,必须要重启,这个太坑了
scriptB0y
2018-10-02 17:50:10 +08:00
我一开始也基本是个项目都需要用 Celery,后来发现 uWSGI 自带了一个简单的 Spooler 可以处理大部分异步任务和周期运行的任务( 2min 以内可以)

https://www.kawabangga.com/posts/3101
qq976739120
2018-10-02 20:27:35 +08:00
我到现在都没学会怎么用 celery 往指定的 exchange 发消息...所以干脆自己封装了一个,还蛮好用的
fatpa
2018-10-02 23:59:29 +08:00
搭配 redis 做消息对列,基本就可以实现一个定时 scheduler 和一堆无限拓展的 woker 了,之前做监控和消息推送用这样的方案实现
Ehco1996
2018-10-03 09:15:09 +08:00
我们这也重度依赖 celery
比较可怕的是我们居然用他做数据同步
kingfighters
2018-10-03 09:19:09 +08:00
@fatpa 为什么用 redis 做消息队列,不该用 rebbitmq 么?其实可以了解一下 airbnb 开源的 airflow,之前搭过一个类似的系统,不过当然没有 airflow 那么功能全,也是业务场景不需要。。
liudi1990
2018-10-03 12:48:09 +08:00
Robinhood 在用 并且主要的 contributor 在他家 fte 你感受一下
YaphetYin
2018-10-04 02:26:25 +08:00
@Eds1995 4.2 我记得支持了
YaphetYin
2018-10-04 02:33:38 +08:00
踩了不少坑,最奇葩的一个是 4.2 下 chunks.group.skew 竟然需要 eval 一下才能正确执行,感觉不到测试的气息。看有人已经提了 issue,4.3 会修复。还有他家文档极其不友好,什么 status,state,这种一些类似的属性都不给说明,用得心累
lolizeppelin
2018-10-04 12:46:03 +08:00
直接拿 openstack 相关代码用 用什么 celery

作者家的 kombu 还是不错的 233
eloah
2018-10-04 15:38:44 +08:00
之前用过......
生产环境上内存泄漏,调度停止什么的不要太多,提了 Issue 修复也不发版本
反正我是觉得挺坑的
ytmsdy
2018-10-04 16:04:52 +08:00
之前用 celery 做异步队列,结果在做异步推送的时候碰到 bug。4 万多个设备每个设备推送了 9 个一样的通知,被老板骂死。然后再也不敢用 celery 了。
fushall
2018-10-04 17:38:37 +08:00
目前的实习公司目前准备从 celery 转到 dask
mathgl
2018-10-04 19:21:52 +08:00
@fushall 这两个感觉定位不大一样。你们是做计算比较多么?
hotea
2018-10-04 22:26:26 +08:00
复杂的异步任务用 celery,一般的用 rq 比较好,简单
kingfighters
2018-10-05 08:32:41 +08:00
@ytmsdy 后来用什么了?

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/494477

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX