[求助] Python Celery 要求发送几千到上万份邮件,有什么好的实践吗

2021-07-20 12:25:17 +08:00
 opengo

如题,业务需要一下子发送几千到上万份邮件,主要担心 celery 把内存打爆,或者发送过程中遭遇网络问题等,重试问题,请问各位有什么好的实践吗?

目前打算用 group 加 skew 给每个任务依次延时,感觉发送周期可能又太长了

1128 次点击
所在节点    问与答
9 条回复
defunct9
2021-07-20 12:46:39 +08:00
不是该用 postfix 么,celery 扔到 postfix 就完事了
tulongtou
2021-07-20 12:47:56 +08:00
不会,没封右键作为一个任务,扔到队列里面,worker 一个一个去跑就完事了。一万封的话几个小时就发完
DeWjjj
2021-07-20 12:49:21 +08:00
这是注册邮件吧,就直接写个队列执行就好了。
实际上不会像楼上说的几个小时,因为你的业务不是均匀持续的。
opengo
2021-07-20 13:54:14 +08:00
@DeWjjj 业务是这样的,导入几千到数万条优惠券,每条优惠券都发给不同的邮箱,所以一下子任务堆积的比较多,想吸取一下各位 retry 时异常处理的经验
opengo
2021-07-20 13:55:43 +08:00
@defunct9 目前用的还是 django 自带的发送组件,我了解一下这个
rev1si0n
2021-07-20 15:58:57 +08:00
你这什么任务内容 1 万个就爆内存了... 内存这东西又不贵,只管上
rev1si0n
2021-07-20 16:00:07 +08:00
还有我比较好奇的是你是通过第三方发邮件的?现在的服务器发送邮件不都是很严格的嘛
julyclyde
2021-07-22 13:46:33 +08:00
并不需要 celery 啊
让邮件服务器处理异步问题。你只需要快速把邮件交给服务器即可
opengo
2021-08-23 11:58:07 +08:00
@rev1si0n 这点内存倒是不会爆...主要是内存较小,考虑 stmp 服务器不稳定等极端情况下,这个帖子主要目的想了解下大量重试失败任务,处理起来有没有什么需要注意的地方

发邮件最后按 celery 负载包装了几个 chunk,然后开了 celery 自动缩放让它自己玩去了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/790578

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX