kafka 消费者平滑退出一般是怎么做的?

2022-10-17 17:21:18 +08:00
 daoqiongsi1101

比如 poll 了 1000 条内容,已经消费了 500 个,此时要中断消费,那么剩余的 500 个岂不是丢了,如何保证消费完再退出?监听信号量吗?

666 次点击
所在节点    Kafka
2 条回复
andrewpsy
2022-10-18 11:18:26 +08:00
你搜关键词 offset management ,不是一句两句能说清的。
一个简单粗暴的方法就是关闭 auto commit ,然后在 loop 里计数,每处理 x 个 message 后 commit 一下。
x 越小 commit 次数越多,overhead 大,重复处理或者 skip 掉的 message 就越少。
x 越大 commit 次数越少,overhead 小,但是可能需要重复处理的 message 更多,各种 tradeoff 要考虑。
daoqiongsi1101
2022-10-18 14:47:00 +08:00
@andrewpsy 你说的是提交 offset 的方式,自动提交,手动提交,自动手动结合,还有位移提交。我说的是取出来的消息,没消费完如何优雅中止

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/887568

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX