pgsql 增量同步 es 的一个疑问

175 天前
 fatyoung
目前公司 pgsql 数据同步到 es 的方案是 debezium 监听日志发送 kafka ,然后 flink 消费 kafka 做同步 es 的操作。

小弟的疑问是为什么要加 flink 这一步,直接自己起一个 kafka consumer 消费这个变更日志去做同步 es 的处理不行吗,有什么区别吗
816 次点击
所在节点    程序员
6 条回复
vagusss
175 天前
我觉得你想的是对的
Masoud2023
175 天前
有现成的轮子为什么要自己造?
Masoud2023
175 天前
我刚想起来 flink 好像不是我想的那个东西。。。记错了,我的问题
wu00
174 天前
当然可以,甚至可以直接在 debezium 上配置 storage 的吧?一般 CDC 组件应该都会支持 es
fatyoung
174 天前
交代一下背景:flink 不是因为这个需求才搭建的,flink 是本来就搭建好了的,但还是困惑为什么要经过 flink 这一层
mringg
174 天前
个人感觉,如果没聚合类型的操作,Flink 确实是多余的。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/994834

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX