[求教]监控数据表, 并将新增数据写入另一个数据库.

2022-09-05 17:04:32 +08:00
 jeeyong
情况如下:
需要监控一个 SQL SERVER 数据库的视图表, 当有新数据写入时, 需要把该条数据写入到我自己系统的数据表中.
SQL SERVER 是客户生产数据库, 我不能做任何改变, 只能进行查询.

目前只想到:
1. 定时全量写入我的数据库中. 客户数据库的数据增量不算大. 一年 2 万条左右吧. 全量写入一次的时间再 2S 左右.
我的数据库需要通过公网访问. 华为的 RDS.
2. 逐条对比, 使用 python 的内置运算符.
我自己系统的数据库是 MySQL 的数据库.

是否有更好的方法监控呢? 允许有 30 秒以内的延迟..
1883 次点击
所在节点    Python
11 条回复
E520
2022-09-05 17:10:41 +08:00
设置 Mysql 从库
frank1256
2022-09-05 17:25:18 +08:00
客户的视图能提供 create_time 吧,每次别全量,通过日期找增量就够了
jeeyong
2022-09-05 17:48:16 +08:00
@frank1256 他只记录了年月日, 后面的时间都是 00:00:00


@E520 MySQL 和 SQL SERVER 设置从库嘛?
我的权限够嘛?
Kinnice
2022-09-05 18:09:13 +08:00
CDC
update
2022-09-05 18:18:15 +08:00
触发器
yyf1234
2022-09-05 18:21:11 +08:00
触发器
jeeyong
2022-09-05 18:24:03 +08:00
@update
@yyf1234
在我不修改客户数据库的前提下, 可以使用触发器吗?
要修改可能性很低, 各种上报..
killva4624
2022-09-05 18:28:26 +08:00
binlog
jeeyong
2022-09-05 18:36:46 +08:00
我决定按日期进行同步了....
insert no ignore
sunshengkai27
2022-09-05 20:04:09 +08:00
kafka Connector 应该可以.
yizmaoaa
2022-09-06 10:47:46 +08:00
典型 CDC....直接上 debezium

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/877864

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX