小程序埋点上报的数据,往 mysql 存是可以的吗

2022-07-29 17:06:33 +08:00
 Ufo666

公司小程序,加了手动埋点(他们希望数据人性化一点,而不是每个地方都打,打出来的内容很死板),所以在一些关键事件打上上报事件的 api 接口,发到服务器,服务器存入 mysql 。 现在有 38w 行记录了,感觉后面会撑爆,有点担心,要不要换个 es ?(特小一个公司)

5943 次点击
所在节点    MySQL
57 条回复
documentzhangx66
2022-07-30 05:00:30 +08:00
会不会爆,要通过监控各设备性能,来观察性能是否足够。

做好主备节点、UPS 、备份。

进行删、改前,先在实验环境下测试好了后,再去生产环境上做。
documentzhangx66
2022-07-30 05:03:02 +08:00
如果为了稳,建议直接上 Oracle ,地球上最强数据库。PG 什么的就免了,最近有团体在各平台鼓吹 PG ,请不要上当。
cheng6563
2022-07-30 07:33:55 +08:00
才 300 万你慌个啥,特小的公司?那等 300 亿再说吧
ychost
2022-07-30 08:11:37 +08:00
用时序数据库简单点,比如 influxDB ,还能直观看到一个人的操作曲线
dayeye2006199
2022-07-30 08:32:20 +08:00
做成文件存对象存储吧,便宜。

下次要分析的时候再入库
realpg
2022-07-30 08:45:46 +08:00
日增 oplog 记录条数 1700 万条
MySQL 存储 分表 备份 无压力
这玩意就看你架构设计了

我们的方案
开一个 office E5,买 25 个手机号, 25 个 onedrive 5T
每日凌晨 1 点-2 点 cron 生成次日表名
每日凌晨 3 点-4 点备份昨日数据表 sql,bzip2,删表,rclone 怼 onedrive 备份,联通 onedrive 超快,基本很快就能备份完,删本地文件
hefish
2022-07-30 09:05:33 +08:00
特小的公司还要存着这些数据,一直存到地老天荒啊。。。那恭喜这个特小公司已经一夜变成世界 500 强了。。
diggzhang
2022-07-30 09:09:57 +08:00
按日分区归档。
按周建新库。
krixaar
2022-07-30 09:23:07 +08:00
@documentzhangx66 #42 用 Oracle 当心哪天 boss 非得要“去 IOE”然后你再搞迁移……
limbo0
2022-07-30 09:42:12 +08:00
埋点只能是越来越多, 长远考虑还是换离线, 当然如果哦几年内 mysql 能撑住不动也行啊
MrTLJH
2022-07-30 10:02:36 +08:00
@realpg 手机号咋买的,求问
realpg
2022-07-30 10:17:45 +08:00
@MrTLJH
群里找人,给 50,收个微软验证码,还不容易?
aheadlead
2022-07-30 10:20:39 +08:00
@documentzhangx66 #41 乐了 36 万行数据你让人上 oracle 合着你给他掏钱还是怎么的?
caqiko
2022-07-30 10:50:50 +08:00
就你一个写代码的,你部署 es 老板舍得花这个钱吗?
keymao
2022-07-30 11:40:06 +08:00
写个定时任务,检测数据条目超过一定数量就进行归档,按照时间将很久之前的先归档 放到其他数据表
Yunen
2022-07-30 14:28:59 +08:00
@realpg E5 开子号还需要手机号?这玩意不是想创就创嘛,租户管理员直接新建就完事了...
knightdf
2022-08-01 21:01:56 +08:00
直接写 csv,tsv 文件就行了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/869507

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX