5T 的 MySQL 数据上云?如何做才能更好?

2020-11-25 15:43:43 +08:00
 chinafengzhao
由于架构和历史原因,公司在本地机房部署 MySQL 做数据仓库,主要是 OLAP 的业务,跑存储过程和 ETL 做数据清洗。单实例建的 MySQL,里面各种中文表名和各种大宽表(建表和索引也没有完全符合 OLTP 的最佳实践),数据量日积月累,现在有 100 多个 schema,单实例数据量差不多有 5T 了,运维起来非常吃力。现在公司准备上云,估计还是这套架构。
4772 次点击
所在节点    云计算
33 条回复
snail00
2020-11-25 15:55:18 +08:00
有 5t 的数据量, 其他周边服务应该也要陆续上云, 最简单的就是联系云厂商会有专人对接出方案的.
cccp2020
2020-11-25 16:00:57 +08:00
买云服务器,然后买 rds 什么的,发工单就行,大客户他们有专人解决,你可以看看我的历史帖子,有优惠券的购买 rds
opengps
2020-11-25 16:01:55 +08:00
快递硬盘
mitsuhasanye
2020-11-25 16:03:05 +08:00
让乙方出方案更保险,肯定不止你一家有过这么多数据
iphoneXr
2020-11-25 16:55:30 +08:00
买阿里云 polardb 吧,兼容 mysql,不用去管存储空间用量了。
chinafengzhao
2020-11-25 17:03:14 +08:00
@iphoneXr 完全兼容吗?这个主要是 OLAP 业务,跑各种存储过程。polardb 太贵了啊
mahone3297
2020-11-25 17:06:38 +08:00
@iphoneXr 请教下, polardb,rds,oceanbase 的区别是什么?
buaacss
2020-11-25 17:07:12 +08:00
做一个点对点 vpn 连到本地机房,然后做一个 dts 把数据全量同步过去,并设置增量同步,最后切 dns 同时把老数据库上的账号都设置为只读
chinafengzhao
2020-11-25 17:08:47 +08:00
@iphoneXr 我也想用 polardb,不想折腾那么多,但是我们本地资源就实在是太贵了
orclcast
2020-11-25 17:50:17 +08:00
走线下吧
iphoneXr
2020-11-25 19:53:32 +08:00
@chinafengzhao 先看好不好使,贵不贵的问题有办法解决,一次性买 3 到 5 年,再走个代理商回扣啥的,算下来很便宜。自己用 ecs 来搭建那种双节点也差不多价钱,不贵的。
第二个 配合 dms 做数据库管理,das 做数据库优化监控(自动限流、索引创建删除、扩容节点等),dts 做数据同步等
iphoneXr
2020-11-25 19:54:18 +08:00
@mahone3297 我觉得没啥区别,感觉更像迭代产品的关系
dynastysea
2020-11-25 20:02:58 +08:00
@iphoneXr 区别大了啊,这几个形态完全不同。polardb 是基于共享存储方案的,可以快速扩容 ro 节点。rds 更接近原生 mysql 。这两者都是 100%兼容 mysql 。ob 是分布式数据库,完全自研,只能说兼容绝大多数 mysql,主要场景争对金融级数据库,一般的应用不适合
ifuture
2020-11-25 20:10:33 +08:00
分而治之呗,100 个 schema,单个 schema 也就不大了,一个一个迁移,迁移以后,再把迁移期间原来系统的数据增量同步过去
iphoneXr
2020-11-25 20:12:22 +08:00
@dynastysea 哈哈哈 我承认我对第二个问题有点张口就来了。不过我当时想的是对于 java 程序来说,没区别。所以我还是坚持我的说法。
springz
2020-11-25 20:28:59 +08:00
为什么没人推荐 TiDB,推荐下。
springz
2020-11-25 20:30:06 +08:00
TiDB 还有 TiFlash 和 TiSpark,OLAP 场景多合适。
xuanbg
2020-11-25 20:32:08 +08:00
阿里云有个数据迁移工具的,配好了让它跑就行了。5T 跑个 10 来天总能跑完的吧。
dynastysea
2020-11-25 20:43:46 +08:00
@xuanbg 哈哈,你是看不起阿里云? 5T 这么点数据量都要跑 10 天?
threeEggs123
2020-11-25 21:04:08 +08:00
aws snowball🤓

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/729147

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX