想请教一下数据存储的选择

2021-01-22 17:50:23 +08:00
 foxyier
需求描述:
日增数据量百万+, 目前采用的是 hbase+hive, 但是 hbase 服务端的 rpc 很不稳定, 所以考虑换一个存储,所以想请教一下有没有更优的存储方式, 应用场景为写多读少
1955 次点击
所在节点    Python
8 条回复
foxyier
2021-01-22 17:53:51 +08:00
补充一下: 数据字段不固定, 所以会建几十或上百张 table, 且有自动根据数据构建 table 的需求
laminux29
2021-01-22 18:00:00 +08:00
别急着换方案,先想办法调试一下,找一下不稳定的原因在哪。假设问题是硬件有瓶颈,那么换软件是无法解决问题的。

之前就看到过类似案例,数据库有延迟,优化、换数据库都解决不了。后来有大佬进行整体分析,发现瓶颈在存储上,把 ssd 从 1 个增加到 3 个,组了 raid 0,问题解决。
misaka19000
2021-01-22 18:02:48 +08:00
不是应该想着解决 rpc 不稳定的问题?
foxyier
2021-01-22 18:08:01 +08:00
@laminux29
@misaka19000
第一反应想的就是跟 hbase 的服务端沟通 rpc 不稳定的问题, 但最后的结果仍是不稳定, 所以考虑换存储可能一劳永逸
TimePPT
2021-01-22 18:32:46 +08:00
实时数据处理试下用 Flink ?
GGGG430
2021-01-22 18:47:07 +08:00
mysql 也行吧,我这 mysql 日增长 2000w,每天吧数据同步到 hive,dt 日期分区,然后清空一次 mysql
neoblackcap
2021-01-23 00:37:00 +08:00
RPC 不稳定能不能通过重试来解决?如果可以的话,通过分批写入,同时增加重试机制是不是改动成本会更低一点?
换存储看似简单,但是你要考虑跟你们现有的技术栈合不合适
foxyier
2021-01-25 11:59:46 +08:00
@neoblackcap 重试是有的, 但是重试次数设置多了就会造成严重的数据堆积。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/747491

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX