clickhouse 分布式表问题请教

2022-05-05 14:40:58 +08:00
 dtgxx
我的集群是多分片两副本。最近发现当数据量太大的时候,直接写分布式表,会导致 zk 扛不住报错。 看到网上有建议直接写本地表的。

---

所以有个问题就是,创建分布式表的时候是要指定分片键的,如果我手动写入本地表,数据是可以写进去,但是可能和 clickhouse 本身的数据分配不一致,这样会不会导致 clickhouse 在根据片键字段查询的时候,不去扫描所有分片导致查询不到数据呢? 大佬们是怎么处理这个问题的呢?
763 次点击
所在节点    问与答
3 条回复
rower
2022-05-05 16:30:00 +08:00
查询的时候不是查询分布式表吗,分布式表将查询分发到每个本地表,然后查询结果汇总,不是很明白。这个怎么可能查询不到数据,再者说你自己测试下不就知道了
zhengsidao
2022-05-05 16:39:48 +08:00
写数据是通过 lb 写的嘛,lb 写本地表,数据基本上是均匀的。
另外每个分片都是一个实例,分配到每个实例上的查询计划执行完再汇总,不会出现说导致出现数据不一致、丢失的问题。
dtgxx
2022-05-05 16:43:46 +08:00
@rower #1 比如我把 sku_id 进行 hash 作为分片键了,当我对分布式表查询这个 sku_id 的时候, 会不会 clickhouse 通过规则,只去查询那个分片,因为 clickhouse 知道自己把这个数据存在哪个分片了,为了节省效率,就不查全部分片了。


@zhengsidao #2 我手动来写本地表,数据就不是按照 clickhouse 的分布式的写数据逻辑了,比如 clickhouse 会把 id=1 的写在分片 1 ,我手动写可能把 id=1 的写到分片 2 。 我比较担心的是,clickhouse 在分布式表查询的时候,会不会认为 id=1 ,就直接去分片 1 查了,而不去全部的分片查询了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/850942

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX