订单数据实时汇总技术选型

2023-02-02 09:00:08 +08:00
 ppppppp123
公司正在开发订单数据看板,要求对数个月或者单天的订单数据按照单店面和多店面维度进行汇总展示,另外还要根据上面时间和店面两个维度汇总展示这些订单里面最受欢迎的商品信息(每个订单对应一个商品),近乎实时汇总,求大神推荐此类场景的实现技术,有代码或者教程的更佳。
5741 次点击
所在节点    程序员
59 条回复
BBCCBB
2023-02-02 09:04:36 +08:00
flink?
hpu423
2023-02-02 09:05:16 +08:00
flink+clickhouse
Jface
2023-02-02 09:06:06 +08:00
对性能跟实时性有要求就 flink
没有要求用 spark 做实时也行
corcre
2023-02-02 09:07:50 +08:00
前端选型吗? power bi?
ppppppp123
2023-02-02 09:08:42 +08:00
@corcre 前后端都做的,前端是一个 vue admin board 类似的。后端需要自己实现。
ppppppp123
2023-02-02 09:10:01 +08:00
@BBCCBB @hpu423 @Jface 谢谢三位亲,如果有开源的例子就好了。
1996wang
2023-02-02 09:22:17 +08:00
flink + doris + 帆软 bi 看板.
简单可拓展性强.后面做下数据分层就是个数仓了
FYFX
2023-02-02 09:25:08 +08:00
我觉得你应该先说一下你们的开发资源,还有数据的量级,毕竟要上大数据的话维护的成本还是挺高的
ppppppp123
2023-02-02 09:51:02 +08:00
@FYFX 后面我再回复你,你的 comment 非常有价值。
@1996wang 非常谢谢!
Morii
2023-02-02 09:58:11 +08:00
flink + Click house 的 累计计算引擎

话说订单量多大啊
ppppppp123
2023-02-02 10:08:36 +08:00
@Morii flink 和 ck 各自的作用是什么?公司所有的订单数据都是存储在 mysql 里的,我在担心实时性的问题。
sss15
2023-02-02 10:20:32 +08:00
你不说数据量,没办法技术选型啊,如果一天就几百单,直接 mysql 里 sum 就行了何必上组件。

淘宝的双 11 的实时订单统计,各排行榜都是用 flink 做的,所以楼上那么多推荐 flink 的。

flink 可以去 b 站看视频,硅上谷的视频做的不错,版本也新
https://www.bilibili.com/video/BV133411s7Sa/?spm_id_from=333.337.search-card.all.click
OpenSea
2023-02-02 10:25:12 +08:00
clickhouse 做实时的并发会成瓶颈吧
SilenceLL
2023-02-02 10:29:19 +08:00
flink cdc + doris
lry
2023-02-02 10:43:49 +08:00
手动打点,数据写入到 InfluxDB / Prometheus, 再配置 Grafana 面板。
xieren58
2023-02-02 10:45:47 +08:00
看数据量, 数据量少的话, 简单搞个定时任务就行啦.
datoujiejie221
2023-02-02 10:48:14 +08:00
canal 监控 mysql 的订单数据扔到 kafka
消费 kafka 的数据做实时计算,每日的结果落库,数据量大的话考虑用 flink
ppppppp123
2023-02-02 11:13:16 +08:00
@Morii @sss15 @xieren58 @datoujiejie221 @SilenceLL
每天 10w 单数据
bjfane
2023-02-02 11:17:05 +08:00
确实,是场景不是很清楚,不过既然 mysql 能放的下 说明应该不会巨大, 没有人说 mysql 从库 sql 一把梭么?
一把梭不了,就从库定时执行缓存一下。

上 flink 是不是有点过分了。。。
liprais
2023-02-02 11:21:13 +08:00
十万单 mysql 搞个从库随便玩了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/912441

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX