[实时数据] 现在实时数据处理,除了 Flink 以外,其他有什么比较好用的计算引擎或者架构

2025 年 7 月 14 日
 brant2ai

因为公司业务的原因,要处理比较多的物联数据。业主要求物联数据要能实时展示,并进行一定的复杂计算。 不想上 Flink 的原因: 1.Flink 太重了,一次就要上好多个节点,且业务是要交付到业主现场的,不可能派人盯着 Flink 的维护 2.Flink 有些场景下依旧不是特别好用,所以放弃 想问问有没有大牛介绍下比较好用的实时数据架构或者引擎的

2552 次点击
所在节点    程序员
19 条回复
zhenjiachen
2025 年 7 月 14 日
直接把所有的 flink 依赖打包到 jar 里面,然后 java -jar 运行?
bronyakaka
2025 年 7 月 14 日
感觉基本都是与 kafka 配套的
bronyakaka
2025 年 7 月 14 日
Redis Streams 比较轻量
chenquan
2025 年 7 月 14 日
我自己在写: https://github.com/arkflow-rs/arkflow ,毕竟轻量

国外厂商开源的: https://www.arroyo.dev/
chenquan
2025 年 7 月 14 日
毕竟轻量 -> 比较轻量
yb2313
2025 年 7 月 14 日
用如果你的“复杂计算”大多是时间窗口内的聚合、分组、排序,ClickHouse 是非常合适的,并且部署也比 Flink 轻。
lianhuayu420
2025 年 7 月 14 日
rust 里有几个 像 https://github.com/ArroyoSystems/arroyo ,https://risingwave.com/ , 还有很多基于类 sql 的 ,https://siddhi.io/
lianhuayu420
2025 年 7 月 14 日
刚找了下 还有这个 https://www.fluvio.io/
brant2ai
2025 年 7 月 14 日
@yb2313 我的场景确实是需要窗口内聚合,但是窗口是不固定的。比如说开始时间是由物联内某个测点发出 1 ,结束也是这个测点发出 0 ,而实际指标是另外的测点来计算。这样就要求能动态获取,且能实时实现的
padhhcbd
2025 年 7 月 14 日
Apache NiFi
Rat3
2025 年 7 月 14 日
数据量要说下
icchux
2025 年 7 月 14 日
看你们的复杂计算多复杂了,如果只是实时但计算逻辑简单那可以接入到 ck 或者 doris 里面用 SQL 直出,但要涉及到状态计算,窗口很大的,一般都是上 flink
cosen
2025 年 7 月 14 日
可以考虑买云服务,不用自己维护集群
brant2ai
2025 年 7 月 15 日
日两千万这样
brant2ai
2025 年 7 月 15 日
@icchux 我现在的这套已经用了 doris 了。简单来说,不是单表或者维表可以出的计算
brant2ai
2025 年 7 月 15 日
@cosen 我们还是要以产品的形式去完成的,场景都是有服务器的,只是能提供给数据这边的服务器不多
vvtf
2025 年 7 月 15 日
我们日~1 亿的数据,
67 种规则,状态大小 500m,
1 个 taskmanager, 2c4g,稳定运行.
yuluoxinsheng
2025 年 7 月 15 日
物联网可以考虑边缘计算。看看我这篇.
https://juejin.cn/post/7508998028742737958
runningman
2025 年 7 月 16 日
flink 很重吗,还没研究很深

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1145059

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX