客户端用的是 grpc 协议,这个动不了。所以服务端必须用 grpc 协议,但是我们的服务流量非常大。proto 中的 bytes 会比较大,会卡在 gc 上,性能上不去。
服务端不用 grpc 框架,自己用 netty 来实现,就是两层,一层用 Netty Http2 相关的封装,一层自己手动解析 proto 的二进制,遇到 bytes 字段直接用 ByteBuf ,省掉了拷贝到堆内存的 byte[],进而节省这部分的 gc 。返回的时候直接编码成二进制 proto 的格式。
有人做过类似的吗,有什么坑吗? 或者有没有其他更好的方案解决 gc 问题,提高性能?
1
haython 239 天前
服务端非用 java 不可吗?
|
2
selca 239 天前 2
外包给 1 楼
|
3
lifei6671 239 天前
我以为你说 Golang 呢。原来是说的 Java 。Java 的瓶颈也不在 GC 上吧。
|
4
lmshl 239 天前
一个大部分连续的 bytes 卡住 gc ,听起来还是很离谱的,除非你给出详细测试步骤,不然很难证明你的前提是对的。
即便你前提成立,也可以简单粗暴的直接上 ZGC 来解决,不需要你重复发明任何东西。 |
5
me1onsoda 239 天前
gc stw 时长是多少
|
6
chendy 239 天前
> proto 中的 bytes 会比较大,会卡在 gc 上
比较大是多大,卡在 gc 是怎么卡呢? 最简单的办法就是不动任何其他参数然后使劲拉内存 |
12
wenhuibrave 239 天前
zgc 设置了每隔多久强制 gc 吗?我猜测需要根据目前 gc 的具体情况做下 gc 调优,调节一些 gc 参数
|
13
dsvshx OP @wenhuibrave 都不用强制 GC ,每分钟十几次,主要是流量大 2GB/s ,垃圾多,算下来也是这么个 GC 频率。gc 调优治标不治本。所以才想不用 grpc ,自己去解析 ByteBuf
|
14
luozic 239 天前 2
描述:单个请求最大几十 MB ,单机流量 2GB/s ?
+++++++++++++++ 我觉得这种还是去你们自己测试环境复现一下,把 jvm 的内存占用详细的用 arthas jfr 等工具抓一下,用那种火焰图工具看一下。 +++++++++++++++++++++++++ 现在这隔靴瘙痒的,并不清楚,到底是那部分占用内存过多。 最近看到的最详细的 Java 极限性能调优过程的 1brc 挑战的 blog ,参考一下大牛是怎么极限调优的。 https://questdb.io/blog/billion-row-challenge-step-by-step/ |
15
luozic 239 天前
流量录制+回放,就是一种不错的复现方式
|
16
zhady009 239 天前
可以试试 Vertx, 不过我认为并不能解决你现在的问题
https://github.com/LesnyRumcajs/grpc_bench/discussions/354 |
17
momo24672 239 天前
https://grpc.io/docs/languages/go/basics/#server-side-streaming-rpc
Server + Client Streaming 是思路么 |
18
whx 239 天前 via Android
https://inside.java/2023/11/28/gen-zgc-explainer/
不知道分代 zgc 能解决不,得升级到 jdk21 |
19
ccde8259 239 天前
都知道卡 gc 了,直接的方法就是不让他参与 gc 嘛……unsafe 去 malloc 到非堆上,然后自己做对象生命周期管理就行啊……
|
20
laminux29 239 天前
堆机器,负载均衡,试试看?
|
21
iseki 239 天前 via Android
arena ,把 payload 弄到堆外面去,手动管理。但是这么一来…protobuf 自己解析想想就很麻烦。
长期来看这只能是个权宜之计,以后不能这么设计 API ,搞出大量大体积的 bytes |
22
GenericT 238 天前 via Android
试试 intern ,和上面的 arena 一个路数,但是实现简单一些,本质都是避免多次分配。
|
23
flyqie 237 天前 via Android
挺好奇,是什么场景会有如此巨大的 grpc bytes 需求给到 java 服务端?
|
27
dsvshx OP @iseki proto 编解码工作量还行,接口不多,而且工作是一次性的。至于 API 这个,说多了都是泪,需要适配客户端,客户端升级不了。
能再详细说一下 arena 是什么原理,怎么用吗? |