内存价格这一年涨得厉害,手里有一堆从老服务器上拆下来的 DDR4 RDIMM 的,可以留意一下这个东西。
10 月 12 日 Marvell 发了第二代 CXL 内存扩展芯片 Structera X ,两款:
| 型号 | 接什么内存 | 内存槽 | 最大容量 |
|---|---|---|---|
| 3406 | DDR4 | 18 个 RDIMM | 9TB |
| 3506 | DDR5 | 12 个 RDIMM | 6TB |
CXL 是干什么的
CXL 走的是 PCIe 的物理层,可以在 CPU 自带的内存通道之外,再挂一批内存。对系统来说,多出来的是一块延迟比本地内存高一些、但容量大得多的内存。
这一代有什么变化
- 内存通道从 4 个加到 6 个
- 主机接口 PCIe 6.0 x16 ,最高 256GB/s
- 最多 4 台主机共享同一池内存
- 内置 LZ4 压缩,比上一代快 5 倍,按负载不同,等效容量多 2–3 倍
- Marvell 说,跑 AI 推理和上一代比,同样上下文长度下首字最多快 40%–50%
- 2027 年一季度开始送样,上一代 2404 / 2504 已经在给大型云厂商出货
为什么跟 AI 推理有关
大模型回答时要把读过的上下文存在 KV 缓存里,上下文越长,占的内存越多。GPU 旁边的 HBM 装不下,就往 CPU 内存放,CPU 内存再不够,就靠 CXL 往外扩。
旧 DDR4 的事
3406 接的是 DDR4 。Marvell 新闻稿里引了一位分析师的话:内存又紧又贵,已经有数据中心把用过的 DDR4 挂在 CXL 后面,给 DDR5 服务器用。
如果真要把拆下来的旧条子重新用起来,几点经验:
- 先做完整的内存测试:至少跑一轮完整的压力测试(几个小时起),不要只看开机自检能不能过。
- 看 ECC 历史:原来那台机器的 BMC 日志里如果有某根条子反复出现可纠正错误,这根就别再上了。
- 同一组尽量同批次:容量、rank 、频率、颗粒厂一致,混插问题少。
- 温度:一个扩展卡后面插 18 根,风道要重新看,RDIMM 温度高了也会出错。
要留意的
- 现在还只是送样阶段,要等服务器厂商做成整机或扩展卡
- 性能数字是 Marvell 自己测的
- CXL 内存比本地内存延迟高,适合放冷一点的数据,不是直接替代本地内存
大家手里的旧 DDR4 现在都是怎么处理的?卖掉、留着当备件,还是已经有在 CXL 上用的?