用过的 DDR4 还能接着用: Marvell 新出的 CXL 扩展芯片,一台服务器能多挂 9TB 内存

4 小时 33 分钟前
 zx94438011

内存价格这一年涨得厉害,手里有一堆从老服务器上拆下来的 DDR4 RDIMM 的,可以留意一下这个东西。

10 月 12 日 Marvell 发了第二代 CXL 内存扩展芯片 Structera X ,两款:

型号 接什么内存 内存槽 最大容量
3406 DDR4 18 个 RDIMM 9TB
3506 DDR5 12 个 RDIMM 6TB

CXL 是干什么的

CXL 走的是 PCIe 的物理层,可以在 CPU 自带的内存通道之外,再挂一批内存。对系统来说,多出来的是一块延迟比本地内存高一些、但容量大得多的内存。

这一代有什么变化

为什么跟 AI 推理有关

大模型回答时要把读过的上下文存在 KV 缓存里,上下文越长,占的内存越多。GPU 旁边的 HBM 装不下,就往 CPU 内存放,CPU 内存再不够,就靠 CXL 往外扩。

旧 DDR4 的事

3406 接的是 DDR4 。Marvell 新闻稿里引了一位分析师的话:内存又紧又贵,已经有数据中心把用过的 DDR4 挂在 CXL 后面,给 DDR5 服务器用。

如果真要把拆下来的旧条子重新用起来,几点经验:

  1. 先做完整的内存测试:至少跑一轮完整的压力测试(几个小时起),不要只看开机自检能不能过。
  2. 看 ECC 历史:原来那台机器的 BMC 日志里如果有某根条子反复出现可纠正错误,这根就别再上了。
  3. 同一组尽量同批次:容量、rank 、频率、颗粒厂一致,混插问题少。
  4. 温度:一个扩展卡后面插 18 根,风道要重新看,RDIMM 温度高了也会出错。

要留意的

大家手里的旧 DDR4 现在都是怎么处理的?卖掉、留着当备件,还是已经有在 CXL 上用的?

415 次点击
所在节点    硬件
3 条回复
handsome198311
4 小时 15 分钟前
内存涨价,普通消费级现在人们都不买了。前几年买的 16Gx2 的套条,现在新的将近 3000 元,出二手卖了 1000 块。现在是新的买不起,旧的也要等,等二手商抗不住降价。前年卖了个软路由 J4125 CPU , 双 2.5G ,16G 紫光内存,512GB NVME SSD. 一共卖了 450 块。
sosme
2 小时 28 分钟前
9t 内存,比我硬盘的都大……
zx94438011
24 分钟前
@handsome198311 #1 消费级这边确实如此。服务器那边也类似,新机 DDR5 贵、交期长,不少机房先把在用的 DDR4 机器修着用;等 CXL 扩展芯片铺开( Marvell 说明年一季度送样),拆下来的 DDR4 RDIMM 还能再用一轮。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1248878

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX