zx94438011
V2EX  ›  硬件

用过的 DDR4 还能接着用: Marvell 新出的 CXL 扩展芯片,一台服务器能多挂 9TB 内存

  •  
  •   zx94438011 · 3h 46m ago · 392 views

    内存价格这一年涨得厉害,手里有一堆从老服务器上拆下来的 DDR4 RDIMM 的,可以留意一下这个东西。

    10 月 12 日 Marvell 发了第二代 CXL 内存扩展芯片 Structera X ,两款:

    型号 接什么内存 内存槽 最大容量
    3406 DDR4 18 个 RDIMM 9TB
    3506 DDR5 12 个 RDIMM 6TB

    CXL 是干什么的

    CXL 走的是 PCIe 的物理层,可以在 CPU 自带的内存通道之外,再挂一批内存。对系统来说,多出来的是一块延迟比本地内存高一些、但容量大得多的内存。

    这一代有什么变化

    • 内存通道从 4 个加到 6 个
    • 主机接口 PCIe 6.0 x16 ,最高 256GB/s
    • 最多 4 台主机共享同一池内存
    • 内置 LZ4 压缩,比上一代快 5 倍,按负载不同,等效容量多 2–3 倍
    • Marvell 说,跑 AI 推理和上一代比,同样上下文长度下首字最多快 40%–50%
    • 2027 年一季度开始送样,上一代 2404 / 2504 已经在给大型云厂商出货

    为什么跟 AI 推理有关

    大模型回答时要把读过的上下文存在 KV 缓存里,上下文越长,占的内存越多。GPU 旁边的 HBM 装不下,就往 CPU 内存放,CPU 内存再不够,就靠 CXL 往外扩。

    旧 DDR4 的事

    3406 接的是 DDR4 。Marvell 新闻稿里引了一位分析师的话:内存又紧又贵,已经有数据中心把用过的 DDR4 挂在 CXL 后面,给 DDR5 服务器用。

    如果真要把拆下来的旧条子重新用起来,几点经验:

    1. 先做完整的内存测试:至少跑一轮完整的压力测试(几个小时起),不要只看开机自检能不能过。
    2. 看 ECC 历史:原来那台机器的 BMC 日志里如果有某根条子反复出现可纠正错误,这根就别再上了。
    3. 同一组尽量同批次:容量、rank 、频率、颗粒厂一致,混插问题少。
    4. 温度:一个扩展卡后面插 18 根,风道要重新看,RDIMM 温度高了也会出错。

    要留意的

    • 现在还只是送样阶段,要等服务器厂商做成整机或扩展卡
    • 性能数字是 Marvell 自己测的
    • CXL 内存比本地内存延迟高,适合放冷一点的数据,不是直接替代本地内存

    大家手里的旧 DDR4 现在都是怎么处理的?卖掉、留着当备件,还是已经有在 CXL 上用的?

    handsome198311
        1
    handsome198311  
       3h 27m ago
    内存涨价,普通消费级现在人们都不买了。前几年买的 16Gx2 的套条,现在新的将近 3000 元,出二手卖了 1000 块。现在是新的买不起,旧的也要等,等二手商抗不住降价。前年卖了个软路由 J4125 CPU , 双 2.5G ,16G 紫光内存,512GB NVME SSD. 一共卖了 450 块。
    sosme
        2
    sosme  
       1h 40m ago
    9t 内存,比我硬盘的都大……
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5105 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 03:59 · PVG 11:59 · LAX 20:59 · JFK 23:59
    ♥ Do have faith in what you're doing.