内存价格这一年涨得厉害,手里有一堆从老服务器上拆下来的 DDR4 RDIMM 的,可以留意一下这个东西。
10 月 12 日 Marvell 发了第二代 CXL 内存扩展芯片 Structera X ,两款:
| 型号 | 接什么内存 | 内存槽 | 最大容量 |
|---|---|---|---|
| 3406 | DDR4 | 18 个 RDIMM | 9TB |
| 3506 | DDR5 | 12 个 RDIMM | 6TB |
CXL 走的是 PCIe 的物理层,可以在 CPU 自带的内存通道之外,再挂一批内存。对系统来说,多出来的是一块延迟比本地内存高一些、但容量大得多的内存。
大模型回答时要把读过的上下文存在 KV 缓存里,上下文越长,占的内存越多。GPU 旁边的 HBM 装不下,就往 CPU 内存放,CPU 内存再不够,就靠 CXL 往外扩。
3406 接的是 DDR4 。Marvell 新闻稿里引了一位分析师的话:内存又紧又贵,已经有数据中心把用过的 DDR4 挂在 CXL 后面,给 DDR5 服务器用。
如果真要把拆下来的旧条子重新用起来,几点经验:
大家手里的旧 DDR4 现在都是怎么处理的?卖掉、留着当备件,还是已经有在 CXL 上用的?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.