DGX Spark、ASUS GX10、MSI EdgeXpert 看起来都像是一个母胎的产品,用起来有差别吗?

1 天前
 SzgSw5zGyN1iy

Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已?

1182 次点击
所在节点    Local LLM
6 条回复
WuSiYu
1 天前
只是换个壳吧
Insolitude
21 小时 48 分钟前
没有 spark 独占的功能,甚至由于 GPU 架构的细微差异,导致能在同代的 rtx pro 6000 显卡上能跑的模型,到 spark 上反而有问题

应该可以,我看有人 6 台组集群,每个牌子的各两台

据说内存大小上有些差异,导致 hp 还是哪家的同样的设置就它会爆显存,一般调小 vllm 的显存占用就行。公版的散热会差点,满负荷运行会降频

建议去 NVIDIA 官方的 spark 论坛,那里有各种折腾教程。
kenpuluma
15 小时 43 分钟前
周边硬件上有些小细节不太一样。比如 oem 厂商的大多改善了散热问题,但官方的前面进风受限。又比如有的厂商有加电源指示灯。但核心硬件没有区别。
系统应该也有细微区别。我看 nvidia 官方论坛上说 1 月更新后内存占用只有 2g 左右。我用 dell gb10 的话哪怕手动关闭很多服务后也是接近 4g 占用。

开箱即用方面,spark 虽然是 Blackwell 架构,但芯片组是 SM121 ,很多框架支持的不好(比如把 sm121 当作 sm80 ),现在基本全靠社区在慢慢修复。

不同 oem 品牌之间可以随便串通使用。毕竟核心硬件没区别。
cpstar
15 小时 11 分钟前
只要是 GB10 的方案,主板系统全一样,散热模组也大差不差,唯一差别就是外壳做工,据说 DGX 是比较差的,我买的 ThinkStation 还可以,从对比图看,可能 ThinkStation 镂空多一些散热好一点。

系统都是基于 Ubuntu24 的适配版,因为 CPU 是 Grace ,ARM 的架构,有一些模型应该适配的但不能用
kobe718
12 小时 47 分钟前
基本都是公版 pcb ,软件、200g 模块这些都是通用的
但是有说是只有公版的 ssd 的 pcie5.0 的,其他副厂都是 4.0 的
Chihaya0824
2 小时 4 分钟前
原版散热比较差
其他散热据说好一点,但是我只用过原版
反正买一个以上千万不要堆叠摆放,他会降频

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1210145

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX