4× V100 32GB SXM2 NVLink 的“128GB 显存池化”靠谱吗？

[anamulhaque1268]

最近看到一个二手/定制 AI 服务器方案：

* 4× Tesla V100 SXM2 32GB
* NVLink 互联
* 卖家宣传为 128GB 显存池化，类似一张 128GB 大显存卡
* 用于本地大模型、RAG 、企业私有 AI 助手
* 定制水冷，1650W 电源

想请教几个重点问题：

1. 这种 NVLink 方案在实际 LLM 推理中，真的能像一张 128GB 显存卡一样用吗？
还是仍然需要 vLLM / llama.cpp / accelerate / tensor parallel 等框架切分？
2. V100 现在跑 Qwen / DeepSeek / Kimi / GLM 这类模型，限制大不大？比如 BF16 、FlashAttention 、vLLM 、量化模型兼容性。
3. 如果主要用途是企业 RAG 、本地知识库、多用户小规模推理服务，这种 4× V100 32GB 还值得买吗？
还是 RTX 4090 / 5090 / 3090 多卡更合适？
4. 买之前应该让卖家跑哪些测试？目前想到：
* nvidia-smi
* nvidia-smi topo -m
* ECC error 检查
* NVLink 是否启用
* 70B 模型实际 tokens/sec
* 30 分钟以上满载温度测试

有实际用过 V100 SXM2 NVLink 多卡方案的朋友，麻烦给点建议。主要想确认这个“128GB 显存池化”是不是实际可用，还是更多是营销说法。

[xtreme1]

要看 sm 7.0 对应的 cuda 和 torch 对你要推的东西的算子的支持性

[paopjian]

32G*4 必然不会和一张 128G 效果一样, 只是有 nvlink 以后卡间通信可以极大提速, 不需要走 PCIE 占带宽, 但是 V100 已经太老了, 最新的各种优化手段不一定支持, 你看看 https://zhuanlan.zhihu.com/p/1927666998030078159
而且你还没法保证压力测试, 我们买的 4090 都不愿意保修, 不知道这种二手卖家给不给保修

[volvo007]

有 nvlink 通信速度还行, 但是算子支持其实现在听关键的, 比如 ds-v4-flash 就因为有算子不支持所以无法量化部署在我的 A100 x 2 上 😭