有对 GPU 熟悉的朋友么，求助 NVIDIA V100 vs RTX8000

[kvenux]

公司在采购硬件，这俩 GPU 选哪个

RTX8000 内存更大（ 48G ），更便宜（便宜 40%），但网上找到的资料比较少，有 V 友可以指条明路么

V100 基本参数：

5120 cuda cores，640 tensor cores，tensor performance 112 TFLOPS

RTX8000 基本参数：

4608 cuda cores，576 tensor cores，72 RT cores，tensor performance 130.5 TFLOPS

Training Performance on ResNET-50:

1xV100 XLA+FP16: 1354.43 images/sec

1xV100 FP16: 888.63 images/sec

1xRTX8000 XLA+FP16: 1016.74 images/sec

1x RTX8000 FP16: 628.75 images/sec

FYI

[psychoo]

https://www.zhihu.com/question/354374853
？

[df4VW]

这俩完全不一样吧，大数据机器学习领域的话无脑 v100

[kvenux]

@psychoo 光看规格比不出来啊
最好有类似这样的 https://developer.nvidia.com/deep-learning-performance-training-inference

[kvenux]

@df4VW 跑 deep learning 的 RTX8000 貌似新出的，benchmark 都搜不到多少

[nightwitch]

你说的 v100 是啥 tesla v100? quadro v100?
公司采购是拿来干什么？ 拿来搭云服务的话 NVIDIA 的意思是只能用 tesla。 公司自己内部做开发平台的话.
可以参考
https://blog.exxactcorp.com/whats-the-best-gpu-for-deep-learning-rtx-2080-ti-vs-titan-rtx-vs-rtx-8000-vs-rtx-6000/

[feast]

tesla 卖的是 sdk 的钱，你公司估计也不会用，自己写买 rtx 吧

[kvenux]

@nightwitch nice link!

[xau]

不能单纯看硬件吧 你都没说准备怎么拿来用

[kvenux]

@xau 必然是 deep learning 啊
这年头买得起 V100 的还能干嘛

[terencelau]

有高精度需求就上 Tesla，不然 RTX 更划算

[ZRS]

有双精度需求 V100 否则 RTX8000

[feast]

从供应角度来讲非完整版的 die 的卡要的人没有完整版 die 的多，溢价更低，实际上性能差距不大，rtx 还支持光线追踪

[iasuna]

deep learning 我建议你买 v100 除非代码完全手写

这么研究机构 就没见过不用 n 卡的 你买了个 amd 到时候别人的代码出 bug 了 太麻烦

[Xs0ul]

RTX8000 感觉上是传统上说的"专业卡", 和游戏显卡相对, 感觉是给渲染什么用的

V100 就是 deep learning 用的. 比如你复现别人论文的模型, 别人论文里提到 V100 下速度是多少,你就很容易比对. 另外出了莫名其妙的 bug, 也更容易搜到同样的问题和解决方案.

和这些比起来速度是小事

[lonelygo]

看场景，DL 还是纯粹的图像处理，否则没法比，别人也没法给你准确建议。
如果是 DL 使用，还要看是用来训练+推理，还是仅仅做推理。
如果是要做推理，还要考虑双精度、单精度、半精度的推理问题，那还要增加一个考虑维度。

不过能上来就看 V100 这种大卡，估计不缺钱，那就无脑买贵的呗。

[ScjMitsui]

@iasuna #13 楼主也没说买 amd 的卡啊

[iasuna]

@ScjMitsui RTX8000 原来是 Quadro 的。。。下意识以为是 amd sorry

[gladuo]

@kvenux 参考这个 https://blog.exxactcorp.com/whats-the-best-gpu-for-deep-learning-rtx-2080-ti-vs-titan-rtx-vs-rtx-8000-vs-rtx-6000/
简略看了一下，速度差距没那么大，主要还是 显存+钱 决定

[kvenux]

@gladuo 嗯 V100 大概快 30%