英伟达自己说, V100 快十年了还在跑客户业务

10 月 3 日
 zx94438011

英伟达 9 月 30 日的官方博客里,副总裁 Ian Buck 提到:CoreWeave 的 V100 在 Volta 架构发布近十年后,仍在运行客户的工作负载。同一家 CoreWeave ,也已经把最新的 Vera Rubin NVL72 机柜投入生产。

(图源:英伟达官方博客)

我们做过保设备的维保,见得最多的就是这种情况:设备早过了折旧年限,业务还离不开。能不能继续跑,一看有没有备件,二看有没有人会修。

新旧搭配着用才是常态:最新的柜子跑最重的活,老卡跑轻一些的。

3596 次点击
所在节点    硬件
14 条回复
dianso
10 月 3 日
这有啥稀奇的
去年采购的叫号机
杂牌的,还是用的 xp 系统,跑的 mysql
ddr3 的内存
外观精美漂亮,开机直接到 UI ,不进桌面维护根本不知道有多老旧。
zx94438011
10 月 3 日
@dianso 哈哈确实,叫号机、收银机这类最能扛,XP 加 DDR3 跑到现在的不少。麻烦的是哪天主板或电源坏了,同型号的备件越来越难找。
ntedshen
10 月 3 日
12 纳米制程 210 亿晶体管,20 系一代的。。。
和现在市面上的低配机其实只差一代。。。
zx94438011
10 月 3 日
@ntedshen 是的,12nm 、约 211 亿晶体管,和 20 系差不多同期,放在消费级不算老。但数据中心里 GPU 一般按四到六年折旧,快十年了还在接客户的活,算超期服役了。
ntedshen
10 月 3 日
@zx94438011 这个主要是资产处理的问题吧,又不是什么刚性需求。。。
隔壁 backblaze 也是一堆硬盘盘均几百个月,用到坏才扔的。。。
这两年反正也都是按算力定价,能效差异不大,算力等于售价,那可不,不如不换。。。
zx94438011
10 月 3 日
@ntedshen 同意,说到底是账怎么算。折旧提完了,只要还有人按算力买单,多跑一天就多赚一天,Backblaze 的硬盘是同一个道理。区别在于硬盘坏了换一块就行,老 GPU 服务器跑到后面卡的是备件,电源、风扇、主板停产之后就不好找了。
nlzy
10 月 3 日
Volta / Turing 有什么硬件特性,能跑什么算子,程序员应该是最了解的群体。

现在建数据中心不是 AI 厂家自己建设,而是成立 SPV ,AI 厂提供照付不议的担保,用硬件作为抵押进行融资。所以 GPU 硬件的使用年限和折旧到底怎么算,是一个很重要很重要的问题,根本性地决定了折旧计提打穿劣后级的概率,劣后级打穿了,损失就该到数据中心的投资人承担了。

所以现在 AI 厂提供劣后级资本和照付不议的担保都不够,连硬件厂都要拉来提供残值担保,不然没有高利率或超额回报的话,投资人根本就不会出资投资 SPV 。为了能让数据中心的投资人出钱买卡,为了降低大家对硬件厂表外担保的质疑,吹嘘 GPU 折旧时间长是近年来日常的金融工作,不用当真,本质安抚投资人而已。
cowcomic
10 月 3 日
V100 32G 版本私有化部署场景下性价比很高
特别是部署 50B 以内的量化模型
qazwsxkevin
10 月 3 日
你们是在说生产场合,
我觉得对于 homelab 及研究极客,“也不是不能用”的情况下,V100 不合适,至少 2~4 块吧,费用和受益,好像还真不如一张 5090 。。。
zx94438011
10 月 4 日
@nlzy 这个角度我没想到,学习了。英伟达自己出来说老卡还在跑,确实是有立场的。我觉得可以分开看:账面上按几年折旧是融资和会计的事,卡在物理上能不能跑十年是另一回事。V100 这个例子只能证明后者,证明不了六年折旧就合理,能跑和跑得赚钱不是一回事。
zx94438011
10 月 4 日
@cowcomic 32G 显存放到现在也不算小。你们是单卡跑还是多卡一起上?另外我印象里英伟达说过 580 是最后一个支持 Volta 的驱动分支,后面新版 CUDA 不一定带,这块有遇到问题吗?
zx94438011
10 月 4 日
@qazwsxkevin 同意,个人玩新卡省心:一张卡、有保修,功耗和噪音都好控制。V100 是被动散热的数据中心卡,放家里还得自己解决风道。老卡的优势主要在已经买了、已经上架的场合。
intoext
10 月 4 日
到目前还有在市面上见到 华为 3COM 的以太网交换机呢,得服役有 20 年了吧? 真禁造啊
zx94438011
10 月 4 日
@intoext 交换机是真能扛,除了风扇没什么活动部件,电源不出事就能一直跑。那批老机器现在还有不少在当接入层用,最后退役往往不是因为坏了,而是端口速率跟不上,或者固件不再更新了。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1246191

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX