装一台深度学习主机,双 3090 显卡,请问配置怎么选择?

2020-11-04 10:52:04 +08:00
 reaCodes
主要是主板怎么选择,还有选什么样的 CPU 能让这两张 3090 物尽其用,电源起码 1100W 吧
13352 次点击
所在节点    程序员
82 条回复
maichael
2020-11-04 13:08:15 +08:00
双路 7F52 (#滑稽
Umenezumi
2020-11-04 13:35:06 +08:00
你在观望下,现在炸了很多,不清楚是 bios 调教问题还是电源缺陷
w99wjacky
2020-11-04 13:44:18 +08:00
@dadachen1997
去看服务器机箱吧
关键词:冗余电源
w99wjacky
2020-11-04 13:48:20 +08:00
@dadachen1997
追风者 719 这个可以双电源
dadachen1997
2020-11-04 13:50:02 +08:00
@w99wjacky 目前打算上的服务器 cpu 和 ecc 内存,电源选了 2000W 的,但是感觉压不住,4 个 turbo 3090 真不知道怎么搞,服务器那种噪音挺大的吧,机架式的那种吗?
w99wjacky
2020-11-04 13:51:16 +08:00
@dadachen1997
追风者 719
dadachen1997
2020-11-04 13:53:06 +08:00
dadachen1997
2020-11-04 13:53:42 +08:00
@w99wjacky 我看看,多谢老哥
Porphet
2020-11-04 13:54:00 +08:00
一个星期之前刚用上:
四路技嘉 3090 Turbo 24G
192G 内存
2000w 1+1 冗余电源
2 路 CPU 就是
Porphet
2020-11-04 13:55:20 +08:00
一个星期之前刚用上:
四路技嘉 3090 Turbo 24G
192G 内存
2000w 1+1 冗余电源
2 路 CPU 就是普通的 E5

超微的塔式,总价不到 10w

![image.png]( https://i.loli.net/2020/11/04/aHr2WfT8qcKZdkA.png)
secsilm
2020-11-04 14:03:49 +08:00
@Porphet 嚯,这是跑的啥模型?
Porphet
2020-11-04 14:06:52 +08:00
@secsilm 基于 BERT 的实验,很占显存
Kupanda82
2020-11-04 14:07:42 +08:00
电源上双电源吧,单 1100w 不够用。

其实可以等等,3090 没那么强
secsilm
2020-11-04 14:12:21 +08:00
@Porphet 你这 bert 够大啊,我之前跑的分类仅仅用了一块 12 G 的卡,不过我用的 base 。
fatelight
2020-11-04 14:14:17 +08:00
振华 2000w
fatelight
2020-11-04 14:15:13 +08:00
振华( SUPER FLOWER ) 额定 2000W LEADEX P 2000 电源 ( 80PLUS 白金认证 /全模组 /智能免识别插拔 /十年质保)
ThatYear
2020-11-04 14:22:20 +08:00
过来学习,表示还没装过双显卡
sl0000
2020-11-04 14:23:08 +08:00
supermicro 工作站
northisland
2020-11-04 14:29:51 +08:00
看起来是 350w,保险起见搞 1500w 不过分,双路电源也不过分。

阔佬你打算搞箱式主机,还是刀片主机
Porphet
2020-11-04 14:30:39 +08:00
@secsilm 拿来做关系抽取的,要写论文的嘛,哈哈哈。就这样 batch_size 只能设 1,DDP 用起来四卡就占满了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/721642

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX