预算一万五攒个深度学习的主机,有好哥哥来看看配置吗

2024-05-05 11:29:03 +08:00
 nidongpinyinme
需求:放在实验室跑一些小模型的验证和代码调试,最终的训练会放到学习的服务器上。对灯光没有要求,越低调越好。
从 B 站抄了一套配置,这是昨天的报价,包邮包安装
想问一下这个价格现在看怎么样,如果等一等 618 会不会降下来一点
还有 32G 内存有没有必要上 64
9464 次点击
所在节点    硬件
90 条回复
nidongpinyinme
2024-05-05 19:00:07 +08:00
@frankyzf mps ,得改很多配置,主流代码都是 cuda 不行就直接用 cpu 的,好多还必须要 cuda ,而且 mps 也没快多少……
frankyzf
2024-05-05 20:04:55 +08:00
@nidongpinyinme 谢谢 op ,因为需要测试加载和 fine-tuning 7b 的模型,之前还想用 mac 来代替 nvidia 的 cuda ,看来比较困难。
frankyzf
2024-05-05 20:06:28 +08:00
不过这显卡也真贵啊,16G 就需要 9000 ,估计我自己想试只能暂时租显卡了,等选择多了价格合适再考虑买。
LiJie
2024-05-05 20:08:25 +08:00
@nidongpinyinme 工作站都是 99 新,清明刚买,我说的 a 系列是 nv 的 a 系列。不到 3000 元可以买到戴尔 t5810 ,就是全新的,64G x 2 内存,2680v4
mikywei
2024-05-05 20:18:09 +08:00
我是装机高手,这个配置说实话杂牌很多,价格高了,建议换下:
内存:推荐闪存颗粒原厂的品牌,三星、英睿达(镁光)、科赋(海力士);金百达垃圾杂牌。
SSD:一样推荐原厂,基本代表着最高水平,三星、铠侠(东芝)、西数、致钛(长江存储),宏碁垃圾杂牌。
散热器:风冷基本拉不开差距,剩下的钱都花在静音和灯光上;推荐雅俊 E6 才 139 块钱,压 i5 妥妥的.
电源:海韵、长城的电源都不错,海韵是做服务器电源的但溢价高,长城是老厂家了现在是国企收购了。
主板:这个价格可以买 Z 系列主板了,及时不超频默认频率也比 B 系列高;便宜的推荐白色的铭瑄 MS-终结者 Z790M 和技嘉 Z790M 小雕/冰雕,价格都在 1399 左右。
机箱:你喜欢就好 199 的选择就很多
winglight2016
2024-05-05 20:55:47 +08:00
这预算上云啊,足够用个两三年了
gransh
2024-05-05 21:50:47 +08:00
我去年看三星好的 SSD
nidongpinyinme
2024-05-05 21:51:13 +08:00
@frankyzf #43 是的,年底不是说 50 系要出了吗,不急可以等等
gransh
2024-05-05 21:51:41 +08:00
楼上没敲完发出去了:我去年看好的三星 SSD 才 3000MB/S ,今年都发展到 7200MB/S 了?
yplam
2024-05-05 21:57:01 +08:00
建议留位置加 4T 或者 8T 的机械盘,一个模型几十 G ,SSD 很快就会满
CatCode
2024-05-05 21:59:57 +08:00
朋友前段时间配的,供参考。
14700KF 盒装、微星 Z790 A MAX 主板、瓦尔基里 280 水冷、佰维 6400MHz 32G ( 16G*2 ) DDR5 内存、4080 Super 魔鹰显卡、振华 850W ATX3.0 电源
固态、机箱自己选吧,还额外装了 4 把机箱风扇
nidongpinyinme
2024-05-05 22:10:31 +08:00
@mikywei #45 内存和硬盘价格一下就拉上来了呀哥哥,超预算了
nidongpinyinme
2024-05-05 22:11:01 +08:00
@winglight2016 #46 不想毕业除了几坨屎山啥也不剩
nidongpinyinme
2024-05-05 22:11:40 +08:00
@gransh #49 每年翻一番很合理
nidongpinyinme
2024-05-05 22:11:57 +08:00
@yplam #50 好的
nidongpinyinme
2024-05-05 22:14:07 +08:00
@CatCode #51 这一套配置我感觉上不去,预算超太多
CatCode
2024-05-05 22:27:17 +08:00
@nidongpinyinme 别去 JD 买显卡 然后看看板 U 套 应该问题不大
nidongpinyinme
2024-05-05 22:43:19 +08:00
@CatCode #57 那去哪买啊,不都推荐 JD 吗
Yuhyeong
2024-05-05 22:46:39 +08:00
显存太小,以后碰到稍微大一些的模型或训练会很痛苦
CatCode
2024-05-05 22:51:09 +08:00
@nidongpinyinme JD 显卡溢价太高,除非你能抢到原价公版卡
显卡就去淘宝找找呗

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1037774

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX