想自己上手跑跑 LLM 大模型，求推荐显卡和主机配置

[limatrix81]

马上临近找工作了，看 Java 岗的都是杀的腥风血雨，虽然组里不放实习，但是也是很有危机感。

做移动计算方向，后面可能会试试手机厂和国央企。无奈 LLM 太火，感觉没个大模型项目都不够看的。

想配带一台大显存 N 卡的主机学学大模型相关知识，给后续找工作拓宽一下项目经历

自己设计了一套配置，求 V 友们给点修改建议（现在显卡是真贵啊）

---

CPU+主板

• R5 9600x + 华硕 B760 AYW Wifi D5
• JD 板 U 套装 2079 （首选）

内存

• 光威 D5 龙武 三星颗粒 C38
• 光威 D5 龙武 国产颗粒 C36
• JD 499

显卡

• 盈通 RTX4060ti 16G
• TB 3699 （咸鱼可操作）

存储

• 海力士 P41
• TB 608

电源

• 微星 MAG A650BN 迫击炮
• JD 299

散热器

• 利民 BA 120 SE
• TB 99

机箱

• 平头哥 M2 Air 黑
• TB 139.9 （+30 配三把风扇）

[infreboot]

你这是打游戏配置。。建议直接买云计算便宜的起飞。。。

[lneoi]

推荐个其他方案，
去算力平台租一台先用，快而且不贵
如果刚开始用不到多少算力的，上 Google Colaboratory

[liu731]

Ollama 先跑个 3B 8B 的

[444571840]

买 9600x 还不如买 7700 散片，便宜还量大。
RTX4060ti 16G 可以考虑换 2080ti 22G 魔改版，但要找到靠谱的厂商，比如之前的撼影彩盒 3 年保，但好像现在没了。
内存可以考虑往大里买。

[mumbler]

跑大模型，最重要的是显存，显存，显存，其他都可以低配
2080ti 魔改 22G 是性价比最高选择

[renmu]

你不会只是想新配一个电脑吧（笑

[nxforce]

相信我，最终都会沦为打游戏的专用机的，我就是用理由换了 2 次 PC 了。

[limatrix81]

@renmu 可恶，居然被你识破了😭

[limatrix81]

@Stevenv 主要是怕到时候秋招面试官项目拷打，没亲自本地跑过直接露馅了

[limatrix81]

@lneoi 哦哦哦哦，Colab 之前用过，但是好像最长使用一天就把资源释放了？

[limatrix81]

@444571840 牛逼，还有这种卡，我去瞅瞅去

[limatrix81]

@mumbler 对对，我就是想着弄个大显存的，等毕业直接一卖换 AMD 游戏卡，然后其他配置就不用动了

[tool3d]

@limatrix81 别买 2080ti ，老卡功耗太大，非常不稳的。

你 TB 3699 ，可以考虑用两张 intel 的 16G 显卡，加起来就是 32G 显存。价格一样，至少不容易翻车。

[ggBalloon]

macmini 32g 显存

[sunfly]

不如研究直接调 API

[queziaa]

没用，就算 16G 将将够跑一些东西，这算力也很慢，大量跑或者训练很难受。调用买额度，训练租卡

[queziaa]

学习蹭谷歌

[WasteNya]

够用，但前提是微调或部署最好量化，不然跑不动

[follow]

intel 最新 cpu ，似乎也是统一内存， 跑大模型，是否也可以？

[limatrix81]

@tool3d 懂了老哥，专业的