想投资一张 5090 玩玩 AI 请问主机需要什么配置？

[jlak]

看到官网 FE 版有货，在考虑投资一张玩玩 但是好久没有关注机圈了不太懂现在什么配置带动这张卡 主要就是 AI 用，基本很少玩游戏

[asd7160]

如果要离线部署开源的 deepseek ，达到满血的效果的话，估计整套下来要好几万吧。
就一张卡估计不太够用吧，要么反应速度慢，要么只能部署一个相对比较蠢的小点儿的模型

[asd7160]

肯定是要一个工作站或是服务器才带的动的

[jlak]

@asd7160 忘记说是 AI 视频，语言大模型有很多免费的不考虑部署

[asd7160]

@jlak AI 视频那必然更贵了，绝对最少都要一个几万的小服务器

[asd7160]

当然这个基本就是用金钱换运算时间的事情。如果不介意渲染几十个小时的话那降低成本用便宜的机器也是可以的。

[murmur]

为什么不考虑 4090 魔改 48g 呢，反正 5090 你也没法正常购买

[Solix]

混元的视频模型，可以做参考：
The following table shows the requirements for running HunyuanVideo model (batch size = 1) to generate videos:

Model Setting
(height/width/frame) GPU Peak Memory
HunyuanVideo 720px1280px129f 60GB
HunyuanVideo 544px960px129f 45GB
An NVIDIA GPU with CUDA support is required.
The model is tested on a single 80G GPU.
Minimum: The minimum GPU memory required is 60GB for 720px1280px129f and 45G for 544px960px129f.
Recommended: We recommend using a GPU with 80GB of memory for better generation quality.
Tested operating system: Linux

[Clannad0708]

现在自己搞成本很高 啊，你是要调整模型吗？我看大多数不都是调用大模型的 api 接口？为接口付费就行了。

[Morriaty]

楼主有做过一些视频类项目，或则 colab 上的教学类 AI 训练吗？没有的话，建议先去云平台先玩一玩，看一看是不是真的想做“炼丹”🤣

[jlak]

@asd7160 有台 3060 12gb 配的 i5 3470+16gb 爆显存爆内存很累

@murmur 能正常购买


@gaobh 跑量化模型


@Clannad0708 API 抽卡调试成本不更吗


@Morriaty 跑过图片 但视频类跑不动

[asd7160]

你这机器无论显存内存都才十几 GB 必然不行。我看 b 站 up 主玩这个的都是配几十上百 GB 的

[Clannad0708]

@jlak #10 deepseek 的 api 成本很低了。你要微调的话感觉 5090 不一定够啊。我用公司的 A800 部署了 deepseek 68B 版本的感觉和没有差别不大，很弱智生成的错误很多。

[jlak]

@asd7160 #4 #11 你是不是在云聊，一般玩家都是量化版 16G 显存就完全足够成品也是不错的 有兴趣可以去模型圈子里溜达一圈先 8GB 显存就可以尝鲜。RTX5090 也有几万了，显存 32G