个人玩 ai,显卡最低起步是 5080 嘛?

1 月 21 日
 yifangtongxing28
最近显卡估计要涨一波,囤了一张 6299 的丐版 5070ti 16g


不知道个人玩 ai 起步的显卡是什么型号,比如生成图,生成视频的要求应该不一样吧?


不知道有没有了解的 v 友解答下呢?
5758 次点击
所在节点    Local LLM
53 条回复
Solix
1 月 21 日
只要显存大,2080Ti 也可以。
z-image 我的 8G 卡都行
Solix
1 月 21 日
@Solix #1 忘了说量化模型
yifangtongxing28
1 月 21 日
@Solix 这位 v 友也搞量化交易嘛?
gazi
1 月 21 日
和使用的模型也有关系,比如千问模型生成图 8G 都能跑,图生视频 16G 应该也够用,视频生成视频用 wan 模型的话还要看原视频的长度和分辨率,视频长度越大爆内存的几率越高,要想顺畅点最好 24G 以上。
yifangtongxing28
1 月 21 日
@gazi 你好,这里的内存是指显卡的显存还是主机的 dram 内存?
gazi
1 月 21 日
rockddd
1 月 21 日
我怎么记得很多人 mac mini 串联玩 ai
yifangtongxing28
1 月 21 日
@gazi 那现在主流的只有 90 级别显卡显存才够,是否有内存当显存的黑科技啥的呢
xtreme1
1 月 21 日
内存一直都能当显存, 慢 30 倍而已
ktyang
1 月 21 日
有这个钱买 api 都能买多少了,等 api 的玩熟了确定有需求了,你也就知道该上什么卡了
flymemory
1 月 21 日
优先满足显存,比方 5060ti 也是 16G ,只是速度慢一些
其实如果只是简单玩玩,可以先试试 autodl 之类的
另外 50 系对 pytorch 的版本要求 2.7 以上,要注意对应的依赖是否满足,有些老旧的 model ,可能对 2.7 的支持差些,折腾环境会比较闹心些
jifengg
1 月 21 日
你这卡,我所知道的“生图、生视频、生声音”等 ai 模型都能用。
现在因为 8g 显存的卡居多,所以“大佬”们都会尽量使模型能够在 8g 下跑通。

你现在已经可以畅快的玩起来了。
Sosocould
1 月 21 日
显存更重要,所以这个星期 YouTube 有个很火的视频,是 Gamers Nexus 去张哥那里,把 24GB 的 4090 手搓成 48GB
94
1 月 21 日
为啥要本地跑,直接租算力来用不好吗?
yifangtongxing28
1 月 21 日
@ktyang 哈哈,这个卡也能满足 4k 游戏性能啊
kakki
1 月 21 日
我特别想知道现在本地部署还有没有优势,怎么看都是感觉租比较划算.
Uplay
1 月 21 日
@jifengg 求推荐数字人类的 AI 模型,我现在使用 comfyui 跑感觉走到邪路上了
yifangtongxing28
1 月 21 日
@Sosocould 这么厉害
raydied
1 月 21 日
@yifangtongxing28 #3 他说的估计是模型要量化,fp16 >> int8 >> int4 ,这样模型会变小,显存占用会变小。
yifangtongxing28
1 月 21 日
@raydied 哈哈,学习了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1187214

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX