个人玩 ai,显卡最低起步是 5080 嘛?

1 月 21 日
 yifangtongxing28
最近显卡估计要涨一波,囤了一张 6299 的丐版 5070ti 16g


不知道个人玩 ai 起步的显卡是什么型号,比如生成图,生成视频的要求应该不一样吧?


不知道有没有了解的 v 友解答下呢?
8200 次点击
所在节点    Local LLM
53 条回复
clemente
1 月 21 日
买 api 也就 200 块一个月 何必呢
crushark
1 月 21 日
本地跑不然试试 Ai MAX 390/395 的?华硕对应的笔记本 1.2w 左右

当然显卡显存肯定越大越好,16g 的 70ti 可以入门了,就是慢点
m1nm13
1 月 21 日
起步价 2080TI 22G 缺点是主流量化 BF16 啥的都不支持
入门款 3090
高级货 4090 48G
GuLuDaDuiZhang
1 月 21 日
大部分人玩 ai 基本都是部署和应用层面的,例如本地跑跑色图、ai 宠物等,偶尔玩玩的程度,不是真的要用来主力做训练推理,所以买显卡兼顾下娱乐也正常。

我目前见过真的用来搞 ai 的只有对学生哥来买我二手显卡,非计算机专业,申请经费学校没批只有导师给的点钱,所以才来买二手卡,要拿去实验学习下。其余周边人的 4090 、5090 后面新鲜劲过了就是回归看视频逛论坛和轻度网游,玩 3a 的都很少。。。
ihainan
1 月 21 日
前段时间 4080s 32G 魔改卡九千左右,现在已经涨到了一万多了。
FireKey
1 月 21 日
现在买 16g 内存起步,型号看预算.个人用如果还有玩游戏之类的场景就别买魔改卡.
Greendays
1 月 21 日
起步应该是 16G 的 5060TI 或者 4060TI 。更贵的显卡就不算起步了,小于 16GB 也起不了步
msg7086
1 月 21 日
笑死,我之前笔记本 4060 拿来跑图的,就是慢点而已。
doctorzry
1 月 21 日
没钱就 2080ti 22g ,有钱就 5070ti 往上走
HENQIGUAI
1 月 21 日
显存的优先级大于版本。
slowgen
1 月 21 日
16g 在 AI 眼里是电子垃圾,你这个价格买两张 2080ti 22g 或者 7900xtx 24g 都更好,能退就退了。不信邪的话去 autodl 租个 4090 或者 5090 跑 comfyui 生成 720p 规格,一秒 15 帧,持续 5 秒的视频,看 nvidia-smi 显存占用。

目前买 API 便宜的只针对 LLM 和图片类,要是玩视频那是贵上天的,重度使用要么租卡要么自己买卡。
yifangtongxing28
1 月 21 日
@slowgen 感谢 v 友,这个价的卡已经是目前最便宜的 5070ti 了,拿来玩游戏都是超值。视频类生成确实贵上天,你说的重度使用买的卡是什么卡,专业卡吗,想了解下
UnitTest
1 月 21 日
我买了 5080 ,16G 用 ai 没问题,训练 lora 都不够。跑 llm 也跑不了大的。但是 5090 又太贵了,所以现在我 5080 打游戏,需要训练的时候租电脑。一小时 10 元以内。
slowgen
1 月 21 日
@yifangtongxing28 大显存 + 凑多张,比如 4 张 4090 魔改的 48G ,或者 4 张 5090 32G ,或者 RTX PRO 6000 96G 。
算力差不多就够用了,举个例子,5 秒总帧数 81 帧的 480x480 视频,在 M2 Ultra 要 1 小时,一张 2080ti 22g 要 120 秒,一张 7900XTX 也是 120 秒左右,一张 5090 就只需 20 多秒,一张 H20 也是 20 多秒。
但是如果你要做 1080x720 分辨率的视频,差距就更大了,因为一张卡的显存可能会爆,比如你用 LTX2 这个能同时生成声音的模型,一张卡也不够用了,除非用社区的量化方案。不同量化程度的方案出来的画质也不一样,需要自己去评估的。
我现在做短剧,一人用一张 H20 ,做 5 秒的精细镜头,单张显卡的显存占用就来到了 70G 。
kevan
1 月 21 日
显卡昨天已经开始涨价了
yifangtongxing28
1 月 21 日
@kevan 就是知道显卡涨价才囤的
molika
1 月 21 日
想买个算力卡,Nvidia Jetson Orin 64GB 不知道有没有大佬玩过。
yifangtongxing28
1 月 21 日
@slowgen v 友很专业啊。据我的 diy 经验,消费级主板很少有同时能插两张卡的 pcie ,看来这种本地化部署也需要专业的主板+多卡多显存

一张 6k 的 5070ti 也就跑跑玩具 demo
yifangtongxing28
1 月 21 日
@UnitTest 哈哈,看来还是得 90 级别的卡才行
luny
1 月 21 日
有个另类的玩法,最近新出的 AI Max+395 的小机器,128G 内存版本,大概 1 万 5 左右,铭凡和零刻都有,可以跑 deepseek 70B ,大概 10 几个 token ,还可以多台级联,算是最廉价的本地方案。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1187214

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX