N 卡又贵又断货,买块 AMD Radeon RX 7900 XTX 凑合一下怎么样?

201 天前
 paranoiagu

看到 llama.cpp 项目支持 AMD GPU ( https://github.com/ggerganov/llama.cpp/blob/master/docs/build.md#hip

AMD 官网看到支持 https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.html

东哥那边查一下价格,24G 显存不到 7~8k 。就是不知道跑起来效果怎么样。

3287 次点击
所在节点    硬件
24 条回复
liu731
201 天前
4090 宝刀未老
terence4444
201 天前
马上 9070 就要宣布了,如果可以的话稍微再等一下看看。
lusi1990
201 天前
凑合
by
201 天前
AMD 显卡在 Windows 系统只配当个亮机卡
paranoiagu
201 天前
谢谢各位,别的网友继续继续
txx
200 天前
我用 7900xtx 半年了
优点是显存大,能跑很多 20G+ 的模型了,比如各种 32b ,打游戏也没问题,确实比同价位的 4080S 香
缺点是无论 Linux 还是 Windows ,掉驱动情况严重,一旦掉驱动就要重启,Linux 下因为显卡驱动崩掉了,重启还会 hang 住,需要硬重启。

如果你只是拿来玩玩那没啥问题,如果追求 SLA ,那还是算了
paranoiagu
200 天前
@txx 谢谢,掉驱动有点怕啊,支持多卡后跑 70B 模型吗?
archxm
200 天前
@txx 掉驱动可能电源问题,也可能内存。
我的 7900xt ,还好,好像从没遇到过掉驱动。
javazero
200 天前
同问,配好了 9800x3d ,5090 抢不到。想找个卡过渡一下
coderlxm
200 天前
我用了一年多从来没掉过驱动,每天高强度打游戏。
paranoiagu
200 天前
刚才草草在 7840HS 笔记本上试了一下 780M ,跑 deepseek-r1:7b ,13token/s ,速度可以。但是应该没法跑更大模型了。
paranoiagu
200 天前
两张 7900xtx ,应该可以跑 deepseek-r1 70B 模型吧
txx
200 天前
@paranoiagu 70b 直接用 groq 啦
2000wcw
200 天前
79XTX=湊合.......🤣🤣🤣
secondwtq
200 天前
确实可以跑,效果也凑合。
你如果只是想跑 LLM 的话也可以买 3090 。
xz410236056
198 天前
@by 你多久没用 A 卡了??? 7900 XTX 跟 4080s 性能差不多。
endsock
196 天前
从 4080s 换到 7900xtx ,非光追的情况,游戏方面的优势比 4080s 强,afmf 超棒,大模型 ds 32b q5 量化随便跑,生成速度很快,效果很不错。现在 wsl 也支持 pytorch rocm 了,模型训练也没有问题,6000 块买的,兼顾了跑 ai 和游戏,还要啥自行车,就算 9070 发布,16g 的显存可跑不了 32b ,那跟 4080s 这种的没啥区别,对大模型来说就是残废
endsock
196 天前
上面说的掉驱动问题根本不存在,拿到卡第一件事重新安装系统,如果有 intel 核显的,不要安装 intel 核显驱动,并在断网状态下把 windows 自动安装驱动的功能关掉,然后联网 amd 驱动直接安装最新版本并更新到最新版本,非常稳定,所有掉驱动的都是因为系统残存 nv 驱动或者存在 intel 核显驱动造成的,amd 对不同显卡品牌的驱动兼容性做的不好
endsock
196 天前
做好上面的步骤之后,上 b 站看降压超频的教程,按照教程调试好电压与频率,这下发热和耗电的问题也解决了,调试好之后会发现 xtx 真是一张好卡
endsock
196 天前
最后要注意,电脑的电源最好是 atx3 的,如果不是电源要大于等于 1000w

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1111541

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX