这是一个创建于 484 天前的主题，其中的信息可能已经有所发展或是发生改变。
场景： 1 、跑开源的大模型，做自己的知识库 2 、偶尔自己做一点微调
希望价格不要太高，几千块能搞定的那种，求推荐
 |
1
northbrunv 2024-05-11 12:27:47 +08:00 via Android
吃显存，16g 起步，最好 24g
|
 |
2
codehz 2024-05-11 12:31:59 +08:00
你这还不如直接租在线的，几千块够用好久了
|
 |
3
ShadowPower 2024-05-11 12:32:42 +08:00
P40 改散热 x2
|
 |
4
lllabmaster 2024-05-13 08:32:10 +08:00 via iPhone
阿里云 PAI 能免费用 3 个月
|
 |
5
jedeft OP @lllabmaster 求链接
|
 |
6
wencan 2024-05-14 21:20:02 +08:00
llama.cpp 加 量化，不要 gpu 也可以跑大模型
|
Select Language