frankyzf

需要囤吗，感觉租显卡的网站很多。而且随着技术发展，囤显卡还是有风险的吧。个人意见。

颈椎拍片子看看

@Volekingsg 谢谢， 我尝试下分步骤。因为现在 output 有固定格式 JSON ，估计只能在 JSON 里加个类似`explain`的字段来写出详细的推理过程，不知道能不能学习到。

@ywkk 谢谢回答，只能本地部署，不能用 gpt-4 ， 现在尝试用的 llama-3 8b ，感觉没足够的能力所以在 fine-tuning （上面只是一个例子，实际上是训练另外一种类似的推理能力）。

不过这显卡也真贵啊，16G 就需要 9000 ，估计我自己想试只能暂时租显卡了，等选择多了价格合适再考虑买。

@nidongpinyinme 谢谢 op ，因为需要测试加载和 fine-tuning 7b 的模型，之前还想用 mac 来代替 nvidia 的 cuda ，看来比较困难。

@nidongpinyinme 记得 mac 有自己的一套技术和 cuda 对应，好像叫 Apple Metal 什么的，是不兼容吗？

看苹果官网，32G 翻修的最低不到 13000 ， 会不会更有性价比？

说下新语言你想用来干什么，现在有哪门语言的经验然后大家才好说吧。