跑本地主要是部署流程的 devops ,意义不大。而且真金白银买硬件,还只能够的上能 run 的程度,根本无任何调试的意义。我直接放弃了。因为用过几天 m3max128g 的。现在跑所谓的“本地大模型”,都是用 pay as you go 的 cloud 。调试完就快照关闭机器。一次也花不了多少钱,而且很多可以导出 pod 平移其他 k8s 。真没必要本地化,不管是学习还是开发。
第 1 页 / 共 1 页
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。