请大模型从业的哥们推荐一个外行玩 llm 部署微调的平台

20 天前
 SGL
目前楼主对 llm 的部署推理,微调想作为额外兴趣玩玩。
想找个云平台玩玩,哪个更加的合适一些?

以阿里云为代表的国内云平台,还是 AutoDL 这类专项小平台。
1104 次点击
所在节点    问与答
2 条回复
clemente
20 天前
硅基流动
Remmina
20 天前
如果“个人玩玩”+“部署需求”,个人认为硅基流动是惟一选择。据我了解,调用微调后大模型,仅有硅基流动支持按次收费(其它厂商只支持月租方式部署,对个人而言成本太高)。缺点第一是硅基流动做得太“傻瓜式”,只需要上传数据集不需要接触任何细节,反倒不方便学习;第二是只支持 Qwen 2.5 系列四个模型的微调。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1162832

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX