测了几个模型 API 平台,发现冷门平台反而体验不错

7 小时 19 分钟前
 taoliwa1860

最近在给一个小项目换模型 API ,主要需求比较简单,接 Dify 和自己写的服务都能用,优先国产大语言模型,价格友好,响应速度和稳定性别太抽象。

试了模型原厂、云厂商平台、聚合平台,意外发现一个相对冷门,但目前让我比较满意的模型聚合平台,白山智算,https://ai.baishan.com/website/ 挺适合个人开发者或者小团队用。

有几个点:

1.国产大语言模型比较全。像 DeepSeek 、GLM 、Qwen 、Kimi 、MiniMax 这类主流的国产模型基本都能找到,至少对我这种主要做中文场景、小工具、知识库问答的人来说,覆盖是够的。

2.模型上新比较及时。我比较烦那种平台模型列表很久不更新,热门模型出来后半天接不上。白山智算这点目前看还可以,新模型跟进不算慢。而且基本上新模型上架后,价格都很有优势。

3.就是上面讲的,价格。这个是我觉得最直接的点。平台上基本所有模型都有折扣,比如 GLM-5.2 现在是 75 折,DeepSeek V4 Pro 好像打到了 7 折。对个人项目或者还没商业化的小产品来说,token 成本还是挺敏感的,价格差一点,长时间跑下来差别不小。

4.速度和稳定性。可能也是因为这个平台现在用户没那么多,公共资源没那么挤,我这边小流量用下来响应速度还不错,没有遇到特别夸张的排队或者连续失败。当然我没有做大规模压测,只能说个人测试和小项目调用的体感还可以。

目前我的用法比较简单,主要是 Dify 做知识库问答,自己写脚本调 API 做内容整理,偶尔用长一点的 prompt 做总结和结构化输出。也想问问大家现在都在用哪家的模型 API ?有没有更好的推荐?

282 次点击
所在节点    分享发现
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1230664

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX