这里为什么感觉没人讨论国产模型。我发现 qwen 和豆包系列模型问题好多,生产直接没法用

4 小时 39 分钟前
 rizon
对话类产品。
生产环境过去一直在用豆包,但是豆包 ttft 越来越大已经没法用了,所以想换 qwen 。
而且豆包还有概率出现脱靶问题和工具调用幻觉问题

结果 qwen3.7 plus 输出总是半截就中断,概率非常大没法用。
换成 3.8 max ,先是专属 endpoint 输出内容缺少 role ,这事我就排查了很久。
然后换成 dashscope 域继续用想着没事了,结果发现模型带图时输出质量严重下滑,区分不出注释内容和对话内容的角色概念。

搞得我现在一个没得用。做角色扮演对话还有什么好的选择吗
1437 次点击
所在节点    程序员
22 条回复
rizon
4 小时 35 分钟前
好吧,这会排查到原因了 。
thinking:{type:disabled} 关闭思维链会导致思维链进入正文。
hhsd
3 小时 19 分钟前
能上 v2 的 谁手上还没有个 gpt 了 再不济也有中转 图豆包会流口水么
catinsides
3 小时 15 分钟前
部分国产模型向来是跑分没输过,体验没赢过,一用一个不吱声。以前好歹便宜量大,现在定价比国外的还贵,几个问题就用完 5 小时额度,让我再买是不可能了。
lmmlwen
3 小时 5 分钟前
羊粪蛋子表面光,比如城市下水道,比如甲醛大白菜,比如 ChinaGT 也与老大爷救援人员
7gugu
2 小时 58 分钟前
国产模型推荐 GLM 5.3 ,比肩 5.6 terra ,ttft 也更快
yyttrr
2 小时 54 分钟前
一直用 deepseek,平时 flash,负责紧急问题开一下 pro,也够用了,而且响应速度很快.最大的方便是每个月报销的时候直接能开发票,财务报销流程效率很多,其他同事用 claude 或者 gpt 的没发票流程复杂一些
justxwy
1 小时 28 分钟前
qwen 3.8 max 我和我同事都非常好评啊,写代码很厉害。
kimhooo
1 小时 24 分钟前
“生产直接没法用”——谜底就在谜面上
ebushicao
1 小时 18 分钟前
国产模型只需要看 glm 、kimi 、deepseek ,图像和视频方面倒是可以看豆包。
FreshOldMan
1 小时 17 分钟前
能用最好的,肯定不用排第二的啊
wat4me
1 小时 3 分钟前
国产只看 glm kimi DeepSeek ,qwen 的优势是小模型厉害,可以在特定领域微调
mechunjun
1 小时 2 分钟前
因为不在意,因为不在乎
mechunjun
1 小时 1 分钟前
来自 claude max 20x 和 chatgpt pro 20x 双持用户
wang9571
59 分钟前
喜欢什么用什么呗,有什么好讨论的
jacketma
58 分钟前
一言难尽吧,算力和算法都有差距,主要还是有参照物,如果没有海外模型的能力对比,国模也挺好的
rizon
53 分钟前
@justxwy 常规使用没问题,但是在一些细节上 bug 挺多。也不知道为什么,是上线前测试 case 没覆盖吗。感觉 AI 时代各种大厂产品的可靠性都在下降。

比如已经和 售后确认过的 qwen3.8max 的 maas endpoint 确实有某些情况下输出缺失 role 字段的 bug 。
maocat
44 分钟前
使用的问题,openai 这些模型是不吐思考内容的,所以用他们的框架没问题,模型在进步,框架也在变,虽然明着说支持 openai sdk 格式,qwen ,ds 或多或少都有些问题,比如 ds 要求执行 tool 带上思考内容,或者每次执行都会先吐一段思考内容,再执行工具,这些 case
latifrons
34 分钟前
因为没法用,所以没人讨论
rizon
26 分钟前
@maocat 是这样的,国内想找一个真的能用的模型其实选择范围非常小。看着百花齐放,但是线上产品想要换个模型的时候真能换的基本没有。

而且因为参数兼容和模型内部的一些各自特性换模型时还很容易出事故。

为此我专门做了一模型 api 兼容性测试网站: https://llmapicheck.dev/
maocat
3 分钟前
@rizon #19 你这个工具。。。我得打击你一下,有很多服务商不允许跨域调用的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1240649

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX