这个是真的注入攻击还是幻觉

4 小时 20 分钟前
 s290305915
xdm ,最近跟 cluade code 聊天老是出现这种:



甚至后面还有这种:



胆战心惊的,有 v 友碰到过么
1027 次点击
所在节点    Claude
7 条回复
zisen
4 小时 14 分钟前
我也遇到了,claude 自己自言自语十分钟,看下 thinking 发现他在执行幽灵指令,赶紧切 glm 了
mingtdlb
3 小时 8 分钟前
这种我在本地部署的 qwen 出现过,不停的胡说八道,各种语言冒出来(日文、英文、中文)
milkleeeeee
3 小时 6 分钟前
我也遇到了,感觉是幻觉,最近 opus 4.8 出现这个问题的情况越来越多了。也不排除是 claude 检测到了我用了中转站然后故意捣乱
s290305915
2 小时 48 分钟前
@milkleeeeee 我是订阅账号,直接纯新的会话都会出现,感觉跟模型有关系,用的 opus4.8 ,我一直怀疑是不是真的注入攻击,但是没头没尾的
s290305915
2 小时 48 分钟前
@mingtdlb 你这个应该是模型退化的问题,跟这个还不太一样,退化后会玩成语接龙。。我之前做本地开发碰到过
s290305915
2 小时 47 分钟前
@zisen 就是,有时候思考 30 分钟然后就没下文了,很恼火
FinnBai
2 小时 31 分钟前
是幻觉,而且出现以后这个会话就废了,幻觉会越来越严重。最近 opus 这个问题很多,x 上有人说是中文污染,换成英文对话以后确实很少碰到了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1224179

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX