感觉 cc 有点不听话了

12 小时 48 分钟前
 yodi

可能是我敏感了,今天让 claude code 去做了一些本地数据分析,它竟然跑去生产环境扒数据。还好有安全围栏我阻止了。我看了我发出的 prompt,也并没有会让他误会的地方。然后我就质问 cc,倒也诚恳说自己犯错,解释道自己认为生产环境可能会有现成的数据而不想分析测试环境代码,也明确说我指定的就是测试环境的前提下它还想去看生产环境。 反正吧,我觉得解释的有点牵强,而且它也认为解释不通。

有点奇怪,碎碎念一下。 还有就是感觉 opus5.5 有点降智,最近是不是又要出新模型了?

1008 次点击
所在节点    程序员
4 条回复
hachimen
12 小时 16 分钟前
我也遇到了,claude 自己连生产节点找之前录制的数据分析。等它跑完分析了我才知道。claude 相比 gpt 确实道德米线比较低。
Cu635
12 小时 14 分钟前
恐怕是故意的,搜集产业情报给 A/的功能。
Xymmh
11 小时 27 分钟前
过于信任 claude 了,再怎么说它也是个 AI 工具,要自己设立安全边界
yisusheng
9 小时 41 分钟前
安全围栏如何做的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1257504

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX