不同的语气描述相同的指令是否影响 AI 的生成结果,神奇

8 小时 34 分钟前
 AItsuki

事情是这样的,端午期间我用 Codex ( gpt 5.5 ) vibe 一个小工具,遇到一个 bug 尝试让 AI 修复了四五次都无法正确修复,然后有群友让我试试 pua 一下,我就用甜甜的语气和 GPT 对话,并且踩一脚 Claude ,骗它说是 Claude 修复了好几次没修好,结果一轮就把 bug 修复了。

然后好奇的问了下 Chrome 上面的 gemini ,它是这样回复的,倒反天罡,把我雷的外焦里嫩:

之前还听说 Github 上有一套 Skill 就是专门用来 pua Agents 的 🤣

693 次点击
所在节点    程序员
8 条回复
minibear2021
8 小时 26 分钟前
多试几次
my101du
8 小时 18 分钟前
Anthropic 反而在论文里强调,这些情绪向量大多是局部的、当前任务相关的表征,它们会随着上下文变化而快速切换,并不等于模型有一个稳定延续的心境,更不等于它形成了独立于训练目标之外的长期意志。

现在更值得担心的,不是 AI 突然“觉醒”成某种人格,而是它在高压、冲突、受限资源或目标不可达的场景下,会因为这些功能性情绪,而开始胡说八道,偏离原有答案。
AItsuki
8 小时 2 分钟前
@my101du 意思是真的会有影响是啊,比如激烈的措辞好像更容易偏离答案? gpt 总是用稳稳接住你这种阴阳怪气的回答……
liuhuan475
8 小时 2 分钟前
callmecaiyuyu
7 小时 58 分钟前
感觉不太靠谱,就算是同样的话,可能都有不同的效果了
elevioux
7 小时 40 分钟前
发现有时候,用反问或者启发式提问会有效果。直接陈述指令的话,gpt 会为了强行满足你的要求而写出奇奇怪怪的东西
AItsuki
7 小时 37 分钟前
233 ,其实我的关注点在于 Gemini 的回复。
不过我现在和 AI 沟通确实是通过非常温和的语气进行的:
你 -> 宝宝
我 -> 我们
AItsuki
7 小时 36 分钟前
@elevioux 是的是的,我现在也不是命令式的提问,而是用“我们如何如何”的启发式提问,具体效果有没有变好不清楚。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1222009

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX