我纠正 AI 的一个问题，他会更新吗？

[caisimon]

比如我今天纠正某豆某包一个错误或者过时信息（类似小狼毫输入法的某个功能配置文件的最新名称和位置）他会更新在未来给我的或者给其他人的回答里吗？我知道在保持当前的对话时他是会保留相应的信息记录的
如果会的话，是需要很长时间或者需要很多人回答类似问题才会更新吗？

[HFX3389]

我个人认为不会

[kulove]

看隐私协议 如果拿去训练就会 现在的 rag 就是解决这个不能实时更新的问题的 虽然效果不怎么样

[kurthumburgmtz97]

如果这样能更新，岂不是可以插入广告

[kulove]

@kulove 补充一下 更新也只会到下一版本 当前的不会

[caisimon]

@kulove 也就是说，如果厂商拿用户语料库来训练，会在下一个版本里更新对应的信息而非当前版本是吗

[caisimon]

@kurthumburgmtz97 我也觉得，所以在想如果有大量的错误信息输入，是不是会产生误导。所以是不会吗？

[jadec0der]

不会实时更新，但是下次训练的时候可能会有影响

[aes114514gcm]

豆包元宝千问它们的 app 有提供反馈渠道，对生成的回答点击不喜欢（倒赞）就会弹出页面让你选分类，填理由。

[loading]

很多人都开启训练，然后多了就会，不然怎么会发生 Ai 投毒。

[timethinker]

模型本身在运行时是无状态的，它只有输入和输出，就像是一个函数。每一次输入都是某个会话的完整对话历史记录（可以理解为上下文信息，因此会有上限），然后输出新的对话内容，当你继续在同一个会话中回复的时候，实际上就是把你的输入追加进去，再输入到模型。你的纠正相当于通过提示词打了一个“标记”，模型在新运算中可能会注意到这个“标记”，输出新的看似好像被纠正的结果。

所以输入不会改变模型内部的某些状态，但是模型厂商可能会通过模型外部的机制进行持久化，比如 RAG 数据库，然后在某次输入过程中，检索并附带上一些看似持久化的数据，这些机制对于终端用户来说是无感知的，看起来就好像是模型记住了一样。

[94]

可以点击反馈去提交修正的内容。Agent 的管理后台可以看到这些提交上来的内容。审核通过之后就可以应用上了。

[94]

@caisimon #6 ，有参与过 Agent 开发你就知道这种反馈本质是外挂了一个知识库，AI 可以从这个知识库里面提取到对应的内容。细节可以看 #10 的回答。