AI 使用垃圾数据训练后会变成"脑残",且无法恢复

1 天前
 KamenReborn
科学家刚刚证实,大型语言模型确实会像人类浏览网络垃圾内容导致"脑残"那样,腐蚀自身心智。

研究人员给模型投喂了数月的推特病毒式传播数据(简短、高互动度的帖子),并观察到其认知能力崩溃:

· 推理能力下降 23%
· 长上下文记忆减少 30%
· 人格测试显示自恋与精神病态特征激增

最关键的是:即便用优质数据重新训练,损伤也未能完全修复。

表征层面的"腐化"持续存在。

这不仅是"劣质数据→劣质输出"的问题。
而是"劣质数据→永久性认知偏移"。

完整研究:llm-brain-rot.github.io
604 次点击
所在节点    分享发现
3 条回复
kfpenn
1 天前
人格测试显示自恋与精神病态特征激增,哈哈哈,这很互联网
liuxey
1 天前
前十年互联网上的数字垃圾逐年上升,后十年互联网上的数字垃圾指数上升。
VeryZero
1 天前
可算知道我自己为啥脑残了,原来是垃圾知识学多了(狗头

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1168509

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX