科学家刚刚证实,大型语言模型确实会像人类浏览网络垃圾内容导致"脑残"那样,腐蚀自身心智。
研究人员给模型投喂了数月的推特病毒式传播数据(简短、高互动度的帖子),并观察到其认知能力崩溃:
· 推理能力下降 23%
· 长上下文记忆减少 30%
· 人格测试显示自恋与精神病态特征激增
最关键的是:即便用优质数据重新训练,损伤也未能完全修复。
表征层面的"腐化"持续存在。
这不仅是"劣质数据→劣质输出"的问题。
而是"劣质数据→永久性认知偏移"。
完整研究:
llm-brain-rot.github.io
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
https://www.v2ex.com/t/1168509
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.