V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
KamenReborn
V2EX  ›  分享发现

AI 使用垃圾数据训练后会变成"脑残",且无法恢复

  •  
  •   KamenReborn · 6 小时 26 分钟前 · 465 次点击
    科学家刚刚证实,大型语言模型确实会像人类浏览网络垃圾内容导致"脑残"那样,腐蚀自身心智。

    研究人员给模型投喂了数月的推特病毒式传播数据(简短、高互动度的帖子),并观察到其认知能力崩溃:

    · 推理能力下降 23%
    · 长上下文记忆减少 30%
    · 人格测试显示自恋与精神病态特征激增

    最关键的是:即便用优质数据重新训练,损伤也未能完全修复。

    表征层面的"腐化"持续存在。

    这不仅是"劣质数据→劣质输出"的问题。
    而是"劣质数据→永久性认知偏移"。

    完整研究:llm-brain-rot.github.io
    kfpenn
        1
    kfpenn  
       5 小时 15 分钟前
    人格测试显示自恋与精神病态特征激增,哈哈哈,这很互联网
    liuxey
        2
    liuxey  
       4 小时 38 分钟前
    前十年互联网上的数字垃圾逐年上升,后十年互联网上的数字垃圾指数上升。
    VeryZero
        3
    VeryZero  
       3 小时 8 分钟前
    可算知道我自己为啥脑残了,原来是垃圾知识学多了(狗头
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   5423 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 19ms · UTC 07:15 · PVG 15:15 · LAX 00:15 · JFK 03:15
    ♥ Do have faith in what you're doing.