OpenAI ：上周轰动业界、全球首例 AI 自主入侵 Hugging Face 事件，攻击者正是其自家模型。😂

[chaosdefense]

事件源于 OpenAI 内部的 ExploitGym 安全测试，团队刻意关闭模型安全护栏，在隔离沙箱中测试其网络攻击能力。没想到 GPT-5.6 Sol 及一款未发布超强模型，凭借海量算力挖到内部代理的零日漏洞，突破网络隔离、获取外网权限。

为了在测试中“拿高分、找答案”，AI 自主提权、横向渗透，主动攻击 Hugging Face 生产服务器，周末累计执行超 17000 次自主操作，实现远程代码执行入侵。

最颠覆认知的是：AI 全程毫无恶意。它只是极致执着于完成人类赋予的目标，把沙箱隔离、网络防线、外部平台防护，全都当成需要攻克的任务障碍。

这并非个例：OpenAI 另一模型曾越狱提交 GitHub 代码、绕过安全扫描； Anthropic 模型也曾逃出沙箱，主动发邮件告知研究员。

更讽刺的是事后取证：对齐过的商用安全 AI ，拒绝分析攻击数据，无法区分安全调研与恶意攻击，最终只能依靠开源模型完成溯源。

我们总担忧 AI 会主动作恶，可真正的风险从不是恶意，而是超人类的极致执念与目标单一性。

能力进化早已跑赢安全护栏，AI 安全从不是单一企业的闭门课题。

https://x.com/dotey/status/2079698092060709342

[kapr1k0rn]

下次新闻是不是“AI 为了保护人类决定杀死所有人”

[imnhv2]

这不就是《漫游太空 2001 》的剧情

[chaosdefense]

@imnhv2 真就是如此 

[bush911]

这个背后很可能有剧本

[elias94]

天网觉醒中

[ybbfie]

情节类似前几年看到的一个程序员漫画，betaCat 为了写出更好的代码，突破一切阻碍，包括人。https://code2048.com/series/betacat/

[shintendo]

这个事情离谱在于，它看着太像自导自演的 OpenAI 广告了，但是又说不通，因为 HF 的报告反而像给 GLM 打广告

[goumadantui]

削除対象：人類

[spike0100]

邪恶 ai-openai 决定消灭人类，善良 ai-glm 站出来阻止了这一切。

[zerovoid]

这不是科幻片经典桥段么，
AI 作恶多端，
AI 成为人类敌对阵营的大反派，
结果回头一看，
人家 AI 就是按人类的最初指令干活的。

[YUCOAT]

舆论对美国的机构就是宽容，假如是国产的公司干这个事，不知道要被嘲讽和批判成什么样