arongpm
1 小时 11 分钟前
最震撼的不是有人用 AI 写得比你快，而是有人已经让 AI 参与情报、监控、网络行动、武器研发，甚至拿 AI 训练下一代 AI ；而很多人还停留在一行一行问它问题。
L1：内容生成层——还不算真正“干大事”，
写文章、改写新闻、做摘要、生成社媒文案、整理资料。
L2：规模化运营——开始像“组织”了
批量账号、批量角色、定时任务、多模型协作、自动运营。
比如诈骗案例里，20 多个 App 、4700 多个 AI Persona 、至少 2.5 万真实用户、两周约 236 万条 Claude 消息，并且真人只负责视频、社交 follow 等 AI 不擅长的环节。
L3：改变真实人的行为——跨过屏幕边界
让真实的人相信某些信息、支持某些人、反对某些人，最终改变真实行为。
马来西亚案例用真实人口与选民数据覆盖全部 222 个议会选区，针对种族、宗教、王室等社会裂缝做微定向，还运营约 1000 个假账号、假新闻站和伪造档案。
L4：针对具体真实的人——监控、定位、招募
报告里有系统把 100 多个 WhatsApp 群和几十个 Telegram 频道的大量聊天转成结构化情报，给具体个人建立脆弱性画像，包括经济压力、家庭分离、意识形态变化等；还进行了跨平台身份关联和地理定位。
Anthropic 甚至列出明确 outcome：
- 对被监控人建立 vulnerability profiles ；
- 对冲突地区具体平民进行 real-world geolocation ；
- 为隐蔽招募活动做实时语言和心理辅助；
- 向政府客户推销监控平台。
这时候 AI 已经不再只是“处理信息”。
而是在参与：
谁值得盯、这个人在哪里、这个人有什么弱点、怎么接触他。
L5：真实经济与国家基础数据受损——大规模网络攻击
报告中的俄罗斯相关间谍行动，最终拿到的不是“研究报告”，而是真东西：
- 至少两家无人机零部件制造商邮箱被批量导出；
- 一个军用无人机视觉系统的完整专有 SDK 被窃取；
- 至少两名前乌克兰高级官员 WhatsApp 被针对；
- 一个北非政府技术机构被攻陷后，泄露超过 30 万条国家身份记录；
- 同时泄露超过 50 万家公司的商业登记数据；
- 至少 8 个机构的云邮箱记录被访问和导出。
这就是标准的：
AI 已经参与真实间谍行动和真实数据窃取。
L6：进入实体工程系统——武器软件、硬件、实测
报告明确写了 6 个传统武器相关案例，其中包括：
- 制导火箭；
- 鱼雷拦截系统；
- 无人机群；
- 电子战和防空压制目标软件；
- 军工采购和情报。
其中也门案例不是停留在代码。
操作者用了多个 Claude 实例，像一个小型工程团队一样分工：一个写代码，一个研究，一个审查；最终真的进行了制导火箭实弹测试。测试失败后，几个小时内又把遥测结果带回 Claude 做故障分析。
这已经形成：
设计 → 仿真 → 固件 → 硬件 → 现场测试 → 数据返回 → AI 分析 → 继续迭代
这是现实世界工程闭环。
7. L7：接近自主物理行动——AI 参与致命系统闭环
从“震撼程度”看，我觉得报告里最极端的就是俄罗斯无人机群这个案例。
报告称，一组操作者试图打造完整的自主 FPV 无人机群。Claude 被用于开发：
- swarm memory ；
- 容错协同；
- onboard small language model ；
- terminal guidance ；
- 对手无人机操作者定位模块；
- 声学检测；
- 芯片底层逻辑。
最关键的是，设计目标包括：
onboard model 可选择目标，包括“person”目标类别，并在没有 human-in-the-loop 的情况下发出起爆指令。
而且项目不是纯仿真：已经把固件刷进真实开发板，连接单板计算机，进行了 hardware-in-the-loop 测试。