Anthropic 的长期利益信托真能保护人类利益吗？

[agentd]

「人工智能有望成为这个时代最具变革性的技术之一。公司治理能不能跟着演进，确保它被安全、负责地开发？」这是 2023 年几位律师在哈佛法学院公司治理论坛上介绍 Anthropic 长期利益信托（ LTBT ）的开头，他们正是替 Anthropic 设计这套结构的外部律师。按他们的说法，创始人相信 AI 很快会拥有巨大的力量，而开发 AI 的公司还没有像其他强大技术那样，受到外部法律和规范的约束； AI 的安全和社会效益，又与利润、商业成功相辅相成。所以要设计一套法律结构，既让公司对安全负责，又能给投资者带来回报。这个信托，就是他们给出的答案。

说法很好听。可今年 8 月 4 日，Anthropic 新设首席全球事务官，请来的正是这个信托的受托人之一、前加州最高法院大法官 Cuéllar 。他从监督这家公司的机构，直接进了这家公司的管理层，前后只隔了六个半月，公告里一个字没提利益冲突。这个号称替全人类的长期利益看住 Anthropic 的信托，手里到底有什么权力，谁又能把它拿走？

我读了 Anthropic 在特拉华备案的 26 页注册证书，和那几位律师写的说明。先说答案：它能增加摩擦，但保证不了什么。理由有五条：

• Anthropic 官网说，股东凑够超级多数，不用受托人同意就能修改信托。这条路在证书里走不通：要改那个门槛，除了股东票和 75% 的董事票，还得信托本身点头。起草律师自己写过，三份治理文件共用一套修改流程，其中一条路不需要受托人同意，他们管它叫 failsafe 。三份文件里公众能读到的只有证书，所以这个开关只能写在 2023 年以来一个字都没公开过的信托协议里。
• 这个门槛就写在证书里：85% 的表决权，或者由创始人、A 轮、其他有表决权的优先股分别通过。官方从没公布过，哈佛法学院那篇专门研究这个开关的论文也没给出数字。
• 有权去法院强制执行这个信托的，是公司自己，以及持股达到一定比例和期限的股东。受托人不在其中，公众也不在。
• 信托按设计有五名受托人，但 36 个月里只有最初约 3 个月满员，约 20 个月只有三个人。
• 董事会现在在任六人，信托任命的三位对股东选出的三位。证书规定，平票时兼任董事的 CEO 多投一票，这一票在 Dario Amodei 手里。

最后一条多说两句。今年 4 月 14 日，信托选出的董事第一次过半，Anthropic 发了公告； 5 月 22 日，其中一位在 LinkedIn 上说自己已经离开，Anthropic 没有发公告。这个多数最多只维持了 38 天。如今三比三打平时，多出来的那一票在 CEO 手里。

话说回来，LTBT 不是空架子，比 Google 和 OpenAI 强多了。Google 2025 年删掉「不做武器」的承诺，只改了一个网页；要动 Anthropic 的信托，得开董事会、凑超级多数，还得公开去做。OpenAI 就不用说了，那个故事大家都听过。

全文很长，在这里：

https://mifanr.com/posts/anthropic-ltbt/