四位AI领袖，一项松散的承诺
当OpenAI首席执行官Sam Altman、Anthropic首席执行官Dario Amodei、Google DeepMind联合创始人Demis Hassabis和SpaceX负责人Elon Musk在周末松散地同意放缓人工智能发展时，其框架是经过深思熟虑的。他们宣称的目标是“放慢前沿步伐”——这种措辞将克制描绘为负责任的管理，而非退缩。该团体至少部分签署了一项围绕三个理念构建的提案：将第三方审计员嵌入AI开发者中、监管国内实验室，并最终达成一项全球协议以放缓发展步伐。
掌声并未持续太久。几小时内，怀疑者就对同一份公告得出了不同的解读。在他们看来，那些多年来竞相发布越来越大模型的公司，恰好在谨慎能保护其市场地位的时刻突然发现了谨慎的美德。一些批评者更进一步，将这一安排描述为彻头彻尾的卡特尔。
据业内消息人士称，真相远比任何一方所承认的更为复杂。这正是该事件值得仔细解读的原因：它是未来数年将定义AI政策的争斗的一次早期预演。
三步提案究竟要求什么
计划的实质比附在其上的人物更重要。该框架由Amodei在一篇文章中阐述，其组成部分对任何关注过去几年AI安全辩论的人来说都很熟悉。
- 第三方审计员：独立审查员嵌入开发者中，检查模型和训练实践，而不是信任实验室自我监管。
- 国内实验室监管：对在美国境内运营的实验室制定正式规则，而非自愿的内部准则。
- 全球放缓协议：主要大国之间达成国际谅解，以遏制前沿发展的步伐。
这些想法没有一个是现在支持它们的这些高管首创的。AI安全倡导者多年来一直推动外部审计和有约束力的监督，而往往正是这些实验室在抵制这一想法。这段历史正是为什么周末的协议因你所处立场不同而读起来如此不同。一项提案在原则上可以是合理的，但当其最热情的背书者正是它约束最少的各方时，它仍然可疑。
卡特尔指控，解释
对该承诺最严厉的批评者并不是在争论放缓本身有错。他们争论的是谁有权决定，以及这一决定保护了什么。有三个担忧反复出现。
它可能将潜在竞争者拒之门外。一家已经在前沿运营的公司从暂停中损失相对较小，而从暂停中获益巨大。更慢的发展只会为领导者压缩领导者与其他所有人之间的差距，因为他们已经掌握模型、算力关系以及人才。一项限制进步速度的规则可以起到护城河的作用。
它可能削弱开源发展。审计制度和实验室监管施加的合规成本，对拥有庞大法律和安全团队的公司来说微不足道，但对小型开源团队却是惩罚性的。如果安全框架的实际效果是只有少数资金雄厚的公司才能合法训练前沿模型，那么该框架就是在谨慎的旗帜下实现了整合。
它可能替代真正的法律保障。当行业自己制定规则时，它也决定了这些规则遗漏了什么。自愿承诺没有附带惩罚，没有独立执行，也没有任何能在企业战略变化后存续的机制。一项看起来像监管的承诺可能让实际监管显得多余——这正是批评者最担心的结果。
监管真空论
有一个具有真正分量的反驳论点，它削弱了卡特尔论。在当前政府下，有意义的AI监管不太可能自行到来。如果选择是在私人承诺和什么都没有之间，那么私人承诺并非一无所有，即使它们不完美。
这一逻辑解释了为什么该提案得到了并非天然同情大型科技公司的人的支持。它概述的三个步骤——审计员、国内规则、国际放缓——正是安全倡导者一直要求的步骤。让最有能力的实验室的领导人公开说出这些话，创造了一个公共基准。一旦承诺被记录在案，倒退就会成为一个新闻，而新闻是有代价的。
但同样的真空正是让怀疑者紧张的原因。一个填补空白空间的框架也可能固化自身，成为立法者在被问及为何不需要正式立法时所指向的事实标准。危险不在于该承诺做得太多。而在于它做得刚好足以挤掉更强有力的东西。
谁应该领导这场对话？
在整个行业中，出现了一个共识：AI领袖并不是领导这一行动的最佳人选。即使他们的动机是真诚的，他们同时是规则的对象、规则的作者，也是关于规则应该说什么的辩论中最响亮的声音。对于任何具有如此广泛后果的技术来说，这都不是一个可行的安排。
要让该提案具有约束力——行业自己的框架所邀请的说法——需要外部验证和后果。拥有真正访问权和发布调查结果能力的独立审计员。附带惩罚的法规，而不仅仅是披露要求。包括有能力执行它的政府在内的国际协调，而不是依赖少数可能改变主意的高管的善意。
底线
“放慢前沿步伐”的承诺既不是一份纯粹的安全协议，也不是一个已被证实的卡特尔。它是一项拥有可辩护组成部分的提案，由那些激励与公共利益并不完全一致的人提出。两件事都可以是真的，假装不然会削弱保留其中值得保留部分的主张。
这个问题只会变得越来越重要，这就是为什么细节比表象更重要。审计员、规则和国际协议是正确的工具。周末的握手留下的问题是：谁掌握它们，以及董事会之外的任何人是否能够执行所承诺的内容。
本文基于The Verge的报道。阅读原文。
Originally published on theverge.com