OpenAI安全报告作者辞职，警告AI文化已“崩坏”

一位OpenAI安全报告撰写者选择离开

多年来，David Robinson一直是负责撰写OpenAI重大模型发布随附安全文档的人员之一。这些报告本应是实验室与外界之间的桥梁——以书面形式说明新系统能做什么、局限在哪里，以及在面向用户之前已有哪些保障措施。本周，Robinson从这一岗位上辞职，而且他没有悄然离开，而是在《大西洋月刊》发表评论文章，将自己的论点公之于众。

他的主张并不是OpenAI需要再增加几页内部政策，而是贯穿前沿AI行业的这种文化已经从根本上崩坏——要修复它，需要的远不止是在一切照旧之上附加新规则或监管清单。

Robinson所描述的文化问题

Robinson指出了一整套塑造硅谷一代人的习惯：他将其描述为极度自信、无休止的冲刺周期，以及一种不受阻碍的乐观主义，把每一个新模型都视为毫无疑问的进步。在这种环境中，潜在危害往往被忽视、淡化，或被假定不存在，而不是被衡量和缓解。

这种框架之所以重要，是因为它改变了争论的形态。如果问题只是某个糟糕决定或某个资源不足的团队，那么有针对性的干预或许就够了。但如果行业本身的底层心态就是问题所在，那么补救措施就必须涉及改变这些公司如何看待自身的可错性——这不是任何外部规则手册能够直接强制实现的。

Robinson开出的处方始于谦逊。他认为，AI公司需要超越它们成长于其中的那种封闭、快速行动打破陈规的世界，并从那些已经花了几十年学习如何管理无法完全消除的风险的领域中借鉴判断力。

核电站、机场，以及冗余设计的理由

Robinson论证中最具体的部分，是他对前沿实验室应如何运作的类比。考虑到所涉风险的规模，他主张，这些实验室不应像追逐发布日期的初创公司那样运作，而应更像核电站或繁忙的机场。

这些机构是社会已经信任其能够承担灾难性下行风险的机构。它们的设计前提就是人类会犯错，并通过多层冗余以及刻意、耗时的规划来构建，以便偶然而不可避免的错误不会打开通往灾难的大门。目标不是让任何单个操作者表现完美，而是建立一个能在错误演变为不可逆后果之前将其吸收的系统。

翻译到AI开发中，这一逻辑意味着更慢的发布周期、多条独立审查线，以及愿意花时间——而行业目前把这种时间视为纯粹的浪费。它还意味着，安全工作不是构建结束时产出的一份文档，而是从开始就贯穿构建方式的结构性属性。

为什么仅靠规则可能不够

Robinson的核心主张是，这比简单地对训练运行的处理方式施加一些新监管要更深层。规则可以在边缘约束行为，但很少能改变从事这项工作的人的激励或自我形象。一家相信自己正在拯救世界的公司，不太可能因为一项被它视为摩擦的合规要求而明显放慢脚步。

实际上，他所描述的是一种必须从内部解决的文化问题——需要领导者愿意公开说出自己可能是错的，也需要组织结构使得这样说不会成为职业自杀。

越来越多的离职者

Robinson是最新一位加入一种已变得可识别模式的人物：研究人员和安全工作人员离开知名AI公司，然后公开谈论他们所看到的情况。当前这一波似乎是由Jacob Coxon引发的，他从Anthropic辞职并警告称，AI可能在本十年结束前杀死我们所有人。

其他人也相继离开：

• Robert O'Callahan、Bilal Chughtai和Josh Engels，他们均从Google DeepMind离职。
• Joe Benton，他离开了Anthropic。

每一次离职都为这样一种论点增添了数据点：某种系统性因素正在把重视安全的人推出实验室。当被雇来思考下行风险的人不断得出结论，认为自己无法从内部有效完成这项工作时，这就提出了明显的问题：这些担忧在内部究竟有多大分量。

犬儒主义问题

对这一切有一个合理的反对意见。当帮助构建某项技术的人转身警告这项技术时，人们很容易感到犬儒——他们促成了自己现在所描述的局面，而他们的警告是在系统已经部署之后才到来的。

但这种反应无论多么可以理解，都不能使他们所言之实质失效。内部知识正是这些叙述有用的原因。撰写安全报告、运行评估、坐在发布决策会议室里的人，比外部评论者更有条件描述这些决策实际上是如何作出的。

这对下一次模型发布意味着什么

实际利害很直接。每一次重大模型发布现在都附带文档，意在安抚用户、企业和监管机构。如果撰写这些文档的人得出结论，认为产生这些文档的文化已经崩坏，那么整个披露工作的可信度就会受到质疑。

Robinson的答案不是放弃这项工作，而是在更谨慎的基础上重建它——把人为错误视为必须通过工程化设计加以应对的确定性，而不是需要被解释掉的例外。前沿实验室会自愿采取这种姿态，还是只有在外部压力迫使下才这么做，现在是悬在行业下一轮发布之上的核心问题。

就目前而言，警告积累的速度快于结构性变化。Robinson的辞职是最新信号，表明最接近这项技术的人，对它的发布速度最感到不安。

本文基于The Verge的报道。阅读原文。