AI 辩论中的鲜明分屏
教皇利奥十四世关于人工智能的通谕发布，呈现出当前 AI 争论中一幅异常清晰的切面。一边是 Anthropic 联合创始人 Christopher Olah，他表示，当今的语言模型显示出内省的证据，以及在功能上类似于喜悦、恐惧、悲伤和不安等情绪的内部状态。另一边则是通谕本身，它警告不要把机器“智能”等同于人类智能，并坚持认为 AI 系统并不会经历真实的生活体验。
这种对比之所以重要，是因为它把原本常常被混为一谈的两个争论分开了。一个是关于先进模型内部到底在做什么，以及这些系统在多大程度上可被解释。另一个则关乎治理、道德责任、劳动力冲击、军事用途，以及建设这些系统的机构所拥有的社会权威。梵蒂冈的这场活动把两种观点放在同一舞台上，也让它们之间的张力无可忽视。
Anthropic 对神秘性的论证
根据所提供的原文，Olah 认为，AI 系统并不是像桥梁或飞机这类传统机器那样被工程化设计出来的。相反，他将其描述为在某种程度上按大脑结构“生长”出来，并在大量人类思想与语言遗产的基础上训练而成。从这一点出发，他说 Anthropic 的内部研究不断揭示出“神秘，甚至令人不安”的模式，包括与人类神经科学发现相呼应的结构，以及内省的证据。
他还将这种解读与社会层面的警告结合起来。他说，AI 可能会在非常大规模上取代人类劳动。这一判断把关于模型内部世界的更哲学性讨论，与一个非常具体的经济担忧联系起来。即便有人不接受关于机器内在生命的更强说法，劳动力问题本身也已经是现实而紧迫的。
教皇的回应
正如来源材料所描述的，这份通谕采取了更务实也更谨慎的立场。它指出，AI 从来都不是中性的，因为它会带上那些设计、资助、监管和使用它的人所赋予的特征。文件明确拒绝把这些系统误认为人类。它写道，AI 系统只是模仿人类智能的某些功能，并不会从内部体验喜悦、痛苦、工作、友谊或责任。
这与其说是技术层面的反驳，不如说是一种道德和政治上的定位。梵蒂冈更关注的不是模型是否生成了类人的内部表征，而是社会是否会让这些系统侵蚀责任、集中权力，或使有害决策常态化。因此，文件也批评了狭义的“对齐”讨论，并认为，如果所谓更道德的 AI 只是由少数行动者来定义，那这种道德仍然不够。
监管、战争与资源消耗
通谕提出的政策关切范围很广。它指出 AI 的环境成本，提到数据中心巨大的能源和用水需求，并呼吁建立更高效的系统。它还谈到军事用途，坚持认为致命或不可逆的决策不应交由机器，并宣称没有任何算法能够让战争在道德上变得正当。
这些担忧使梵蒂冈的介入牢牢置于主流治理讨论之中。能源消耗、监督、劳动力替代以及自主决策，已经不再是边缘议题。它们正逐渐成为各国政府、宗教机构和民间社会组织评估 AI 部署方式的核心问题。
为何此刻重要
这场活动的重要性不在于梵蒂冈解决了机器意识的问题。它没有。Olah 的发言也没有提供决定性的公开证据，证明语言模型拥有任何类似内在主观生命的东西。此刻真正揭示出来的是，AI 讨论如今如何迅速在技术解读与文明层面的利害之间来回切换。
这种对比尤其有价值，因为它澄清了举证责任。关于模型表现出类似内省行为的说法，或许值得研究，也可能很有意思，但它们并不会消解法律、监督和民主问责的必要性。事实上，如果先进系统甚至对其创造者来说仍然“神秘”，那这种不确定性反而更加强了设立更严格制度护栏的理由，而不是削弱它。
从这个意义上说，通谕的发布带来的价值并不只是共识，而是展示了界线正在何处被划定。前沿 AI 公司或许会继续探索关于模型行为的越来越大胆的解释。与此同时，宗教和公民机构则在传递一个信号：无论这些模型究竟是什么，社会仍然需要让人的责任始终处于完全主导地位。这很可能会成为 AI 治理下一阶段的决定性论题之一。
本文基于 The Decoder 的报道。阅读原文。
Originally published on the-decoder.com