一份带有意外文学信号的AI通谕
教宗良十四世关于人工智能的首部通谕注定会受到关注。这封名为Magnifica humanitas的文书，讨论了教宗所称在AI时代守护人的位格，并警告一种技术官僚逻辑可能把受造界和人类都降格为效率工具。仅凭这一论点，这份文本就已经具有重要意义。
让它成为更广泛文化事件的，是一个出人意料的引用：J.R.R.托尔金。良在援引《魔戒》中的甘道夫时，不只是把一个著名文学名字塞进神学文件里。他是在为AI建立一个道德框架，这个框架与科技行业一些最有影响力人物所塑造的自我形象形成了尖锐对立。
批评针对的是权力，而不只是工具
据Wired报道，良的通谕延续了他在教宗任内第一年始终强调的主题：对“技术能力自动证明其扩张正当性”这一观念保持怀疑。他明确警告“技术官僚范式日益主导”的趋势，并把AI时刻与工业革命所带来的早期剧变联系起来。
这一比较很重要，因为它把讨论从产品新奇性转向劳动、尊严和政治权力。这一思想脉络也呼应了良十三世。1891年的通谕在工业变革背景下捍卫了工人的权利。实质上，良十四世是在主张，判断AI不应只看它能优化什么，还应看它重组了人类生活中的什么。
这本身就已对主流的前沿AI话语构成挑战。那种话语常常把速度、规模和能力增长描绘成天然的文明进步。通谕质疑的是，底层激励究竟真的是为了人的繁荣，还是为了利润与控制的集中。
为什么托尔金如此有力
托尔金的引用给这一批评增添了文化锋芒。良引用甘道夫关于掌控的边界，以及在自己的时代和地点中善尽职责的义务。放在语境中看，这一引文强调的是克制、管护与道德责任，而不是支配。
这种解读与一些强势科技人物公开借用托尔金意象的方式形成张力。正如Wired指出的，彼得·蒂尔把Palantir命名自传说中使用的“远观石”，埃隆·马斯克也曾借用这一神话。批评者长期认为，这类引用往往剥离了托尔金作品的反权力精神，把它重新包装成精英野心的品牌素材。
良对托尔金的使用则恰好相反。它把故事拉回到谦逊、服务，以及对权力所伴随腐化的抵抗。无论是否出于本意，这都让教会关于AI的警示，能够放进一场更大的争论中去理解：究竟是谁有权定义技术进步的意义。
宗教文本进入世俗的AI争论
宗教对技术辩论的介入很容易被低估，尤其是在一个由工程师、投资者和政策制定者主导的领域。但这份通谕进入了一场真实而活跃的争论：AI应主要被治理为创新引擎，还是应被视为对劳动、文化与人类自主性有深远影响的力量。
良以人的尊严来框定AI，强调这场对话不能只靠性能指标，或关于未来疗法与效率提升的承诺来结束。这份通谕追问的是，这些系统周围正在建构怎样的社会秩序，以及谁会在其中变得可被牺牲。
这也让这份文件超越了天主教受众。“技术官僚范式”之所以能引发共鸣，是因为它点出了许多AI繁荣批评者已经怀疑的事：这项技术并不是进入一个中性的世界，而是进入了本来就倾向于用速度、规模和攫取来衡量价值的制度。
为什么这一刻重要
良这次介入最有意思的地方，不在于教宗引用了奇幻文学，而在于这个引用确实奏效了。它把一段复杂的伦理论证连接到一个许多科技领袖早已借用的象征宇宙，然后反过来用它们自己的语言框住了对他们不利的道德解读。
因此，这份通谕扩展了AI怀疑者可用的文化词汇。它暗示，对AI最深层的担忧并不仅仅是技术或经济层面的，而是更古典意义上的文明问题，涉及品格、责任、边界，以及拒绝把能力与智慧混为一谈。
这并不能终结AI争论，这份通谕也不太可能单靠自身改变大型实验室的方向。但它确实表明，对行业的批评不再局限于监管文件和劳动诉求。它正通过神学、文学传统，以及关于当为效率而建的系统开始重新定义其内部人类时会发生什么的长期争论，被重新表述出来。
本文依据Wired的报道。阅读原文。
Originally published on wired.com
