刷一刷新闻推送，听一场科技大会的主题演讲，或者在议会委员会里坐上一下午，你都会遇到同样的警告，只是措辞略有不同：人工智能正飞速逼近一个门槛，一旦越过便再也无法控制，后果可能是灾难性的——甚至可能是存亡级别的。这种叙事框架已成为现代报道的固定套路，在广播片段、评论专栏和小组讨论中反复出现，以至于它与其说是一项发现，不如说是一种情绪。
这种情绪有个问题。正如《新科学家》所指出的，关于AI构成存亡风险的严峻警告铺天盖地，但支撑它们的证据却少之又少。这种错位——一边是言之凿凿，另一边是实证寥寥——本身就值得关注，因为风险的描述方式会塑造政府如何监管、企业如何构建，以及公众决定该恐惧什么。
一个说法，几种截然不同的主张
“AI正危险地走向失控”这一说法在修辞上简洁，在分析上却含糊。它把几类关切捆绑在一起，而这些关切在被理解的程度和可被证实的难易上差异巨大：
- 系统以运营者未曾预期或无法完全解释的方式行事。
- 能力提升的速度快于监督、测试或法律所能消化的程度。
- 国家、犯罪分子或个人对强大模型的蓄意滥用。
- 人类永久失去对其最强机器实质性控制的长期情景。
前两类原则上可以通过日志、审计和事件报告来考察。最后一类则是对尚未到来的未来的预测。当四者被压缩进同一个标题时，附着于最具推测性那一项之上的紧迫感，便被悄然转移到了整个集合——以及任何声称能应对它的政策提案之上。
为何警报跑得比证据快
警告之所以跑在证据前面，有其结构性原因。一个生动、高风险的情景天生比一个谨慎的零结果更具新闻价值。研究人员、倡导团体和实验室都身处奖励戏剧化叙事的激励结构之中：一篇标题带问号、谈灾难的论文所吸引的关注，是记录一次温和能力提升的论文所无法企及的。
预防性推理加剧了这一效应。如果下行风险真的是文明级别的，那么这种论证会说，我们等不起证据再行动。这一逻辑在某些领域或许站得住脚，但它制造了一个修辞陷阱：主张越极端，似乎越不需要支撑，因为要求提供支撑会被重新定性为鲁莽的自满。
可预测性问题
检验关于失控系统的主张确实很难。你无法对人类自主权的终结做对照试验。但验证困难并不等同于危险的证据——而把两者等同起来，正是许多报道出错之处。
证据实际上会是什么样
没有证据不等于证明其不存在，而明确什么才算得上佐证是值得的。对失控主张的有力支撑应包括：有记录的、可复现的系统追求设计者未指定目标的实例；由与叙事存在利益关系的组织之外的独立方对这些发现进行复现；能力与控制之间差距的可测量趋势，而非假设性外推；以及能够对照结果检验、而非不断修订的预测。
如今，公共讨论大多建立在思想实验、类比和情景构建之上。这些工具对于为低概率、高影响事件做准备是有价值的。但它们本身并不构成该事件正在发生的证据。
为何这一区分很重要
把所有AI风险都压缩进单一的存亡框架，会带来实际后果。它可能挤占对那些记录更充分、更可立即应对的危害的关注，因为一个文明终结的情景会压倒任何比较。它也使制定相称的政策更加困难：以物种级灾难为由辩护的措施，用在部署系统中实际出现的平凡故障上，会显得过度。
这一切并不意味着AI是安全的，也不意味着研究极端风险的研究人员在浪费时间。它意味着，警告的自信程度应当与背后证据的强度相匹配——而在存亡问题上，这种自信目前远远跑在了记录前面。
不劳而获的确定性的代价
夸大其词本身也有危害。那些从未兑现为可观察事件的预测，会侵蚀公众对专业知识的普遍信任，使在有充分证据的问题真正出现时更难动员关注。把公信力押在迫在眉睫的末日上的机构，可能会在时间表落空时发现这份公信力已被耗尽。
当然，也存在镜像式的风险：因为最响亮的声音夸大了危险，就全盘否定真实的危险。负责任的立场既不是条件反射式的恐慌，也不是条件反射式的怀疑，而是相称——让信念与底层工作的质量相匹配。
如何解读下一个警告
当下一个令人警觉的AI头条到来时，几个问题有助于把分析与氛围区分开来：
- 所主张的具体机制是什么，如果为真，它能否被观察到？
- 这是有记录的发现，还是预测性的情景？
- 谁从这种叙事中获益，是否有独立研究予以证实？
- 该主张的表述方式是否有可能被证明为错？
若一贯地加以运用，这些问题并不能裁定先进AI是否终有一天会构成灾难性威胁。它们只是恢复了那些最戏剧化的主张一直被允许跳过的普通证据标准。正如《新科学家》所暗示的，故事并不是AI肯定安全——而是所断言的内容与所证明的内容之间的差距已变得异常之大，而这个差距本身就值得报道。
本文基于《新科学家》的报道。阅读原文。
Originally published on newscientist.com