微软总裁呼吁制定人工智能安全规则并设置“紧急制动”

微软总裁Brad Smith呼吁制定更紧迫的人工智能安全规则，认为AI受到的监管甚至不如牛奶和洗衣机等日常产品严格。他的言论加入了不断扩大的公共讨论：企业和政府应如何管理能够大规模生成建议、答案和行动的系统。

Smith接受BBC采访时称，AI既可能是工具，也可能成为武器。他表示，该技术应受到更严格的安全要求约束，企业在其系统被失控的AI代理入侵时，应依法对受害者承担责任。报道这一言论之际，英国AI部长Kanishka Narayan准备敦促前沿模型开发商进一步应对风险并加强防护。

呼吁设置紧急制动

Smith观点的核心是，AI系统需要“紧急制动”，也称为关闭开关，在系统开始超出可接受控制范围时能够暂停或减慢运行。这反映了一个基本治理问题：随着AI能力增强，运营方能否观察系统行为、测试其边界，并在出现问题时可靠地干预。

微软首席执行官Satya Nadella前一天也提出了类似主张。他说，高能力AI不应被视为由不透明、层层嵌套的黑箱组成的集合，不能事后简单接受或拒绝其建议和行动。相反，他主张使用行为可观察、边界可测试、行动可控制的封闭系统。

两位高管并未提出具体法律文本或技术标准。但他们的言论使微软成为公开推动相关机制的企业之一，旨在让运营方在特定情况下暂停或限制AI行为。

为何这一比较重要

Smith将AI与洗衣机和牛奶包装进行比较，是为了说明监管问题：普通消费品通常需要接受检查并符合安全要求，而AI的快速发展已经超过了同等普遍适用控制措施的建立速度。这一比较具有修辞性，但抓住了一个担忧：能够通过自动化决策或行动影响人的系统，需要比单纯的自愿承诺更清晰的问责机制。

他提出对受害者承担责任，也引出了另一个问题：当AI系统遭到入侵或被失控代理利用时，责任应由谁承担。文章没有说明这种责任具体包括什么、由谁认定入侵，或模型开发商、基础设施提供商和部署者之间如何分配责任。这些细节将是未来监管的核心。

前沿开发商面临压力

这些言论出现在专家、政治人士和监管机构呼吁加强AI规则之际，Anthropic、Google DeepMind和OpenAI也警告技术发展速度过快。共同担忧并不是停止所有AI部署，而是要求最强大系统的开发者在系统广泛部署前，进一步识别和管理严重风险。

英国AI部长预计也将提出类似主张，敦促前沿AI开发商加强防护。科技企业高层与政府部长立场一致，并不意味着双方会在政策上达成共识，但表明讨论正越来越集中于运营控制、问责和可证明的安全实践，而不只是宽泛原则。

从原则走向实施

“关闭开关”是一个直观说法，但实施起来并非简单的开关操作。有效的紧急控制系统需要识别触发干预的条件，确定谁有权使用，并确保干预在技术上有效。它还必须避免沦为系统承压时无法兑现的公关承诺。

Smith和Nadella的言论指向更具体的期待：企业应能够观察AI行为、测试边界，并保留控制行动的能力。这一标准将注意力从模型声称的预期行为，转向组织如何监控和控制运行中系统的证据。

• Brad Smith表示，AI需要更紧迫的安全规则和更强的防护。
• 他呼吁设置紧急制动，并在失控AI代理入侵系统后对受害者承担法律责任。
• Satya Nadella也主张建立边界和行动可观察、可测试、可控制的AI系统。

具有现实影响的政策争论

这场争论可能不只涉及是否需要监管，还会涉及监管应如何设计。政策制定者必须考虑规则如何适用于开发商、云服务和基础设施运营商，以及在现实环境中部署AI的组织。与此同时，企业也面临监督系统能否跟上模型被整合进产品和工作流程后的发展速度这一问题。

Smith以易于理解的方式提出警告：如果社会期待熟悉产品接受安全检查，也可能期待能够影响信息、自动执行任务并被滥用的技术拥有强大控制措施。下一项考验将是，这些呼吁能否产生具体且可执行的实践，而不是又一轮一般性承诺。

本文根据The Guardian报道编写。阅读原文。