据预计，英国人工智能大臣Kanishka Narayan将在讲话中表示，英国正准备强化网络防御，同时要求开发最强大人工智能系统的企业对其安全承担更大责任。
这一信息值得注意，因为它将两个相互关联的问题置于同一议程上：能力不断增强的AI模型安全，以及其周围国家系统的韧性。根据Narayan在伦敦西部演讲前公布的内容，英国政府认为，不能仅依靠科技公司自行监管其模型。
呼吁超越自愿性保障
预计Narayan将主张，前沿AI开发商需要采取更多措施确保系统安全。这一表态出现在国际社会普遍担忧高度先进模型的能力、滥用风险和安全问题之际。
这也显示出英国AI治理公共讨论中更加强硬的一面。构建先进系统的企业一直把安全测试、内部控制和外部审查作为负责任开发的重要组成部分。但大臣计划发表的评论表明，政府认为仅由行业主导的措施并不足够。
根据目前可获得的信息，这并不等于一套具体的新法律制度，也不是一份详细的技术要求清单。但它确立了明确的政策立场：管理前沿AI风险的责任不能完全由竞相开发这些系统的企业承担。
这一重点很重要，因为相关系统并不是普通的消费软件。先进AI模型可以用于科研、企业运营、编程、安全工作和公共服务。它们的潜在价值巨大，但如果模型遭到滥用、控制不足或被敌对行为者获取，后果同样严重。
模型窃取也是安全讨论的一部分
此次演讲之前，英国AI安全研究所前首席科学家Geoffrey Irving曾警告，敌对国家可能窃取尚未发布的尖端模型。Irving向《卫报》表示，AI公司并没有足以阻止敌对国家获取这些模型的安全能力。
这一担忧不同于人们熟悉的AI系统会生成错误、偏见或有害输出的问题。它关注模型本身这一高价值资产：底层能力、训练工作以及可能对竞争对手、犯罪团伙或国家支持的运营者有价值的专业知识。
这种框架让前沿AI更接近战略技术保护领域。如果一个强大的未发布模型遭到入侵，后果可能超出单一公司的知识产权范围。安全研究人员和政策制定者担心，被盗系统可能在没有原开发者设置的保障措施下被研究、复制、改造或部署。
Irving提到OpenAI曾发生的一起事件，网络安全研究人员称其潜在访问范围相当广泛。相关工作是在OpenAI一项奖励道德黑客测试系统的计划下进行的。OpenAI表示，公司采用加密和持续监控等多重措施防止模型被窃取。
这一事件说明，关于安全和防护的公开说法需要谨慎区分。经过授权的安全测试不同于敌对入侵，但测试可以揭示防御需要改进的地方，尤其是在AI系统及其基础设施影响日益重大的情况下。
基础设施属于国家能力的一部分
预计Narayan还将提出，英国需要建设更多自己的AI基础设施。这一论点把讨论从模型开发商的规则扩展到了更广范围。
基础设施可以包括在大规模开发和运行AI所需的计算能力、数据中心系统、专业硬件、网络防护和技术专长。缺乏这些基础的国家，塑造重要系统的建设、测试和安全方式的能力可能更弱，也可能更加依赖少数海外公司获取关键能力。
因此，政府的做法似乎把产业能力与安全政策结合起来。建设国内能力不仅被视为经济目标，也被视为减少依赖、提高韧性的战略组成部分。
这种平衡并不容易。只强调安全可能拖慢有益创新，只强调快速部署又可能让机构暴露在风险之下。计划中的演讲指向一种试图兼顾两者的努力：鼓励AI能力发展，同时让保护和监管成为更明确的公共责任。
具有国内后果的国际问题
人们将关注大臣的演讲是否暗示英国可能支持围绕共同AI安全标准开展国际协调。《卫报》报道，包括芬兰、法国、德国、澳大利亚、新加坡和阿联酋在内的多个国家领导人已经签署呼吁各国协调此类标准的声明。
国际协调本身充满挑战。各国的监管制度、商业优先事项和国家安全观念不同。AI发展也在快速推进，使得设计能够随着技术能力变化而持续有效的规则十分困难。
但AI的跨境属性意味着单边行动并不完整。模型开发商在国际范围内运营，计算基础设施可以分布在不同司法管辖区，网络威胁也不会停在国界之外。对评估、披露和防护建立共同预期，可能让最薄弱的保障不至于成为默认标准。
对英国而言，眼下最重要的是政治信号。政府正在把网络防御、AI安全和国内技术能力视为相互关联的问题，而不是彼此分离的政策文件。这一做法能否奏效，取决于后续行动：对开发商提出具体安全预期，投资于英国所称需要的基础设施，并与面对同样快速变化风险的伙伴合作。
目前，这项计划中的宣布凸显了语气上的简单转变。随着前沿AI变得更强大，问题不再只是这些系统能做什么，也包括谁负责保护它们、测试它们，并确保它们带来的收益不会超过围绕它们的安全保障。
本文基于《卫报》的报道。阅读原文。
Originally published on theguardian.com
