一项影响深远的交易
自OpenAI与美国国防部达成历史性协议允许其在机密军事环境中使用AI系统以来,已经过了两周多的时间。该交易在AI研究人员、军备控制专家和民权倡导者中引起了重大关注和担忧。由于美国军队正在积极参与对伊朗的军事行动——包括对卡尔格岛的打击——这个协议的时间安排使其影响比大多数人预期的要更加迫切。
该交易的基本参数是众所周知的:OpenAI将允许军事在机密环境中使用其模型,Sam Altman曾公开声称该协议不允许军方使用该公司技术构建autonomous weapons,并进一步声称该安排防止了国内监控应用。但对协议实际条款的审查表明,两项限制主要都是通过五角大楼自身关于autonomous weapons系统的指导方针来执行的——而这些指导方针本身以国际标准衡量相当宽松。
五角大楼的Autonomous Weapons指导方针实际上说了什么
国防部关于Autonomous Weapons Systems的指令要求lethal autonomous weapons在杀伤决策中保持适当水平的人类判断。这一措辞的批评人士一直指出,它没有具体说明适当是什么,不要求人类批准每项单独的targeting决策,并明确允许semi-autonomous系统,其中人类可以提前批准targeting rules或strike parameters而无需批准每一次具体的engagement。
这在OpenAI的公开表述——我们不会让军方建造autonomous weapons——和协议实际允许的内容之间造成了重大差距。根据五角大楼自身的标准,一个处理sensor data、识别targets并执行strikes而无需per-shot人类授权的AI系统,如果人类提前批准了targeting rules,仍然可能符合规范。OpenAI的模型是否可以集成到这样的系统中而不违反协议在公开场合并不清楚。
伊朗作为试验案例
与伊朗的持续冲突使这些问题从假设变为具体。美国中央司令部正在波斯湾地区进行strike operations,协调对伊朗海军asymmetric threats的反应,并在复杂的battlespace中管理intelligence collection。这些活动中的每一项都涉及OpenAI模型可能被集成的AI应用类别。
在intelligence方面,large language models已证明能够迅速综合多个来源的信息、翻译外语通讯以及识别结构化数据中的模式——这些都是与military intelligence analysis相关的任务。这些应用被广泛认为是commercial AI的主要军事用途之一,比autonomous targeting引发的伦理关注较少。
更令人担忧的是在target identification或battle damage assessment中的潜在应用,其中AI系统可以处理imagery或signals intelligence来识别military assets、追踪movements或评估strike results。这些是decision support tool和autonomous system之间的区别变得模糊的领域——以及OpenAI协议的具体措辞将决定给定应用是否被允许的领域。
监控限制及其局限
Altman关于协议防止OpenAI技术用于domestic surveillance的声称比其听起来更复杂。如所述的限制适用于domestic surveillance——对美国公民的数据收集和分析——但不涉及foreign intelligence collection。在军事行动的背景下,对adversary military communications的surveillance、vessel movements的追踪以及对伊朗政权通讯的monitoring都将被视为foreign intelligence collection,不会受到domestic surveillance限制的保护。
专注于domestic surveillance关切的民权倡导者可能不会优先考虑military commanders认为最有价值的foreign intelligence应用。但在公开沟通中将两者混为一谈表明OpenAI的公开表述可能没有完全反映该交易所实现的军事应用范围。
OpenAI的动机似乎是什么
OpenAI不是第一家应对commercial AI开发与military application之间紧张关系的主要科技公司。Google在2018年因其Project Maven合同面临重大内部反对,最终拒绝续签。Microsoft和Amazon尽管遭到一些内部异议,但继续扩展国防合同。
OpenAI进入classified military market的决定表明战略考量认为竞争政府AI合同对公司的长期地位很重要,特别是在与Anthropic、Google DeepMind以及Scale AI和Palantir等国防focused AI公司竞争时。五角大楼的AI预算正在迅速增长,早期确立自己作为trusted government AI partner的公司可能会获得重大的长期优势。
本文基于MIT Technology Review的报道。阅读原文。
