防御 AI 公司的新浪潮
人工智能与军事能力的结合在历史上产生了两类公司：将 AI 功能整合到现有系统中的大型防御承包商，以及向军事客户授权双用途工具的商业科技公司。如今，第三类公司正在崭露头角——这些初创公司从根本上构建专门为军事应用设计的 AI 系统，其架构、训练数据和运营方案是商业市场既不需要也不能容忍的。
Defense One 对这个初创生态的分析揭示了一群公司，他们得出的结论是军事的 AI 需求与商业应用的差异足够大，足以证明专门为目的设计的解决方案而非现有商业技术的改编是必要的。这些公司的论点是，军事行动中极端的可靠性要求、分类数据环境、对抗性条件和独特的决策背景要求 AI 系统从一开始就将这些要求作为首要原则而非事后想法来设计。
这一群体出现的时机反映了多个因素的汇合：大型 AI 模型在复杂领域中的能力证明、信息处理和决策支持在现代战争中的重要性不断提升、流向防御技术的风险投资不断增加，以及自 2020 年代初期防御创新举措开始成果显现以来，监管和采购环境已变得对非传统防御承包商更具接纳度。
为什么军事 AI 不同
在军事背景下对 AI 系统的要求与商业应用的差异远不止于增量式的改进。商业 AI 的故障模式可用客户投诉、品牌损害和收入损失来衡量。军事 AI 故障可能导致生命丧失、任务受损，或在最坏的情况下与盟国或对手产生战略危机。这种后果的不对称性要求对可靠性、验证和运营安全采取与商业部署规范不同的方法。
数据是特别重要的差异点。军事 AI 最有价值的训练数据——通信拦截、监视影像、运营日志、威胁数据库——是分类信息，不能用于训练商业模型。构建军事专用 AI 的公司必须要么构建自己的分类训练管道，在政府数据环境中工作，要么开发可以有效地用非分类数据训练并用分类数据微调的架构，而不会破坏监管机构禁止的安全边界。
对抗性鲁棒性要求也不同。商业 AI 通常针对真实用户产生的输入分布进行评估。军事 AI 必须对积极探寻漏洞、试图欺骗向模型提供输入的传感器和数据源并投入资源理解和击败威胁其行动的 AI 系统的对手具有鲁棒性。这要求商业 AI 安全测试无法充分应对的从根本上不同的评估和红队测试要求。
主要初创公司及其方法
新兴景观包括专注于军事 AI 堆栈不同层次的公司。有些公司正在构建情报分析平台，帮助分析师处理和综合大量影像、信号和开源数据，以生成比单独工作的人类分析师更快的可操作情报评估。另一些公司正在开发运营规划的决策支持系统——帮助指挥官模拟行动方案、评估物流约束和预测对手应对的工具。
一个特别活跃的领域是自主系统协调——管理无人飞行器、地面机器人或海上自主车辆群的 AI 平台，使小团队能在通信可能降级或中断的争议环境中控制大量系统。这些协调系统需要对不完全信息、通信中断和对抗性电子战争具有鲁棒性的 AI，这些条件在商业中没有对应物。
物流和供应链优化代表了另一个优先领域。军事物流极其复杂，管理人员、装备、弹药、燃料和维护零件在全球网络中的流动，条件范围从和平时期的军营运营到活跃冲突。能够优化这些流动、预期短缺并适应中断的 AI 系统具有实质价值，军事客户越来越愿意通过旨在加快采购的采购机制为其付费。
Pentagon 的 AI 采购演变
国防部在过去几年中大幅改进了其 AI 采购方法，从定制的项目记录方法转向更适合比传统防御采购周期更快迭代的软件密集型 AI 能力的灵活采购机制。首席数字和 AI 办公室在开发合同工具和标准方面发挥了中心作用，使非传统供应商能够有效地竞争防御 AI 工作。
联合作战云能力结合不断扩大的分类云计算环境的可用性，降低了初创公司在分类设置中运营的基础设施障碍。公司不再需要构建自己的分类计算环境来为军事客户开发和部署 AI——他们可以利用政府云基础设施，该基础设施提供所需的安全控制，同时使 AI 开发所需的现代软件开发实践成为可能。
对防御 AI 的风险投资流量大幅增加，部分原因是 Russia 入侵 Ukraine 后社会对防御投资态度的改变，以及更广泛的科技行业对国家安全任务观点的重新校准。以前出于原则或商业偏好回避防御技术的投资者已重新考虑，专业防御聚焦的风险基金已出现，不仅提供资本而且提供防御市场导航的运营专业知识。
伦理维度和国际竞争
军事专用 AI 提出了商业 AI 话题（主要关注偏见、隐私和劳动力替代）未完全涉及的伦理问题。AI 在致命决策中的适当角色——自主系统在多大程度上应该被允许在没有人类授权的情况下参与目标——仍然是 US 内部和尚未产生具有约束力规则的国际论坛中的活跃政策辩论。
与此同时，对手国家正在投入大量资源进行军事 AI 而不受表征 US 和盟国辩论的伦理审议的束缚。China 的军事 AI 项目规模庞大，据报道受到美国政策目前对致命自主武器规定的人在环路要求约束较少。这种不对称性造成了竞争压力以更快地前进，防御官员公开承认这一点，同时保持对负责任 AI 发展的承诺。
构建军事专用 AI 的初创公司正在处于这些压力的交叉点——需要快速开发足够有能力的系统以在近期竞争中相关，同时在安全、可解释性和负责任部署要求的人类监督功能中建立。他们如何驾驭这一紧张关系，以及他们的政府客户如何评估这一关系，将塑造接下来数年 AI 启用战争的轨迹。
本文基于 Defense One 的报道。阅读原文。
Originally published on defenseone.com
