OpenAIの国防総省契約がイラン戦争にどのように及ぶ可能性があるか

広範な影響を持つ契約

OpenAIが米国防総省が機密軍事環境でそのAIシステムを使用することを許可する歴史的契約に達してからまだ2週間余りです。この契約はAI研究者、軍備管理専門家、市民的自由擁護者の間で重大な関心と重大な懸念の両方を生み出しています。米軍がイランに対する軍事作戦に積極的に従事している中—ハルク島への攻撃を含む—契約の影響はほとんどの人が予想していたよりも差し迫ったものになっています。

契約の基本的なパラメータは既知です。OpenAIは機密環境でのモデルの軍事使用を許可し、Sam Altmanは契約が同社の技術を使用した自律兵器の軍事製造を許可していないと公に述べており、さらに取り決めが国内監視アプリケーションを防ぐと主張しています。しかし、契約の実際の条件を検討すると、両方の制限は主に国防総省自体の自律兵器システムに関するガイドラインを通じて実施されていることが明らかになります—これらのガイドラインは国際基準によってはかなり寛容です。

国防総省の自律兵器ガイドラインが実際に何と言っているか

国防総省の自律兵器システムに関する指令は、致命的な自律兵器が射撃決定に対して適切なレベルの人間の判断を維持することを要求しています。この表現の批評家は、それが「適切」が何を意味するかを指定していない、個々の各ターゲッティング決定に人間の承認を必要としない、および人間が前もって各特定の従事を承認することなく前もってターゲッティングカテゴリーまたはストライクパラメータを承認する半自律システムを明示的に許可していることに一貫して指摘しています。

これはOpenAIの公開的なフレーミング—軍が自律兵器を構築することを許可しません—と契約が実際に許可しているもの間に重大なギャップを作成します。国防総省自体の基準によれば、センサデータを処理し、ターゲットを特定し、ショットごとの人間の許可なしにストライキを実行するAIシステムは、人間が前もってターゲッティング規則を承認していた場合、まだ準拠しているとして適格となる可能性があります。OpenAIのモデルが契約に違反せずにそのようなシステムに統合される可能性があるかどうかは公開では明確ではありません。

テストケースとしてのイラン

イランとの進行中の紛争はこれらの質問を仮説的ではなく具体的にします。米軍中央司令部はペルシャ湾地域でストライク作戦を実施し、イランの海上非対称脅威への対応を調整し、複雑な戦場全体で情報収集を管理しています。これらの活動のそれぞれは、OpenAIのモデルが統合される可能性がある各種のAI応用を含みます。

インテリジェンス側では、大規模言語モデルは複数のソースからの情報を急速に統合し、外国語通信を翻訳し、構造化データのパターンを識別することができることが証明されています—すべて軍事インテリジェンス分析に関連するタスク。これらのアプリケーションは商用AIの主要な軍事用途の1つであると広く理解されており、自律ターゲッティングよりも倫理的懸念が少なくなっています。

より懸念されるのは、ターゲット識別またはbattle damage assessmentでの潜在的なアプリケーションです。ここでAIシステムは画像またはシグナルインテリジェンスを処理して、軍事資産を識別し、動きを追跡し、またはストライキの結果を評価できます。これらは、決定支援ツールと自律システム間の区別が曖昧になる領域です—そして、OpenAI契約の特定の言語は、特定のアプリケーションが許可されているかどうかを決定します。

監視制限とその限界

Altmanの契約がOpenAI技術の国内監視への使用を防ぐという主張は、聞こえるより複雑です。説明されているとおりの制限は、国内監視—米国市民に関するデータの収集と分析—に適用されますが、外国インテリジェンス収集には対処していません。軍事作戦の文脈では、敵軍事通信の監視、艦艇の動きの追跡、イラン政権通信の監視はすべて外国インテリジェンス収集として適格であり、国内監視制限の対象にはなりません。

国内監視懸念に焦点を当てている市民的自由擁護者は、軍事指揮官が最も価値があると見つける外国インテリジェンス応用を優先しないかもしれません。しかし、公開通信で両者を混同することは、OpenAIの公開的なフレーミングが契約が有効にする軍事応用の範囲を完全には捉えていないことを示唆しています。

OpenAIの動機が何であるかを見えるようにする

OpenAIは商用AI開発と軍事応用の間の緊張を乗り切る最初の主要技術企業ではありません。Googleは2018年のProject Maven契約をめぐって重大な内部的反対に直面し、最終的にそれを更新することを拒否しました。MicrosoftとAmazonは、ある程度の内部異議にもかかわらず、国防契約を拡大し続けています。

OpenAIが機密軍事市場に参入することを決定したことは、政府AI契約を競争することが企業の長期的位置にとって重要であるという戦略的計算を示唆しています。特に、Anthropic、Google DeepMind、Scale AIやPalantirなどの防衛に焦点を当てたAI企業との競争の中で。国防総省のAI予算は急速に成長しており、早期に信頼できる政府AIパートナーとして自分自身を確立する企業は、有意義な長期的利点を確保する可能性があります。

この記事はMIT Technology Reviewの報道に基づいています。元の記事を読む。