議論を変えた攻撃
2026年2月28日、米軍による対イラン軍事作戦初日に、トマホーク巡航ミサイルがイラン南部ホルモズガーン州ミーナーブにあるシャジャレ・タイエベ小学校を破壊した。この攻撃で168人が死亡し、そのうち100人以上が12歳未満の子どもだった。学校はイスラム革命防衛隊の海軍施設から100ヤード未満の場所にあり、2013年から2016年の衛星画像で建設が記録された壁で隔てられていた。その壁と、それに囲まれた学校は、標的を生成した情報データベースでは更新されていなかった。
その標的を生成したのは、パランティア・テクノロジーズが開発し、13億ドルのペンタゴン契約の下で運用されているMaven Smart Systemだった。Mavenは衛星画像、ドローン映像、レーダー反射波、シギントを統合し、さらにAnthropicのClaudeモデル上に構築されたAI層で標的を順位付けし、推奨する。作戦開始から最初の24時間で、このシステムは数百件の座標を生成し、1,000回を超える攻撃を支援した。これは米軍史上最大規模のAI支援型標的化の実運用試験だった。そしてミーナーブへの攻撃を生んだ。
何が問題だったのか
先週、議会の監視委員会に説明された公式調査は、失敗の原因をMavenのAIアルゴリズムの欠陥ではなく、古い情報にあると結論づけた。国防情報局の標的データベースは、学校の建設を反映するよう更新されていなかった。Mavenがそのデータベースを照会すると、その間の10年間に新たな構造物が現れたことを示す警告は一切なく、隣接するIRGC施設の座標が返された。ミサイルはその座標に従った。
調査結果を確認した元標的化担当者は、「AIではなく人間に責任がある」という結論は技術的には正しいが、運用上の実態を見落としていると述べる。Maven以前であれば、この種の攻撃の標的化プロセスには、複数段階の人間による審査、付随被害の見積もり、更新済み画像との照合が含まれていたはずだ。Mavenの設計は、作戦初日に求められる量と速度に合わせるため、その工程を圧縮した。以前の制度なら何時間も人間の精査を受けていた標的が、Mavenでは数分しか与えられなかった。
Mavenの精度記録
ミーナーブへの攻撃は、ペンタゴンが通常は公文書から外してきた性能データをめぐる公的な検証を促した。イラン作戦におけるMavenの全体的な標的化精度は約60％と評価されている。つまり、システムが生成した標的のうち約5件に2件には、攻撃結果に影響するほど重大な誤りがあり、その中には民間建造物の誤認も含まれる。これに対し、同じ標的群を同様の時間制約で扱う熟練の人間分析官は、約84％の精度を達成している。
照明条件が悪い、雲が厚い、対抗手段が作動しているといった不利な条件では、Mavenの精度は30％未満に落ちる。標的端末上でオペレーターに表示される信頼スコアは、それに応じて調整されない。2021年に空軍が実施した、以前の標的化AIに関する研究では、現場評価で実際の精度が25％にとどまったにもかかわらず、出力には90％の信頼度が表示されていた。Mavenのオペレーターも、表示上の信頼度と実際の信頼性の間に同様のずれがあると報告している。
存在しなかった制度基盤
この攻撃はまた、AIの誤りを捕捉するために設計された人的監督体制が、作戦開始前にどれほど空洞化していたかも露呈させた。AI支援作戦での民間人被害を最小化するための教義策定と手順審査を担うペンタゴンのCivilian Protection Center of Excellenceは、イラン作戦の18か月前に予算と人員を約90％削減されていた。攻撃結果を審査し、調査が必要な傾向を特定する役割を担うCENTCOMの専任民間人被害評価チームは、10人から1人の将校にまで縮小されていた。
こうした削減は、Mavenを大規模に展開することが、並行する人間審査体制の必要性を減らす効率化だとみなす、より広い制度的姿勢を反映していた。AIが標的化を同時により速く、より正確にし、責任ある運用に必要な人間の作業量を増やすのではなく減らすという前提があったのだ。ミーナーブの結果は、その前提が誤りだったことを示している。
義務化された展開は続く
調査結果にもかかわらず、スティーブ・フェインバーグ国防副長官はMavenを正式な記録プログラムとして制度化する方針を進めており、2026年9月までに全軍種での採用を義務づける命令を出している。事情を知る当局者によれば、その理由は、ミーナーブへの攻撃を含むイラン作戦全体の標的化実績が、システムなしで可能だった水準より依然として改善を示しているからだという。作戦初期の数時間でMavenが可能にした標的化の速さは、脅威環境を踏まえると戦略上の必要性と見なされている。
ペンタゴン内外の批判者は、9月の義務化が、ミーナーブ調査で特定された監督とデータベース更新の問題が解決される前の配備圧力を生むと主張している。戦闘条件下で半自律システムを扱ってきたウクライナのドローン開発者は、攻撃後の声明で、ミーナーブは「半自律戦争におけるおなじみの危険を露呈した。システムは仕様どおりに動作し、その仕様が誤っており、子どもたちが死んだ」と述べた。
改革の姿
ペンタゴン内や防衛政策研究者の間で出回っている提案には、AI生成の標的化に使われる情報データベースのエントリに対する更新期限の義務化が含まれる。30日を超えるエントリは、人間の審査なしに自律的な推奨の対象にはならないというものだ。別の案では、Mavenの信頼度表示を、悪条件下での既知の性能低下を反映した精度範囲の推定値に置き換え、オペレーターが信頼性をより正直に把握できるようにする。作戦前に削減された民間人保護と被害評価の基盤を回復することは、システムを責任ある形で継続運用する前提条件だと広く指摘されている。
当局者によれば、包括的な見直しが終わるまでMavenを停止することは、改革議題に入っていない。システムはすでに複数の戦域にわたる作戦計画に組み込まれており、AI支援標的化を後押しする制度的な勢いは大きい。論点は、AIが標的決定を支援するかどうかではなく、その速度の利点が人間の審査が提供する熟慮を上回ることを許す前に、どのような安全策が必要かということに移っている。
この記事はDefense Newsの報道に基づいています。元の記事を読む。
Originally published on defensenews.com
