ペンタゴン、AI企業に機密データでのトレーニングを許可する計画

金庫を開く

米国防総省は、MIT Technology Reviewが引用する防衛当局によると、人工知能企業が機密軍事データでモデルをトレーニングすることを許可する計画を立てています。この取り組みが実施された場合、米国の歴史において敏感な政府情報へのAIアクセス拡大の中で最も重要なものの一つを表すことになります — そして、得られた能力の利点が、機密データを商業AI システムおよびそれらを開発する企業に暴露するリスクを上回るという意図的な賭けです。

その当局者は開発中のフレームワークを説明しました。このフレームワークは、審査された AI企業が安全なコンピューティング環境内で機密データセットにアクセスし、そのデータを使用して特定の防衛アプリケーション向けのモデルをトレーニングおよび微調整することを許可します。機密データは政府管理のインフラストラクチャ内に留まります — AI企業はデータをオフサイトに持ち出しません — ただし、彼らの要員およびモデルトレーニングパイプラインは通常、適切なセキュリティクリアランスを持つ要員に制限された情報へのアクセスを許可されます。

ペンタゴンがこれを望む理由

軍事的根拠は単純です。防衛に最も価値のあるAIアプリケーションは、軍だけが所有するデータへのアクセスが必要です。衛星画像の特定の軍事ハードウェアを認識するためのAIモデルをトレーニングすること、信号インテリジェンスを分析すること、機密ソースからインテリジェンスを合成すること、または機密作戦のロジスティクスを最適化することは、これらの特定のドメインを反映するトレーニングデータが必要です — そしてそのデータは、定義上、機密です。

公開されているデータでトレーニングされた商業AI モデルは多くの防衛アプリケーションに役立ちますが、分類が最も重要な能力ギャップを作成するドメインでは根本的に制限されています。オープンソース衛星画像でトレーニングされたモデルは、機密上空インテリジェンスでトレーニングされたモデルのパフォーマンスに決してマッチしません。機密トレーニングデータへのペンタゴンの関心は、商業AI開発が政府のみが管理するデータへのアクセスなしにこれらのギャップを埋められないことの認識を反映しています。

リスク

このアプローチに関連するリスクは大きく、複数のカテゴリーにまたがっています。最も明白なのは、内部脅威とデータ流出です。AI企業の要員とシステムに機密データへのアクセスを許可すると、意図的な窃盗、偶然の漏洩、またはAI企業のインフラストラクチャへの敵対的な侵害を通じた潜在的な漏洩の可能性が拡大します。

2番目のリスクは、モデル反転およびメンバーシップ推論攻撃です — トレーニング済みモデルへのアクセスを持つ敵が、それをトレーニングするために使用されたデータに関する情報を抽出できる手法。機密データがAIモデルをトレーニングするために使用され、そのモデルまたはその出力が敵対者が相互作用できるコンテキストで後で展開される場合、モデルの学習された表現から機密情報を回復するための潜在的なパスがあります。

第3に、AI企業自身のセキュリティ態勢についての重要な質問があります。最大のAI開発者でさえセキュリティインシデントを経験しており、彼らの開発環境は機密国家セキュリティ情報を処理するために必要な標準で構築されていません。このギャップを埋めると、この取り組みが加速するように設計された能力開発を遅らせる可能性のあるコストと複雑性が追加されます。

競争上の必然性

このプッシュは真の緊急性の文脈で来ています。Chinaの軍事AI プログラムは急速に進んでおり、中国の国家支援AI開発はPLAデータにアクセスでき、商業企業をUS機密システムから分離する法的および制度的障壁はありません。ペンタゴンは、商業AI能力と機密データでトレーニングされたAI能力の間のギャップを戦略的な脆弱性と見なしています — より許容的なデータ共有フレームワークが対処するように意図されているものです。

イニシアチブは実装ではなく開発段階であり、その最終的な形式は法的レビュー、分類当局の決定、および参加企業とのセキュリティ協定の交渉に依存します。しかし、旅の方向は明確です。ペンタゴンは、機密軍事データと商業AI開発の間の境界が戦略的競争相手に対するAI優位性を維持するサービスでより透過性になるモデルに向かって移行しています。

この記事はMIT Technology Reviewのレポートに基づいています。元の記事を読む。