防衛AIの新しい領域
米国防総省は、商用の人工知能企業が、特別に設計された安全環境内で分類された軍事データでモデルを訓練することを許可するための計画を開発しています。これまで、ペンタゴンと契約するAI企業は、既存のモデルで推論を行うために分類情報にアクセスすることができましたが、その情報を訓練資料として使用してモデルを実際に改善および適応させることはできませんでした。この区別はまもなく変わることになります。
この動きは、商用AI能力と米国の国家安全保障の分類領域との統合の大幅な拡大を表しています。実装されれば、軍が配備するAIシステムが実際の運用データで カスタマイズされ、ペンタゴンが実際に実行する情報分析、ロジスティクス、計画、および標的化タスクに特別に適応したモデルを生成することが可能になります。
分類データでの訓練が重要な理由
分類入力に対して汎用AIモデルを使用することと、分類データでモデルを訓練することの違いは実質的です。公開インターネットデータで訓練された汎用モデルは多くのタスクで十分に機能する可能性がありますが、配備時にシステムが遭遇する実際のデータ型での訓練から生じる専門化された語彙、文脈的理解、およびドメイン固有の推論が不足します。
分類された軍事報告書、衛星画像分析、信号インテリジェンス、およびロジスティクスデータで訓練されたモデルは、それらのドメインに特別に調整された能力を開発するでしょう。軍事報告形式の構造、脅威評価の語彙、インテリジェンス製品のパターンを理解するでしょう—これらのすべてが、公開データのみで訓練されたモデルには見えません。
このタイプのドメイン固有のファイン チューニングは、商用AIデプロイメントの標準的な慣行です。医療記録でファイン チューニングされたモデルは、汎用モデルよりも臨床タスクでより良く機能します。ペンタゴンは国家安全保障の領域で同じ利点を求めています。
安全な飛び地アプローチ
提案されたメカニズムは、物理的に安全なコンピューティング環境を作成することを含みます—しばしば飛び地と呼ばれます—分類データをAI訓練インフラに持ってくることができるところです。AI企業エンジニアとそのシステムは、分類要件を満たす監督条件の下で、これらの施設内で操作されます。
これは技術的にも物流的にも複雑です。大規模なAIモデルの訓練には膨大な計算インフラが必要であり、機密情報データの取り扱いに必要なセキュリティレベルでそのインフラを複製することには、ハードウェア調達と厳格な物理的およびサイバーセキュリティ基準を満たす施設の確立の両方が含まれます。
ペンタゴンによってすでに配備されているAI企業
この発表のコンテキストは、ペンタゴンと主要な商用AI開発者間のAIパートナーシップのより広い拡大です。ペンタゴン最高技術責任者のEmil Michaelは、OpenAIのシステムが過去数週間以内にすでに国防総省内に配備されており、Google Geminiがまもなく続く予定であることを確認しました。
私たちは過去数週間でOpenAIを既に配備しており、Geminiから始まるこれらの他をここに配備するつもりです、とMichaelは述べており、数年前には想像しにくかったAI統合のペースを確認しています。慎重なパイロットプログラムから運用展開への移行は、ペンタゴンが商用大規模言語モデルを実験的な好奇心ではなく、真に有用なツールと見なしていることを示唆しています。
分類データでの訓練を許可する計画は、このデプロイメント基盤に基づいています。すでにDoDシステム内で動作しているモデルを持つ企業は、それらのシステムが遭遇するデータで訓練されたより特殊化されたバージョンを開発するための自然な候補です。
政策および監督の問題
この計画は、省が対処する必要のある重要な監督上の質問を提起します。訓練データと結果のモデルを誰が制御するのか。分類訓練が完了した後、AIシステムはどうなるのか—それらは政府システム内に留まるのか、それともモデルが学んだ要素が商用バージョンに移行する可能性があるのか。安全な施設内でAI企業のエンジニアはどのように検証および監督されるのか。
AI開発と国家安全保障技術政策の両方にますます注意を払ってきた議会は、この取り組みを精査する可能性が高いです。商用AIと分類された国家安全保障データの組み合わせは、データセキュリティ、政府情報への企業アクセス、および軍事AIシステムを統制する説明責任構造に関する懸念に触れる微妙な領域です。
ペンタゴンが計画を進めているという事実は、これらの問題を管理できるという信頼を示唆しており、ドメイン適応AIの運用上の利点は、必要なインフラストラクチャと監督枠組みを構築する努力を正当化するのに十分に説得力があると見なされています。
この記事はThe Decoderのレポートに基づいています。元の記事を読む。
Originally published on the-decoder.com
