冷戦時代の道具、新しいテクノロジー時代へ

U.S. Department of DefenseとAnthropicの関係は決裂寸前に達した。国防長官Pete HegsethはAnthropicに厳しい最後通告を出した。金曜日までにAI技術の無制限の軍事利用を認めるか、さもなければPentagonのサプライチェーンから完全に追放されるかである。

この脅迫はWashingtonで火曜日に開かれた緊張した会合で提起された。Hegsethは情報源が秘密作業のためにAIモデルへの無制限のアクセスを軍に与えることを拒否することについての対立的な議論として説明したものとして、Anthropic CEO Dario AmodeiをWashingtonに召喚した。最も物議を醸し出した要求の中には、国内監視能力と直接的な人間の監視なしの致命的な自律ミッションの規定が含まれていた。

おそらく最も注目すべきだったのは、Hegsethによる防衛生産法の発動である。これは大統領に国内産業が国家防衛優先事項に対応するよう強制する広範な権限を与える冷戦時代の法定である。もともと工場が戦時中の生産にシフトできるように設計されたこの法律は、AI企業にその技術を譲渡するよう強制するために使用されたことはなく、アメリカのテクノロジーポリシーの歴史においてこの脅迫は前代未聞となっている。

プレッシャー下のAnthropicの安全第一アプローチ

AnthropicはAI業界において、安全研究と責任あるデプロイメントの強調を通じ、自社の立場を区別し続けてきた。元OpenAI研究者のDarioとDaniela Amodeiによって設立されたこの企業は、constitutional AIの概念を中心にそのブランドを構築してきた。これは悪用を防ぐために設計された組み込みの倫理的ガードレールを備えたシステムである。

この安全第一の哲学は、軍事作戦全体でのAI統合に対するPentagonの拡大する要求との対立にAnthropicを置いた。Anthropicがすべての防衛契約に反対しているわけではないが、有意な人間管理なしの自律的致命的力と国内人口を対象とする大量監視プログラムを含む特定のアプリケーションについて、厳しい線引きを行っている。

同社の立場はAI業界内の倫理的境界の引き方に関する広い議論を反映している。OpenAIやGoogleを含む他の主要なAI企業も軍事契約と取り組んできたが、ほとんどは防衛機関との関与条件の交渉により進んでいる。Anthropicのより硬い立場は、人工知能を武器化するためのWashingtonの次第に攻撃的な推し進めの中で、それを避雷針にしてしまった。

防衛生産法：異常な武器

防衛生産法は1950年、朝鮮戦争初期に法律として成立した。その本来の目的はシンプルだった。アメリカ産業が軍事ニーズをサポートするための生産に迅速に転換できることを保証することである。数十年の間に、これは半導体製造からパンデミック時の医療サプライチェーンまで、あらゆる目的で発動されてきた。

しかし、防衛生産法をAI企業にそのモデルへのアクセスを認めるよう強制するために適用することは、根本的に異なる種類の介入を表している。物理的な商品とは異なり、AIモデルは機能とリスクが深く絡み合っている知的財産である。企業にそのテクノロジーから安全ガードレールを削除するよう強制することは、従来の調達紛争をはるかに超える質問を提起する。

法律専門家は、防衛生産法のこのような使用は直ちに法廷での異議にさらされる可能性が高いと指摘している。この法律は生産とサプライチェーン優先順位のために設計されたものであり、企業の技術をどのように展開するかについての内部安全ポリシーを上書きするためではない。これを発動するための任何の試みは、技術セクター全体に遠く及ぶ影響を与える先例を設定する可能性がある。

産業の反応とより広い意味

この膠着状態はSilicon Valleyに衝撃波を送った。他のAI企業は密接に監視している。政府がプライベートAIセクターとどのように相互作用するかについて新しい規範を確立する可能性があることを知っている。複数の業界指導者は、Pentagonの要求に従うことで、AI悪用による大惨事を防ぐために不可欠と考えられる安全研究が損なわれる可能性があると懸念を表明している。

議会の反応は混合されている。Armed Services委員会のタカ派はHegsethの立場を支持し、国家安全保障が企業の安全嗜好よりも優先されるべきだと主張している。特にSenate Commerce Committeeのメンバーを含む他のメンバーは、AI企業に対して強制的に行動することは才能と革新を海外に駆り立て、最終的にアメリカの競争力を弱める可能性があると警告している。

European Unionも気づいている。EU当局者はこの対立をAI統制に対する彼ら自身のより規制的なアプローチをサポートする証拠として指摘しており、シニア外交官が、このエピソードはAI安全決定を政治任命者の気まぐれに任せるリスクを強調していることに注目している。

次に何が起こるか

金曜日のデッドラインが大きく迫っている。Anthropicが従うことを拒否した場合、Hegsethは防衛調達チャネルから企業を削除するという脅迫を実行し、重大な収入源を遮断し、他のAI企業にメッセージを送ることができる。防衛生産法のオプションはテーブルの上に残っているが、不確実な法的結果をもたらす、はるかにドラマティックなエスカレーションを示すだろう。

Anthropicにとって、この選択は生死を分かつ問題である。降伏することは、その企業のアイデンティティを定義する安全原則を損なう可能性があり、特に企業の倫理的なコミットメントのために参加した従業員との信頼を侵食する。抵抗することは、企業に政府契約だけでなく、AI規制がWashingtonで積極的に形成されている時点で政治的好意を失わせる可能性がある。

結果がどうであれ、この対立は一つのことを明確にした。AI企業と政府の間の蜜月は終わった。AI政策での丁寧な協力の時代は、利害関係が四半期ごとの収益ではなく、人類の歴史の中で最も強力なテクノロジーがどのように統制されるかについての根本的な質問で測定される厳しい交渉の道を譲った。

この記事はArs Technicaのレポートに基づいています。オリジナル記事を読む。