AnthropicのAIテストで機密システムの脆弱性が見つかったと報道

Anthropicのテスト報告がAI安全保障をめぐる議論に緊急性を与える

Fast Companyの新しい報道は、匿名の米政府関係者と上院公聴会での発言を引用し、Anthropicの高度なAIモデルの1つが、試験演習の中で米政府の極めて機微なコンピューターシステムの脆弱性を特定したと伝えている。事実であれば、この出来事は、最先端AIシステムを国家安全保障の文脈でどのように評価し、統制し、展開すべきかをめぐる議論において重要な節目となる。

報道によると、Anthropicは米情報機関と協力し、同社のMythosモデルを使ったテストを実施した。関係者は、モデルが数時間以内に特定の脆弱性を見つけたと述べた。同じ情報源はまた、弱点を素早く見つけたことと、その間に実際にそれを悪用したことは別だと説明した。この区別は重要だ。システムへの侵入口を見つけることと、実際に侵入を行うことは同じではない。それでも、この主張が注目されるのは、高度なAIシステムが、政府の中でも最も機密性の高いデジタル環境に対して、すでに高速な脆弱性発見に役立つ可能性を示しているからだ。

報道はこの演習を、AnthropicのProject Glasswingと呼ばれる取り組みに結びつけている。これは、公共の安全、国家安全保障、経済に深刻なリスクをもたらす重要ソフトウェアを守るため、大企業やその他の組織を結集する試みだと説明されている。この枠組みは、このテストをより広い文脈に置く。AI企業と政府はもはや、サイバーセキュリティのリスクを仮説上の将来課題として語っていない。能力の高いモデルが、欠陥の発見、システムの弱点の把握、そして攻撃的なサイバー作業の一部に必要な専門知識の低減に要する時間を圧縮しうるという可能性を前提に、実務プロセスを構築している。

何が確認され、何が未確認か

この報道で最も注意が必要なのは情報源だ。中核の主張は、機密または非常に機微な事項について話す匿名の関係者に由来する。Fast Companyはまた、民主党のマーク・ワーナー上院議員が6月11日の上院銀行・住宅・都市問題委員会の公聴会でこの演習に言及し、このツールは「数週間ではなく数時間で」ほぼすべての機密システムに侵入したと述べ、その表現を国家安全保障局と米サイバー軍の司令官であるJoshua Rudd将軍に帰したと報じている。

しかし、NSAもAnthropicも報道の詳細を公に確認していない。記事によると、NSAはメールでのコメントを拒否し、Anthropicの広報担当者もコメントを控えた。これにより公開記録は異例の状態にある。懸念の存在自体は公聴会での言及によって裏付けられているように見える一方、詳細は依然として部分的にしか明らかになっていない。報じられた結果を、機密ネットワーク内で何が起きたかの完全に確定した説明として扱うのは時期尚早だ。

それでも、情報源が不十分な報道であっても、この話が重要なのは、現在進行中のより広い政策転換と一致しているからだ。各国政府は、最先端のAIモデルをますますデュアルユースのシステムとみなしている。これらは研究、コーディング、分析を支援できる一方で、広く利用可能になりすぎたり、検証が甘かったりすると、サイバー攻撃、生物安全保障上のリスク、偽情報工作、戦略的不安定性を増幅させる可能性がある。

なぜ時期が重要なのか

報じられた演習は、Anthropicとトランプ政権の緊張が目に見えて高まっている時期に起きた。Fast Companyによれば、Anthropicは米軍が同社のAIシステムをどのように使用するかについて懸念を示しており、一方で政権はAnthropicの一部モデルの使用を制限している。6月初め、政権はAnthropicに対し、最新モデルのFable 5とMythos 5を外国籍の人物が使用しないようにすることを求める指令を出した。Anthropicはこれに対応するため、すべての顧客向けにモデルを停止した一方で、自社が指摘した安全上の問題に照らして政府の措置は正当化されないと考えているとも述べた。

この一連の動きは、現在のAI時代を特徴づける矛盾の一つを浮き彫りにしている。政府は、前線の研究機関に防御の検証、脆弱性の可視化、重要インフラの強化を求めている。同時に、その同じ政府は、敵対勢力が同じモデルを利用したり、危険な能力が拡散したりすることへの懸念から、同じモデルへのアクセスを制限する姿勢を強めている。その結果、AI企業は戦略的パートナーであると同時に、規制対象のリスク要因でもあるという綱引きの関係に置かれている。

報道で触れられているホワイトハウスの措置は、さらに別の層を加える。Anthropicへの指令の10日前、ドナルド・トランプ大統領は、最先端AIシステムがもたらす国家安全保障上のリスクを、公開前最大1か月のあいだ連邦政府が審査する枠組みを定める大統領令に署名した。開発者の関与は任意と説明されている。これは、モデル公開後の対応だけでなく、公開前にスクリーニング体制を構築しようとしていることを示している。

サイバーセキュリティは最先端モデルのストレステストになりつつある

この報道のより深い意味は、1社や1件のテスト結果に限られない。最先端モデルの能力を測る現実世界の指標の中で、サイバーセキュリティが最も明確なものの1つであることを示している。設定を素早く解析し、弱点を見つけ、攻撃の連鎖を推論できるモデルは、強力な防御支援ツールになりうる。同じ能力は、悪用されれば攻撃作戦を強化することもできる。

だからこそ、こうした主張は輸出管理、アクセス制限、評価基準に影響を与える可能性が高い。政策立案者が、あるモデルがサイバー侵入作業の速度や規模を実質的に向上させると考えれば、より厳格な公開管理や、より厳密な事前評価を求めるだろう。企業が、政府が初期の発見に過剰反応するかもしれないと考えれば、正当な利用や国際競争力を制限する広範な規制に反発するだろう。

Fast Companyはまた、サイバーセキュリティの幹部グループが政権に対し、その指令を撤回するよう求めたと報じている。理由は、その措置が米国の敵対勢力を利する可能性があるというものだ。この主張は、AI統治における別の断層を示している。アクセス制限は一部のリスクを減らせる一方で、信頼できる研究者、企業、同盟国の機関への防御能力の普及を遅らせる可能性もある。サイバー政策において、ツールを制限することは決して無償ではない。

次に注目すべき点

次に重要なのは、報じられたテスト記録の一部でも公に裏付けられるかどうかだ。もし省庁、議員、またはAnthropicがさらなる詳細を公表すれば、議論はすぐに推測から前例へと移る可能性がある。それはAnthropicだけでなく、他のモデル開発者がレッドチーム演習をどのように設計し、危険な能力をどう分類し、大規模リリース前に政府とどう交渉するかにも影響するだろう。

現時点では、この報道は完全な公開記録というより、信頼できるシグナルとして位置づけられる。とはいえ、その限定的な形でも、AI安全保障に関する問題が理論から実運用のテストへとどれほど急速に移っているかを示している。中心的な論点は、もはや高度なモデルがサイバーセキュリティにおいて重要かどうかではない。政府と研究機関がその能力をどう測定し、リスクをどう封じ込め、次世代システムが到来する前に誰にアクセスを与えるかをどう決めるかだ。

この記事はFast Companyの報道に基づいています。元記事を読む。