Anthropic、米政府の命令を受けFable 5とMythos 5を停止

Anthropic、政府命令を受けて新しいAIモデル2種をオフライン化

Engadgetが伝えた同社の公開説明によると、Anthropicは6月12日金曜日に米政府の命令を受け、新たに公開したFable 5とMythos 5への顧客アクセスを停止した。この措置は2つのモデルのすべての顧客に影響する一方、Anthropicのその他のモデル群とClaudeチャットボットは引き続き利用できる。

同社によれば、この指示では、米国内外を問わず、さらにAnthropicで働いている場合であっても、外国籍の人へのアクセスを停止することが求められた。Anthropicはこの介入を国家安全保障上の懸念と結び付けたが、政府はその懸念の詳細を明らかにしなかったという。

その結果、急速に動くAI市場で異例かつ重要な出来事が起きた。主要な商用モデルの公開が、国家安全保障命令によって数日以内に中断され、企業は従いながらも回収の根拠には異議を唱えている。

Anthropicが措置の引き金になったと述べたこと

Anthropicは、政府がFable 5を脱獄させる手法について聞いた後に動いたと考えていると述べた。同社の説明では、当局は、名指しされていない主体によって共有された、限定的で普遍的ではない可能性のある脱獄について口頭での証拠を提示したという。Anthropicは24時間以内に詳細を追加で提供するとした。

ここでの違いは重要だ。Anthropicは、どのモデル提供者も脱獄試行に対して完全な耐性を保証することはできず、すべてのモデルはそれぞれに特化した攻撃に脆弱だと主張した。Fable 5に対する同社の方針は、脱獄を狭くするか、作成コストを高くすること、そして監視によって成功した試行を検知して停止することだった。

この枠組みからは、同社がこの問題を特異に危険な失敗の証拠というより、重層防御で管理すべき既知のセキュリティ問題として捉えていることがうかがえる。それでも、直後の実際の結果は、影響を受けたモデルへのアクセスが全面停止されることだった。

Fable 5とMythos 5が重要な理由

この命令が敏感な時期に出されたのは、Anthropicがちょうど6月9日にFableを発表したばかりだったためだ。同社はFableを、Mythosの多くの能力をより広い一般向けに届ける手段として位置づけた。一方でMythosは、Project Glasswingのパートナー向けに限定され、Anthropicの最先端サイバーセキュリティモデルと説明されていた。

Anthropicはまた、Fableの能力が同社がこれまで公開したどのモデルよりも上回ると述べた。Engadgetが引用した同社のテストでは、FableはPokemon FireRedに勝利し、Claudeはそれ以前のPokemon Redに勝てなかった。この比較は表面的には軽妙だが、Fableが能力面で大きな前進を示す証拠として提示されていた。

要するに、これは小規模な製品更新ではなかった。Anthropicの最先端の仕事の一部に結び付いた、新たな旗艦級のリリースだった。それを発売直後に引き下げることは、安全性審査だけでなく、最先端システムが新たなリスクを生み出すとみなされたときに政府がどう介入するのかという問いも突き付ける。

AIガバナンスの試金石

Anthropicは、より強い監督の必要性を警告してきた大手AI企業の中でも、特に声高な存在の一つだった。命令への対応はその立場を反映しているが、重要な但し書きがある。同社は、安全でない展開を政府が止める権限を持つべきだと考えているが、それは透明で、公正で、明確で、技術的事実に基づく法定手続きによってのみだと述べた。

これは注目すべき公的立場だ。Anthropicは命令に従いながら、その実施方法には異議を唱えているからだ。原文に基づけば、同社の異議は監督そのものではなく、潜在的な脱獄についての口頭証拠をきっかけにした回収手続きであり、Anthropicがこうした決定を規律すべきだとする明確な手続き枠組みが欠けている点に向けられている。

したがって、この出来事は一企業と一モデルファミリーを超える。高度なAIシステムに関する未解決の政策課題を浮き彫りにしている。報告された悪用がどの時点で緊急介入を正当化し、政府が停止を強制する前にどの程度の証拠基準を求めるべきなのか、という問題だ。

今後の見通し

現時点でAnthropicの顧客に起きているのは、限定的だが重要な混乱だ。Fable 5とMythos 5は利用できないが、他のモデルとClaudeには影響がない。運用上の影響範囲は限定されるものの、象徴性は大きい。政府命令が新たに公開されたフロンティアモデルの展開に直接入り込み、主要なAI開発者がほぼ即座にアクセスを差し戻さなければならなかった。

利用可能な報道に基づくと、なお不明な点がいくつかある。

• 当局が特定した国家安全保障上の懸念の内容。
• 報じられた脱獄が実際にどの程度広く機能したのか。
• 停止が一時的なものか、それともより長い撤回に発展するのか。
• Anthropicが今後、その悪用手法と安全策についてどのような情報を開示するのか。

これらの詳細が、この出来事を予防的な一時停止として記憶するのか、それとも商用AIリリースへの直接的な国家介入の初期テンプレートとして記憶するのかを決めることになる。どちらにせよ、業界へのメッセージはすでに明確だ。フロンティアモデルの公開は、もはや技術的な準備状況と市場のタイミングだけで左右されない。国家安全保障当局によってリアルタイムで中断されることもある。

これはAI展開の重心を変える。提供者は引き続き性能と安全性で競争できるが、今や報告された脆弱性が内部対応だけでなく外部の執行措置も引き起こしうる環境で運用している。AnthropicによるFable 5とMythos 5の停止は、AI競争の次の段階がモデル能力そのものと同じくらい、ガバナンスの仕組みによって形作られることを示す初期の兆候だ。

この記事はEngadgetの報道に基づいています。元記事を読む。