Anthropic、米国の命令を受け先進モデルを停止へ

Anthropic、米国の命令でモデルを急停止せざるを得ないと説明

Anthropicは、米政府が外国人のアクセスを停止するよう同社に命じたことを受け、最も先進的なAIモデルを無効化すると述べた。これは提供された報道によるもので、対象は同社の Fable 5 と Mythos 5 であり、Anthropic はこれを国家安全保障上の懸念に結びついた即時のコンプライアンス対応だと位置づけた。

この動きは、政府によるAI規制のアプローチが大きく強化されていることを示す。米国の制限は長年、主に先進AIの構築に必要なチップ、半導体製造装置、その他のインフラに焦点を当ててきた。ソースが示すように、この命令は、誰がアクセスできるかを制限することで、統制の線をモデルそのものに近づけている。

Anthropicが受けたとする説明

ソース文によると、Anthropic は、Fable 5 と Mythos 5 へのすべての外国人のアクセスを停止するよう求める輸出管理命令を受けたと述べた。同社は、その命令の背後にある国家安全保障上の懸念について、具体的な詳細は与えられなかったとしている。

Anthropic によれば、政府は、Fable 5 がソフトウェアの脆弱性を特定するために使われるのを防ぐための安全策の少なくとも1つを、回避、つまり「ジェイルブレイク」する方法があると考えているという。同社の理解では、強力な能力を持つモデルが、ソフトウェアシステムの悪用可能な弱点を見つけるのをユーザーに手助けするよう操作される懸念がある。

同社はこの根拠に反論した。提供された報道では、Anthropic は、潜在的に限定的で普遍的ではないジェイルブレイクについての口頭の証拠しか与えられていないと述べた。そうした発見だけでは、非常に多くの人が利用する商用モデルを回収する理由にはならないと主張した。

AI輸出政策の転換点

この対立が重要なのは、AI規制の新たな前線を示しているからだ。輸出管理は伝統的に、先進チップ、露光装置、関連ツールといった物理的・技術的なサプライチェーンに焦点を当ててきた。AIサービスそのものへのアクセスを制限することは、異なる、そして潜在的にはより大きな影響を持つ仕組みであり、特にクラウドアクセスによってハードウェアを輸送せずに世界中でモデルを利用できる場合はなおさらである。

最前線のモデルへのアクセスを国籍ベースで制限できるようになれば、AI企業は、防衛やデュアルユース産業ですでに一般的な輸出審査制度に似た、新たなコンプライアンス負担に直面する可能性がある。ソースは、Anthropic が影響を受ける利用者を技術的にどう分けるかまでは明らかにしていないが、同社の声明は、不確実性の中でより狭い展開を試みるのではなく、広範な停止を選んだことを示している。

Anthropic とワシントンの緊張

この命令は、すでに緊張していた Anthropic と米政府の関係のさなかにも出された。ソースによると、今年初めに関係が悪化したのは、Anthropic が米軍による自国内監視や完全自律兵器システムへの自社AIモデルの使用を認めなかったためだという。これに対し政府は、同社をサプライチェーンのブラックリストに載せ、その措置は年内後半に発効する予定だった。

この背景は重要だ。というのも、最新の指示は、単独の技術的意見の相違以上のものに見えるからだ。AI企業が国家権力とどう協力すべきか、許容される防衛利用の境界をどこに置くべきか、そして政府が民間開発のモデルにどれだけの影響力を行使すべきかをめぐる、より広い争いの中で起きている。

報道はまた、Anthropic とトランプ政権関係者の間の争いに、最近は緩和の兆しが見られていたと指摘している。今回の命令はその印象に反し、根本的な対立が解決していないことを示唆している。

ジェイルブレイク問題が重要な理由

Anthropic は、この問題を、政府がジェイルブレイクのリスクをどう評価すべきかをめぐる争いとして位置づけた。提供された説明によれば、同社は数日前に、受け入れがたいリスクを持つモデルをブロックできるようにすることを含め、米国によるAI監督の強化を求めていた。しかし、金曜日の措置は、同社が原則的かつ証拠に基づくプロセスだと考えるものに従っていないと述べた。

この違いは中心的だ。AI企業は、一定の監督は避けられないとますます受け入れており、中にはそれを積極的に支持するところもある。より難しいのは、どの閾値が介入を発動させるのかという点だ。もし限定的な安全策の回避だけで主要な商用モデルへの国際アクセスを止めるのに十分なら、企業は、ほぼあらゆる先進システムが突然の制限に脆弱だと主張するかもしれない。一方で規制当局は、その可能性自体を、早期に動く理由と見るだろう。

業界全体へのシグナル

報じられた命令は、すべてのフロンティアAI開発者にとって注視対象となるだろう。追加の技術的詳細がなくても、国家安全保障が関係すると当局が考えた場合、米国がモデルへのアクセスに直接介入する準備があることを示している。単一プラットフォームで世界中の利用者にサービスを提供する事業者にとって、新たな不確実性を生む。

Anthropic にとって、直ちに生じる結果は業務面と評判面の混乱だ。業界全体にとっては、この事例が先例になる可能性がある。政府がAIハードウェアの管理から、サービス形態で提供されるAI能力の管理へと移れば、企業はより厳格な審査、より明確な展開レベル、そしてより防御可能な安全性の主張を必要とするだろう。提供された報道は、その移行がすでに始まっている可能性を示している。

この記事は The Guardian の報道に基づいています。元記事を読む。