サム・アルトマン氏、AI開発のペース配分を呼びかけつつ急速な進歩を約束

アルトマン氏、フロンティアAIの「停止」ではなく「ペース配分」を強調

サム・アルトマン氏は、高度な人工知能の開発を減速させるべきだという主張を再び強めている。しかし同時に、その慎重さを「停止」と誤解されないようにすることにも同じくらい強い決意を示している。9月14日付の発言で、OpenAIの最高経営責任者（CEO）は、米国全土で高度なAIを統治する単一の統一された安全フレームワークを求めると同時に、業界は議員がそれを実現するのを待つべきではないと主張した。彼が取っているバランスは微妙だ。規制は急速な進歩を補完するものであり、進歩の代替ではない。

彼の主張の中心にあるのは、「ペース配分」と「停止」の区別だ。アルトマン氏は、開発は「引き続き」急速であり続けると認めた。ただし、能力の向上を抑制なく追求した場合にあり得るほど急速ではない。彼の枠組みでは、減速は野心の犠牲ではなく、支払う価値のあるコストである。

主要なトレーニング実行の前に安全プロトコルを導入

OpenAIは、この哲学の一部を社内で正式化する動きに出た。同社は現在、能力の大幅な飛躍をもたらす可能性のあるトレーニング実行を行う前に、明示的な安全プロトコルを設定している。これは、リスクがモデルに組み込まれる前に捕捉することを意図した手続き上の措置だ。アルトマン氏は、競合する開発者たちが「我々のアプローチから学び、独自のものを提案する」ことを望むと述べ、OpenAIの社内慣行を義務ではなく模範として位置づけた。

この言葉の選び方は示唆的だ。競合他社に同一のチェックリストを採用するよう要求するのではなく、アルトマン氏は、ラボがスケールアップの前にリスクをどのように評価するかを公に定義するという、より広範な規範を促しているように見える。こうした自発的措置が実際に重みを持つのか、それとも単に文書を作成するだけなのかは、このアプローチ全体に付きまとう未解決の疑問として残っている。

競争圧力と無謀さの対比

アルトマン氏は、競争上の緊急性と不注意の間に明確な線を引いた。米国の競争圧力がどれほど大きくても、無謀さを正当化したり、能力がそれを整合・監視するために設計されたシステムを追い越すことを許したりすべきではないと主張した。彼はペース配分はコストを支払う価値が十分にあると述べた。

この声明は、アラインメントと監視を生の能力と同等の位置に置いており、これはフロンティアラボのメッセージに繰り返し現れるテーマとなっている。また、規制当局や研究者が長年指摘してきたリスク、すなわち強力なシステムを構築する能力が、それを理解し制御する能力よりも速く到来し得るということを暗に認めている。

注目すべき合意の週末

アルトマン氏の立場は孤立して生まれたものではない。週末にかけて、AnthropicのCEOダリオ・アモデイ氏、DeepMindのデミス・ハサビス氏、MicrosoftのCEOサティア・ナデラ氏、イーロン・マスク氏など、業界の著名人たちが、より厳格に管理されたAI開発への支持を表明した。この一致は、彼らが競合であり、場合によっては公然たるライバルであり、政策で一致することはほとんどないだけに注目に値する。

競合するラボの経営者、主要なソフトウェア・クラウドベンダー、独立した億万長者が、数日のうちに同じ一般的な方向性を支持するとき、それは議論がフロンティアリスクを管理すべきかどうかから、どのように管理するかに移ったことを示唆している。今や意見の相違は、メカニズム、執行、そして誰がテーブルに着くかにある。

自主規制の協議とカルテルへの懸念

メカニズムこそが議論がより鋭くなる点だ。The Informationの報道によれば、OpenAI、Anthropic、Googleは、独立した監視機関を通じた自主規制について数カ月間協議してきた。建前上は単純だ。最大手のラボを立法を待たずに共通基準に従わせる外部組織である。

しかし誰もがそう解釈しているわけではない。Cohereを含む小規模プレイヤーは、こうした取り決めがカルテルへと硬化する可能性を懸念している。既存企業が新規参入者が従わなければならないルールを書き、安全という名目のもとで参入障壁を実質的に高める構造だ。これは業界主導のガバナンスに対するよくある批判であり、誰が許容可能なリスクを定義するのかという核心に触れている。

業界が議員を待たない理由

アルトマン氏の全国的なフレームワークの提案は、実務的な現実を反映している。AI開発は議員が議論している間も止まらない。彼の見解では、単一の国家基準が、同じ企業に相反する義務を課す可能性のある州レベルの規則の寄せ集めよりも望ましい。

しかし彼はまた、国際的な調整には米国政府の支援が必要であることも明確にした。これは、コンピュート・ガバナンスから国境を越えた安全コミットメントまで、最も重大な問題は民間企業だけでは解決できないという認識である。その結果はハイブリッドな姿勢だ。業界が先に動き、政府が追いつき、最終的には両者が収束することが期待されている。

次に注目すべきこと

• OpenAI、Anthropic、Googleが数カ月にわたる協議を正式な独立監視機関へと具体化するかどうか。
• Cohereのような小規模ラボが意味のある代表権を得るのか、それとも既存企業が議題を支配するのか。
• 全国的なフレームワーク提案が、既存および提案中の州レベルの規則と比べてどう展開するか。
• 発表されたトレーニング前の安全プロトコルが業界共通の規範になるのか、それともOpenAIの社内慣行にとどまるのか。

今のところ、アルトマン氏のメッセージは、誰か他の人が定義する前に減速の条件を定義しようとする試みとして読める。野心はそのままに、調整されているのはアクセルである。

この記事はThe Decoderの報道に基づいています。元の記事を読む。