AGIをめぐる議論が能力から統制へ移る中、OpenAIが5つの統治原則を示す

OpenAIはAGIを、技術だけでなく政治的・経済的な問題として位置づける

OpenAIは、CEOのSam Altmanによる新しい原則声明を通じて、先端人工知能の将来についてより広い主張を打ち出した。決定的な論点は単なる性能ではなく、ガバナンス、アクセス、そして権力の分配だという。

同社は、汎用人工知能が人類全体の利益になるようにすることが自らの使命であると述べている。今回の投稿でAltmanは、OpenAIの取り組みを導く5つの原則を示しており、公開された文章は特に、民主化、エンパワーメント、そして万人の繁栄に重点を置いている。

この声明は、価値観の文書であると同時に、ポジショニングの表明でもある。AIシステムがより高性能になり、公的生活の中にさらに深く組み込まれるにつれ、研究開発組織は、どう構築するかだけでなく、それらのシステムがどのような社会秩序を支えるべきだと考えているのかまで説明するよう、ますます強い圧力にさらされている。

民主化が最上位に置かれている

投稿における最初の原則は民主化だ。OpenAIは、超知能が少数の企業に権力を集中させる未来に抗いたいとしている。その代わりに、能力をより分散して配分し、AIに関する重要な決定はAI研究所だけでなく、民主的なプロセスと平等主義的な原則を通じて行われるべきだと主張している。

この枠組みが重要なのは、現在のAIサイクルを特徴づける緊張のひとつの中にOpenAIを位置づけるからだ。最先端モデルには、並外れた計算資源、人材、資本が必要になる。そうした現実は、開発を自然と比較的少数の組織に集中させる。OpenAIの声明はこのリスクを率直に認め、その対応として政治的原則を提示している。広いアクセスには、より広い意思決定参加が伴わなければならないというものだ。

その言葉は理想主義的だが、同時に戦略的でもある。最前線のシステムを開発する企業が、未来は最前線の企業だけで決められるべきではないと明言しているのだ。

エンパワーメントは製品の試金石として示される

2つ目の原則はエンパワーメントだ。OpenAIは、AIが人々の目標達成、学習、野心の追求、そしてより充実した生活を助け、社会全体にも恩恵をもたらすと考えているという。同社は、その約束を実現するには、ユーザーがより価値の高いタスクを実行できる製品が必要だと主張する。

この部分が注目されるのは、哲学と製品の実用性が非常に密接に結びつけられているからだ。OpenAIはエンパワーメントを抽象的な道徳的利益として説明しているのではない。運用上の意味で定義している。つまり、ユーザーはこれらのシステムで意味のある仕事を確実に進められるべきだということだ。

投稿は自律性も強調している。世界は多様であり、人々のニーズも異なるとし、OpenAIは、害を最小化する形で展開が管理される限り、ユーザーにはサービスの使い方について幅広い裁量が与えられるべきだと主張している。

この組み合わせは、AI政策におけるおなじみの均衡を示している。同社はユーザーの自由と能力を広げたい一方で、リスクがなお不確実または重大だと考える領域では制限を維持したいのだ。Altmanは、不確実な状況では慎重側に倒れ、より多くの証拠が得られた場合にのみ制約を緩める必要があると書いている。

万人の繁栄が議論をソフトウェアの外へ広げる

公開されている本文で挙げられている3つ目の原則は万人の繁栄だ。OpenAIは、誰もが素晴らしい人生を送れる未来を望んでいると述べ、使いやすく相当な計算能力を持つAIシステムをすべての人の手に届けることが、人々が価値を生み出す新しい方法を見つける助けになると主張している。

この点は、消費者向けツールや企業の生産性から、経済へと議論を広げる。OpenAIは、先端AIを単なる新しいソフトウェアのカテゴリーではなく、機会、富の創出、社会的流動性に影響する汎用システムとして捉えていることを示している。

ここで示されている限られた本文だけでも、論理の構造は明確だ。同社はAIを、個人の主体性を大きく拡張しうる力として提示しているが、それはアクセスが広く、利益がインフラを所有する機関の周辺に狭く集まらない場合に限られる。

高まる監視への応答

この原則の投稿は、AI企業が政府、研究者、労働団体、クリエイター、市民社会から増大する問いを受けている時期に出された。そうした問いは、もはやモデルの安全性やベンチマーク性能だけに限られない。市場集中、公共的説明責任、社会的影響、そして広範な市民生活に影響する技術に対して民間主体が事実上のルールを定めることの正当性まで含まれている。

OpenAIの応答は、この技術の上振れ余地は非常に大きい一方で、結果は保証されていないと認めることだ。投稿は、未来はすべて悪いわけでも、すべて良いわけでもないとし、今下す判断が良い面を最大化する助けになると述べている。これは現実的な言い回しだ。単純な必然論と単純な破局論の両方を退け、代わりに統治の課題として捉えている。

同時に、この声明は、どの大手AI企業にとっても解決が難しい緊張関係を浮き彫りにしている。分散化を支持すると宣言することは、希少な計算資源と大規模な資本要件で特徴づけられる分野で、それを構造的に実現することよりははるかに簡単だ。同様に、民主的な関与を主張することは、その権限をどの機関がどのように行使すべきかを明示することより簡単である。

この声明が重要な理由

原則文書は政策論争に決着をつけるものではない。しかし、それによって企業が何に対して責任を負いたいのか、そして自社の役割を公衆にどう理解してほしいのかは分かる。この件では、OpenAIは読者に対し、自社の自己認識は強力なモデルを作ること以上のものだと伝えている。先端AIが社会に届く条件そのものを形づくる存在として見られたいのだ。

そのため、この投稿は一般的な内容にとどまっていても重要だ。同社は公に3つの結びついた主張を打ち出している。AIは広く分配されるべきであり、人間の能力を高めるべきであり、広く共有される繁栄を支えるべきだというものだ。これらの主張は今後、OpenAIの製品、制限、提携、政治的選択によって評価されることになる。

AGIをめぐる議論が成熟するにつれ、この種の声明は業界の物語の中でより大きな位置を占めるようになる可能性が高い。依然として見出しを動かすのは能力だ。しかし、その能力を進歩とみなすかどうかを左右するのは、ますます統制、アクセス、正当性になっている。

この記事は OpenAI の報道に基づいています。原文を読む。