OpenAIはAGIを、技術だけでなく政治的・経済的な問題として位置づける

OpenAIは、CEOのSam Altmanによる新しい原則声明を通じて、先端人工知能の将来についてより広い主張を打ち出した。決定的な論点は単なる性能ではなく、ガバナンス、アクセス、そして権力の分配だという。

同社は、汎用人工知能が人類全体の利益になるようにすることが自らの使命であると述べている。今回の投稿でAltmanは、OpenAIの取り組みを導く5つの原則を示しており、公開された文章は特に、民主化、エンパワーメント、そして万人の繁栄に重点を置いている。

この声明は、価値観の文書であると同時に、ポジショニングの表明でもある。AIシステムがより高性能になり、公的生活の中にさらに深く組み込まれるにつれ、研究開発組織は、どう構築するかだけでなく、それらのシステムがどのような社会秩序を支えるべきだと考えているのかまで説明するよう、ますます強い圧力にさらされている。

民主化が最上位に置かれている

投稿における最初の原則は民主化だ。OpenAIは、超知能が少数の企業に権力を集中させる未来に抗いたいとしている。その代わりに、能力をより分散して配分し、AIに関する重要な決定はAI研究所だけでなく、民主的なプロセスと平等主義的な原則を通じて行われるべきだと主張している。

この枠組みが重要なのは、現在のAIサイクルを特徴づける緊張のひとつの中にOpenAIを位置づけるからだ。最先端モデルには、並外れた計算資源、人材、資本が必要になる。そうした現実は、開発を自然と比較的少数の組織に集中させる。OpenAIの声明はこのリスクを率直に認め、その対応として政治的原則を提示している。広いアクセスには、より広い意思決定参加が伴わなければならないというものだ。

その言葉は理想主義的だが、同時に戦略的でもある。最前線のシステムを開発する企業が、未来は最前線の企業だけで決められるべきではないと明言しているのだ。

エンパワーメントは製品の試金石として示される

2つ目の原則はエンパワーメントだ。OpenAIは、AIが人々の目標達成、学習、野心の追求、そしてより充実した生活を助け、社会全体にも恩恵をもたらすと考えているという。同社は、その約束を実現するには、ユーザーがより価値の高いタスクを実行できる製品が必要だと主張する。

この部分が注目されるのは、哲学と製品の実用性が非常に密接に結びつけられているからだ。OpenAIはエンパワーメントを抽象的な道徳的利益として説明しているのではない。運用上の意味で定義している。つまり、ユーザーはこれらのシステムで意味のある仕事を確実に進められるべきだということだ。

投稿は自律性も強調している。世界は多様であり、人々のニーズも異なるとし、OpenAIは、害を最小化する形で展開が管理される限り、ユーザーにはサービスの使い方について幅広い裁量が与えられるべきだと主張している。

この組み合わせは、AI政策におけるおなじみの均衡を示している。同社はユーザーの自由と能力を広げたい一方で、リスクがなお不確実または重大だと考える領域では制限を維持したいのだ。Altmanは、不確実な状況では慎重側に倒れ、より多くの証拠が得られた場合にのみ制約を緩める必要があると書いている。