OpenAIが2028年までに完全自動化されたAI研究者の実現を目指す

なぜ今か：推論モデルのブレークスルー

自律的な研究能力への更新された野心は、いわゆる推論モデルの出現に根ざしています。推論モデルは単に出力を生成するためだけでなく、問題をステップバイステップで解決し、行き止まりに達したときにバックトラックするようにトレーニングされたAIシステムです。推論モデルにより、AIシステムは拡張自律作業において定性的に改善されました。より長い問題解決セッション全体で一貫したコンテキストを維持し、以前の言語モデルができなかった方法で自身のエラーをキャッチして修正できます。

OpenAIはまた、その訓練パイプラインに複雑なタスク例（数学とプログラミング競技の難しいパズル）を供給してきました。これは、モデルが非常に大きなコンテキストを管理し、問題をサブタスクに分解し、拡張期間にわたって効果的な推論を維持する方法を学ぶ必要があります。Pachocklは、このトレーニングアプローチが連続するモデル世代間の一般的な能力改善と組み合わせられたため、会社が現在の開発軌道内で自律的な研究が達成可能な閾値にもたらされたと信じています。

最近の結果は、Pachocklの楽観主義に実証的な根拠を与えてくれました。OpenAIの研究者はCodexを力づける模型GPT-5を使用して、以前に未解決の数学問題の新しい解決策を発見し、生物学と物理学の特定のパズルで進展を遂行しています。これらの成果は狭いものですが、モデルが既知の知識を要約するだけでなく、真に斬新な科学的貢献を生成できることを実証しています。

フロンティアでの安全上の問題

Pachocklは、彼が追求しているビジョンに固有のリスクを避けませんでした。最小限の人的監督で実行する完全自律的なAI研究者は、定性的に新しいタイプのAI機能を表します。これは合成生物学や高度な材料などの分野で科学的洞察を生成できる機能であり、その出力は武器化されたり悪用されたりする可能性があります。Chain-of-thoughtモニタリング（AIシステムの推論プロセスが検査可能にされる）は、Pachocklが特定した主要な安全アプローチですが、彼はそれが不完全であることを認めました。

線がどこに引かれるべきかについて難しい質問があります、とPachocklはMIT Technology Reviewに語りました。政府はOpenAIだけでなく、これらの線がどこにあるかを理解する必要があると思います。外部統治が必要であるという認識は重要であり、業界全体の認識を反映しており、自律的研究能力フロンティアはまだ存在しない規制枠組みを必要とします。

競争状況と業界への影響

OpenAIの発表は、複数の戦線でAnthropicとGoogle DeepMindからの競争が激しくなっている中で来ています。Anthropicはエンタープライズの配備で大きな進展を遂行してきており、DeepMindはAlphaFoldなどのプログラムを通じて影響力のある科学AIの研究を生成し続けています。自律的なAI研究者をOpenAIの次の定義上の課題として配置することは、部分的には競争戦略です。競争相手が空間を定義できる前に、最も野心的で重要な能力フロンティアへの請求権を主張しています。

より広い科学コミュニティにとって、研究を自律的に進めることができるAIシステムの見通しは、科学労働の未来、出版規範、知識財産、および発見の信用配分に関する深刻な質問を提起します。AIエージェントが独立して新しい数学的証明を発見し、新しい治療標的を特定した場合、人間の科学的成果の周りに構築された学術出版、助成金資金、および研究キャリアのエコシステムは大幅な再考が必要になります。OpenAIの2028年のタイムラインは、これらの質問は科学コミュニティの多くが準備しているよりも早く答える必要があることを示唆しています。

この記事はMIT Technology Reviewの報告に基づいています。元の記事を読む。