OpenAI zielt auf einen vollständig automatisierten KI-Forscher bis 2028 ab

Warum jetzt: Der Durchbruch des Reasoning-Modells

Die erneuerte Ambition für autonome Forschungsfähigkeit ist in der Entstehung sogenannter Reasoning-Modelle verwurzelt – KI-Systeme, die trainiert wurden, nicht nur Ergebnisse zu produzieren, sondern Probleme Schritt für Schritt zu durchdenken und sich zurückzuziehen, wenn sie auf Sackgassen stoßen. Reasoning-Modelle haben KI-Systeme bei erweiterter autonomer Arbeit qualitativ verbessert: Sie können einen kohärenten Kontext über längere Problemlösungssitzungen hinweg beibehalten und ihre eigenen Fehler auf Weise erfassen und korrigieren, die frühere Sprachmodelle nicht konnten.

OpenAI hat auch seine Trainingspipelines mit komplexen Aufgabenbeispielen – schwierigen Rätseln aus Mathematik- und Programmierwettbewerben – gespeist, die es Modellen ermöglichen, zu lernen, wie man mit sehr großen Kontexten umgeht, Probleme in Teilaufgaben zerlegt und effektives Denken über erweiterte Zeiträume aufrechterhält. Pachocki glaubt, dass dieser Trainingsansatz, kombiniert mit allgemeinen Capability-Verbesserungen zwischen aufeinanderfolgenden Modellgenerationen, das Unternehmen an die Schwelle gebracht hat, wo autonome Forschung innerhalb der aktuellen Entwicklungsbahn erreichbar ist.

Neuere Ergebnisse haben Pachocklís Optimismus empirisch gestützt. OpenAI-Forscher haben GPT-5, das Modell, das Codex antreibt, verwendet, um neue Lösungen für zuvor ungelöste mathematische Probleme zu entdecken und Fortschritte bei spezifischen Rätseln in Biologie und Physik zu erzielen – Leistungen, die, obwohl begrenzt, zeigen, dass das Modell echte neue wissenschaftliche Beiträge generieren kann, anstatt lediglich bestehendes Wissen zusammenzufassen.

Das Sicherheitsproblem an der Grenze

Pachocki machte keinen Hehl aus den Risiken, die in der Vision stecken, die er verfolgt. Ein vollständig autonomer KI-Forscher, der mit minimaler menschlicher Überwachung läuft, stellt eine qualitativ neue Art von KI-Fähigkeit dar – eine, die wissenschaftliche Erkenntnisse in Bereichen wie synthetischer Biologie oder fortgeschrittene Materialien generieren könnte, wo die Ergebnisse bewaffnet oder missbraucht werden könnten. Chain-of-Thought-Überwachung, bei der die Reasoning-Prozesse von KI-Systemen überprüfbar gemacht werden, ist der primäre Sicherheitsansatz, den Pachocki identifizierte, räumte jedoch ein, dass dieser unvollkommen ist.

Es gibt schwierige Fragen darüber, wo die Grenzen gezogen werden sollten, sagte Pachocki gegenüber MIT Technology Review. Ich denke, nicht nur OpenAI, sondern auch Regierungen müssen herausfinden, wo diese Grenzen sind. Die Anerkennung, dass externe Governance notwendig sein wird, ist bedeutsam und reflektiert das breitere Verständnis der Industrie, dass die autonome Forschungsfähigkeitsgrenze Regulierungsrahmen erfordert, die noch nicht existieren.

Wettbewerbskontext und Branchenauswirkungen

OpenAIs Ankündigung kommt zu einer Zeit, in der das Unternehmen mit intensiviertem Wettbewerb von Anthropic und Google DeepMind an mehreren Fronten konfrontiert ist. Anthropic hat erhebliche Fortschritte bei Enterprise-KI-Implementierungen gemacht, und DeepMind produziert weiterhin einflussreiche wissenschaftliche KI-Forschung durch Programme wie AlphaFold. Die Positionierung des autonomen KI-Forschers als OpenAIs nächste definierende Herausforderung ist teilweise eine Wettbewerbsstrategie – die Beanspruchung der ehrgeizigsten und folgenreichsten Capability-Grenze, bevor Konkurrenten den Raum definieren können.

Für die breitere wissenschaftliche Gemeinschaft wirft die Aussicht auf KI-Systeme, die Forschung autonom vorantreiben können, tiefe Fragen über die Zukunft wissenschaftlicher Arbeit, Veröffentlichungsnormen, geistiges Eigentum und die Zuweisung von Verdiensten für Entdeckungen auf. Wenn ein KI-Agent unabhängig einen neuen mathematischen Beweis entdeckt oder ein neuartiges therapeutisches Ziel identifiziert, wird das Ökosystem der akademischen Veröffentlichung, Förderfinanzierung und Forschungskarrieren rund um menschliche wissenschaftliche Leistungen einer grundlegenden Überprüfung bedürfen. OpenAIs Zeitrahmen von 2028 deutet darauf hin, dass diese Fragen möglicherweise früher beantwortet werden müssen, als sich viele in der wissenschaftlichen Gemeinschaft darauf vorbereiten.

Dieser Artikel basiert auf Berichten von MIT Technology Review. Lesen Sie den Originalartikel.