OpenAI-Streit um Millennium-Beweis wirft schwierige Fragen zum Vertrauen in KI-Forschung auf

Wenn ein KI-Labor ein Millennium-Problem verfolgt

Der Konflikt begann mit einer außergewöhnlichen Behauptung: Ein KI-System habe einen Beweis der Navier-Stokes-Gleichungen erbracht, eines der sieben Millennium-Probleme des Clay Mathematics Institute und eine Herausforderung, die Mathematikern seit Jahrzehnten widersteht. Die Episode hätte ein Meilenstein für KI-gestützte Forschung sein sollen. Stattdessen ist sie zu einer warnenden Geschichte darüber geworden, wie Ideen zwischen unabhängigen Forschern und den mächtigen Laboren wandern, die sowohl die Algorithmen als auch die Plattformen kontrollieren, die zu ihrer Entwicklung genutzt werden.

Alle Hauptparteien haben nun öffentliche Stellungnahmen abgegeben, und die Darstellungen unterscheiden sich erheblich. Im Zentrum steht der Mathematiker Tristan Buckmaster, der OpenAI beschuldigt, sich nach Kenntnis eines Forschungsprojekts, das er mit Levent Alpöge verfolgte, fehlverhalten zu haben. OpenAI bestreitet die schwerwiegendsten Vorwürfe, räumt aber ein, dass seine Handlungen durch Gerüchte darüber geprägt waren, was die Modelle des Konkurrenzlabors Anthropic erreicht hatten.

Vorwürfe von Druck und Plagiat

Buckmaster ist in seiner Kritik ungewöhnlich direkt. Er sagt, OpenAI habe Material aus Entwürfen genommen, die er und Alpöge in OpenAIs Codex-Umgebung hochgeladen hatten, habe ihn während des Forschungsprozesses unter Druck gesetzt, versucht, Alpöge als Koautor zu entfernen, nur weil Alpöge bei Anthropic angestellt ist, und ihn mit Konsequenzen für seine Karriere bedroht. In Buckmasters Sichtweise stellt das Verhalten absolute akademische Misswirtschaft dar.

Der Vorwurf des Drucks ist von außen unmöglich zu verifizieren. Was dokumentiert werden kann, ist, dass OpenAI Gerüchte hörte, dass die Modelle von Anthropic ein Millennium-Problem gelöst hätten, und nach eigener Aussage seine Ressourcen auf dasselbe Ziel richtete. OpenAI-CEO Sam Altman und Forscher Sébastien Bubeck bestreiten ein Plagiat. Sie erkennen an, dass ihr Team nach der Verbreitung des Gerüchts ein Modell speziell für das Problem entwickelte, lehnen jedoch die Andeutung ab, dass das Ergebnis des Unternehmens von Buckmaster und Alpöge übernommen wurde.

Zwei sehr unterschiedliche Versionen derselben Arbeit

Der technische Kern der Meinungsverschiedenheit ist die Originalität. OpenAI behauptet, dass seine Lösung sich erheblich von der Arbeit der Mathematiker unterscheidet. Buckmaster und Alpöge widersprechen. Sie merken an, dass sie einen ähnlichen Ansatz in OpenAIs Systeme eingegeben hatten, und sie vermuten, dass die Eingabe in den Trainingsdaten gelandet ist. Wenn das wahr ist, könnte das Unternehmen seine Konkurrenten mit genau den Ideen überholt haben, die diese Konkurrenten seinen Entwicklungswerkzeugen anvertraut hatten.

Diese Möglichkeit ist aus einem einfachen Grund wichtig: Forscher reichen ihre unveröffentlichte Arbeit normalerweise nicht bei einem Konkurrenten zum Training ein. Aber wenn KI-Labore Programmierassistenten und Cloud-Plattformen bereitstellen, könnten Benutzer ihr vielversprechendstes geistiges Eigentum direkt in ein System einspeisen, das die eigenen Modelle des Labors verbessern kann. Die Grenze zwischen der Nutzung eines Werkzeugs und der Übergabe von Forschung an es wird schwer zu überwachen.

Die Frage der Trainingsdaten bleibt unbeantwortet

OpenAI-Mitarbeiter weisen darauf hin, dass die Wahrscheinlichkeit, dass das Unternehmen auf den eingereichten Lösungen trainierte, gering ist, insbesondere wenn die beiden Forscher die Option deaktiviert hatten, die die Verwendung ihrer Eingaben für das Training erlauben würde. Ob sie das taten, ist öffentlich nicht bekannt. Aus wissenschaftlicher Sicht ist genau diese Unsicherheit das, was den Streit gefährlich macht. Wenn eine derartige Beschuldigung nicht unabhängig untersucht werden kann, bleiben Forscher auf das Wort eines Unternehmens angewiesen, das keine rechtliche Verpflichtung hat, seine Trainingspipeline für externe Inspektionen zu öffnen.

OpenAI-Forscher Boaz Barak hat sich gegen die Idee gewehrt, dass das Modell überhaupt externe Hilfe benötigte. In seiner Darstellung reproduzierte das Modell nicht nur ein bekanntes Argument; es begann damit, eine stärkere Behauptung zu beweisen als die, die die Mathematiker aufgestellt hatten. Das Gegenteil zu behaupten, sei seiner Ansicht nach Coping, keine realistische Einschätzung. Doch diese Verteidigung trägt wenig zur Lösung der tieferen Frage der Herkunft bei. Selbst ein Modell, das letztlich die Arbeit der Forscher übertraf, könnte von ihren Entwürfen beeinflusst worden sein. Wissenschaftliche Integrität betrifft nicht nur, ob Ausgabe kopiert wurde; es geht gleichermaßen darum, ob eine Idee ohne Erlaubnis genommen wurde.

Eine Warnung von Terence Tao

Eine der nüchternsten Reaktionen kam vom Mathematiker Terence Tao. Er hat gewarnt, dass zukünftige Ereignisse dieser Art unabhängige Mathematiker in eine unmögliche Lage bringen könnten. Wenn ein Gerücht ein großes Technologieunternehmen erreicht, kann dieses Unternehmen innerhalb von Tagen erhebliche Rechenleistung und Talente mobilisieren. Ein kleines Team von Akademikern kann dieses Tempo nicht mithalten, insbesondere wenn das Gerücht auf ihrer eigenen unveröffentlichten Arbeit basiert. Das Ergebnis könnte sein, dass KI-Labore regelmäßig originäre Forschungsprojekte überholen, einfach weil sie bessere Ohren und größere Maschinen haben.

Taos Warnung geht über den unmittelbaren Streit hinaus. Sie weist auf eine aufkommende Asymmetrie in der Wissenschaft hin: Die Gruppen, die die leistungsfähigsten Modelle erstellen, sind auch am besten positioniert, um von frühen Ergebnissen zu erfahren, sie in Trainingsläufe zu integrieren und zuerst zu veröffentlichen. Akademische Anreize sind auf Priorität und Offenheit ausgerichtet, aber diese Anreize werden bedeutungslos, wenn ein Rivale unveröffentlichte Daten ohne Zustimmung absorbieren kann.

Was das für offene Wissenschaft bedeutet

Die Navier-Stokes-Kontroverse ist daher nicht nur ein Streit zwischen zwei Personen und einem Labor. Sie wirft grundlegende Fragen zum Verhältnis zwischen KI-Entwicklung und offener Forschung auf.

• Können Forscher KI-Programmierplattformen sicher nutzen, während sie ihre unveröffentlichten Ideen aus den Trainingsdaten eines Unternehmens heraushalten? Die meisten Benutzer haben keine Möglichkeit zu überprüfen, ob solche Schutzmaßnahmen wirksam sind.
• Sollten KI-Labore ihre Forschungsbemühungen auf der Grundlage vertraulicher oder gemunkelter Arbeit einer anderen Organisation umlenken dürfen, insbesondere wenn das Gerücht in ihren eigenen Werkzeugen entsteht?
• Sollte die Tatsache, dass ein Koautor bei einem Konkurrenzlabor angestellt ist, die Autorschaft beeinflussen? Buckmaster sagt, OpenAI habe versucht, Alpöge aus diesem Grund aus dem Papier zu entfernen, während das Unternehmen Fehlverhalten bestreitet, aber seine Autorschaftspolitik nicht klargestellt hat.
• Wer sollte Zugang zu Trainingsdaten und Modellgewichten haben, wenn Plagiate behauptet werden? Aktuelle Streitbeilegungsmechanismen bieten keinen klaren Weg für externe Prüfer.
• Was passiert mit der Bereitschaft des Feldes, frühe Ergebnisse zu teilen, wenn Nachwuchsforscher befürchten, dass ihre Arbeit von einem mächtigeren Akteur ausgebeutet wird?

Dies sind keine abstrakten Bedenken. Der Streit hat bereits das Vertrauen in die Idee beschädigt, dass KI-Unternehmen als neutrale wissenschaftliche Partner dienen können. Selbst Forscher, die kein Interesse an Navier-Stokes haben, könnten vernünftigerweise zögern, ein vielversprechendes Lemma oder eine unveröffentlichte Methode auf eine Plattform hochzuladen, die von einem KI-Labor betrieben wird.

Vertrauen kann nicht vorausgesetzt werden

OpenAI und seine Verteidiger mögen recht haben, dass kein Missbrauch stattfand. Die verfügbaren Beweise sind unvollständig, und die Möglichkeit eines harmlosen Zufalls ist real. Aber die Episode hat die Messlatte dafür erhöht, was verantwortungsvolle KI-Forschung ausmacht. Ein Labor, das Werkzeuge für Mathematiker entwickelt, kann sich nicht auf ein vages Versprechen verlassen, ihre Arbeit nicht zu nutzen. Es muss durch transparente Datenverarbeitungsrichtlinien und unabhängige Prüfmechanismen demonstrieren, dass Benutzerbeiträge ohne Zustimmung nicht in zukünftigen Modellen erscheinen.

Die breitere Lektion könnte sein, dass Wissenschaftler und KI-Labore unterschiedlichen Logiken folgen. Akademiker teilen, um Wissen aufzubauen; Unternehmen teilen, um Vorteile zu erlangen. Wenn die beiden Systeme kollidieren, ist die schwächere Seite normalerweise der Forscher außerhalb der Unternehmensmauern. Der Navier-Stokes-Streit wird nicht nur für die mathematische Leistung in Erinnerung bleiben, die ihn auslöste, sondern auch dafür, was er über die Verletzlichkeit offener Wissenschaft im Zeitalter generativer KI offenbarte. Wenn nicht bald klare Normen etabliert werden, könnte das nächste Millennium-Problem nicht von einem einsamen Mathematiker an einer Tafel gelöst werden, sondern von einem Unternehmensteam, das die Antwort kommen sah, bevor die Frage überhaupt veröffentlicht wurde.

Dieser Artikel basiert auf einer Berichterstattung von The Decoder. Lesen Sie den Originalartikel.