OpenAI verdoppelt Einsatz bei Entlassung von drei KI-Sicherheitsforschern

OpenAI weigert sich, zurückzuweichen

OpenAI hält an seiner Entscheidung fest, drei Forscher zu entlassen, die im Bereich KI-Sicherheit tätig waren, und weist die Vermutung zurück, die Kündigungen seien eine Vergeltungsmaßnahme dafür gewesen, dass sie Bedenken hinsichtlich des Umgangs des Unternehmens mit Risiken von Frontier-Modellen geäußert hatten. Laut einem Bericht von The Verge gab das Labor am Freitag in einer Erklärung auf X bekannt, dass Jasmine Wang, Tomek Korbak und Mikita Balesni entlassen wurden, nachdem eine interne Untersuchung zu dem Schluss gekommen war, dass sie das begangen hätten, was das Unternehmen als "erheblichen Vertrauensbruch" bezeichnete.

Die öffentliche Stellungnahme erfolgt im Rahmen eines ungewöhnlich öffentlichen Streits zwischen dem Unternehmen und drei seiner ehemaligen Mitarbeiter, der sich schnell zu einem Brennpunkt in der breiteren Debatte darüber entwickelt hat, wie viel Transparenz KI-Labore den Menschen schulden, die an ihren schwierigsten Sicherheitsproblemen arbeiten.

Was laut OpenAI geschah

In seinem Beitrag auf X erklärte OpenAI, die drei Forscher seien entlassen worden, weil sie gegen "klare Richtlinien zum Umgang mit sensiblen Informationen" verstoßen hätten. Das Unternehmen stellte die Angelegenheit als eine einfache Frage interner Regeln dar und nicht als eine Meinungsverschiedenheit über Sicherheitsphilosophie.

OpenAI widersprach zudem direkt der Vorstellung, dass die Entlassungen damit zusammenhingen, dass das Trio sich über das Unternehmen oder seine Bedenken hinsichtlich der KI-Sicherheit geäußert hatte. Diese Behauptung ist zentral für die Botschaft des Unternehmens: Das Labor möchte eine scharfe Grenze ziehen zwischen geschützter Interessenvertretung innerhalb der Organisation und einem Verhalten, das es als Richtlinienverstoß betrachtet.

Das Unternehmen erklärte, seine interne Untersuchung habe Verstöße aufgedeckt, die "über das hinausgehen, was in dem Brief" dargelegt wurde, den die Forscher veröffentlicht hatten, lehnte es jedoch ab, Einzelheiten zu nennen. Dieser Mangel an Details hat eine erhebliche Lücke zwischen dem, was OpenAI behauptet, und dem, was die Öffentlichkeit unabhängig überprüfen kann, hinterlassen.

Der offene Brief der Forscher

Der Beitrag des Unternehmens war eine direkte Antwort auf einen offenen Brief, den die drei am Donnerstag veröffentlicht hatten und in dem sie OpenAI aufforderten, transparenter über die Gründe für ihre Entlassungen zu sein. In diesem Brief und in einer Reihe begleitender Social-Media-Beiträge erklärten Wang, Korbak und Balesni, sie glaubten, wegen der Äußerung von Sicherheitsbedenken entlassen worden zu sein.

Sie hielten zudem daran fest, dass ihr Verhalten angemessen gewesen sei, und erklärten, sie hätten "im Einklang mit der Mission von OpenAI und innerhalb der damaligen Arbeitsnormen gehandelt". Es ist eine Verteidigung, die ebenso sehr von Prozess und Kultur spricht wie von einem einzelnen Vorfall: Die Implikation ist, dass sie, was auch immer sie taten, davon ausgingen, dass es innerhalb der Standards, unter denen die Organisation operierte, akzeptabel sei.

Das Ergebnis ist ein Patt, in dem jede Seite dieselbe Abfolge von Ereignissen grundlegend unterschiedlich beschreibt. OpenAI charakterisiert die Angelegenheit als eine Frage von Vertraulichkeit und Vertrauen. Die entlassenen Forscher charakterisieren sie als eine Frage der Bestrafung von Sicherheitsengagement.

Ein "Vertrauensbruch", kein Sicherheitsstreit

Die Unterscheidung, die OpenAI trifft, ist wichtig. Wenn die Entlassungen durch Verstöße gegen Richtlinien für sensible Informationen veranlasst wurden, dann ist der Fall ein konventioneller arbeitsrechtlicher und vertraulichkeitsbezogener Streit – wenngleich einer, der einige der folgenreichsten Technologien betrifft, die irgendwo entwickelt werden. Wenn sie durch den Inhalt der Sicherheitsbedenken der Forscher veranlasst wurden, wären die Auswirkungen darauf, wie KI-Labore interne Kritik behandeln, weitaus größer.

Da OpenAI die zugrunde liegenden Beweise nicht offengelegt hat, kann keine der beiden Interpretationen von außen vollständig bestätigt werden. Das Beharren des Unternehmens, die Untersuchung habe Verstöße festgestellt, die über das im Brief Beschriebene hinausgingen, fungiert sowohl als Rechtfertigung als auch als Schutzschild gegen weitere Prüfung.

Warum Sicherheitsmitarbeiter genau hinschauen

Die Entlassungen fallen in einen Moment erhöhter Angst innerhalb von KI-Unternehmen über das Risikoprofil der Systeme, die sie entwickeln. Die Besorgnis über die Sicherheit von Frontier-Systemen ist unter den Mitarbeitern gewachsen, angetrieben teilweise durch eine Reihe hochkarätiger Sicherheitsverletzungen im vergangenen Jahr – darunter, besonders bemerkenswert, eine Sicherheitsverletzung bei Hugging Face, die mit OpenAI in Verbindung gebracht wurde.

Dieses Klima hat zu einer sichtbaren Verschiebung der internen Stimmung geführt. Viele Mitarbeiter drängen ihre Arbeitgeber nun, das Entwicklungstempo zu verlangsamen und stärker in Schutzmaßnahmen gegen die potenziellen Folgen des Baus selbstverbessernder Systeme zu investieren. Wenn Forscher mit direkter Verantwortung für Sicherheitsarbeit zu dem Schluss kommen, dass es riskant ist, sich zu äußern, könnte die Bereitschaft anderer, Alarm zu schlagen, damit ebenfalls erodieren.

Die größeren Einsätze für Frontier-KI

Für die breitere Branche wirft die Episode unbequeme Fragen darüber auf, wo die Grenze zwischen legitimer interner Abweichung und Verhalten liegt, das Unternehmen berechtigt sind zu kontrollieren. KI-Labore sind auf Vertrauen angewiesen – sowohl von der Öffentlichkeit als auch von den Regulierungsbehörden, die ihre Arbeit umkreisen – und auf die Glaubwürdigkeit ihrer Sicherheitszusagen.

Ein Streit, in dem der Arbeitgeber Vertraulichkeit anführt und die ehemaligen Mitarbeiter Sicherheitsbedenken anführen, ist allein durch Erklärungen schwer beizulegen. Er lädt zur Prüfung interner Überprüfungsprozesse ein: wer sie durchführt, welche Standards sie anwenden und wie die Ergebnisse den betroffenen Personen mitgeteilt werden.

Was ungeklärt bleibt

• OpenAI hat das Verhalten, das nach eigenen Angaben gegen seine Richtlinien für sensible Informationen verstoßen haben soll, nicht im Detail dargelegt.
• Die drei Forscher halten daran fest, dass sie wegen der Äußerung von Sicherheitsbedenken entlassen wurden und dass ihr Verhalten den damaligen Arbeitsnormen entsprach.
• Das Unternehmen erklärt, seine Untersuchung habe Verstöße festgestellt, die über die im offenen Brief beschriebenen hinausgingen, nennt aber keine Einzelheiten.
• Es wurde keine dritte Partei präsentiert, die die zugrunde liegenden Beweise geprüft hätte.

Da beide Seiten ihre Positionen öffentlich vertreten, dürfte das praktische Ergebnis weniger davon abhängen, wer in der Sache recht hat, als davon, wie die breitere KI-Community die Episode interpretiert. Für Forscher, die abwägen, ob sie Vorbehalte gegenüber der Entwicklung von Frontier-Modellen äußern sollen, könnte das durch diese Entlassungen gesendete Signal die interne Kultur bei OpenAI und bei Peer-Laboren noch einige Zeit prägen.

Dieser Artikel basiert auf einer Berichterstattung von The Verge. Lesen Sie den Originalartikel.