Altman, Musk und Hassabis unterstützen Amodeis Forderung nach unabhängiger KI-Aufsicht

Eine überraschende Annäherung in der KI-Sicherheitsdebatte

Drei der prominentesten Persönlichkeiten der künstlichen Intelligenz – OpenAI-Chef Sam Altman, Elon Musk und der ehemalige DeepMind-CEO Demis Hassabis – haben jeweils zumindest teilweise einen Vorschlag von Anthropic-CEO Dario Amodei unterstützt, der unabhängige Aufsicht innerhalb von KI-Labors fordert. Diese Annäherung, über die The Decoder berichtet, markiert einen bemerkenswerten Moment in einem Feld, in dem Führungspersönlichkeiten in der Öffentlichkeit häufig über Risiken, Zeitpläne und Regulierung uneinig sind. Sie stellt keinen vollständigen Konsens über eine Verlangsamung der KI-Entwicklung dar, signalisiert aber, dass die Idee einer externen oder unabhängigen Bewertung näher an den Mainstream gerückt ist.

Musks Position ist die am wenigsten überraschende. Er warnt seit Jahren vor KI-Risiken und rahmt fortgeschrittene Systeme oft als existenzielle Bedrohung ein. Altman und Hassabis hingegen leiten Organisationen, deren kommerzieller Erfolg von der schnellen Einführung von Frontier-Modellen abhängt. Ihre Bereitschaft, unabhängige Aufsicht – zumindest teilweise – zu befürworten, deutet darauf hin, dass sich die Debatte von der Frage, ob Aufsicht nötig ist, dahin verschoben hat, wie sie gestaltet werden sollte und wer sie durchführen soll.

Was Amodei vorgeschlagen hat

Amodeis Vorschlag dreht sich um das Prinzip, dass KI-Labors nicht die alleinigen Richter über ihre eigene Sicherheit sein sollten. Unabhängige Bewertung würde in dieser Lesart externen Expertinnen und Experten Zugang zu Modellen und Trainingsprozessen geben, damit sie Fähigkeiten und Risiken vor dem Einsatz beurteilen können. Altman und Amodei stimmen Berichten zufolge in diesem Kernpunkt überein: KI-Labors sollten unabhängig bewertet werden. Die Annäherung ist bedeutsam, weil beide Männer Unternehmen führen, die an der Frontier konkurrieren, und beide zuvor mit der Kritik konfrontiert waren, Selbstregulierung komme dem Benoten der eigenen Hausaufgaben gleich.

Unabhängige Bewertung als gemeinsames Prinzip

Die Unterstützung durch Altman, Musk und Hassabis ist keine pauschale Zustimmung zu einem Moratorium oder einem globalen Tempolimit. Sie ist besser als Unterstützung für einen Governance-Mechanismus zu verstehen: unabhängige Prüfung von Frontier-Systemen. Diese Unterscheidung ist wichtig. Ein Labor kann externe Bewertung akzeptieren und dennoch für schnelle Entwicklung argumentieren, solange die Bewertung zeigt, dass das System sicher genug ist, um fortzufahren. Umgekehrt kann ein Kritiker unabhängige Aufsicht unterstützen und gleichzeitig verpflichtende Verlangsamungen ablehnen.

Warum die Übereinstimmung nur teilweise ist

Die partielle Natur der Unterstützung lässt Raum für scharfe Meinungsverschiedenheiten über die Durchsetzung. Wer ernennt die Prüferinnen und Prüfer? Welchen Zugang erhalten sie? Was passiert, wenn ein Labor ihre Ergebnisse bestreitet? Keine dieser Fragen wird durch das gemeinsame Prinzip geklärt. The Decoder merkt an, dass sich die Führungspersönlichkeiten über die Notwendigkeit unabhängiger Aufsicht innerhalb von KI-Labors einig waren, doch die praktischen Details bleiben offen – und diese Details werden entscheiden, ob Aufsicht bedeutsam oder bloß symbolisch ist.

OpenAIs IPO-Zeitplan und die Sicherheitsbegründung

Altman sagte außerdem gegenüber Fortune, dass OpenAI in diesem Jahr nicht an die Börse gehen werde, und verwies auf Sicherheitsbedenken. Diese Entscheidung hatte er bereits im Juni intern kommuniziert. Das Kandidaten-Briefing rahmt den Schritt als Verschiebung eines IPO auf 2027 aus Sicherheitserwägungen, weist aber auch auf eine alternative Lesart hin: Die Finanzzahlen von OpenAI könnten derzeit einen IPO nicht stützen, insbesondere im Vergleich zu denen von Anthropic. Beide Erklärungen könnten gleichzeitig zutreffen. Ein Unternehmen kann ungünstigen Marktbedingungen gegenüberstehen und zugleich Sicherheit als Grund für das Abwarten betonen.

Zwei Lesarten der Verzögerung

Die Sicherheitserklärung passt zu Altmans jüngster öffentlicher Haltung. Wenn Frontier-KI ernste Risiken birgt, könnten die Offenlegungspflichten und der Quartalsdruck einer Börsennotierung eine bedachte Sicherheitsstrategie erschweren. Die finanzielle Erklärung passt zur Wettbewerbslandschaft. Anthropic wurde als Vergleichspunkt genannt, und ein IPO ist letztlich ebenso eine Marktentscheidung wie eine philosophische. Investoren und Regulierer werden wahrscheinlich auf Klarheit drängen, welcher Faktor den Zeitplan bestimmt.

So oder so hält die Verzögerung OpenAI in einer eigenen Kategorie unter den großen KI-Unternehmen: ein führendes Labor, dessen Führung seine Kapitalmarktentscheidungen öffentlich mit Sicherheitsbedenken verknüpft. Diese Verknüpfung verleiht der Aufsichtsdebatte eine konkrete unternehmerische Dimension. Es geht nicht mehr nur um abstrakte Prinzipien; es geht darum, wie ein Frontier-Labor seine Governance, seine Offenlegung und seine Pflichten gegenüber externer Prüfung strukturiert.

Der Widerspruch: Stabilität als eigentliches Tempolimit

Nicht alle akzeptieren die Prämisse hinter Amodeis vorgeschlagenem Tempolimit. Der Google-Forscher Peyman Milanfar widersprach und argumentierte, dass rekursive Selbstverbesserung (RSI) eine naive Annahme sei, weil die beteiligten Rückkopplungsschleifen von Natur aus instabil seien. Seiner Ansicht nach fällt ein System umso tiefer in blinde Flecken, je stärker es versucht, sich selbst zu optimieren. Verlässliche Belege, so argumentiert er, stammen aus der realen Welt und nicht aus Benchmarks.

Warum Milanfar ein Tempolimit für unnötig hält

Milanfars Argument führt ihn zu einer anderen Schlussfolgerung: Ein verpflichtendes Tempolimit sei nicht nötig, weil Selbstverbesserung von Natur aus begrenzt sei. Er vertritt die Auffassung, dass Systeme, die sich zuverlässig selbst verbessern können, durch Margen regiert, gedämpft, verlangsamt und eingeschränkt würden, die aus reiner Effizienzsicht verschwenderisch erscheinen. In seiner Formulierung wirkt Stabilität selbst als das effektive Tempolimit. Wenn das zutrifft, ist eine außer Kontrolle geratene rekursive Verbesserung weniger eine drohende Gewissheit als ein theoretisches Szenario, das die Fragilität von Rückkopplungsschleifen ignoriert.

Das ist eine direkte Herausforderung des Risikomodells, das die Rufe nach Aufsicht befeuert. Amodeis Vorschlag geht davon aus, dass Labors über ein sicheres Tempo hinaus beschleunigen könnten, wenn keine externen Beschränkungen auferlegt werden. Milanfars Antwort geht davon aus, dass die zugrunde liegende Dynamik bereits eigene Beschränkungen auferlegt und dass benchmarkgetriebene Narrative übertreiben, wie reibungslos ein System seine eigenen Fähigkeiten bootstrappen kann. Die Meinungsverschiedenheit dreht sich nicht darum, ob Sicherheit wichtig ist; sie dreht sich darum, welche Art von Intervention, wenn überhaupt, die Technologie tatsächlich erfordert.

Wie es in der Debatte weitergeht

Die Spaltung zwischen den beiden Lagern wird prägen, wie sich KI-Governance entwickelt. Wenn unabhängige Aufsicht zu einer Standarderwartung wird, könnten Labors um die Glaubwürdigkeit ihrer externen Prüfer konkurrieren. Wenn das Instabilitätsargument an Boden gewinnt, könnten Rufe nach Verlangsamung als unnötige Bremsen für Systeme umgedeutet werden, die ohnehin durch ihre eigenen Grenzen beschränkt sind.

• Altman, Musk und Hassabis haben jeweils teilweise Amodeis Forderung nach unabhängiger Aufsicht innerhalb von KI-Labors unterstützt.
• Altman und Amodei stimmen Berichten zufolge darin überein, dass KI-Labors unabhängig bewertet werden sollten.
• Altman sagte gegenüber Fortune, dass OpenAI in diesem Jahr nicht an die Börse gehen werde, und verwies auf Sicherheitsbedenken – eine Entscheidung, die er im Juni intern mitteilte.
• Das Kandidaten-Briefing weist auch auf eine finanzielle Lesart hin: Die Zahlen von OpenAI könnten einen IPO derzeit nicht stützen, besonders im Vergleich zu denen von Anthropic.
• Der Google-Forscher Peyman Milanfar argumentiert, RSI sei eine naive Annahme, weil selbstoptimierende Rückkopplungsschleifen instabil seien und blinde Flecken mit der Optimierung zunähmen.
• Milanfar vertritt die Auffassung, dass verlässliche Belege aus der realen Welt und nicht aus Benchmarks stammen und dass Stabilität als das effektive Tempolimit fungiert.

Vorerst ist die vielleicht folgenreichste Entwicklung die Verengung der Lücke zwischen Führungspersönlichkeiten, die Aufsichtsvorschläge einst zurückwiesen, und jenen, die sie befürworteten. Unabhängige Bewertung ist keine Randforderung mehr. Sie ist eine Position, die Persönlichkeiten entlang der gesamten Frontier – von OpenAI bis Anthropic und von Musks langjährigen Warnungen bis zu Hassabis' Forschungshintergrund – zumindest teilweise unterstützen können. Die verbleibenden Fragen betreffen institutionelles Design, Durchsetzung und ob die Sicherheitsbegründung für eine Verzögerung des IPO eine dauerhafte Strategie oder ein bequemes Narrativ widerspiegelt. Diese Fragen werden die Branche in ihre nächste Phase begleiten, unabhängig davon, welche Seite der Tempolimit-Debatte sich durchsetzt.

Dieser Artikel basiert auf Berichterstattung von The Decoder. Originalartikel lesen.