Sam Altman fordert ein gemäßigtes Tempo bei der KI-Entwicklung und verspricht zugleich schnelle Fortschritte

Altman beharrt auf Tempo statt Stopp bei Frontier-KI

Sam Altman wirbt erneut für eine Verlangsamung der Entwicklung fortgeschrittener künstlicher Intelligenz – ist aber ebenso entschlossen, dass niemand diese Vorsicht als Stillstand missversteht. In Äußerungen vom 14. September forderte der OpenAI-Chef ein einziges, einheitliches Sicherheitsrahmenwerk für fortgeschrittene KI in den gesamten Vereinigten Staaten und argumentierte zugleich, die Branche solle nicht darauf warten, dass Gesetzgeber ein solches liefern. Die Balance, die er dabei findet, ist heikel: Regulierung als Begleiter schnellen Fortschritts, nicht als dessen Ersatz.

Zentral für sein Argument ist eine Unterscheidung zwischen „Pacing“ und „Stopping“. Altman räumte ein, dass die Entwicklung „weiterhin“ schnell sein werde – nur nicht so schnell, wie sie sein könnte, wenn Fähigkeitsgewinne ohne Zurückhaltung verfolgt würden. Die Verlangsamung ist in seiner Darstellung ein Preis, der sich lohnt, statt ein Verzicht auf Ambition.

Sicherheitsprotokolle gehen jetzt großen Trainingsläufen voraus

OpenAI hat einen Teil dieser Philosophie intern formalisiert. Das Unternehmen legt nun ausdrückliche Sicherheitsprotokolle fest, bevor Trainingsläufe unternommen werden, die erhebliche Fähigkeitssprünge hervorbringen könnten – ein Verfahrensschritt, der Risiken abfangen soll, bevor sie in ein Modell eingebrannt werden. Altman äußerte die Hoffnung, dass konkurrierende Entwickler „aus unseren Ansätzen lernen und eigene vorschlagen werden“, und präsentierte OpenAIs interne Praxis damit als Beispiel statt als Vorschrift.

Diese Wortwahl ist aufschlussreich. Statt zu verlangen, dass Wettbewerber eine identische Checkliste übernehmen, scheint Altman eine breitere Norm fördern zu wollen, in der Labore öffentlich definieren, wie sie Risiken bewerten, bevor sie skalieren. Ob solche freiwilligen Maßnahmen tatsächlich Gewicht haben – oder lediglich Dokumentation hervorbringen –, bleibt die offene Frage, die über dem gesamten Ansatz schwebt.

Wettbewerbsdruck versus Leichtsinn

Altman zog eine harte Grenze zwischen wettbewerblicher Dringlichkeit und Sorglosigkeit und argumentierte, dass kein noch so großer amerikanischer Wettbewerbsdruck Leichtsinn rechtfertigen oder zulassen dürfe, dass Fähigkeiten den Systemen davonlaufen, die zu ihrer Ausrichtung und Überwachung geschaffen wurden. Er bezeichnete Pacing als den Preis allemal wert.

Die Aussage stellt Alignment und Überwachung auf eine Stufe mit roher Leistungsfähigkeit – eine Reihenfolge, die zu einem wiederkehrenden Thema in der Kommunikation von Frontier-Laboren geworden ist. Sie räumt implizit auch ein Risiko ein, auf das Regulierer und Forscher seit Langem hinweisen: dass die Fähigkeit, mächtige Systeme zu bauen, schneller eintreffen kann als die Fähigkeit, sie zu verstehen oder zu kontrollieren.

Ein Wochenende bemerkenswerter Einigkeit

Altmans Position entstand nicht isoliert. Am Wochenende sprach eine bemerkenswerte Riege von Branchengrößen ihre Unterstützung für eine strenger kontrollierte KI-Entwicklung aus, darunter Anthropic-Chef Dario Amodei, DeepMinds Demis Hassabis, Microsoft-Chef Satya Nadella und Elon Musk. Die Übereinstimmung ist gerade deshalb bemerkenswert, weil es sich um Wettbewerber handelt – und in einigen Fällen um ausgesprochene Rivalen –, die sich selten in der Politik einig sind.

Wenn Führungskräfte konkurrierender Labore, eines großen Software- und Cloud-Anbieters und eines unabhängigen Milliardärs innerhalb weniger Tage dieselbe allgemeine Richtung befürworten, deutet das darauf hin, dass sich die Debatte von der Frage, ob Frontier-Risiken gemanagt werden sollen, hin zum Wie verschoben hat. Der Streit liegt jetzt beim Mechanismus, der Durchsetzung und der Frage, wer am Tisch sitzen darf.

Gespräche über Selbstregulierung und Ängste vor einem Kartell

Beim Mechanismus wird die Debatte schärfer. Laut Berichten von The Information diskutieren OpenAI, Anthropic und Google seit Monaten über Selbstregulierung durch ein unabhängiges Aufsichtsgremium. Auf dem Papier ist die Idee einfach: eine externe Instanz, die die größten Labore an gemeinsame Standards bindet, ohne auf Gesetzgebung zu warten.

Nicht alle lesen das so. Kleinere Akteure, darunter Cohere, haben Bedenken geäußert, dass eine solche Regelung sich zu einem Kartell verhärten könnte – einer Struktur, in der Platzhirsche die Regeln schreiben, denen Neueinsteiger folgen müssen, und so unter dem Banner der Sicherheit effektiv Marktzutrittsbarrieren errichten. Es ist eine vertraute Kritik an industriell geführter Governance, und sie trifft den Kern der Frage, wer akzeptables Risiko definieren darf.

Warum die Branche nicht auf Gesetzgeber wartet

Altmans Vorschlag für ein landesweites Rahmenwerk spiegelt eine praktische Realität wider: Die KI-Entwicklung pausiert nicht, während Gesetzgeber debattieren. Ein einziger nationaler Standard wäre seiner Ansicht nach einem Flickenteppich staatlicher Regeln vorzuziehen, die denselben Unternehmen widersprüchliche Pflichten auferlegen könnten.

Doch er machte auch klar, dass internationale Koordination Unterstützung der US-Regierung erfordern wird – eine Anerkennung dessen, dass die folgenreichsten Fragen, von Compute-Governance bis zu grenzüberschreitenden Sicherheitsverpflichtungen, nicht von privaten Unternehmen allein geklärt werden können. Das Ergebnis ist eine hybride Haltung: Die Industrie handelt zuerst, die Regierung holt auf, und beide sollen schließlich zusammenfinden.

Was als Nächstes zu beobachten ist

• Ob OpenAI, Anthropic und Google monatelange Diskussionen in ein formelles unabhängiges Aufsichtsgremium übersetzen.
• Ob kleinere Labore wie Cohere eine substanzielle Vertretung erhalten oder ob Platzhirsche die Agenda dominieren.
• Wie sich ein Vorschlag für ein landesweites Rahmenwerk gegenüber bestehenden und vorgeschlagenen staatlichen Regeln behauptet.
• Ob die angekündigten Sicherheitsprotokolle vor dem Training zu einer gemeinsamen Branchennorm werden oder eine interne OpenAI-Praxis bleiben.

Vorerst liest sich Altmans Botschaft als Versuch, die Bedingungen der Verlangsamung zu definieren, bevor es jemand anderes tut. Die Ambition bleibt intakt; justiert wird das Tempo.

Dieser Artikel basiert auf Berichterstattung von The Decoder. Originalartikel lesen.