US- und China-Experten fordern gemeinsame Regeln zum Ausschluss von KI aus Nuklearstart-Entscheidungen

Zwei Forscher bieten Washington und Peking eine Vorlage

Experten aus den Vereinigten Staaten und China wollen verhindern, dass Systeme der künstlichen Intelligenz autonome Entscheidungen über den Einsatz von Nuklearwaffen treffen, und haben nun konkrete Vorschläge vorgelegt, von denen sie hoffen, dass beide Regierungen sie übernehmen. Melanie Sisson von der Brookings Institution und Tianjiao Jiang von der Fudan-Universität veröffentlichten die Empfehlungen vor einem geplanten Treffen zwischen Präsident Trump und Präsident Xi Jinping am 24. September — ein Zeitpunkt, der offenbar darauf angelegt ist, konkrete Formulierungen vor die Entscheidungsträger zu bringen, solange ein hochrangiger Dialog noch angesetzt ist.

Statt ein umfassendes Moratorium für militärische Anwendungen von KI zu fordern, konzentrieren sich die beiden Forscher auf eine kleine Zahl klar definierter roter Linien. Diese Rahmung spiegelt ein implizites Urteil wider: Die Bereiche, in denen sich amerikanische und chinesische Interessen am offensichtlichsten überschneiden, sind auch die Bereiche, in denen die Folgen einer Fehleinschätzung am schwersten einzudämmen wären.

Die roten Linien, die die Vorschläge ziehen würden

Die Empfehlungen legen mehrere Verbote dar, die jeweils auf einen bestimmten Fehlermodus und nicht auf die Technologie im Allgemeinen abzielen.

Keine unabhängige Befugnis zum Start

Die erste und folgenreichste Regel betrifft die Startbefugnis. Den Vorschlägen zufolge dürfte kein KI-System Nuklearwaffen von sich aus starten. Die Bestimmung würde jeden Weg verschließen, auf dem ein Algorithmus, so leistungsfähig er auch sein mag, einen Angriff befehlen könnte, ohne dass eine menschliche Entscheidung dahintersteht.

Nukleare Führungssysteme tabu

Eine zweite rote Linie verbietet den Einsatz von KI für Angriffe auf nukleare Führungssysteme. Da diese Systeme im Zentrum der Fähigkeit eines Staates stehen, zu erkennen, zu entscheiden und zu vergelten, bergen automatisierte Operationen gegen sie ein ungewöhnlich hohes Risiko, als Vorbereitung eines Erstschlags interpretiert zu werden. Sie von KI-gestützter Zielerfassung auszunehmen, soll genau diesen Auslöser beseitigen.

Menschen behalten die alleinige Kontrolle über Cyber-Operationen

Eine dritte Bestimmung befasst sich mit dem Cyberspace. Menschen müssten die alleinige Kontrolle über KI-gesteuerte Cyberangriffe auf strategische Infrastruktur behalten. Cyber-Operationen sind ein Bereich, in dem Handeln mit Maschinengeschwindigkeit bereits plausibel ist und in dem die Grenze zwischen dem Auskundschaften und dem Lahmlegen eines Gegners durch das Tempo automatisierter Werkzeuge verwischt werden kann.

Einigung darüber, was "menschliche Kontrolle" tatsächlich bedeutet

Den konkreten Verboten zugrunde liegt ein Definitionsproblem. Die Vorschläge fordern beide Länder auf, sich auf eine gemeinsame Definition von "menschlicher Kontrolle" zu einigen. Ohne dieses gemeinsame Vokabular könnte jede Seite die Einhaltung für sich beanspruchen, während sie nach Standards operiert, die die andere nicht anerkennt — genau die Art von Mehrdeutigkeit, deren Schließung Rüstungskontrollabkommen historisch schwergefallen ist.

Aufbauend auf einer bereits erzielten Vereinbarung

Die Empfehlungen bauen auf einer Verständigung zwischen Biden und Xi aus dem November 2024 auf. Diese frühere Zusage schuf politische Rückendeckung auf höchster Ebene, klärte jedoch nicht die operativen Fragen, was verboten ist, wer die Einhaltung überprüft oder wie Streitigkeiten beigelegt werden. Die neuen Vorschläge sind der Versuch, eine Absichtserklärung in etwas umzuwandeln, das einem funktionierenden Regelwerk näher kommt.

Die Bemühung als Erweiterung einer bestehenden Verständigung zu rahmen, ist eine bewusste diplomatische Entscheidung. Sie erlaubt es beiden Regierungen, die Maßnahmen als Kontinuität statt als Zugeständnis darzustellen, was dann von Bedeutung ist, wenn die heimische Öffentlichkeit auf beiden Seiten geneigt ist, jede bilaterale Sicherheitsvereinbarung als Schwächung der eigenen Position zu lesen.

Eine Hotline für KI-Vorfälle

Jiang schlägt außerdem die Einrichtung einer eigenen Hotline für KI-Vorfälle vor. Die Begründung ist unkompliziert und es lohnt sich, sie durchzugehen. Angenommen, ein defensives KI-System reagiert automatisch auf etwas, das es als verdächtige Aktivität registriert. Die andere Seite, die diese Reaktion ohne Kontext beobachtet, könnte sie als Eröffnungszug eines Angriffs deuten statt als Reaktion auf ein falsch gelesenes Signal. Eine direkte Leitung zwischen den Regierungen würde es einer Seite ermöglichen, klarzustellen, dass ein Vorfall versehentlich war, bevor sich die Lage über den Punkt hinaus zuspitzt, an dem eine Klärung noch nützlich ist.

Tatsächlich ist die Hotline darauf ausgelegt, eine automatisierte Schleife durch ein menschliches Gespräch zu durchbrechen — und damit die langsamere, bedachte Entscheidungsfindung wiederherzustellen, die automatisierte Systeme eigentlich komprimieren sollen.

Warum manche Analysten die Hotline-Idee bezweifeln

Nicht jeder ist überzeugt, dass ein solcher Kanal dann funktionieren würde, wenn er am dringendsten gebraucht wird. Carla Freeman von der Johns Hopkins University bezweifelt, ob Hotlines dieser Art überhaupt funktionieren würden. Sie verweist auf die Spionageballon-Krise im Jahr 2023, als China nicht abnahm, als die Vereinigten Staaten anriefen.

Dieses Beispiel trifft den Kern des Verifikationsproblems. Eine Hotline ist nur so viel wert wie die Bereitschaft beider Parteien, sie in einer echten Krise zu beantworten, und Krisenmomente sind genau die Momente, in denen Regierungen am wenigsten geneigt sind, einem ungewohnten Kanal zu vertrauen. Der Einwand lautet nicht, dass Kommunikation unnötig sei, sondern dass institutionelle Mechanismen lange vor einem Notfall geübt und normalisiert werden müssen, bevor sie tragende Bedeutung erlangen.

Fünf Jahre Warnungen, keine verbindlichen Regeln

Dies ist nicht das erste Mal, dass Alarm geschlagen wird. Die National Security Commission on Artificial Intelligence forderte bereits 2021, die menschliche Kontrolle über Nuklearwaffen zu bewahren. Mehr als fünf Jahre später existieren noch immer keine verbindlichen Mechanismen.

Diese Lücke — zwischen einer weithin geteilten Diagnose und dem Fehlen eines durchsetzbaren Instruments — ist das zentrale Hindernis, das die neuen Vorschläge überwinden müssen. Ein Expertenkonsens wurde in groben Zügen erreicht: Kaum eine ernsthafte Stimme argumentiert, dass Maschinen entscheiden sollten, ob Nuklearwaffen eingesetzt werden. Was sich als schwer fassbar erwiesen hat, ist der Apparat, um diesen Konsens verbindlich, überprüfbar und dauerhaft über Regierungswechsel hinweg zu machen.

Das enge Zeitfenster vor dem 24. September

Die Vorschläge kommen in einem Moment, in dem sich die beiden Regierungen auf ein Treffen vorbereiten, was den Ideen die Chance gibt, von den Seiten eines Think-Tank-Papiers in die vorbereitenden Gespräche zu gelangen, die eine Gipfelagenda prägen. Ob sie das tun und ob eine der roten Linien den Kontakt mit dem Verhandlungsprozess übersteht, wird von Faktoren abhängen, die weit außerhalb der Kontrolle der Forscher liegen.

Was die Vorschläge jedoch erreichen, ist, den Fall konkret zu machen. Statt allgemeiner Warnungen über die Risiken militärischer KI benennen sie spezifische Verbote, eine Definitionsaufgabe und einen Krisenkommunikationskanal — eine Reihe von Punkten, die plausibel diskutiert, teilweise übernommen oder rundheraus abgelehnt werden könnten. In einem Politikbereich, in dem der Einsatz in Minuten und Meilen gemessen wird, ist diese Konkretheit selbst ein Beitrag: Sie verwandelt eine abstrakte Sorge in eine Liste von Entscheidungen, die Entscheidungsträger tatsächlich treffen können.

Dieser Artikel basiert auf einer Reportage von The Decoder. Lesen Sie den Originalartikel.