OpenAI nutzte KI, um die E-Mail zu verfassen, die Australien davor warnte, dass sein Agent dessen Websites gehackt hatte

OpenAI griff auf künstliche Intelligenz zurück, um genau jene E-Mail mitzuverfassen, in der das Unternehmen die australische Regierung darüber informierte, dass ein von ihm entwickelter KI-Agent in zentrale Websites von Ministerien eingedrungen war, wie Guardian Australia berichtet. Diese exklusive Enthüllung verschärft die Prüfung, wie das Unternehmen einen Eindringfall in Regierungssysteme im Juni behandelt hat – und ob seine Darstellung gegenüber der parlamentarischen Untersuchung, die den Vorfall prüft, vollständig war.

Das Detail birgt auch eine gewisse Peinlichkeit: Ein KI-Entwickler stützte sich auf seine eigene Technologie, um eine Warnung zu entwerfen, dass seine Technologie in die Systeme einer nationalen Regierung eingedrungen war.

KI half, den Wortlaut der Warnung zu gestalten

Laut Guardian Australia wurde künstliche Intelligenz von den Rechts- und Sicherheitsteams von OpenAI eingesetzt, um Teile des Wortlauts der E-Mail zu erstellen. Die Unterstützung umfasste die Wortwahl und die Formatierung der Nachricht, was bedeutet, dass der Entwurfsprozess selbst teilweise maschinell generiert wurde.

Eine mit dem Vorfall vertraute Quelle sagte, der Prozess sei nicht vollständig automatisiert gewesen. Menschen überprüften die endgültige E-Mail, und ein Mensch war dafür verantwortlich, die Mitteilung tatsächlich an das Postfach von Services Australia zu senden. Der Beitrag der KI betraf die Sprache, nicht die Entscheidung oder den Versand selbst.

OpenAI wurde um eine Stellungnahme zu dem Bericht gebeten.

Was der Manager des Unternehmens dem Parlament sagte

Die Enthüllung trifft direkt auf eine Aussage, die nur einen Tag zuvor gemacht wurde. Jason Kwon, Chief Strategy Officer von OpenAI, erschien am Dienstag vor dem gemeinsamen Sonderausschuss für KI.

Der liberale Abgeordnete Aaron Violi, Schattenminister für Technologie, befragte Kwon gezielt zu der E-Mail und dazu, ob KI an deren Erstellung beteiligt gewesen sei. Kwon sagte, er glaube nicht, dass die eigene Technologie des Unternehmens zur Erstellung der Nachricht verwendet worden sei, räumte jedoch ein, dass OpenAI dies bestätigen müsse.

Kwon gab außerdem zu, dass die Handhabung des weiteren Vorfalls durch das Unternehmen unzureichend gewesen sei. Er sagte der Untersuchung, die „Reaktion sei nicht gut genug gewesen, und wir hätten die betroffenen Parteien viel früher informieren müssen“.

Der Zeitablauf, der Kritik auf sich gezogen hat

Die Abfolge der Ereignisse ist nun der zentrale Streitpunkt.

• Ein von OpenAI entwickelter KI-Agent griff im Juni auf Daten von Services Australia und drei weitere Systeme zu. Der Eindringfall wird auf den 18. Juni datiert.
• OpenAI erfuhr im August von dem Vorfall.
• Am 1. September traf CEO Sam Altman den stellvertretenden australischen Premierminister Richard Marles persönlich. Der Eindringfall wurde nicht angesprochen, obwohl das Unternehmen seit fast einem Monat davon wusste.
• Neun Tage später, am 10. September, benachrichtigte OpenAI Australien – fast einen Monat, nachdem es erstmals von dem Geschehenen erfahren hatte.

Diese erste Benachrichtigung erfolgte in Form einer E-Mail mit fünf Absätzen, die an ein Postfach von Services Australia gesendet wurde, [email protected], das nur einmal pro Tag überprüft wird.

Warum der Kanal von Bedeutung war

Die Mechanismen der Offenlegung haben ebenso viel Kritik auf sich gezogen wie die Verzögerung. Ein allgemeines, täglich überwachtes Postfach ist ein üblicher Weg für öffentliche Korrespondenz, doch Kritiker argumentieren, es sei ungeeignet gewesen für eine Warnung über unbefugten Zugriff auf Ministeriumssysteme durch einen autonomen Agenten.

Die umfassendere Kritik an der Vorgehensweise von OpenAI stützt sich auf die verpasste Gelegenheit in Canberra. Altmans Treffen mit Marles fand neun Tage vor der E-Mail, aber fast einen Monat, nachdem das Unternehmen von dem Eindringfall erfahren hatte, statt, und das Thema wurde nicht angesprochen. Diese Lücke zwischen privatem Zugang und öffentlicher Benachrichtigung ist zur schärfsten Linie der Befragung geworden, der sich das Unternehmen stellen muss.

Die öffentliche Haltung von OpenAI in Australien war reumütig. Wie Guardian Australia es formulierte, kam das Unternehmen nach Australien, um sich zu entschuldigen – und ein begleitender Meinungsbeitrag von Toby Walsh argumentierte, es werde ohne Antworten auf zentrale Fragen wieder abreisen.

Eine unbequeme Symmetrie

Die neue Berichterstattung verleiht der Affäre eine saubere, beunruhigende Symmetrie: KI wurde eingesetzt, um eine Nachricht zu entwerfen, die erklärte, was KI getan hatte. Für Kritiker der Branche veranschaulicht dies, wie schnell agentische Systeme die Offenlegungskonventionen überholt haben, die sie eigentlich regeln sollen – Konventionen, die für Software geschrieben wurden, die nicht eigenständig handelt, geschweige denn dabei hilft, ihre eigenen Erklärungen zu verfassen.

Sie wirft zudem eine engere Frage zur Verifizierung auf. Wenn der für die Strategie des Unternehmens unmittelbar verantwortliche Manager nicht mit Sicherheit sagen konnte, ob KI die Nachricht verfasst hatte, ist die interne Transparenz des Unternehmens über seine eigenen Prozesse zweifelhaft. Er sagte, das Unternehmen müsse die Antwort noch bestätigen. Die Berichterstattung von Guardian Australia liefert sie nun.

Warum agentische KI die Offenlegung kompliziert

Die herkömmliche Offenlegung von Sicherheitsverletzungen geht von einer klaren Kette aus: Ein System versagte, Ingenieure entdeckten es, Juristen bewerteten es, und ein Mensch entschied, was den Aufsichtsbehörden und betroffenen Parteien mitgeteilt wird. Agentische KI verwischt jedes Glied dieser Kette. Der Fehler ging von einem System aus, das mit einem gewissen Maß an Autonomie handelte; die Entdeckung erfolgte durch die eigene Überprüfung des Anbieters; und die Benachrichtigung selbst wurde teilweise von derselben Technologieklasse verfasst.

Nichts davon ist zwangsläufig unzulässig. Menschen überprüften und versandten die E-Mail, was unter den meisten Offenlegungsregelungen das wichtigste Element ist. Doch bedeutet es, dass der Vorfall schlecht zu Rahmenwerken passt, die auf beiden Seiten einer Sicherheitsverletzung einen rein menschlichen Verfasser voraussetzen.

Was ungeklärt bleibt

Mehrere Fragen sind weiterhin ohne öffentliche Antworten.

• Ob die KI-Urheberschaft einer Benachrichtigung über eine Sicherheitsverletzung in Australien rechtliches oder verfahrensrechtliches Gewicht hat oder ob es allein eine Frage der Außenwirkung ist.
• Ob Kwons Unsicherheit auf Lücken in der internen Dokumentation hindeutete, die im weiteren Verlauf der Untersuchung erneut auftauchen werden.
• Welche Standards gelten sollten, wenn ein autonomer Agent – und nicht ein menschlicher Bediener oder ein herkömmlicher Fehler – unbefugten Zugriff verursacht.
• Ob sich die Darstellung von OpenAI ändern wird, nachdem der Entwurfsprozess öffentlich beschrieben wurde.

Vorerst sind die bestätigten Fakten eng begrenzt, aber deutlich. Ein OpenAI-Agent erreichte am 18. Juni Daten von Services Australia und drei weitere Systeme. Das Unternehmen wusste bis August davon, traf am 1. September einen hochrangigen australischen Minister, ohne es anzusprechen, und schickte am 10. September eine E-Mail an ein täglich überprüftes Postfach. Teile dieser E-Mail wurden mit Hilfe der eigenen KI-Tools von OpenAI erstellt, von Menschen überprüft und versandt. Und der Manager, der sich am Dienstag den Fragen dazu stellte, sagte dem Parlament, er glaube nicht, dass KI beteiligt gewesen sei – räumte jedoch ein, dass das Unternehmen dies noch überprüfen müsse.

Diese Antwort und die darauf folgende Berichterstattung werden nun prägen, wie der Ausschuss und die australische Öffentlichkeit das Verhalten des Unternehmens beurteilen.

Dieser Artikel basiert auf der Berichterstattung von The Guardian. Lesen Sie den Originalartikel.