Google sagt, Angreifer hätten KI genutzt, um eine Zero-Day-Schwachstelle zu finden und einen Massenangriff vorzubereiten

Ein Wendepunkt in der KI-gestützten offensiven Sicherheit

Google sagt, man habe das nach eigenen Angaben erste bekannte Beispiel eines Angreifers identifiziert, der künstliche Intelligenz nutzte, um eine Zero-Day-Schwachstelle zu entdecken und zu bewaffnen. Laut Berichten über einen neuen Report der Google Threat Intelligence Group sagt das Unternehmen, es habe den geplanten Massenangriff gestoppt, bevor er ausgeführt werden konnte.

Wenn diese Einschätzung Bestand hat, markiert sie einen wichtigen Übergang in der Cyberlandschaft. Sicherheitsforscher haben seit Langem erwartet, dass große Sprachmodelle und verwandte KI-Systeme für offensive Schwachstellenforschung nützlich werden. Entscheidend ist hier nicht, dass KI Angreifern eines Tages helfen könnte. Entscheidend ist, dass ein großes Threat-Intelligence-Team nun sagt, es habe gesehen, wie diese Schwelle in einem realen Fall überschritten wurde.

Was Google nach eigenen Angaben gefunden hat

Der von The Decoder zusammengefasste Bericht beschreibt Angreifer, die KI in großem Umfang für Cyberoperationen einsetzen. Die auffälligste Behauptung ist der Zero-Day-Fall selbst: Ein Bedrohungsakteur soll KI genutzt haben, um eine zuvor unbekannte Schwachstelle zu entdecken und zu bewaffnen. Google sagt, die geplante Kampagne sei unterbrochen worden, bevor sie zu einem Massenangriff werden konnte.

Diese Erkenntnis ist wichtig, weil Zero-Days zur Premiumklasse des Cyberrisikos gehören. Sie nutzen Schwachstellen aus, die Verteidigern zum Zeitpunkt der Nutzung unbekannt sind, was bedeutet, dass herkömmliches Patchen keinen unmittelbaren Schutz bietet. Wenn KI die Kosten für das Auffinden solcher Fehler deutlich senkt oder die Geschwindigkeit erhöht, könnte das Gleichgewicht zwischen Angriff und Verteidigung instabiler werden.

Der Bericht sagt auch, dass staatlich unterstützte Akteure aus China und Nordkorea KI einsetzen, um nach Schwachstellen zu suchen. Das erweitert das Bild von einem einzelnen Vorfall zu einem strategischen Muster: Regierungen und zugehörige Gruppen könnten KI bereits in Cyberaufklärung und Exploit-Entwicklung integrieren.

Das Ökosystem rund um KI-gestützte Angriffe

Ein im Ursprungsbericht hervorgehobenes Detail ist das GitHub-Projekt wooyun-legacy, das als Claude-Plugin beschrieben wird, aufgebaut auf mehr als 85.000 realen Schwachstellenfällen von der chinesischen Plattform WooYun. Sein erklärtes Ziel ist es, KI-Modelle bei der Codeanalyse effektiver zu machen.

Dieses Beispiel verdeutlicht einen breiteren Punkt. Das Risiko besteht nicht nur darin, dass Frontier-Modelle abstrakt stärker werden. Es geht auch darum, dass Angreifer diese Modelle mit spezialisierten Datensätzen, Tools und Plugins umgeben können, die sie bei sicherheitsspezifischen Aufgaben wirksamer machen. Anders gesagt: Nutzbare offensive Fähigkeiten können aus der Kombination eines allgemeinen Modells und domänenspezifischer Hilfsstrukturen entstehen.

Der Bericht sagt außerdem, dass mit Russland verbundene Gruppen von KI erzeugten Verschleierungscode in Malware einbauen. Ein genanntes Beispiel ist die Android-Malware PROMPTSPY, die die Gemini API nutzt, um Geräte autonom zu steuern. Das weist auf eine weitere Ebene des Wandels hin: KI wird nicht nur genutzt, um Schwachstellen zu entdecken, sondern auch, um das Verhalten von Payloads und deren Tarnung zu formen.

Kriminelle Gruppen sollen zudem auf KI-Lieferketten abzielen, einschließlich populärer Open-Source-Pakete. Das spiegelt wider, wie sich die Angriffsfläche rund um die KI-Nutzung ausgeweitet hat. Je mehr Organisationen auf offene Komponenten, modellverbundene Werkzeuge und schnelllebige Paket-Ökosysteme angewiesen sind, desto mehr Stellen gibt es, an denen Gegner Kompromittierungen einschleusen können.

Verteidigung wird zu KI gegen KI

Google stellt den Bericht nicht als Geschichte ungebremster Eskalation dar. Das Unternehmen sagt, es habe auch eigene KI-basierte Gegenmaßnahmen entwickelt, darunter Werkzeuge namens Big Sleep und CodeMender. Die genauen Details dieser Systeme werden im bereitgestellten Material nicht beschrieben, doch die strategische Konsequenz ist klar: Verteidiger reagieren zunehmend auf KI-gestützte Angriffe mit KI-gestützter Verteidigung.

Das schafft einen dynamischeren Wettbewerb als frühere Wellen der Cyberautomatisierung. Früher konzentrierten sich Abwehrwerkzeuge oft auf Regeln, Signaturen, Heuristiken oder Anomalieerkennung. Die neuere Generation kann Systeme umfassen, die Code verstehen, Schwachstellenmuster modellieren und Patch- oder Migrationsarbeiten beschleunigen können.

Dennoch hebt defensive Beschleunigung den offensiven Vorteil nicht automatisch auf. Wenn KI Angreifern hilft, Aufklärung zu skalieren, Varianten zu erzeugen und Ziele schneller zu analysieren, sehen sich Verteidiger womöglich einer größeren Zahl plausibler Bedrohungen gegenüber, selbst wenn sie bessere Werkzeuge haben.

Warum das jetzt wichtig ist

Die größte praktische Folge des Berichts könnte sein, dass er den Zeitrahmen verkürzt, in dem Organisationen KI-gestützte offensive Fähigkeiten ernst nehmen. Sicherheitsverantwortliche haben dies lange als bevorstehende Herausforderung diskutiert. Ein dokumentierter Fall von KI-unterstützter Zero-Day-Entdeckung würde die Diskussion von der Prognose in die operative Realität verschieben.

Das bedeutet nicht, dass jeder Angreifer plötzlich über Frontier-Fähigkeiten verfügt. Wirksame Ausnutzung hängt weiterhin von Zugang, technischer Kompetenz, operativer Sicherheit und Zielauswahl ab. Aber der Bericht legt nahe, dass KI nun bei einem der wertvollsten Schritte in der Infiltrationskette materiell nützlich sein kann.

Für Verteidiger bedeutet das, dass Schwachstellenmanagement, Sicherheit der Software-Lieferkette und Code-Reviews möglicherweise unter der Annahme neu bewertet werden müssen, dass Angreifer Schwachstellen schneller und mit besserer Mustererkennung als zuvor finden können.

Die Bedeutung des ersten bestätigten Falls

In Cyberpolitik und Threat Intelligence sind erste bestätigte Fälle wichtig, weil sie Erwartungen neu setzen. Genau das scheint dieser Bericht zu tun. Er legt nahe, dass KI von einem Hilfsmittel für Phishing, Übersetzung oder einfache Skripte in den Bereich der Exploit-Entdeckung selbst übergegangen ist.

Damit hört KI auf, nur ein zusätzliches Cyberthema zu sein, und wird Teil des Kernwettbewerbs um Softwaresicherheit. Googles Behauptung, den Angriff gestoppt zu haben, ist ermutigend. Die größere Implikation ist weniger komfortabel. Die Branche könnte nun in eine Phase eintreten, in der das Rennen um das Finden und Beheben kritischer Schwachstellen zunehmend von Maschinen auf beiden Seiten geprägt wird.

Dieser Artikel basiert auf der Berichterstattung von The Decoder. Den Originalartikel lesen.