OpenAI sagt, ein russisches Einflussnetzwerk nutzte ChatGPT

OpenAI sagt, es habe eine verdeckte Einflusskampagne gestört

OpenAI sagt, es habe eine verdeckte russische Einflusskampagne gestört, die ChatGPT nutzte, um Social-Media-Inhalte zu erzeugen und die Herkunft ihrer Betreiber zu verschleiern. Dem vorliegenden Bericht zufolge griff das Netzwerk über VPNs aus Russland auf die Plattform zu und wies ChatGPT ausdrücklich an, sprachliche Hinweise zu entfernen, die russische Urheberschaft verraten könnten. Dieses Detail ist wichtig, weil es zeigt, dass generative KI nicht nur für Skalierung eingesetzt wurde, sondern auch für eine Art stilistische Säuberung: Inhalte zu erzeugen, die für Zielgruppen wie einheimisch wirken, während die Quelle dahinter verborgen bleibt.

Ziel der Kampagne war offenbar die Förderung des „International Burke Institute“, kurz IBI, eines angeblichen Thinktanks, der als in Israel ansässig dargestellt wurde. Die Organisation verbreitete Materialien, darunter einen „Souveränitätsindex“, der Russland im Vergleich zu westlichen Ländern günstig einordnete. In der Praxis scheint die Operation geopolitische Botschaften mit dem Aufbau einer erfundenen institutionellen Fassade vermischt zu haben, wodurch propagandistische Behauptungen den Anschein forschungsbasierter Analyse erhielten.

Eine vertraute Taktik mit effizienterer Werkzeugkette

Das hier beschriebene operative Muster ist aus früheren Informationsoperationen bekannt: ein scheinbar unabhängiges Medium schaffen, Inhalte veröffentlichen, die die eine Seite loben und die andere diskreditieren, und dieses Material dann über mehrere Plattformen verteilen, bis es sich selbstständig verbreitet. Was sich mit KI ändert, ist die Effizienz der Pipeline. Statt vollständig auf menschliche Autoren oder offensichtliche Copy-and-Paste-Übersetzungen angewiesen zu sein, können Betreiber Beiträge schnell generieren, den Ton für verschiedene Länder anpassen und sprachliche Signale bereinigen, die die Herkunft der Kampagne sonst offenlegen würden.

Der Bericht sagt, die Kampagne habe Inhalte über X, LinkedIn, Facebook, Substack und Telegram verbreitet. Ein Teil des Materials war auf Deutsch, darunter Beiträge in einem Telegram-Kanal namens „Lahme Ente“, die die Ukraine, die Europäische Union und die deutsche Bundesregierung kritisierten und engere Beziehungen zu Russland befürworteten. Ein zweiter Betreiber soll Logos für etwa ein Dutzend Telegram-Kanäle erstellt haben, die sich auf Deutschland, die USA, Frankreich, Polen und die Türkei konzentrierten, und zudem russischsprachige Zusammenfassungen der Kanalaktivitäten angefordert haben. Diese Kombination deutet auf einen koordinierten Versuch hin, dauerhafte medienähnliche Assets aufzubauen, statt nur vereinzelte Beiträge abzusetzen.

OpenAIs Darstellung der Kampagne verweist zudem auf den Einsatz falscher Autorität als zentrales Mittel. Laut dem vorliegenden Text waren 34 der 36 zwischen September 2025 und Mai 2026 veröffentlichten IBI-Artikel mit Expertenbezug aus anderen Quellen kopiert, teilweise mit gefälschten Autorenangaben. Ein genanntes Beispiel war ein Cambridge-University-Press-Artikel, der fälschlich einer Professorin der University of Nottingham zugeschrieben wurde. Ein anderer Beitrag vom Migration Policy Institute sei Berichten zufolge einem australischen Professor für Lebensmittelchemie zugeschrieben worden. Diese Details zeigen, dass es der Operation nicht nur um Meinungen ging. Sie erzeugte Glaubwürdigkeit durch Plagiat, falsche Zuschreibung und institutionelle Imitation.

Geringe Reichweite, aber eine skalierbare Architektur

Nach reinen Reichweitenzahlen scheint die Kampagne keinen großen Durchbruch erzielt zu haben. Der Bericht sagt, einzelne Beiträge hätten nur sehr wenige Aufrufe erhalten und die offiziellen IBI-Konten hätten nur wenige Abonnenten gehabt. Dennoch sollen die mit dem Netzwerk verbundenen Telegram-Kanäle jeweils zwischen 10.000 und 20.000 Follower erreicht haben. OpenAI stufte die Operation auf der Brookings Breakout Scale mit drei von sechs ein, was bedeutet, dass sie sich über mehrere Plattformen ausgebreitet und erste Anzeichen gezeigt hatte, echte Nutzer zu erreichen.

Diese mittlere Bewertung ist wahrscheinlich der wichtigste Teil der Geschichte. Eine Kampagne muss nicht viral werden, um relevant zu sein, wenn sie Infrastruktur aufbaut, die später skaliert werden kann. Falsche Thinktanks, plattformübergreifende Verteilkonten, markierte Telegram-Kanäle, mehrsprachige Workflows und KI-gestützte Bearbeitung sind wiederverwendbare Assets. Einmal aufgebaut, senken sie die Kosten künftiger Einflussversuche. In diesem Sinn kann eine heute begrenzte Kampagne als Prototyp für eine morgen wesentlich größere dienen.

Hier wird die Rolle generativer KI strukturell bedeutsamer. Der vorliegende Bericht zeigt nicht, dass KI eine randständige Operation allein in eine Massenüberzeugungsmaschine verwandelt hat. Er zeigt vielmehr, dass KI Betreibern hilft, Inhalte zu erzeugen, Botschaften zu lokalisieren, stilistische Fingerabdrücke zu verschleiern und ein breiteres Veröffentlichungsnetzwerk mit weniger Aufwand aufrechtzuerhalten. Das ist eine leisere, aber womöglich folgenreichere Verschiebung. Sie macht Einflussarbeit leichter dauerhaft, erweiterbar und sprach- sowie regionsspezifisch anpassbar.

Warum die Offenlegung wichtig ist

Die Offenlegung von OpenAI reiht sich in eine wachsende Zahl von Fällen ein, in denen KI-Plattformen koordinierte Missbrauchsfälle mit staatlichen oder politisch motivierten Kampagnen erkennen und entfernen. Der Artikel merkt an, dass das Unternehmen zuvor bereits mehrere russische Einflussoperationen gestört hat, die ChatGPT missbrauchten. Jede Abschaltung ist nützlich, zeigt aber auch dieselbe zugrunde liegende Realität: Mainstream-Generativtools sind inzwischen Teil der umkämpften Informationsumgebung, und die Durchsetzung von Regeln auf Plattformen wird zu einer der Frontlinien, um diesen Missbrauch einzudämmen.

Für politische Entscheidungsträger und Forscher zeigt der Fall eine unangenehme Asymmetrie. Eine solche Kampagne aufzubauen ist vergleichsweise günstig. Sie zu erkennen erfordert Plattform-Telemetrie, Musteranalyse und oft plattformübergreifende Korrelation, auf die Außenstehende nicht leicht zugreifen können. Das bedeutet, dass die Öffentlichkeit von solchen Operationen meist erst im Nachhinein erfährt, wenn ein Unternehmen offenlegt, was es gefunden hat, oder wenn Ermittler die Punkte unabhängig verbinden.

Die größere Lehre ist, dass die Gefahr nicht nur in synthetischem Text liegt, der das Internet überflutet. Sie liegt in der Verknüpfung von KI-generierten Inhalten mit falschen Institutionen, kopierter Forschung, erfundener Zuschreibung und Distributionssystemen, die auf bestimmte nationale Zielgruppen zugeschnitten sind. Diese Kombination kann minderwertige Propaganda lange genug scheinbar verfahrenstechnisch legitim wirken lassen, um Aufmerksamkeit zu gewinnen, Narrative zu setzen oder sympathischen Communities Material zu liefern, das sie organisch weiterverbreiten können.

OpenAIs Darstellung legt nahe, dass diese spezielle Kampagne in ihrer sichtbaren Reichweite begrenzt blieb. Doch die Warnung des Unternehmens, dass die Infrastruktur hätte skaliert werden können, ist der Punkt, den man beobachten sollte. Einflussoperationen müssen zu Beginn nicht spektakulär erfolgreich sein, um wichtig zu werden. Sie müssen nur lernen, was funktioniert, ihren Prozess härten und die Kosten von Überzeugungsversuchen weiter senken. In diesem Maßstab ist die jüngste Störung weniger ein geschlossener Abschnitt als ein Hinweis darauf, wie die nächste Generation von KI-gestützten Informationsoperationen aussehen könnte.

Dieser Artikel basiert auf der Berichterstattung von The Decoder. Zum Originalartikel.