Google und OpenAI legen getrennte, mit China verbundene KI-Missbrauchsoperationen offen

Zwei Unternehmen legten innerhalb weniger Tage unterschiedliche Arten von KI-Missbrauch offen

Google und OpenAI haben getrennt Operationen offengelegt, die nach ihren Angaben in China ihren Ursprung haben, doch die beiden Fälle verweisen auf unterschiedliche Arten, wie fortgeschrittene KI-Tools in digitalen Missbrauch eingebunden werden. Im Fall von Google geht es um Verbraucherbetrug in großem Stil. Im Fall von OpenAI geht es um verdeckte Einflussaktivitäten, die darauf abzielen, die öffentliche Debatte zu prägen. Zusammengenommen zeigen die Offenlegungen, wie KI-Systeme inzwischen nicht nur für Produktivität und Softwareentwicklung zentral sind, sondern auch für die Industrialisierung von Betrug und Informationsoperationen.

Der Schritt von Google war ungewöhnlich aggressiv. Nach dem vorliegenden Quellenmaterial reichte das Unternehmen beim US-Bundesgericht für den Southern District of New York Klage gegen ein Cybercrime-Netzwerk ein, das es Outsider Enterprise nennt. Google wirft der Gruppe vor, Gemini genutzt zu haben, um Hunderttausende Amerikaner mit Finanzbetrug ins Visier zu nehmen. Die Klage besagt, dass die Beklagten 131 Software-Kits erstellt hätten, die Tausende gefälschte Websites generieren konnten, die Marken und Institutionen wie Google, YouTube, den US Postal Service und New Yorks E-ZPass-System imitierten.

Das in der Quelle beschriebene Ausmaß ist beträchtlich. Über einen zweiwöchigen Zeitraum im Mai soll das Netzwerk 2,5 Millionen Nachrichten an Android-Nutzer gesendet haben, die Links zu 9.000 gefälschten Websites und mehr als einer Million betrügerischer URLs enthielten. Die Operation soll über Telegram koordiniert worden sein. Google sagt, dies sei die erste Klage, bei der das Unternehmen gemeinsam mit dem FBI und großen Netzbetreibern wie AT&T, T-Mobile und Verizon zusammenarbeitet. Das Unternehmen strebt eine einstweilige Verfügung an, die es Firmen und Strafverfolgungsbehörden erleichtern würde, koordiniert vorzugehen, etwa durch die Beschlagnahmung von Domains oder das Einfrieren von Konten.

Die Offenlegung von OpenAI, veröffentlicht im Bedrohungsbericht vom Juni 2026, verweist auf ein anderes Bedrohungsmuster. Das Unternehmen erklärte, es habe zwei angeblich in China ansässige ChatGPT-Cluster gesperrt, die versucht hätten, die Debatte über die US-Technologiepolitik zu beeinflussen. Ein Cluster mit dem Namen Data Center Bandwagon erzeugte englischsprachige Kommentare, Comicstrips und bearbeitete Bilder, die behaupteten, der Ausbau von KI-Rechenzentren treibe die Strompreise für normale Familien in die Höhe. OpenAI sagte, die Inhalte seien über mutmaßlich nicht authentische X-Konten verbreitet worden, die Hashtags zu Energie- und Kapazitätsfragen verwendeten.

Die Quelle ergänzt, dass OpenAI die Akteure hinter dieser Kampagne auf ein privates chinesisches Technologieunternehmen zurückverfolgt habe, das im Auftrag von Provinzbehörden arbeite. Das ist ein schwerwiegender Vorwurf, weil er das Problem von allgemeinem Spam oder freiberuflicher Manipulation hin zu staatlich verknüpfter Narrativbildung verschiebt, selbst wenn indirekt. Die Ergebnisse des Unternehmens unterstreichen auch, wie billige und schnelle Inhaltserzeugung Operationen stützen kann, die nicht alle überzeugen müssen. Sie müssen lediglich die Kanäle mit genug scheinbar organischem Material fluten, um die Debattenatmosphäre zu verzerren.

Was die beiden Offenlegungen verbindet, ist nicht nur ihr behaupteter Ursprung. Es ist die wachsende Konvergenz zwischen Cyberkriminalität und Einflussarbeit rund um KI-Tools. Betrugsnetzwerke können Modelle nutzen, um Phishing-Seiten, Nachrichten und Markenimitationen überzeugender zu machen. Einflussakteure können dieselbe Klasse von Systemen einsetzen, um Kommentare, Bilder und Talking Points massenhaft zu produzieren, die auf bestimmte politische Auseinandersetzungen zugeschnitten sind. In beiden Fällen senkt KI die Kosten des Experimentierens. Angreifer können Narrative, Ziele und Formate schneller und in größerem Umfang testen als zuvor.

Das größere Signal

• Google behandelt KI-gestützten Betrug als rechtliches und infrastrukturelles Problem, nicht nur als Moderationsfrage.
• OpenAI beschreibt den Missbrauch von KI im politischen Diskurs als Teil einer wiederkehrenden Funktion des Bedrohungsreportings.
• Beide Offenlegungen deuten darauf hin, dass der Schutz von Plattformen nun von der Zusammenarbeit zwischen Modellanbietern, Telekommunikationsfirmen und Strafverfolgungsbehörden abhängt.
• Die Grenze zwischen klassischem Spam, Cyberkriminalität und Einflussoperationen wird immer dünner.

Die unmittelbaren Fakten der beiden Fälle unterscheiden sich, und beide Unternehmen präsentieren ihre eigenen Erkenntnisse. Doch das strategische Bild ist klarer als noch vor einem Jahr. KI-Missbrauch ist kein hypothetisches Zukunftsproblem mehr. Er ist bereits in laufende Kampagnen eingebettet, die Verbraucherbetrug, Infrastruktur-Imitation und die Manipulation politischer Narrative umfassen. Das bedeutet, dass die nächste Phase der KI-Governance weniger an Produktdemos gemessen wird als daran, ob die Unternehmen, die diese Systeme bauen, ihre Instrumentalisierung eindämmen können.

Dieser Artikel basiert auf der Berichterstattung von The Decoder. Den Originalartikel lesen.