Google et OpenAI révèlent des opérations distinctes d’abus de l’IA liées à la Chine

Deux entreprises ont révélé, à quelques jours d’intervalle, des formes différentes d’abus de l’IA

Google et OpenAI ont révélé séparément des opérations qu’elles disent originaires de Chine, mais ces deux affaires montrent des façons distinctes dont les outils avancés d’IA sont intégrés à l’abus numérique. Dans le cas de Google, il s’agit d’une fraude à grande échelle visant les consommateurs. Dans celui d’OpenAI, il s’agit d’une activité d’influence clandestine destinée à orienter le débat public. Pris ensemble, ces éléments montrent que les systèmes d’IA sont désormais centraux non seulement pour la productivité et le développement logiciel, mais aussi pour l’industrialisation des arnaques et des opérations d’information.

La démarche de Google a été inhabituellement offensive. Selon les éléments source fournis, l’entreprise a déposé plainte devant le tribunal fédéral du district sud de New York contre un réseau de cybercriminalité qu’elle appelle Outsider Enterprise. Google allègue que le groupe a utilisé Gemini pour cibler des centaines de milliers d’Américains avec une fraude financière. La plainte indique que les défendeurs ont créé 131 kits logiciels capables de générer des milliers de faux sites imitant des marques et des institutions, dont Google, YouTube, le service postal américain et le système E-ZPass de New York.

L’ampleur décrite dans la source est considérable. Sur une période de deux semaines en mai, le réseau aurait envoyé 2,5 millions de messages aux utilisateurs d’Android contenant des liens vers 9 000 faux sites et plus d’un million d’URL frauduleuses. L’opération aurait été coordonnée via Telegram. Google affirme qu’il s’agit de la première action en justice dans laquelle l’entreprise travaille aux côtés du FBI et de grands opérateurs, dont AT&T, T-Mobile et Verizon. L’entreprise demande une ordonnance restrictive qui faciliterait une action coordonnée des entreprises et des forces de l’ordre par la saisie de domaines ou le gel de comptes.

La divulgation d’OpenAI, publiée dans son rapport de menace de juin 2026, pointe un schéma de menace différent. L’entreprise a indiqué avoir banni deux clusters ChatGPT prétendument basés en Chine, qui tentaient d’influencer le débat sur la politique technologique américaine. L’un des clusters, baptisé Data Center Bandwagon, a généré des commentaires en anglais, des bandes dessinées et des images modifiées affirmant que l’expansion des centres de données d’IA faisait grimper les prix de l’électricité pour les familles ordinaires. OpenAI a indiqué que ce contenu avait été diffusé via ce qu’elle a décrit comme des comptes X probablement inauthentiques utilisant des hashtags liés aux questions d’énergie et de capacité.

La source ajoute qu’OpenAI a relié les acteurs à l’origine de cette campagne à une entreprise technologique privée chinoise travaillant au nom d’autorités provinciales. Il s’agit d’une accusation grave, car elle fait passer la question d’un simple spam ou d’une manipulation indépendante à une forme de cadrage narratif lié à l’État, même si c’est indirectement. Les conclusions de l’entreprise soulignent aussi à quel point une génération de contenu bon marché et rapide peut soutenir des opérations qui n’ont pas besoin de convaincre tout le monde. Elles doivent seulement inonder les canaux avec suffisamment de contenu apparemment organique pour fausser la texture du débat.

Ce qui relie les deux révélations n’est pas seulement leur origine alléguée. C’est la convergence croissante entre la cybercriminalité et le travail d’influence autour des outils d’IA. Les réseaux de fraude peuvent utiliser des modèles pour rendre plus convaincantes les pages de phishing, les messages et l’usurpation de marque. Les opérateurs d’influence peuvent utiliser la même catégorie de systèmes pour produire en masse des commentaires, des images et des éléments de langage adaptés à des batailles politiques précises. Dans les deux cas, l’IA réduit le coût de l’expérimentation. Les attaquants peuvent tester des récits, des cibles et des formats plus vite et à plus grande échelle qu’auparavant.

Le signal plus large

• Google traite la fraude assistée par l’IA comme un problème juridique et d’infrastructure, et pas seulement comme une question de modération.
• OpenAI présente l’usage abusif de l’IA dans le discours politique comme une fonction récurrente de signalement des menaces.
• Les deux révélations suggèrent que la défense des plateformes dépend désormais de la coordination entre fournisseurs de modèles, opérateurs télécoms et forces de l’ordre.
• La frontière entre spam traditionnel, cybercriminalité et opérations d’influence s’amincit.

Les faits immédiats des deux affaires diffèrent, et les deux entreprises présentent leurs propres conclusions. Mais le tableau stratégique est plus clair qu’il ne l’était encore il y a un an. L’abus de l’IA n’est plus un problème hypothétique du futur. Il est déjà intégré à des campagnes en cours impliquant fraude des consommateurs, usurpation d’infrastructures et manipulation de récits politiques. Cela signifie que la prochaine phase de la gouvernance de l’IA sera jugée moins à l’aune des démonstrations produits qu’à la capacité des entreprises qui construisent ces systèmes à contenir les usages qui en font des armes.

Cet article est basé sur le reportage de The Decoder. Lire l’article original.