OpenAI dit avoir démantelé une campagne d’influence clandestine
OpenAI dit avoir perturbé une campagne d’influence russe clandestine qui utilisait ChatGPT pour générer du contenu sur les réseaux sociaux et dissimuler l’origine de ses opérateurs. Selon le rapport fourni, le réseau a accédé à la plateforme depuis la Russie via des VPN et a explicitement demandé à ChatGPT de supprimer les indices linguistiques susceptibles de révéler une origine russe. Ce détail est important, car il montre que l’IA générative a été utilisée non seulement pour la mise à l’échelle, mais aussi pour un lissage stylistique : produire du contenu conçu pour paraître natif aux publics visés tout en cachant la source derrière lui.
L’objectif apparent de la campagne était de promouvoir le “International Burke Institute”, ou IBI, un prétendu think tank présenté comme basé en Israël. L’organisation diffusait des documents, dont un “indice de souveraineté”, qui plaçait la Russie dans une position favorable par rapport aux pays occidentaux. En pratique, l’opération semble avoir mêlé messages géopolitiques et fabrication d’une façade institutionnelle, donnant à des affirmations de propagande l’apparence d’une analyse fondée sur la recherche.
Une tactique familière avec une chaîne de production plus efficace
Le schéma opérationnel décrit ici est reconnaissable d’anciennes opérations d’information : créer un média apparemment indépendant, publier du contenu qui flatte un camp et discrédite l’autre, puis diffuser ce matériel sur plusieurs plateformes jusqu’à ce qu’il commence à circuler de lui-même. Ce qui change avec l’IA, c’est l’efficacité de la chaîne. Au lieu de dépendre entièrement de rédacteurs humains ou de traductions manifestement copiées-collées, les opérateurs peuvent générer des messages rapidement, adapter le ton à différents pays et nettoyer des signaux linguistiques qui auraient autrement révélé l’origine de la campagne.
Le rapport indique que la campagne a diffusé du contenu sur X, LinkedIn, Facebook, Substack et Telegram. Une partie du matériel était en allemand, notamment des publications sur un canal Telegram appelé “Lahme Ente” qui critiquaient l’Ukraine, l’Union européenne et le gouvernement fédéral allemand tout en plaidant pour des liens plus étroits avec la Russie. Un deuxième opérateur aurait créé des logos pour une douzaine de canaux Telegram axés sur l’Allemagne, les États-Unis, la France, la Pologne et la Turquie, tout en demandant aussi des résumés en russe de l’activité des canaux. Cette combinaison suggère une tentative coordonnée de construire des actifs de type média durables, et pas seulement de lancer des messages isolés.
Le récit d’OpenAI sur cette campagne pointe également l’usage d’une autorité factice comme tactique centrale. Selon le texte fourni, 34 des 36 articles liés à des experts publiés par l’IBI entre septembre 2025 et mai 2026 étaient copiés d’autres sources, parfois avec de faux crédits d’auteur. Un exemple cité est un article de Cambridge University Press attribué à tort à une professeure de l’université de Nottingham. Une autre pièce du Migration Policy Institute aurait été attribuée à un professeur australien de chimie alimentaire. Ces détails indiquent que l’opération ne se contentait pas de diffuser des opinions. Elle fabriquait de la crédibilité par le plagiat, la fausse attribution et l’imitation institutionnelle.
Faible portée, mais architecture extensible
En termes d’audience brute, la campagne ne semble pas avoir rencontré de percée majeure. Le rapport indique que les publications individuelles ont reçu très peu de vues et que les comptes officiels de l’IBI avaient peu d’abonnés. Même ainsi, les canaux Telegram liés au réseau auraient chacun atteint entre 10 000 et 20 000 abonnés. OpenAI a classé l’opération au niveau trois sur six de la Brookings Breakout Scale, ce qui signifie qu’elle s’était étendue sur plusieurs plateformes et montrait des signes précoces d’atteinte de vrais utilisateurs.
Cette évaluation de niveau intermédiaire est sans doute la partie la plus importante de l’histoire. Une campagne n’a pas besoin de devenir virale pour compter si elle construit une infrastructure qui peut ensuite être mise à l’échelle. Les faux think tanks, les comptes de diffusion multiplateformes, les chaînes Telegram de marque, les flux de travail multilingues et l’édition assistée par IA sont des actifs réutilisables. Une fois assemblés, ils réduisent le coût de futurs efforts d’influence. En ce sens, une campagne limitée aujourd’hui peut servir de prototype à une campagne bien plus vaste demain.
C’est là que le rôle de l’IA générative devient structurellement plus important. Le rapport fourni ne montre pas l’IA transformant à elle seule une opération marginale en machine de persuasion de masse. Il montre plutôt que l’IA aide les opérateurs à produire du contenu, localiser les messages, masquer les signatures stylistiques et maintenir un réseau de publication plus large avec moins de travail. C’est un changement plus discret, mais potentiellement plus décisif. Il rend le travail d’influence plus facile à soutenir, à étendre et à personnaliser selon les langues et les régions.
Pourquoi cette divulgation compte
La divulgation d’OpenAI s’ajoute à une trace grandissante de plateformes d’IA identifiant et supprimant des abus coordonnés liés à des campagnes étatiques ou politiquement motivées. L’article note que l’entreprise a déjà perturbé plusieurs opérations d’influence russes abusant de ChatGPT. Chaque démantèlement est utile, mais il montre aussi la même réalité sous-jacente : les outils génératifs grand public font désormais partie de l’environnement informationnel contesté, et l’application des règles par les plateformes devient l’une des lignes de front pour limiter ces abus.
Pour les décideurs et les chercheurs, ce cas souligne une asymétrie gênante. Monter une campagne de ce type est relativement bon marché. La détecter exige de la télémétrie de plateforme, une analyse de schémas et souvent une corrélation entre plateformes à laquelle les observateurs extérieurs n’ont pas facilement accès. Cela signifie que le public apprend généralement l’existence de ces opérations après coup, lorsqu’une entreprise révèle ce qu’elle a trouvé ou lorsque des enquêteurs relient eux-mêmes les points.
La leçon plus large est que le danger ne réside pas seulement dans le texte synthétique qui inonde Internet. Il réside dans la combinaison de contenu généré par IA avec de fausses institutions, de la recherche copiée, des attributions inventées et des systèmes de diffusion adaptés à des publics nationaux précis. Cette combinaison peut faire paraître une propagande de faible qualité procéduralement légitime assez longtemps pour capter l’attention, semer des récits ou fournir à des communautés sympathisantes un matériau qu’elles peuvent redistribuer organiquement.
Le récit d’OpenAI suggère que cette campagne particulière est restée limitée en portée visible. Mais l’avertissement de l’entreprise selon lequel l’infrastructure aurait pu être mise à l’échelle est la partie à surveiller. Les opérations d’influence n’ont pas besoin de réussir spectaculairement dès le départ pour devenir importantes. Elles ont seulement besoin d’apprendre ce qui fonctionne, de durcir leur processus et de continuer à réduire le coût des tentatives de persuasion. À cet égard, la dernière perturbation ressemble moins à un chapitre clos qu’à un aperçu de la prochaine génération d’opérations d’information assistées par IA.
Cet article s’appuie sur le reportage de The Decoder. Lire l’article original.
Originally published on the-decoder.com
