Un test d’IA d’Anthropic aurait révélé des failles dans un système classifié

Le rapport sur le test d’Anthropic renforce l’urgence du débat sur la sécurité de l’IA

Un nouveau rapport de Fast Company, citant un responsable américain anonyme et des propos tenus lors d’une audition au Sénat, affirme que l’un des modèles d’IA avancés d’Anthropic a identifié des vulnérabilités dans des systèmes informatiques très sensibles du gouvernement américain au cours d’un exercice de test. Si cela est exact, l’épisode marquerait un moment important dans le débat sur la manière dont les systèmes d’IA de pointe devraient être évalués, encadrés et déployés dans des contextes de sécurité nationale.

Selon le rapport, Anthropic a travaillé avec des agences de renseignement américaines dans le cadre d’un test impliquant le modèle Mythos de l’entreprise. Le responsable a indiqué que le modèle avait trouvé certaines vulnérabilités en quelques heures. La même source a également précisé que le fait de découvrir rapidement des faiblesses ne signifiait pas que le modèle les avait exploitées pendant ce laps de temps. Cette distinction est importante : identifier une voie possible d’accès à un système n’est pas la même chose que mener une intrusion. Néanmoins, l’affirmation est notable, car elle suggère que des systèmes d’IA avancés pourraient déjà être utiles pour la découverte rapide de vulnérabilités dans certains des environnements numériques les plus sensibles de l’administration.

Le rapport relie l’exercice à une initiative d’Anthropic appelée Project Glasswing, décrite comme un effort visant à rassembler de grandes entreprises et d’autres organisations afin de sécuriser des logiciels critiques contre de graves risques pour la sécurité publique, la sécurité nationale et l’économie. Ce cadrage replace le test dans un contexte plus large. Les entreprises d’IA et les gouvernements ne discutent plus du risque cyber comme d’une hypothèse future. Ils mettent en place des գործընթացus autour de la possibilité que des modèles très performants réduisent le temps nécessaire pour découvrir des failles, cartographier des faiblesses système et abaisser le niveau d’expertise requis pour certaines opérations offensives en cybersécurité.

Ce qui est confirmé, et ce qui ne l’est pas

La principale réserve dans cette affaire concerne la source. Les affirmations centrales proviennent d’un responsable anonyme s’exprimant sur des sujets classifiés ou hautement sensibles. Fast Company rapporte aussi que le sénateur démocrate Mark Warner a évoqué l’exercice lors d’une audition du 11 juin devant la commission sénatoriale des banques, du logement et des affaires urbaines, disant que l’outil avait pénétré presque tous les systèmes classifiés “non pas en semaines mais en heures”, en attribuant cette formule au directeur de la National Security Agency et du U.S. Cyber Command, le général Joshua Rudd.

Mais ni la NSA ni Anthropic n’ont confirmé publiquement les détails du rapport. La NSA a refusé de commenter par e-mail, selon l’article, et un porte-parole d’Anthropic a également refusé de commenter. Cela place le dossier public dans une situation inhabituelle : l’existence générale de l’inquiétude semble appuyée par une référence publique en audition, mais les détails restent seulement partiellement éclaircis. Il serait prématuré de considérer les résultats rapportés comme un compte rendu pleinement établi de ce qui s’est passé à l’intérieur de réseaux classifiés.

Malgré cela, même en l’absence de sources complètes, cette histoire compte parce qu’elle s’inscrit dans un changement de politique plus large déjà en cours. Les gouvernements considèrent de plus en plus les modèles d’IA les plus avancés comme des systèmes à double usage. Ils peuvent soutenir la recherche, le codage et l’analyse, mais ils peuvent aussi amplifier les offensives cyber, les risques de biosécurité, les opérations de désinformation et l’instabilité stratégique s’ils deviennent trop largement accessibles ou trop peu testés.

Pourquoi le calendrier compte

L’exercice rapporté intervient dans une période de tension visible entre Anthropic et l’administration Trump. Fast Company indique qu’Anthropic a soulevé des inquiétudes quant à l’usage de ses systèmes d’IA par l’armée américaine, tandis que l’administration a restreint l’utilisation de certains modèles Anthropic. Début juin, l’administration a émis une directive exigeant qu’Anthropic empêche les ressortissants étrangers d’utiliser ses derniers modèles, Fable 5 et Mythos 5. Anthropic a ensuite désactivé ces modèles pour tous les clients afin de s’y conformer, tout en affirmant qu’elle ne pensait pas que les mesures du gouvernement étaient justifiées par le problème de sécurité qu’elle avait signalé.

Cette séquence met en lumière l’une des contradictions majeures du moment actuel de l’IA. Les gouvernements veulent que les laboratoires de pointe les aident à tester les défenses, à révéler les vulnérabilités et à renforcer les infrastructures critiques. Dans le même temps, ces mêmes gouvernements sont de plus en plus enclins à limiter l’accès à ces modèles par crainte qu’ils ne soient utilisés par des adversaires ou qu’ils diffusent des capacités dangereuses. Il en résulte une relation de traction et contretraction dans laquelle les entreprises d’IA sont à la fois des partenaires stratégiques et des acteurs du risque réglementés.

La mesure de la Maison Blanche citée dans le rapport ajoute un niveau supplémentaire. Dix jours avant la directive adressée à Anthropic, le président Donald Trump a signé un décret établissant un cadre permettant au gouvernement fédéral d’évaluer, jusqu’à un mois avant leur publication, les risques pour la sécurité nationale posés par les systèmes d’IA les plus avancés, avec une participation des développeurs décrite comme volontaire. Cela suggère que Washington cherche à mettre en place un régime de filtrage avant le lancement des modèles, et pas seulement un mécanisme de réponse après coup.

La cybersécurité devient un test de résistance pour les modèles de pointe

La portée profonde du rapport ne se limite pas à une entreprise ou à un seul résultat de test allégué. Il place la cybersécurité parmi les repères concrets les plus nets pour évaluer les capacités des modèles de pointe. Un modèle capable d’analyser rapidement des configurations, d’identifier des points faibles probables et de raisonner sur des chaînes d’attaque pourrait devenir un puissant assistant défensif. Les mêmes capacités pourraient aussi renforcer des opérations offensives si elles étaient détournées.

C’est pourquoi des affirmations comme celles-ci sont susceptibles d’influencer les contrôles à l’exportation, les restrictions d’accès et les normes d’évaluation. Si les décideurs estiment qu’un modèle peut améliorer de façon tangible la vitesse ou l’ampleur des intrusions cyber, ils pousseront à des contrôles de diffusion plus stricts et à des tests pré-déploiement plus rigoureux. Si les entreprises pensent que les gouvernements pourraient réagir de manière excessive à des résultats préliminaires, elles s’opposeront à des restrictions larges qui limitent l’usage légitime et la compétitivité mondiale.

Fast Company rapporte aussi qu’un groupe de dirigeants de la cybersécurité a demandé à l’administration de lever sa directive, arguant que cette mesure pourrait aider les adversaires des États-Unis. Cet argument reflète une autre ligne de fracture dans la gouvernance de l’IA : restreindre l’accès peut réduire certains risques, mais cela peut aussi ralentir la diffusion de capacités défensives parmi les chercheurs de confiance, les entreprises et les institutions alliées. En politique cyber, limiter les outils n’est jamais sans coût.

À surveiller ensuite

Le prochain développement important sera de savoir si une partie quelconque du dossier de test rapporté est confirmée publiquement. Si des agences, des législateurs ou Anthropic publient davantage de détails, la discussion pourrait rapidement passer de la spéculation au précédent. Cela affecterait non seulement Anthropic, mais aussi la manière dont les autres développeurs de modèles conçoivent les exercices de red teaming, classent les capacités dangereuses et négocient avec les gouvernements avant les grands lancements.

Pour l’instant, le rapport demeure un signal crédible plutôt qu’un dossier public complet. Même sous cette forme limitée, il souligne à quelle vitesse les questions de sécurité de l’IA passent de la théorie aux tests opérationnels. La question centrale n’est plus de savoir si les modèles avancés peuvent compter en cybersécurité. Elle est de savoir comment les gouvernements et les laboratoires mesureront cette capacité, en conteniront les risques et décideront qui y aura accès avant l’arrivée de la prochaine génération de systèmes.

Cet article s’appuie sur un reportage de Fast Company. Lire l’article original.