Anthropic suspend Fable 5 et Mythos 5 après une ordre américain

Anthropic Retire Deux Nouveaux Modèles d’IA du Service Après une Ordonnance Gouvernementale

Anthropic a suspendu l’accès des clients à ses modèles récemment lancés Fable 5 et Mythos 5 après avoir reçu une ordonnance du gouvernement américain le vendredi 12 juin, selon l’explication publique de l’entreprise citée par Engadget. La mesure concerne tous les clients de ces deux modèles, tandis que le reste de la gamme de modèles d’Anthropic et son chatbot Claude restent disponibles.

L’entreprise a indiqué que la directive l’obligeait à bloquer l’accès des ressortissants étrangers, qu’ils se trouvent à l’intérieur ou à l’extérieur des États-Unis, y compris s’ils travaillent chez Anthropic. Anthropic a lié l’intervention à des préoccupations de sécurité nationale, tout en précisant que le gouvernement n’avait pas détaillé ces préoccupations.

Cela laisse apparaître un développement inhabituel et important sur le marché de l’IA en évolution rapide: le lancement d’un modèle commercial majeur interrompu en quelques jours par une ordonnance de sécurité nationale, l’entreprise s’exécutant tout en signalant son désaccord avec le fondement du rappel.

Ce qu’Anthropic dit avoir déclenché la mesure

Anthropic a déclaré penser que le gouvernement était intervenu après avoir entendu parler d’une méthode de jailbreak de Fable 5. Selon la version de l’entreprise, les responsables ont fourni des preuves verbales concernant un jailbreak potentiel, étroit et non universel, partagé par une entité non identifiée. Anthropic a indiqué qu’elle fournirait davantage de détails dans les 24 heures.

La distinction est importante. Anthropic a soutenu qu’aucun fournisseur de modèles ne peut garantir une résistance parfaite aux tentatives de jailbreak et que tous les modèles sont vulnérables à des attaques conçues spécifiquement pour eux. Sa stratégie déclarée pour Fable 5 consistait à rendre les jailbreaks soit étroits, soit coûteux à produire, tout en s’appuyant sur la surveillance pour détecter et fermer les tentatives réussies.

Ce cadrage suggère que l’entreprise considère le problème moins comme la preuve d’un échec singulièrement dangereux que comme un problème de sécurité connu devant être géré par des défenses en couches. Même ainsi, le résultat pratique immédiat a été une suspension totale de l’accès aux modèles concernés.

Pourquoi Fable 5 et Mythos 5 Comptent

L’ordonnance tombe à un moment sensible, car Anthropic venait tout juste de lancer Fable le 9 juin. L’entreprise a présenté Fable comme un moyen d’apporter de nombreuses capacités de Mythos à un public plus large. Mythos, en revanche, avait été réservé aux partenaires du Project Glasswing et décrit comme le modèle de cybersécurité le plus avancé d’Anthropic.

Anthropic a également déclaré que les capacités de Fable dépassent celles de tout modèle précédemment publié. Dans les tests de l’entreprise cités par Engadget, Fable a battu Pokemon FireRed, alors que Claude n’était pas parvenu à battre l’ancien Pokemon Red. La comparaison est légère en apparence, mais elle a été présentée comme une preuve que Fable représentait une avancée notable en matière de capacités.

Autrement dit, il ne s’agissait pas d’une mise à jour marginale du produit. C’était une nouvelle sortie de catégorie phare, liée à une partie des travaux les plus avancés d’Anthropic. Le retirer si peu de temps après son lancement soulève des questions non seulement sur l’examen de sécurité, mais aussi sur la manière dont les gouvernements peuvent intervenir lorsque les systèmes de pointe sont perçus comme créant de nouveaux risques.

Un Cas d’École pour la Gouvernance de l’IA

Anthropic a été l’une des grandes entreprises d’IA les plus vocales sur la nécessité d’un encadrement plus strict. Sa réponse à l’ordonnance reflète cette position, mais avec une réserve importante. L’entreprise a déclaré penser que le gouvernement devrait avoir le pouvoir de bloquer les déploiements dangereux, mais uniquement par une procédure légale transparente, équitable, claire et fondée sur des faits techniques.

C’est une position publique notable, car Anthropic se conforme simultanément à l’ordonnance tout en contestant la manière dont elle a été exécutée. D’après le texte source, l’objection de l’entreprise ne porte pas sur le principe de la supervision. Elle porte sur une procédure de rappel déclenchée par des preuves verbales d’un jailbreak potentiel, sans le cadre procédural clair qu’Anthropic estime devoir régir de telles décisions.

L’épisode dépasse donc une entreprise et une famille de modèles. Il met en évidence une question de politique publique encore non résolue pour les systèmes d’IA avancés: à quel moment une exploitation signalée justifie-t-elle une intervention d’urgence, et quel niveau de preuve devrait être exigé avant que les gouvernements puissent imposer un arrêt?

La Suite

Pour l’instant, les clients d’Anthropic font face à une interruption limitée mais importante. Fable 5 et Mythos 5 sont indisponibles, mais les autres modèles et Claude ne sont pas affectés. Cela limite l’impact opérationnel, mais la portée symbolique est forte. Une ordonnance gouvernementale a directement affecté le déploiement d’un nouveau modèle de pointe, et un leader du développement de l’IA a dû revenir presque immédiatement sur l’accès.

Plusieurs inconnues demeurent à partir des informations disponibles:

• Quelle préoccupation précise de sécurité nationale les autorités ont identifiée.
• À quel point le jailbreak allégué fonctionnait réellement dans la pratique.
• Si la suspension est temporaire ou pourrait devenir un retrait plus durable.
• Quelles informations Anthropic publiera à l’avenir sur l’exploit et ses protections.

Ces détails détermineront si l’épisode restera comme une pause de précaution ou comme un modèle précoce d’intervention directe de l’État dans les lancements commerciaux d’IA. Dans tous les cas, le message adressé à l’industrie est déjà clair: les lancements de modèles de pointe ne sont plus régis uniquement par la préparation technique et le calendrier du marché. Ils peuvent aussi être interrompus en temps réel par les autorités de sécurité nationale.

Cela déplace le centre de gravité du déploiement de l’IA. Les fournisseurs peuvent toujours se faire concurrence sur la performance et la sécurité, mais ils opèrent désormais dans un environnement où une vulnérabilité signalée peut déclencher non seulement une atténuation interne, mais aussi une action externe. La suspension de Fable 5 et de Mythos 5 par Anthropic est un signe précoce que la prochaine phase de la concurrence en IA sera façonnée autant par les mécanismes de gouvernance que par les capacités du modèle lui-même.

Cet article est basé sur le reportage d’Engadget. Lire l’article original.