Anthropic va fermer ses modèles avancés après un ordre américain

Anthropic dit qu’un ordre américain l’oblige à fermer brutalement ses modèles

Anthropic a indiqué qu’elle désactiverait ses modèles d’IA les plus avancés après que le gouvernement américain a ordonné à l’entreprise de suspendre l’accès pour les ressortissants étrangers, selon le rapport fourni. La mesure concerne les modèles Fable 5 et Mythos 5 de l’entreprise et a été présentée par Anthropic comme une étape immédiate de conformité liée à des préoccupations de sécurité nationale.

Cette évolution marque une nette escalade dans l’approche du gouvernement en matière de contrôle de l’IA. Depuis des années, les restrictions américaines se concentrent principalement sur les puces, les outils pour semi-conducteurs et les autres infrastructures nécessaires à la construction d’une IA avancée. Cet ordre, tel que décrit dans la source, rapproche la ligne de contrôle des modèles eux-mêmes en restreignant qui peut y accéder.

Ce qu’Anthropic dit avoir reçu comme instruction

Selon le texte source, Anthropic a déclaré avoir reçu une directive de contrôle des exportations ordonnant de suspendre l’accès à Fable 5 et Mythos 5 pour tous les ressortissants étrangers. L’entreprise a affirmé qu’aucun détail précis ne lui avait été donné sur la préoccupation de sécurité nationale à l’origine de l’ordre.

Anthropic a déclaré comprendre que le gouvernement estime qu’il existe un moyen de contourner, ou de “jailbreaker”, au moins l’une des protections destinées à empêcher Fable 5 d’être utilisé pour identifier des vulnérabilités logicielles. Autrement dit, la crainte semble être qu’un modèle aux capacités élevées puisse être manipulé afin d’aider les utilisateurs à trouver des failles exploitables dans des systèmes logiciels.

L’entreprise a contesté ce raisonnement. Dans le rapport fourni, Anthropic a indiqué qu’elle n’avait reçu que des éléments verbaux à propos de ce qu’elle décrivait comme un possible jailbreak étroit et non universel. Elle a soutenu qu’un tel constat ne devrait pas justifier le rappel d’un modèle commercial utilisé par un très grand nombre de personnes.

Un point de friction dans la politique d’exportation de l’IA

Le différend est important car il suggère une nouvelle frontière dans la régulation de l’IA. Les contrôles à l’exportation ont traditionnellement porté sur la chaîne d’approvisionnement physique et technique : puces avancées, équipements de lithographie et outils associés. Restreindre l’accès aux services d’IA eux-mêmes est un mécanisme différent et potentiellement plus perturbateur, surtout lorsque l’accès via le cloud permet d’utiliser des modèles à l’échelle mondiale sans expédier de matériel.

Si l’accès aux modèles de pointe peut être limité sur des bases de nationalité, les entreprises d’IA pourraient faire face à une nouvelle charge de conformité similaire aux régimes de contrôle des exportations déjà courants dans les secteurs de la défense et du double usage. La source n’explique pas comment Anthropic séparera techniquement les utilisateurs concernés, mais sa déclaration indique que l’entreprise a choisi une approche de fermeture large plutôt que d’essayer un déploiement plus restreint dans l’incertitude.

Tensions entre Anthropic et Washington

L’ordre intervient aussi dans une relation déjà tendue entre Anthropic et le gouvernement américain. La source indique que la relation s’est détériorée plus tôt cette année après qu’Anthropic a refusé d’autoriser l’armée américaine à utiliser ses modèles d’IA pour la surveillance intérieure et les systèmes d’armes totalement autonomes. En réponse, le gouvernement a placé l’entreprise sur une liste noire de la chaîne d’approvisionnement, qui devait entrer en vigueur plus tard dans l’année.

Ce contexte compte, car il fait apparaître la dernière directive comme plus qu’un simple désaccord technique isolé. Elle survient dans le cadre d’une bataille plus large sur la manière dont les entreprises d’IA doivent coopérer avec le pouvoir d’État, sur l’endroit où doivent se situer les limites d’un usage militaire acceptable et sur l’ampleur de l’influence que les gouvernements devraient exercer sur des modèles développés par le privé.

Le rapport note également que des signes d’apaisement avaient récemment émergé dans les différends entre Anthropic et des responsables de l’administration Trump. Le nouvel ordre va à l’encontre de cette impression et suggère que le conflit sous-jacent reste non résolu.

Pourquoi la question du jailbreak est importante

Anthropic a présenté la question comme un différend sur la manière dont les gouvernements devraient évaluer le risque de jailbreak. Selon le récit fourni, l’entreprise avait appelé quelques jours plus tôt à un meilleur encadrement de l’IA aux États-Unis, y compris la capacité de bloquer les modèles présentant des risques inacceptables. Mais elle a indiqué que l’action de vendredi ne suivait pas ce qu’elle considérait comme un processus fondé sur des principes et sur des preuves.

Cette distinction est essentielle. Les entreprises d’IA admettent de plus en plus qu’un certain niveau de supervision est inévitable, et certaines la soutiennent activement. La question la plus difficile est de savoir quels seuils déclenchent une intervention. Si le contournement étroit d’une protection suffit à interrompre l’accès international à un grand modèle commercial, les entreprises pourraient soutenir que presque n’importe quel système avancé pourrait être vulnérable à des restrictions soudaines. Les régulateurs, de leur côté, peuvent voir dans cette même possibilité la raison d’agir tôt.

Un signal pour l’ensemble du secteur

L’ordre rapporté sera probablement suivi de près par tous les développeurs d’IA de pointe. Même sans davantage de détails techniques, il montre que les autorités américaines peuvent être prêtes à agir directement contre l’accès aux modèles lorsqu’elles estiment que la sécurité nationale est en jeu. Cela crée une nouvelle incertitude pour les fournisseurs qui servent des utilisateurs du monde entier via une seule plateforme.

Pour Anthropic, le résultat immédiat est une perturbation opérationnelle et réputationnelle. Pour l’ensemble du secteur, l’épisode pourrait devenir un précédent. Si les gouvernements passent du contrôle du matériel d’IA au contrôle des capacités d’IA sous forme de service, les entreprises devront mettre en place un filtrage plus strict, des niveaux de déploiement plus clairs et des arguments de sécurité plus défendables. Le rapport fourni suggère que cette transition est peut-être déjà en cours.

Cet article est fondé sur un reportage du Guardian. Lire l’article original.