Anthropic oriente Claude Code vers un usage plus autonome

Anthropic change la manière dont les développeurs interagissent avec Claude Code en faisant d’Auto Mode le réglage par défaut pour la plupart des utilisateurs payants à partir du 14 août. D’après le document source, cette mesure s’applique aux offres Pro, Max et Team, tandis que les clients Enterprise devront toujours l’activer séparément. En pratique, ce changement signifie que Claude Code agira plus souvent sans attendre qu’un humain approuve chaque étape individuelle, et ne s’arrêtera que lorsque son système de sécurité estimera qu’une action semble dangereuse ou difficile à annuler.

Il s’agit donc de bien plus qu’un simple ajustement produit. C’est une prise de position sur la manière dont une grande entreprise d’IA estime que les assistants de codage doivent être utilisés: non pas seulement comme outils d’autocomplétion ou interfaces de discussion, mais comme agents semi-autonomes capables d’exécuter un travail de développement prolongé avec une supervision limitée. Anthropic présente ce changement comme une amélioration de la sécurité plutôt que comme une réduction du contrôle, affirmant que son classificateur peut signaler les commandes risquées plus régulièrement que ne le feraient des approbations manuelles, une par une.

Pourquoi Anthropic estime qu’Auto Mode est plus sûr

L’argument de l’entreprise repose sur un ensemble de résultats de test mentionnés dans le texte source. Dans une étude contrôlée menée auprès de 1 053 testeurs payants, les évaluateurs humains n’ont détecté que 13,6 % des commandes dangereuses, tandis qu’Auto Mode en a détecté 89 %. Anthropic a également indiqué que ses tests internes de red teaming montraient qu’Auto Mode était au moins aussi sûr que les approbations manuelles, et souvent meilleur. L’entreprise a ajouté que les équipes utilisant Auto Mode généraient environ 25 % de pull requests en plus, ce qui suggère que le niveau d’autonomie plus élevé s’est aussi traduit par davantage de production.

Le mécanisme décrit est simple dans son principe. Au lieu de demander une autorisation à chaque étape, Claude Code fonctionne en continu et s’appuie sur un classificateur pour déterminer quand une action doit être mise en pause pour confirmation. Le système est conçu pour intervenir lorsqu’une action paraît dangereuse ou irréversible. Anthropic précise que le classificateur lui-même n’ajoute pas de frais de jetons pour l’utilisateur, même si le flux de travail global pourrait malgré tout accroître l’usage total en permettant des sessions de codage plus longues et plus productives.

Cela compte, car la fatigue liée aux approbations est un vrai problème dans les outils logiciels agentiques. Si les utilisateurs doivent approuver presque chaque commande, beaucoup finiront soit par cliquer machinalement, soit par désactiver complètement les garde-fous. La promesse d’Anthropic est qu’une intervention ciblée est plus réaliste que des demandes d’approbation systématiques, et qu’un filtre assisté par modèle peut surpasser la vigilance humaine dans des situations de relecture répétitives.

Le prompt injection reste une préoccupation majeure

L’une des affirmations les plus importantes du texte source est qu’Auto Mode est également destiné à aider à se défendre contre les attaques de prompt injection. Ces attaques cherchent à manipuler un agent d’IA via des instructions intégrées dans du code, des fichiers ou d’autres matériaux qu’il rencontre pendant son travail. Dans un environnement de codage agentique, ce risque est plus grave que dans un chatbot passif, car le système peut avoir accès à des commandes, des dépôts, des processus et, dans certains cas, à des données sensibles.

Anthropic a cité un audit indépendant de Trajectory Labs couvrant 72 scénarios d’attaque, chacun exécuté 10 fois. Selon le texte source, aucune des 720 tentatives n’a réussi à contourner les modèles actuels de Claude en Auto Mode. Le texte a également comparé cela à un benchmark cité pour GPT-5.6 Sol d’OpenAI en mode Codex Auto-Review, où 5,83 % des tentatives auraient réussi à passer. Developments Today ne peut pas vérifier la méthodologie au-delà de ce qui figure dans le texte fourni, mais cette comparaison montre à quel point les fournisseurs se livrent désormais une concurrence agressive sur la sécurité des agents, et pas seulement sur la qualité du code.

Dans une étude contrôlée menée auprès de 1 053 testeurs payants, les évaluateurs humains n’ont détecté que 13,6 % des commandes dangereuses, tandis qu’Auto Mode en a détecté 89 %. | Image : Anthropic
Dans une étude contrôlée menée auprès de 1 053 testeurs payants, les évaluateurs humains n’ont détecté que 13,6 % des commandes dangereuses, tandis qu’Auto Mode en a détecté 89 %. | Image : Anthropic

Anthropic a aussi fourni des exemples internes pour illustrer les enjeux. L’entreprise a indiqué qu’Auto Mode avait empêché Claude de téléverser des données confidentielles vers une page publique et qu’au cours d’une longue session, il avait arrêté environ 2 000 processus qui auraient autrement perturbé des tâches de formation GPU en cours. Ces exemples suggèrent que l’entreprise teste ces systèmes dans de vrais environnements de développement et d’infrastructure, où les erreurs peuvent affecter la sécurité, la disponibilité et des charges de calcul coûteuses.

Plus de production, mais un rôle qui change pour les développeurs

L’argument de productivité est important car il renvoie à une évolution plus large du travail logiciel. Si les équipes utilisant Auto Mode produisent davantage de pull requests, alors le travail du développeur change avec cela. Le texte source note explicitement que le rôle s’éloigne davantage du codage actif ligne par ligne pour se rapprocher de la supervision, de la revue et de la validation des sorties générées par l’IA.

Cela ne supprime pas le besoin de jugement humain. Anthropic elle-même prévient que le classificateur réduit le risque, mais ne l’élimine pas. L’entreprise recommande toujours aux utilisateurs de revoir eux-mêmes les actions de Claude lorsqu’il s’agit de changements à fort enjeu sur l’infrastructure de production. Cette réserve est importante. Le cas le plus solide pour Auto Mode se situe peut-être dans les flux de développement routiniers, où le coût du délai est élevé et où le risque de chaque action individuelle est relativement contenu. Le cas plus faible concerne les environnements dans lesquels une seule mauvaise commande pourrait exposer des données, casser des systèmes de production ou provoquer des dommages opérationnels irréversibles.

Vu sous cet angle, l’annonce d’Anthropic est à la fois un lancement produit et une incitation comportementale. En faisant d’Auto Mode le mode par défaut, l’entreprise normalise l’idée que les développeurs devraient laisser les agents de codage fonctionner plus longtemps de façon autonome. Les valeurs par défaut comptent. Beaucoup d’utilisateurs qui n’auraient pas activé volontairement un mode plus autonome le vivront désormais comme la manière standard dont l’outil fonctionne.

Ce que cela signifie pour le marché du codage IA

Ce changement reflète aussi une phase de maturité du marché des assistants de codage. La concurrence ne porte plus seulement sur celui qui écrit le meilleur extrait ou explique la refactorisation la plus propre. Elle concerne de plus en plus la capacité à gérer l’autonomie en toute sécurité: choisir quand agir, quand s’arrêter, et comment résister aux instructions malveillantes ou involontaires rencontrées pendant l’exécution.

Anthropic semble parier que cette couche de jugement opérationnel deviendra un différenciateur central. Si ce pari est juste, la prochaine phase des outils de codage IA sera mesurée moins par la fréquence à laquelle ils peuvent générer du code à partir d’un prompt que par la fiabilité avec laquelle ils peuvent fonctionner dans des dépôts réels et chaotiques sans causer de dommages. Le passage d’Auto Mode au statut de mode par défaut est un signe concret que l’industrie se dirige désormais dans cette direction.

Cet article est basé sur un reportage de The Decoder. Lire l’article original.

Originally published on the-decoder.com