WikiSkill de Google donne aux agents IA une mémoire de l'échec

Le dernier framework d'agents de Google se concentre sur la persistance, pas sur le réentraînement

Google Research a introduit un système appelé WikiSkill qui tente de résoudre une faiblesse familière des agents IA : ils terminent souvent une tâche, jettent l'expérience et recommencent avec peu de mémoire pratique de ce qui a mal tourné auparavant. WikiSkill répond à cela en associant un agent à une base de connaissances persistante, de type wiki, qui enregistre les échecs et les succès et utilise ces enregistrements pour améliorer les performances futures.

Le principe est simple. Au lieu de traiter chaque exécution comme jetable, le framework capture ce qui s'est passé pendant l'exécution, distille ces résultats en connaissances structurées et transforme les leçons les plus utiles en directives comportementales réutilisables. Les instructions résultantes sont regroupées dans ce que la source décrit comme des « compétences d'agent », des modules qui peuvent façonner le comportement d'un agent sans modifier l'entraînement d'origine du modèle.

Cette distinction est importante. WikiSkill n'est pas présenté comme un véritable apprentissage continu au niveau du modèle. La source note explicitement que l'apprentissage continu reste un problème non résolu. Ce que WikiSkill offre à la place, c'est une mémoire externe et une boucle d'auto-amélioration : l'agent écrit de meilleures instructions pour lui-même, les stocke et les consulte plus tard. C'est un contournement, mais le rapport le décrit comme efficace.

Une architecture à trois couches sépare les journaux, les connaissances et l'action

WikiSkill organise l'espace de travail de l'agent en trois couches. En bas se trouve la couche brute, qui stocke les traces d'exécution complètes, y compris les appels d'outils et les résultats. Cette couche est immuable, servant de registre de base de ce que l'agent a réellement fait. Au-dessus se trouve la couche wiki, où ces traces brutes sont converties en observations structurées telles que des stratégies réussies et des schémas d'échec récurrents. En haut se trouve la couche de compétences, qui contient les instructions procédurales actives que l'agent utilise pour exécuter les tâches.

Cette séparation est l'un des choix de conception les plus forts du framework. Les traces brutes préservent les preuves. Le wiki convertit les preuves en connaissances cumulatives. Les compétences traduisent les connaissances en comportement opérationnel. En divisant le système de cette manière, WikiSkill évite de tout regrouper dans un magasin de mémoire opaque.

Il gère également la révision avec soin. Selon la source, la couche wiki ne fait que croître et ne se réinitialise pas entre les itérations. La couche de compétences est plus provisoire. Si une nouvelle mise à jour de compétence nuit aux performances, elle peut être annulée. Cela signifie que le framework traite les connaissances durables et la politique active différemment : les connaissances s'accumulent, mais le comportement reste testable et réversible.

Comment fonctionne la boucle d'amélioration

Le cycle de mise à jour comporte quatre parties. D'abord, un agent d'inférence exécute des tâches en utilisant l'ensemble de compétences actuel et génère des traces d'exécution. Ensuite, un composant appelé le mainteneur de wiki analyse ces traces, identifie les modes d'échec et les tactiques efficaces, et écrit les résultats dans le wiki. Un proposeur de compétences utilise à la fois le wiki mis à jour et les données d'exécution pour suggérer des changements ciblés aux compétences de l'agent. Enfin, un mécanisme de contrôle évalue la mise à jour proposée sur un ensemble de validation séparé et ne conserve le changement que s'il aide.

Cette dernière étape est essentielle. Les systèmes qui permettent aux agents de réécrire leurs propres procédures peuvent se dégrader rapidement si chaque révision est acceptée. Le contrôle de validation de WikiSkill est conçu pour arrêter cette dérive. Si une compétence proposée échoue au test, le système rejette la mise à jour de compétence mais préserve les connaissances sous-jacentes enregistrées dans le wiki.

Même les propositions échouées deviennent donc des entrées utiles. La source dit que le wiki documente ce qui a été essayé et pourquoi cela a échoué, ce qui donne aux itérations ultérieures plus de contexte. En effet, le système ne se souvient pas seulement des tactiques réussies. Il se souvient aussi des directions improductives et peut éviter de les répéter aveuglément.

Pourquoi la mémoire de l'échec pourrait être importante pour la fiabilité des agents

La signification plus large de WikiSkill n'est pas simplement que les agents peuvent accumuler des notes. C'est que l'échec devient une information de première classe. Dans de nombreux pipelines d'agents, l'échec n'apparaît que comme un mauvais résultat immédiat : une tâche est manquée, un outil est mal utilisé, ou une chaîne d'instructions s'effondre. À moins que les développeurs n'inspectent manuellement les journaux et ne révisent les invites, ces erreurs ne sont pas converties en connaissances opérationnelles persistantes.

WikiSkill tente d'automatiser cette conversion. En documentant les schémas d'échec et les stratégies réussies dans une couche durable, le framework donne à l'agent un moyen d'améliorer son comportement au fil du temps sans nécessiter une nouvelle série d'entraînement du modèle. Cela pourrait être particulièrement pertinent dans des environnements où les agents sont confrontés à plusieurs reprises à des tâches similaires et où l'utilisation d'outils, le séquençage et la gestion des exceptions comptent autant que la capacité linguistique brute.

Le framework reflète également une tendance croissante dans la conception des systèmes d'IA : pousser plus d'intelligence dans l'échafaudage autour du modèle plutôt que dans les poids du modèle eux-mêmes. La mémoire, la validation, le retour en arrière et l'auto-documentation structurée sont toutes des formes d'ingénierie opérationnelle. Elles ne résolvent pas le problème d'apprentissage le plus difficile, mais elles peuvent encore apporter des gains mesurables.

Un « wiki LLM » passe de l'idée à la mise en œuvre

Le travail s'appuie sur un concept associé dans la source à Andrej Karpathy : l'idée d'un « wiki LLM », un magasin cumulatif d'expérience qu'un système d'IA peut construire et consulter au fil du temps. WikiSkill applique cette idée spécifiquement au développement d'agents. Plutôt qu'un dépotoir de mémoire général, il crée un processus pour transformer les traces en procédures réutilisables et testables.

Cette focalisation sur la procédure est importante. Un agent n'a pas seulement besoin de faits ; il a besoin d'un meilleur sens de la façon d'agir. Quel outil devrait-il utiliser en premier ? Quels schémas d'échec devraient déclencher un chemin différent ? Quelle stratégie a fonctionné auparavant dans une situation similaire ? La réponse de WikiSkill est de formaliser ces leçons en compétences tout en préservant la base de preuves en dessous.

Il y a encore des compromis. La source note que la méthode est probablement plus sujette aux erreurs que l'apprentissage authentique. Les magasins de connaissances externes peuvent encoder des interprétations erronées, et les instructions auto-écrites peuvent dériver vers des heuristiques fragiles si elles ne sont pas validées soigneusement. Mais le mécanisme de contrôle et le modèle de retour en arrière montrent que les chercheurs traitent ce risque comme faisant partie du problème de conception.

Pour l'instant, le message est clair : la mémoire persistante pourrait être l'un des moyens les plus pratiques d'améliorer les agents avant que l'apprentissage continu véritable ne soit résolu. WikiSkill suggère que les agents n'ont pas besoin de se réentraîner pour s'améliorer dans les tâches répétées. Ils peuvent simplement avoir besoin d'un moyen structuré de se souvenir de ce qui s'est passé, de ce qui a échoué et de ce qui devrait être essayé la prochaine fois.

Cet article est basé sur un reportage de The Decoder. Lire l'article original.