Des chercheurs de Meta disent que les « hyperagents » peuvent améliorer à la fois les tâches et la façon de s’améliorer

Meta et des collaborateurs universitaires font franchir un cap à l’IA auto-améliorante

Des chercheurs de Meta, de l’Université de la Colombie-Britannique et d’autres institutions affirment avoir mis au point une nouvelle catégorie de systèmes appelés « hyperagents », capables de s’améliorer non seulement dans l’exécution de tâches, mais aussi dans le raffinement du processus qu’ils utilisent pour s’améliorer eux-mêmes. Si l’approche tient ses promesses, elle marquerait une extension significative de l’IA auto-améliorante au-delà des domaines où les méthodes précédentes fonctionnaient bien, en particulier la programmation.

Selon The Decoder, ce travail s’appuie sur la Darwin Gödel Machine, ou DGM, un cadre dans lequel un agent génère des variantes de son propre code, les teste et stocke les versions réussies dans une archive pouvant soutenir de nouveaux cycles de raffinements. La principale limite de ce dispositif antérieur, d’après le texte source, était que le mécanisme chargé de diriger l’amélioration restait figé par les humains. L’agent pouvait optimiser à l’intérieur de ce cadre, mais il ne pouvait pas modifier le cadre lui-même.

Ce qui distingue un hyperagent

La solution proposée consiste à combiner deux fonctions au sein d’un même programme modifiable. Un composant gère la tâche à accomplir, comme évaluer un article scientifique ou concevoir une fonction de récompense pour un robot. L’autre composant modifie l’agent et crée de nouvelles variantes. Comme les deux composants existent dans la même base de code, le système peut en principe réécrire non seulement son comportement de résolution de tâches, mais aussi sa logique d’amélioration.

C’est l’affirmation centrale derrière l’idée d’hyperagent. Au lieu de progresser uniquement dans une enveloppe fixe écrite par des humains, l’agent peut aussi optimiser cette enveloppe. Dans les termes du rapport source, il devient meilleur à la fois dans les tâches et dans le fait de « comprendre comment s’améliorer dès le départ ».

Cela compte parce que l’auto-amélioration se heurte depuis longtemps à un plafond. Un système peut être très capable dans un domaine, tout en dépendant encore de mécanismes conçus à la main qui n’évoluent pas eux-mêmes. Les hyperagents cherchent à supprimer ce goulot d’étranglement en rendant également modifiable le niveau méta.

Pourquoi les premières approches d’auto-amélioration se généralisaient mal

Selon le texte source fourni, la Darwin Gödel Machine d’origine montrait des promesses pour les tâches de programmation, car il existe un lien naturel entre le fait d’être un meilleur programmeur et celui d’écrire de meilleures auto-modifications. En programmation, la compétence de l’agent pour la tâche et sa compétence à modifier sa propre implémentation sont étroitement liées.

En dehors du code, ce lien s’affaiblit. Un agent qui devient meilleur pour évaluer des articles scientifiques ne devient pas automatiquement meilleur pour réécrire son propre code. Les chercheurs soutiennent que c’est la raison pour laquelle la DGM originale a mal fonctionné hors de la programmation sans ajustement manuel. Le rapport indique que le système a obtenu des performances presque nulles dans les tâches non liées à la programmation, sauf intervention humaine pour le régler.

Les hyperagents visent à corriger ce mode de défaillance. En permettant d’optimiser le mécanisme d’amélioration lui-même, les chercheurs cherchent à préserver la structure évolutive basée sur une archive de la DGM tout en évitant que le méta-agent reste définitivement figé.

Le nouveau système : DGM-H

L’équipe appelle cette nouvelle approche DGM-Hyperagents, ou DGM-H. L’archive reste un élément central de la méthode. Le système génère des variantes, les évalue, puis utilise les versions réussies comme tremplins pour les changements futurs. Ce qui change, c’est que le composant « méta » n’est plus verrouillé. L’architecture est conçue de sorte que le processus de l’agent visant à générer de meilleures versions puisse lui-même être modifié dans le cadre du même cycle.

Il s’agit d’un changement conceptuel important. Dans de nombreux systèmes d’IA, l’auto-amélioration est limitée par une séparation rigide entre le solveur de tâches au niveau objet et le contrôleur ou la logique d’entraînement au niveau méta. DGM-H réduit cette séparation en plaçant les deux dans du code modifiable. Le résultat, en théorie du moins, est un système qui a de meilleures chances de s’adapter à des domaines inconnus où la voie d’amélioration n’est pas déjà alignée avec la compétence dans la tâche.

Résultats rapportés sur quatre catégories de tâches

Le texte candidat indique que les chercheurs ont testé DGM-H sur quatre catégories de tâches et ont signalé des gains majeurs. L’extrait ne fournit pas les résultats numériques complets, il ne faut donc pas les surestimer. Ce que l’on peut dire, c’est que l’équipe de recherche présente le système comme nettement plus solide que la configuration d’origine en termes de portée plus large.

Cette affirmation est importante parce que la généralité est l’une des cibles les plus difficiles en matière d’IA auto-améliorante. Beaucoup de systèmes fonctionnent bien dans des conditions étroites, mais reposent sur des hypothèses artisanales qui se brisent lorsque l’environnement change. Si les hyperagents peuvent s’améliorer de manière significative à travers différents types de tâches, ils représenteraient un progrès vers des systèmes autonomes plus flexibles.

En même temps, le matériel fourni présente cela comme de la recherche, et non comme une capacité de production. Il faut donc comprendre ce travail comme une étape expérimentale, et non comme la preuve qu’une IA largement auto-accélératrice fonctionne déjà à grande échelle.

Pourquoi cette recherche compte

La portée plus large des hyperagents tient à l’endroit où ils déplacent la frontière. Les chercheurs en IA explorent depuis longtemps des systèmes capables de chercher, d’optimiser ou d’écrire du code pour améliorer les performances. Le problème plus difficile consiste à construire des systèmes qui peuvent réviser la logique même de la révision sans s’effondrer dans des changements improductifs. DGM-H est présenté comme une tentative de rendre cette boucle récursive plus capable et plus utile à plus grande échelle.

Si l’approche se révèle robuste, elle pourrait avoir de l’importance dans les domaines où la compétence dans la tâche et la compétence de modification de soi ne coïncident pas naturellement. L’analyse scientifique, la robotique et d’autres domaines complexes sont des exemples mentionnés dans le texte source. Dans ces contextes, la valeur d’un système peut de plus en plus dépendre de sa capacité non seulement à agir, mais aussi à redessiner sa manière d’apprendre et de s’adapter.

Cette perspective explique aussi pourquoi ce travail attire l’attention au-delà des détails techniques. Un système capable d’optimiser son propre optimiseur touche à des questions centrales de croissance des capacités de l’IA, de sécurité, d’évaluation et de contrôle. Le rapport fourni met l’accent sur les gains de performance potentiels, mais la même idée architecturale susciterait probablement l’examen attentif de chercheurs préoccupés par la supervision et l’alignement.

Une étape incrémentale mais notable

Sur la base des éléments disponibles, la conclusion la plus prudente est que Meta et ses collaborateurs font avancer un modèle plus flexible d’auto-amélioration, et non qu’ils démontrent une voie résolue vers une intelligence récursive hors de contrôle. La recherche s’attaque à une faiblesse précise des approches antérieures de modification de soi et revendique des progrès dans plusieurs catégories de tâches.

À elle seule, cette avancée est notable. L’IA auto-améliorante est souvent évoquée en termes abstraits ou spéculatifs. Les hyperagents donnent à cette discussion une forme technique plus concrète : des mécanismes méta modifiables, une itération fondée sur l’archive et une tentative explicite de généraliser au-delà de l’ingénierie logicielle. Que la méthode devienne fondatrice ou demeure une expérience utile dépendra de résultats qui vont au-delà du résumé proposé ici. Mais en tant qu’axe de recherche, elle vise clairement l’une des questions les plus déterminantes en IA : non seulement savoir si les systèmes peuvent s’améliorer, mais aussi s’ils peuvent améliorer le processus d’amélioration lui-même.

Cet article est basé sur un reportage de The Decoder. Lire l’article original.