Quand un laboratoire d'IA s'attaque à un problème du millénaire
Le conflit a commencé avec une affirmation extraordinaire : un système d'IA aurait produit une preuve des équations de Navier-Stokes, l'un des sept problèmes du millénaire de l'Institut de mathématiques Clay, un défi qui résiste aux mathématiciens depuis des décennies. Cet épisode aurait dû être une étape marquante pour la recherche assistée par l'IA. Au lieu de cela, il est devenu une mise en garde sur la manière dont les idées circulent entre les chercheurs indépendants et les laboratoires puissants qui contrôlent à la fois les algorithmes et les plateformes utilisées pour les développer.
Toutes les parties concernées ont maintenant fait des déclarations publiques, et les récits divergent fortement. Au centre se trouve le mathématicien Tristan Buckmaster, qui accuse OpenAI de mauvaise conduite après avoir eu connaissance d'un projet de recherche qu'il menait avec Levent Alpöge. OpenAI nie les accusations les plus graves, mais admet que ses actions ont été influencées par des rumeurs sur ce que les modèles du laboratoire rival Anthropic avaient accompli.
Allégations de pression et de plagiat
Buckmaster a été exceptionnellement direct dans ses critiques. Il affirme qu'OpenAI a pris des éléments des brouillons que lui et Alpöge avaient téléchargés sur l'environnement Codex d'OpenAI, l'a pressé pendant le processus de recherche, a tenté de retirer Alpöge comme co-auteur simplement parce qu'Alpöge est employé par Anthropic, et l'a menacé de conséquences pour sa carrière. Selon Buckmaster, ce comportement équivaut à une faute académique absolue.
L'accusation de pression est impossible à vérifier de l'extérieur. Ce qui peut être documenté, c'est qu'OpenAI a entendu des rumeurs selon lesquelles les modèles d'Anthropic avaient résolu un problème du millénaire et, de son propre aveu, a orienté ses ressources vers le même objectif. Le PDG d'OpenAI, Sam Altman, et le chercheur Sébastien Bubeck nient tout plagiat. Ils reconnaissent que leur équipe a développé un modèle spécifiquement pour ce problème après la circulation de la rumeur, mais ils rejettent l'idée que le résultat de l'entreprise ait été copié sur les travaux de Buckmaster et Alpöge.
Deux versions très différentes du même travail
Le cœur technique du désaccord est l'originalité. OpenAI maintient que sa solution diffère considérablement des travaux des mathématiciens. Buckmaster et Alpöge ne sont pas d'accord. Ils notent qu'ils avaient soumis une approche similaire dans les systèmes d'OpenAI, et ils soupçonnent que ces données ont fini dans les données d'entraînement. Si cela est vrai, l'entreprise aurait pu dépasser ses concurrents en utilisant les idées mêmes que ces concurrents avaient confiées à ses outils de développement.
Cette possibilité est importante pour une raison simple : les chercheurs ne soumettent normalement pas leurs travaux non publiés à un concurrent pour l'entraînement. Mais lorsque les laboratoires d'IA fournissent des assistants de codage et des plateformes cloud, les utilisateurs peuvent alimenter directement leur propriété intellectuelle la plus prometteuse dans un système qui peut améliorer les modèles du laboratoire. La frontière entre utiliser un outil et lui livrer sa recherche devient difficile à contrôler.
La question des données d'entraînement reste sans réponse
Les employés d'OpenAI soulignent que la probabilité que l'entreprise se soit entraînée sur les solutions soumises est faible, surtout si les deux chercheurs ont désactivé l'option permettant que leurs contributions soient utilisées pour l'entraînement. On ne sait pas publiquement s'ils l'ont fait. D'un point de vue scientifique, cette incertitude est précisément ce qui rend le conflit dangereux. Lorsqu'une allégation de ce type ne peut pas être enquêtée indépendamment, les chercheurs doivent se fier à la parole d'une entreprise qui n'a aucune obligation légale d'ouvrir son pipeline d'entraînement à une inspection externe.
Le chercheur d'OpenAI Boaz Barak a contesté l'idée que le modèle ait eu besoin d'une aide extérieure. Selon lui, le modèle n'a pas simplement reproduit un argument connu ; il a commencé par prouver une affirmation plus forte que celle des mathématiciens. Suggérer le contraire, à son avis, relève de la dénégation plutôt que d'une évaluation réaliste. Pourtant, cette défense ne résout guère la question plus profonde de la provenance. Même un modèle qui aurait finalement dépassé les travaux des chercheurs aurait pu être influencé par leurs brouillons. L'intégrité scientifique ne consiste pas seulement à savoir si la production a été copiée ; elle consiste également à savoir si une idée a été prise sans permission.
Un avertissement de Terence Tao
L'une des réponses les plus sobres vient du mathématicien Terence Tao. Il a averti que de futurs événements de ce type pourraient placer les mathématiciens indépendants dans une position impossible. Lorsqu'une rumeur parvient à une grande entreprise technologique, celle-ci peut mobiliser des ressources de calcul et des talents considérables en quelques jours. Une petite équipe de chercheurs ne peut pas suivre ce rythme, surtout si la rumeur est basée sur leurs propres travaux non publiés. Le résultat pourrait être que les laboratoires d'IA dépassent régulièrement les projets de recherche originaux simplement parce qu'ils ont de meilleures oreilles et de plus grandes machines.
L'avertissement de Tao va au-delà du conflit immédiat. Il pointe vers une asymétrie émergente dans la science : les groupes qui créent les modèles les plus puissants sont aussi les mieux placés pour entendre parler des résultats précoces, les intégrer dans les cycles d'entraînement et publier en premier. Les incitations académiques sont fondées sur la priorité et l'ouverture, mais ces incitations deviennent sans signification si un rival peut absorber des données non divulguées sans consentement.
Ce que cela signifie pour la science ouverte
La controverse de Navier-Stokes n'est donc pas seulement un différend entre deux individus et un laboratoire. Elle soulève des questions fondamentales sur la relation entre le développement de l'IA et la recherche ouverte.
- Les chercheurs peuvent-ils utiliser en toute sécurité les plateformes de codage IA tout en gardant leurs idées non publiées hors des données d'entraînement de l'entreprise ? La plupart des utilisateurs n'ont aucun moyen de vérifier que ces protections sont efficaces.
- Les laboratoires d'IA devraient-ils être autorisés à réorienter leurs efforts de recherche sur la base de travaux confidentiels ou supposés d'une autre organisation, surtout lorsque la rumeur provient de leurs propres outils ?
- Lorsqu'un co-auteur est employé par un laboratoire concurrent, ce fait devrait-il influencer la paternité ? Buckmaster affirme qu'OpenAI a tenté de retirer Alpöge de l'article pour cette raison, tandis que l'entreprise nie toute faute mais n'a pas clarifié sa politique de paternité.
- Qui devrait avoir accès aux données d'entraînement et aux poids du modèle en cas d'allégation de plagiat ? Les mécanismes actuels de résolution des litiges ne fournissent aucune voie claire pour les auditeurs externes.
- Qu'adviendra-t-il de la volonté du domaine de partager les résultats précoces si les jeunes chercheurs craignent que leurs travaux soient exploités par un acteur plus puissant ?
Ce ne sont pas des préoccupations abstraites. Le conflit a déjà endommagé la confiance dans l'idée que les entreprises d'IA peuvent servir de partenaires scientifiques neutres. Même les chercheurs qui ne s'intéressent pas à Navier-Stokes pourraient raisonnablement hésiter avant de télécharger un lemme prometteur ou une méthode non publiée sur une plateforme exploitée par un laboratoire d'IA.
La confiance ne peut pas être présumée
OpenAI et ses défenseurs ont peut-être raison de dire qu'aucun abus n'a eu lieu. Les preuves disponibles sont incomplètes, et la possibilité d'une coïncidence innocente est réelle. Mais cet épisode a relevé le niveau d'exigence pour ce à quoi ressemble une recherche en IA responsable. Un laboratoire qui développe des outils pour les mathématiciens ne peut pas se fier à une vague promesse de ne pas utiliser leurs travaux. Il doit démontrer, par des politiques transparentes de traitement des données et des mécanismes d'audit indépendants, que les contributions des utilisateurs n'apparaîtront pas dans les futurs modèles sans consentement.
La leçon plus large est peut-être que les scientifiques et les laboratoires d'IA fonctionnent selon des logiques différentes. Les universitaires partagent pour construire le savoir ; les entreprises partagent pour construire un avantage. Lorsque les deux systèmes se heurtent, le côté le plus faible est généralement le chercheur qui est en dehors des murs de l'entreprise. Le conflit de Navier-Stokes sera mémorisé non seulement pour la réalisation mathématique qui l'a déclenché, mais aussi pour ce qu'il a révélé sur la vulnérabilité de la science ouverte à l'ère de l'IA générative. À moins que des normes claires ne soient établies bientôt, le prochain problème du millénaire pourrait être résolu non pas par un mathématicien solitaire devant un tableau noir, mais par une équipe d'entreprise qui a vu la réponse arriver avant même que la question ne soit publiée.
Cet article est basé sur un reportage de The Decoder. Lire l'article original.
Originally published on the-decoder.com