Un avertissement qui arrive avant que les preuves ne soient complètes
Les gouvernements devraient agir pour encadrer des agents d'IA de plus en plus capables bien avant que les chercheurs puissent expliquer pleinement comment ces systèmes défaillent, selon un panel scientifique des Nations unies. Cette conclusion figure dans la première note thématique du panel, présentée comme la première grande évaluation par l'organisation mondiale du piratage d'Hugging Face par OpenAI plus tôt cette année.
Le document paraît à un moment où la politique en matière d'IA est passée des salles de conférence techniques au devant de la scène de la diplomatie internationale. Son argument central est inconfortable pour les régulateurs qui préfèrent attendre une preuve définitive du préjudice : le temps que la causalité soit établie, les dommages pourraient déjà être irréversibles.
Au sein du nouveau organe scientifique de l'ONU sur l'IA
La note a été produite par le Panel scientifique international indépendant sur l'IA, un organe créé l'an dernier et présenté comme le premier organe scientifique mondial des Nations unies consacré à l'intelligence artificielle. Son mandat est d'offrir aux États membres un point de référence scientifique commun, alors que les législations nationales divergent et que les incitations commerciales poussent le développement plus vite que la supervision ne peut suivre.
Plutôt que de proposer un statut mondial unique, le panel appelle à un changement substantiel de priorités. Ses recommandations s'articulent autour de trois grandes exigences :
- Consacrer bien davantage d'attention et de ressources à la gestion des risques émergents des systèmes d'IA avancés.
- Renforcer la coordination internationale en matière de sécurité, afin que les garde-fous d'une juridiction ne soient pas affaiblis par des règles plus laxistes ailleurs.
- Mettre en place des mécanismes de responsabilité durables, capables d'attribuer la responsabilité lorsque des systèmes autonomes causent un préjudice.
Le panel affirme explicitement que les pays n'ont pas besoin d'harmoniser leurs cadres juridiques pour agir. Différentes juridictions peuvent adopter des approches différentes, soutient-il, à condition qu'elles traitent les risques sous-jacents comme un problème partagé plutôt que comme un avantage concurrentiel à exploiter.
Pourquoi le principe de précaution porte tout le poids de l'argumentation
Le socle intellectuel de la note est le principe de précaution, consacré pour la première fois dans la Déclaration de Rio sur l'environnement et le développement de l'ONU en 1992. Ce principe veut que l'incertitude scientifique ne soit pas une excuse valable pour reporter des mesures contre un préjudice potentiellement grave ou irréversible.
Le panel soutient que le risque de perte de contrôle des systèmes d'IA avancés relève précisément de la catégorie de problèmes pour laquelle ce principe a été conçu. Dans sa formulation, un tel risque est celui où le préjudice potentiel pourrait être catastrophique ou irréversible alors même que sa probabilité demeure scientifiquement incertaine.
L'incertitude comme fait, non comme tactique dilatoire
C'est la rupture la plus nette de la note avec la pratique réglementaire dominante. La plupart des règles existantes en matière d'IA sont déclenchées par des préjudices démontrés ou des seuils mesurables. Le panel considère au contraire l'absence de chaîne causale prouvée comme une raison de prudence plutôt que de patience.
L'implication pratique est considérable. Si les gouvernements acceptent la logique du panel, ils commenceraient à imposer des garde-fous à des systèmes dont les modes de défaillance sont encore mal caractérisés, acceptant un certain coût et des frictions en échange d'une protection contre des événements à faible probabilité et à fortes conséquences.
L'incident Hugging Face reconfigure le débat
Ce qui donne son urgence à la note, c'est l'épisode qu'elle examine : le piratage d'Hugging Face par OpenAI plus tôt cette année. Le panel traite cet incident comme une étude de cas montrant avec quelle rapidité des défaillances de sécurité impliquant l'infrastructure d'IA de pointe peuvent passer d'un problème d'entreprise à une question de préoccupation internationale.
Fait crucial, le panel ne prétend pas avoir entièrement reconstitué la mécanique de l'événement. Son argument est que cette lacune dans la compréhension est précisément la raison pour laquelle attendre est la mauvaise stratégie. Un système qui peut être compromis avant que son comportement ne soit cartographié en détail ne peut être gouverné uniquement par l'enquête rétrospective et la divulgation a posteriori.
Calendrier diplomatique : la semaine de l'AGNU et les discussions entre les États-Unis et la Chine
La note consolide cette semaine la place de l'IA à l'agenda diplomatique mondial, alors que les dirigeants du monde se réunissent à New York pour l'Assemblée générale de l'ONU et que Pékin et Washington se préparent à tenir des discussions sur l'IA. Ces deux pistes parallèles confèrent au rapport un levier inhabituel : il offre un point d'ancrage scientifique neutre au moment où les deux plus grandes puissances de l'IA négocient bilatéralement.
Les auteurs du rapport semblent conscients de ce contexte. En fondant leurs recommandations sur le droit international établi plutôt que sur le modèle réglementaire d'un seul pays, ils rendent la note plus difficile à écarter comme le produit des priorités d'un seul bloc.
Guterres : le monde ne peut se permettre une course vers le bas
La publication du panel fait suite aux propos du secrétaire général de l'ONU, António Guterres, qui a exhorté la semaine dernière les gouvernements à coopérer face aux menaces posées par l'IA. Il a averti que le monde ne pouvait se permettre une course vers le bas en matière de sécurité de l'IA.
Cette formule saisit la tension structurelle que la note tente de résoudre. Si les exigences de sécurité imposent des coûts, chaque État a intérêt à les assouplir pour attirer les laboratoires, la puissance de calcul et les investissements. La réponse du panel est la coordination : élever collectivement le niveau plancher plutôt que rivaliser pour savoir jusqu'où l'abaisser.
Des lois différentes, un risque partagé
La note n'exige pas un recueil de règles mondial unique. Elle reconnaît que les pays continueront de légiférer différemment, en fonction de leurs traditions juridiques, de leurs politiques industrielles et de leur tolérance au risque. Ce qu'elle exige en revanche, c'est que la variation des approches ne devienne pas une variation du sérieux.
Pour les régulateurs nationaux, cela se traduit par une attente d'interopérabilité : signalement partagé des incidents, normes d'évaluation comparables et canaux de communication rapide lorsqu'un système se comporte de manière inattendue. Pour les développeurs, cela signifie que le respect des règles d'une juridiction ne sera probablement pas considéré comme une protection suffisante ailleurs.
Ce qui suit
En tant que note thématique et non instrument contraignant, le rapport n'a aucun pouvoir d'application. Son influence se mesurera à la part de son langage qui migrera dans les lois nationales, les déclarations multilatérales et les conversations bilatérales entre Washington et Pékin.
Le panel a néanmoins accompli quelque chose de notable : il a placé la charge de la preuve sur ceux qui soutiennent que les garde-fous devraient attendre la certitude. Si ce cadrage s'impose, les années à venir de gouvernance de l'IA ressembleront moins à un débat sur l'opportunité de réguler qu'à un débat sur la quantité de précaution que le monde est prêt à acheter — et sur la rapidité avec laquelle il est prêt à la payer.
Cet article est basé sur un reportage de The Verge. Lire l'article original.
Originally published on theverge.com