Des experts américains et chinois appellent à des règles communes pour exclure l'IA des décisions de lancement nucléaire

Deux chercheurs proposent un modèle à Washington et Pékin

Des experts des États-Unis et de Chine veulent empêcher les systèmes d'intelligence artificielle de prendre des décisions autonomes concernant le déploiement d'armes nucléaires, et ils ont désormais avancé des propositions précises qu'ils espèrent voir adoptées par les deux gouvernements. Melanie Sisson, de la Brookings Institution, et Tianjiao Jiang, de l'Université Fudan, ont publié ces recommandations avant une rencontre prévue entre le président Trump et le président Xi Jinping le 24 septembre — un calendrier qui semble conçu pour placer un langage concret devant les décideurs alors qu'un dialogue de haut niveau est encore programmé.

Plutôt que d'appeler à un moratoire général sur les applications militaires de l'IA, les deux chercheurs se concentrent sur un petit nombre de lignes rouges clairement définies. Ce cadrage reflète un jugement implicite : les domaines où les intérêts américains et chinois se recoupent le plus manifestement sont aussi ceux où les conséquences d'une erreur de calcul seraient les plus difficiles à contenir.

Les lignes rouges que les propositions traceraient

Les recommandations énoncent plusieurs interdictions, chacune visant un mode de défaillance spécifique plutôt que la technologie en général.

Aucune autorité indépendante de lancement

La première règle, et la plus lourde de conséquences, concerne l'autorité de lancement. Selon les propositions, aucun système d'IA ne serait autorisé à lancer des armes nucléaires de sa propre initiative. Cette disposition fermerait toute voie par laquelle un algorithme, aussi performant soit-il, pourrait ordonner une frappe sans qu'une décision humaine ne se trouve derrière.

Les systèmes de commandement nucléaire hors de portée

Une deuxième ligne rouge interdit que l'IA soit utilisée pour attaquer les systèmes de commandement nucléaire. Parce que ces systèmes occupent une place centrale dans la capacité d'un État à détecter, décider et riposter, des opérations automatisées contre eux comportent un risque exceptionnellement élevé d'être interprétées comme la préparation d'une première frappe. Les exclure du ciblage assisté par IA vise à supprimer ce déclencheur particulier.

Les humains conservent le contrôle exclusif des opérations cyber

Une troisième disposition porte sur le cyberespace. Les humains seraient tenus de conserver le contrôle exclusif des cyberattaques pilotées par l'IA dirigées contre des infrastructures stratégiques. Les opérations cyber sont un domaine où une action à la vitesse de la machine est déjà plausible, et où la frontière entre sonder et paralyser un adversaire peut être brouillée par le rythme des outils automatisés.

S'accorder sur ce que signifie réellement « contrôle humain »

À la base des interdictions spécifiques se trouve un problème de définition. Les propositions appellent les deux pays à s'accorder sur une définition commune du « contrôle humain ». Sans ce vocabulaire partagé, chaque partie pourrait revendiquer sa conformité tout en opérant selon des normes que l'autre ne reconnaît pas — précisément le type d'ambiguïté que les accords de maîtrise des armements ont historiquement eu du mal à lever.

S'appuyer sur un accord déjà conclu

Les recommandations s'appuient sur une entente entre Biden et Xi conclue en novembre 2024. Cet engagement antérieur a établi une adhésion politique au plus haut niveau, mais il n'a pas réglé les questions opérationnelles : ce qui est interdit, qui vérifie le respect des règles, ou comment les différends sont résolus. Les nouvelles propositions tentent de convertir une déclaration d'intention en quelque chose de plus proche d'un manuel de règles opérationnelles.

Présenter l'effort comme une extension d'une entente existante est un choix diplomatique délibéré. Cela permet aux deux gouvernements de présenter les mesures comme une continuité plutôt qu'une concession, ce qui compte lorsque les opinions publiques de part et d'autre sont enclines à lire tout arrangement de sécurité bilatéral comme un affaiblissement de position.

Une ligne directe dédiée aux incidents liés à l'IA

Jiang propose également de créer une ligne directe dédiée aux incidents liés à l'IA. Le raisonnement est simple et mérite d'être déroulé. Supposons qu'un système d'IA défensif réponde automatiquement à ce qu'il enregistre comme une activité suspecte. L'autre partie, observant cette réponse sans contexte, pourrait l'interpréter comme le geste d'ouverture d'une attaque plutôt que comme une réaction à un signal mal interprété. Une ligne directe entre les gouvernements permettrait à une partie de clarifier qu'un incident était accidentel avant que la situation ne dégénère au-delà du point où la clarification est encore utile.

En pratique, la ligne directe est conçue pour briser une boucle automatisée par une conversation humaine — en rétablissant la prise de décision plus lente et délibérée que les systèmes automatisés sont censés compresser.

Pourquoi certains analystes doutent de l'idée de ligne directe

Tout le monde n'est pas convaincu qu'un tel canal fonctionnerait au moment où l'on en a le plus besoin. Carla Freeman, de l'Université Johns Hopkins, doute que des lignes directes de ce type fonctionnent réellement. Elle cite la crise du ballon espion en 2023, lorsque la Chine n'a pas décroché quand les États-Unis ont appelé.

Cet exemple touche au cœur du problème de vérification. Une ligne directe ne vaut que par la volonté des deux parties d'y répondre en pleine crise véritable, et les moments de crise sont précisément ceux où les gouvernements sont le moins enclins à faire confiance à un canal peu familier. L'objection n'est pas que la communication est inutile, mais que les mécanismes institutionnels doivent être exercés et normalisés bien avant qu'une urgence ne les rende indispensables.

Cinq ans d'avertissements, aucune règle contraignante

Ce n'est pas la première fois que l'alarme est tirée. La National Security Commission on Artificial Intelligence appelait déjà en 2021 à préserver le contrôle humain sur les armes nucléaires. Plus de cinq ans plus tard, les mécanismes contraignants n'existent toujours pas.

Cet écart — entre un diagnostic largement partagé et l'absence de tout instrument exécutoire — est l'obstacle central que les nouvelles propositions doivent surmonter. Un consensus d'experts s'est dégagé dans les grandes lignes : peu de voix sérieuses soutiennent que des machines devraient décider de l'emploi d'armes nucléaires. Ce qui s'est révélé insaisissable, c'est la mécanique permettant de rendre ce consensus contraignant, vérifiable et durable à travers les changements de gouvernement.

La fenêtre étroite avant le 24 septembre

Les propositions arrivent à un moment où les deux gouvernements se préparent à se rencontrer, ce qui donne aux idées une chance de passer des pages d'un document de think tank aux conversations préparatoires qui façonnent l'agenda d'un sommet. Qu'elles y parviennent, et que l'une ou l'autre des lignes rouges survive au contact du processus de négociation, dépendra de facteurs qui échappent largement au contrôle des chercheurs.

Ce que les propositions accomplissent, c'est rendre l'argument concret. Au lieu d'avertissements généraux sur les risques de l'IA militaire, elles identifient des interdictions précises, une tâche de définition et un canal de communication de crise — un ensemble d'éléments qui pourraient plausiblement être discutés, adoptés en partie, ou rejetés d'emblée. Dans un domaine politique où les enjeux se mesurent en minutes et en kilomètres, cette spécificité est en soi une contribution : elle transforme une inquiétude abstraite en une liste de décisions que les décideurs peuvent réellement prendre.

Cet article est basé sur un reportage de The Decoder. Lire l'article original.