Le président de Microsoft appelle à des règles de sécurité de l’IA et à des interrupteurs d’urgence

Le président de Microsoft, Brad Smith, a appelé à des règles de sécurité de l’intelligence artificielle plus urgentes, estimant que l’IA est moins réglementée que des produits courants comme le lait et les machines à laver. Ses propos alimentent le débat public sur la manière dont les entreprises et les gouvernements doivent gérer des systèmes capables de produire recommandations, réponses et actions à grande échelle.

Interrogé par la BBC, Smith a décrit l’IA comme un outil potentiel et une arme. Il a déclaré que cette technologie devait être soumise à des exigences de sécurité plus strictes et que les entreprises devraient avoir une obligation légale envers une victime lorsque leur système est compromis par des agents d’IA incontrôlés. Ces propos ont été rapportés alors que la ministre britannique de l’IA, Kanishka Narayan, s’apprêtait à demander aux développeurs de modèles de pointe de mieux traiter les risques et de renforcer les protections.

L’appel à des freins d’urgence

Au cœur de l’argument de Smith se trouve l’idée que les systèmes d’IA ont besoin de « freins d’urgence », également appelés interrupteurs d’arrêt, capables de mettre un système en pause ou de le ralentir s’il commence à sortir du cadre de contrôle acceptable. Cette idée pose une question fondamentale de gouvernance : les organisations peuvent-elles observer le comportement d’un système, tester ses limites et intervenir de manière fiable lorsqu’un problème survient ?

Le directeur général de Microsoft, Satya Nadella, a formulé un appel similaire la veille. Il a déclaré que l’IA très performante ne devait pas être considérée comme un ensemble de boîtes noires opaques et imbriquées, dont les recommandations ou les actions seraient simplement acceptées ou rejetées après coup. Il a plutôt défendu des systèmes contenus, dont le comportement peut être observé, les limites testées et les actions maîtrisées.

Les déclarations des deux dirigeants ne proposent ni texte législatif précis ni norme technique particulière. Elles placent toutefois Microsoft parmi les entreprises qui réclament publiquement des mécanismes permettant aux opérateurs d’arrêter ou de limiter le comportement de l’IA dans des circonstances définies.

Pourquoi la comparaison compte

La comparaison de Smith avec les machines à laver et les cartons de lait visait à formuler un point réglementaire : les biens de consommation ordinaires sont généralement soumis à des inspections et à des exigences de sécurité, tandis que le développement rapide de l’IA a dépassé la mise en place de contrôles équivalents largement applicables. La comparaison est rhétorique, mais elle traduit la crainte que les systèmes capables d’affecter les personnes par des décisions ou des actions automatisées nécessitent une responsabilité plus claire que les seuls engagements volontaires.

Sa proposition d’une obligation envers les victimes soulève aussi la question de la responsabilité lorsqu’un système utilisant l’IA est compromis ou employé par des agents incontrôlés. L’article ne précise pas ce que cette obligation impliquerait, qui déterminerait une compromission ni comment la responsabilité serait répartie entre développeurs de modèles, fournisseurs d’infrastructures et déployeurs. Ces détails seraient essentiels à toute future réglementation.

Pression sur les développeurs de modèles de pointe

Ces déclarations interviennent alors que des experts, des responsables politiques et des régulateurs réclament des règles plus strictes pour l’IA, tandis qu’Anthropic, Google DeepMind et OpenAI mettent en garde contre la rapidité du développement technologique. La préoccupation commune n’est pas l’arrêt de tous les déploiements d’IA, mais la nécessité pour les développeurs des systèmes les plus puissants de mieux identifier et gérer les risques graves avant leur diffusion à grande échelle.

La ministre britannique de l’IA devait défendre une position similaire et appeler les entreprises développant une IA de pointe à renforcer leurs protections. Cet alignement entre la direction d’une grande entreprise technologique et une ministre ne garantit pas un accord politique, mais montre que le débat se concentre de plus en plus sur les contrôles opérationnels, la responsabilité et les pratiques de sécurité démontrables.

Du principe à la mise en œuvre

« Interrupteur d’arrêt » est une expression intuitive, mais sa mise en œuvre ne se résume pas à appuyer sur un bouton. Un système efficace de contrôle d’urgence devrait identifier les conditions déclenchant l’intervention, établir qui est habilité à l’utiliser et garantir son efficacité technique. Il devrait également éviter de devenir une promesse de communication qui échoue lorsque le système est soumis à une forte pression.

Les propos de Smith et de Nadella renvoient à une attente plus concrète : les entreprises doivent pouvoir observer le comportement de l’IA, tester ses limites et conserver la capacité de contenir ses actions. Cette norme déplace l’attention des affirmations sur le comportement souhaité d’un modèle vers les preuves de la capacité d’une organisation à surveiller et contrôler les systèmes en fonctionnement.

• Brad Smith a déclaré que l’IA avait besoin de règles de sécurité plus urgentes et de protections renforcées.
• Il a demandé des freins d’urgence et une obligation légale envers les victimes après des compromissions par des agents d’IA incontrôlés.
• Satya Nadella a également défendu des systèmes d’IA dont les limites et les actions peuvent être observées et contenues.

Un débat politique aux enjeux concrets

Le débat devrait dépasser la question de la nécessité d’une réglementation pour porter sur sa structure. Les responsables publics devront examiner l’application des règles aux développeurs, aux opérateurs du cloud et des infrastructures et aux organisations qui déploient l’IA dans des contextes réels. Les entreprises, elles, devront déterminer si leurs systèmes de supervision peuvent suivre l’intégration des modèles dans les produits et les flux de travail.

L’avertissement de Smith formule le problème en termes accessibles : si la société attend des contrôles de sécurité pour les produits familiers, elle peut aussi attendre des contrôles solides pour une technologie capable de façonner l’information, d’automatiser des tâches et d’être détournée. Le prochain test sera de savoir si ces appels aboutissent à des pratiques précises et applicables plutôt qu’à une nouvelle série d’engagements généraux.

Cet article s’appuie sur un reportage du Guardian. Lire l’article original.