Le pape Léon XIV appelle à « désarmer » l’IA dans sa première encyclique

Une intervention morale majeure dans le débat sur l’IA

Le pape Léon XIV est entré dans la conversation mondiale sur l’intelligence artificielle avec un langage inhabituellement direct, appelant à « désarmer » l’IA dans sa première encyclique, Magnifica Humanitas. Le document, publié à Rome, présente l’IA non comme une question technique étroite, mais comme un test de civilisation. Léon soutient que la technologie doit être libérée des systèmes qui en font un instrument de domination, d’exclusion et de mort, et mise au service du bien commun.

La force de cette intervention tient en partie au vocabulaire employé. Léon explique explicitement avoir choisi le langage du désarmement parce que le moment exige des mots assez forts pour attirer l’attention, éveiller les consciences et orienter l’humanité vers une voie différente. Cela fait de l’encyclique bien plus qu’un avertissement général sur l’éthique. C’est une tentative de définir les enjeux de l’ère de l’IA en termes moraux et politiques.

Le cadrage du Vatican compte aussi parce qu’il ne s’agit pas d’une note marginale dans l’enseignement de l’Église. Léon a signé l’encyclique le 15 mai, anniversaire de l’encyclique de 1891 Rerum Novarum, texte fondateur de la doctrine sociale catholique moderne. Ce faisant, il place l’IA aux côtés des bouleversements industriels qui ont transformé le travail, le pouvoir et la vie sociale il y a plus d’un siècle. Il présente l’intelligence artificielle comme la « chose nouvelle » de notre époque, suffisamment puissante pour nécessiter une nouvelle déclaration de principes.

Des armes autonomes à l’extraction de données

La critique du document est vaste. Selon le texte source, Léon aborde les armes autonomes pilotées par l’IA, les approches extractives des données de santé et génétiques, ainsi que la concentration du contrôle dans les brevets, les algorithmes, les plateformes numériques, l’infrastructure technique et les données. Il s’agit d’une combinaison remarquable. Plutôt que de traiter l’IA uniquement comme une question de travail, de militaire ou de contenu, l’encyclique relie ces sujets comme les composantes d’une même structure de pouvoir.

Cette structure est décrite en termes très durs. Léon compare les élites technologiques actuelles aux conquérants coloniaux et met en garde contre une nouvelle mentalité d’extraction, en particulier dans les régions marquées par une fragilité structurelle et une influence géopolitique limitée. L’argument est que les systèmes à forte intensité de données peuvent reproduire d’anciens schémas de domination sous une étiquette numérique. Dans cette perspective, l’IA n’est pas seulement un logiciel. C’est aussi un agencement institutionnel qui peut creuser les asymétries entre ceux qui construisent et possèdent les systèmes et ceux qui sont mesurés, gouvernés ou déplacés par eux.

C’est là que l’encyclique s’éloigne des versions plus douces de l’éthique de l’IA. Plutôt que de centrer uniquement la transparence, l’atténuation des biais ou des garde-fous volontaires, elle semble poser des questions plus fondamentales sur le pouvoir, la propriété et la finalité. Qui bénéficie des systèmes d’IA ? Qui supporte le risque ? Qui est contourné ? Ces questions rapprochent l’intervention du Vatican de l’économie politique plutôt que du langage de la conformité d’entreprise.

Une vision concurrente de ce que signifie construire

L’un des aspects les plus frappants du récit source est que Léon ne s’arrête pas à la critique. Il adopte aussi le langage de la construction, mais en le réorientant. Dans sa vision, construire ne se limite pas au code, aux start-ups, aux plateformes ou aux usines. Cela s’inscrit dans un appel plus large à créer ce qu’il décrit comme une « civilisation de l’amour », un ordre social dans lequel la technologie sert et augmente l’humanité au lieu de la dominer.

Cette distinction importe, car la rhétorique publique dominante autour de l’IA tend encore à supposer que l’accélération est le principal critère de sérieux. Construire plus vite, déployer plus tôt, passer à l’échelle plus largement. L’intervention de Léon suggère un autre test : les systèmes préservent-ils la dignité humaine, la participation sociale et la responsabilité morale ? Si ce n’est pas le cas, la sophistication technique n’est pas une défense.

Il y a aussi ici un avertissement implicite pour les institutions qui souhaitent externaliser le jugement. Une machine peut optimiser, recommander, classer, cibler ou automatiser, mais l’encyclique semble insister pour qu’aucune de ces fonctions ne puisse vider l’agir humain de sa substance. La demande n’est pas anti-technologique au sens simple du terme. Elle est anti-subordination. Le problème n’est pas l’existence des outils ; c’est le fait qu’ils puissent être intégrés à des logiques qui excluent les personnes des décisions qui façonnent leur vie.

Pourquoi cette intervention maintenant

Le timing est significatif. Les débats sur l’IA sont devenus plus concrets au cours des deux dernières années, avec des inquiétudes croissantes concernant la perturbation du travail, l’autonomie militaire, la concentration des infrastructures et l’extraction transfrontalière de données. L’encyclique de Léon arrive à ce moment avec un vocabulaire destiné à relever les enjeux. En reliant l’IA à la doctrine sociale, il dit en substance qu’il ne s’agit plus d’une conversation spécialisée réservée aux ingénieurs, aux dirigeants et aux régulateurs.

Cela pourrait élargir l’audience des arguments sur la gouvernance de l’IA. Les institutions religieuses ne rédigent pas les normes techniques, mais elles peuvent influencer le cadre moral public dans lequel ces normes sont débattues. Un appel à « désarmer » l’IA est mémorable parce qu’il condense une critique complexe en une seule exigence : la technologie ne doit pas pouvoir accumuler du pouvoir sans rendre des comptes aux fins humaines.

La présence du cofondateur d’Anthropic, Dario Amodei, à l’événement, comme le note le texte source, a également souligné le chevauchement entre autorité morale et pouvoir de l’industrie de pointe. Le Vatican comprend clairement qu’il s’adresse autant aux développeurs et aux dirigeants qu’aux croyants. Le message n’est pas que l’innovation doit s’arrêter. C’est que l’innovation sans orientation morale devient dangereuse précisément lorsqu’elle paraît la plus puissante.

Le long débat à venir

La question de savoir si l’intervention de Léon changera directement la politique reste ouverte. Mais elle renforce une idée de plus en plus répandue selon laquelle la gouvernance de l’IA ne peut pas se réduire à une gestion étroite du risque. Les enjeux soulevés dans l’encyclique couvrent la guerre, le travail, l’extraction, la propriété et la forme même de la vie sociale.

C’est peut-être là le point central. Les révolutions industrielles ne changent pas seulement des outils ; elles réorganisent les sociétés. En invoquant la tradition de Rerum Novarum, Léon affirme que l’IA appartient à cette catégorie. La question centrale n’est plus de savoir si la technologie est impressionnante. C’est de savoir si le monde construit autour d’elle rend les êtres humains plus protégés, plus autonomes et plus pleinement inclus qu’auparavant.

En ce sens, « désarmer » est moins un rejet de l’intelligence dans les machines qu’un rejet des arrangements politiques et économiques qui peuvent faire de ces systèmes des instruments de contrainte. L’encyclique rappelle que l’avenir de l’IA ne sera pas déterminé par l’ingénierie seule. Il sera aussi façonné par les valeurs que les institutions accepteront de défendre.

Cet article est basé sur un reportage d’Ars Technica. Lire l’article original.