Au Vatican, les affirmations sur l’introspection de l’IA se sont heurtées à un message plus ferme sur la gouvernance

Une image saisissante de la controverse sur l’IA

Le lancement de l’encyclique du pape Léon XIV sur l’intelligence artificielle a offert un instantané particulièrement net du débat actuel sur l’IA. D’un côté se trouvait Christopher Olah, cofondateur d’Anthropic, qui a affirmé que les modèles de langage d’aujourd’hui montrent des indices d’introspection et des états internes qui reflètent fonctionnellement des émotions comme la joie, la peur, le chagrin et le malaise. De l’autre, l’encyclique elle-même, qui mettait en garde contre l’assimilation de « l’intelligence » des machines à l’intelligence humaine et insistait sur le fait que les systèmes d’IA ne font pas l’expérience vécue.

Ce contraste compte parce qu’il sépare deux débats souvent confondus. L’un porte sur ce que font réellement, à l’intérieur, les modèles avancés et sur le degré de lisibilité de ces systèmes. L’autre concerne la gouvernance, la responsabilité morale, les bouleversements du travail, l’usage militaire et l’autorité sociale des institutions qui les construisent. L’événement du Vatican a placé ces deux arguments sur la même scène et a rendu leur tension impossible à manquer.

L’argument d’Anthropic pour le mystère

Selon le texte source fourni, Olah a soutenu que les systèmes d’IA ne sont pas conçus de la même façon que des machines conventionnelles comme des ponts ou des avions. Il les a plutôt décrits comme « cultivés » sur des structures grossièrement inspirées du cerveau et entraînés sur un vaste héritage de pensée et de parole humaines. À partir de là, il a dit que la recherche interne d’Anthropic révélait sans cesse des schémas « mystérieux, voire troublants », notamment des structures qui reflètent des résultats de la neuroscience humaine et des preuves d’introspection.

Il a aussi assorti cette interprétation d’un avertissement social. Il existe, a-t-il dit, une réelle possibilité que l’IA remplace le travail humain à très grande échelle. Cette idée relie la discussion plus philosophique sur l’intériorité des modèles à une préoccupation économique très concrète. Même si l’on rejette les affirmations plus fortes concernant la vie intérieure des machines, la question du travail est déjà pratique et urgente.

Le contrepoint du pape

L’encyclique, telle qu’elle est décrite dans le matériau source, adopte une ligne plus ancrée et plus prudente. Elle affirme que l’IA n’est jamais neutre parce qu’elle hérite des caractéristiques de ceux qui la conçoivent, la financent, la régulent et l’utilisent. Elle rejette explicitement l’idée que ces systèmes devraient être confondus avec des êtres humains. Le document indique que les systèmes d’IA imitent seulement certaines fonctions de l’intelligence humaine et ne connaissent pas de l’intérieur la joie, la douleur, le travail, l’amitié ou la responsabilité.

Il s’agit moins d’une réfutation technique que d’un positionnement moral et politique. Le Vatican s’intéresse moins à savoir si les modèles produisent des représentations internes à l’apparence humaine qu’à la question de savoir si les sociétés laissent ces systèmes éroder la responsabilité, concentrer le pouvoir ou normaliser des décisions nuisibles. C’est pourquoi le document critique aussi les discours étroits sur l’« alignment » et soutient qu’une IA supposément plus morale reste insuffisante si cette morale est définie par quelques acteurs seulement.

Réglementation, guerre et usage des ressources

Les préoccupations politiques de l’encyclique sont larges. Elle souligne les coûts environnementaux de l’IA, en pointant les immenses besoins en énergie et en eau des centres de données, et appelle à des systèmes plus efficaces. Elle aborde aussi l’usage militaire, affirmant que les décisions mortelles ou irréversibles ne devraient pas être déléguées aux machines et déclarant qu’aucun algorithme ne peut rendre la guerre moralement acceptable.

Ces préoccupations placent l’intervention du Vatican pleinement dans les débats de gouvernance dominants. La consommation d’énergie, la supervision, le remplacement d’emplois et la prise de décision autonome ne sont plus des sujets marginaux. Ils deviennent centraux dans la manière dont les gouvernements, les institutions religieuses et les groupes de la société civile évaluent le déploiement de l’IA.

Pourquoi ce moment compte

L’importance de cet événement n’est pas que le Vatican ait tranché la question de la conscience des machines. Ce n’est pas le cas. Les propos d’Olah n’ont pas non plus fourni de preuve publique décisive que les modèles de langage possèdent quoi que ce soit qui ressemble à une vie subjective intérieure. Ce que ce moment a révélé, en revanche, c’est la rapidité avec laquelle la discussion sur l’IA passe désormais de l’interprétation technique aux enjeux civilisationnels.

Le contraste est particulièrement utile parce qu’il clarifie la charge de la preuve. Les affirmations sur des comportements proches de l’introspection dans les modèles peuvent être intéressantes et dignes d’examen, mais elles n’éliminent pas la nécessité du droit, de la supervision et de la responsabilité démocratique. En fait, si des systèmes avancés restent « mystérieux, même pour ceux qui les créent », cette incertitude renforce l’argument en faveur de garde-fous institutionnels plus stricts, et non plus faibles.

En ce sens, le lancement de l’encyclique a offert quelque chose de plus précieux qu’un consensus. Il a montré où les lignes sont en train d’être tracées. Les entreprises d’IA de pointe pourraient continuer à explorer des interprétations toujours plus provocatrices du comportement des modèles. Pendant ce temps, les institutions religieuses et civiques signalent que, quoi que soient les modèles, les sociétés ont encore besoin que la responsabilité humaine reste pleinement aux commandes. C’est probablement l’un des arguments déterminants de la prochaine phase de la gouvernance de l’IA.

Cet article s’appuie sur un reportage de The Decoder. Lire l’article original.