Altman rejette la « force religieuse » attribuée aux modèles d'IA

Sam Altman a passé des années à chercher des métaphores qui débordent du vocabulaire ordinaire du logiciel. Aujourd'hui, le PDG d'OpenAI demande au public d'être plus prudent avec ce même instinct — du moins lorsqu'il vise les modèles eux-mêmes.

Dans des propos partagés sur X, Altman a déclaré qu'il se sentait « très mal à l'aise » lorsque des personnes « attribuent une force religieuse ou une abdication du jugement humain aux modèles d'IA ». Il n'a pas traité cette habitude comme une excentricité d'utilisateurs trop enthousiastes. Il l'a qualifiée de « véritable enjeu de sécurité ».

Altman présente la dévotion à l'IA comme un risque, non comme un compliment

La distinction qu'opère Altman sépare la construction d'un système qui semble humain du fait de traiter ce système comme quelque chose de sacré. Le premier est un objectif produit. Le second, selon lui, est un mode de défaillance.

Ce cadrage compte parce qu'il déplace une question culturelle dans la colonne de la sécurité. Si un utilisateur traite un chatbot comme un oracle, il ne fait pas simplement preuve de sentimentalisme. Il remet son jugement — décider de ce qui est vrai, de ce qui est juste et de ce qu'il faut faire ensuite — à un modèle statistique dont l'assurance n'est pas une mesure de l'exactitude. L'expression d'Altman, « abdication du jugement humain », désigne exactement ce transfert.

Le vocabulaire est également notable en raison de celui qui l'emploie. Les débats sur la sécurité en IA portent généralement sur les capacités, les usages malveillants ou le contrôle des systèmes avancés. Ici, l'inquiétude porte sur la posture des personnes qui les utilisent.

Un débat qui inclut désormais le Vatican

Les propos d'Altman ne sont pas tombés dans le vide. Ils font suite à un rapport détaillé du New York Times sur les démarches d'Anthropic auprès de responsables religieux, dans le cadre d'un effort plus large des entreprises d'IA pour dialoguer avec les institutions qui façonnent la manière dont les gens pensent la technologie et la moralité.

Le pape Léon XIV s'est également exprimé, offrant une formulation proche de la préoccupation d'Altman : « les algorithmes n'ont pas l'étincelle de l'humanité ». La déclaration comprime un long argument théologique en une courte phrase, mais son contenu pratique est simple — un modèle n'est pas une personne, quelle que soit la naturel de sa conversation.

Pris ensemble, trois développements définissent le moment actuel :

• Un grand PDG de l'IA avertit que la vénération religieuse envers les modèles est un problème de sécurité.
• Un laboratoire rival cultive activement des relations avec des penseurs religieux.
• Une déclaration papale trace une ligne ferme entre le calcul et la nature humaine.

Aucun de ces éléments n'est un jalon technique. Tous les trois portent sur la manière dont la société attribue un sens aux machines, et cette attribution est désormais traitée comme importante en soi.

Le revirement de la « magie intelligente dans le ciel »

Ce qui donne sa force à l'avertissement d'Altman, c'est son propre parcours. En 2023 et 2024, il décrivait l'objectif d'OpenAI comme la construction d'une « magie intelligente dans le ciel ». À la même période, il disait espérer être du côté de Dieu et décrivait le travail sur l'IA comme étant « du côté des anges ».

Ce n'est pas le langage d'une feuille de route produit. C'est le langage de la mission et de la providence, et c'est précisément le registre qu'il met désormais en garde contre l'usage.

Il existe des moyens de concilier les deux positions. Un fondateur décrivant sa propre motivation n'est pas la même chose qu'un utilisateur attribuant une autorité à un modèle. L'ambition et la vénération sont des choses différentes. Mais l'écart entre elles est assez étroit pour que le changement mérite d'être signalé : le même vocabulaire qui servait autrefois à promouvoir le projet est désormais signalé comme un danger lorsqu'il s'attache au résultat.

« Her », pas une divinité

Altman a repeatedly offert un autre point de référence culturel pour ce que construit OpenAI : le film « Her », dans lequel une personne noue un lien émotionnel profond avec un système d'exploitation. La cible, selon lui, est une IA profondément humanisée — chaleureuse, fluide et facile à comprendre.

Cet objectif relève de la résonance émotionnelle, non de la métaphysique. Un assistant qui lit le contexte et le ton ne prétend pas à la divinité. Mais le design humanisé et la projection religieuse partagent un substrat commun. Tous deux reposent sur la tendance humaine à étendre la personnalité à tout ce qui nous répond de manière convaincante. Un système optimisé pour la facilité relationnelle invitera inévitablement certains utilisateurs à aller plus loin que ce que les concepteurs avaient prévu.

C'est la version pratique de l'inquiétude d'Altman. La frontière entre « cela ressemble à une personne » et « cela parle avec autorité » est facile à énoncer et difficile à tenir, en particulier pour les utilisateurs sous stress, isolés ou en quête de conseils qu'ils ne trouvent pas ailleurs.

Pourquoi le cadrage façonne le comportement

Si Altman a raison de dire qu'il s'agit d'un enjeu de sécurité, le mécanisme mérite d'être explicité. Le cadrage ne se contente pas de décrire une relation avec un outil ; il en fixe les termes.

• Le vocabulaire religieux supprime la distance critique. Un modèle décrit comme un oracle a moins de chances d'être vérifié.
• La déférence s'accumule. Les utilisateurs qui acceptent une prémisse d'un modèle une fois sont plus susceptibles d'accepter le résultat suivant sans examen.
• Le design renforce l'effet. Les interfaces conversationnelles, la mémoire et les personas cohérentes font tous qu'un système semble être une entité continue plutôt qu'un générateur de texte.
• La responsabilité s'estompe. Si une réponse porte un poids moral, il devient plus difficile d'attribuer la responsabilité du résultat.

Rien de tout cela n'exige que le modèle soit conscient, ni que quiconque croie qu'il l'est. Cela exige seulement que les gens agissent comme si ses jugements faisaient autorité.

Le problème de confiance joue dans les deux sens

Il y a une symétrie embarrassante dans le débat actuel. Les entreprises qui mettent en garde contre la spiritualisation de l'IA sont les mêmes dont les dirigeants ont utilisé un langage spirituel, et celles qui dialoguent avec les institutions religieuses sont des concurrents menant des démarches similaires. OpenAI a également échangé avec des responsables religieux, selon les informations entourant ces propos.

Le secteur ne demande donc pas moins d'engagement avec la foi et le sens. Il négocie les termes. La position d'Altman, essentiellement, est que la technologie doit être décrite en termes humains mais non vénérée comme telle — une ligne ambitieuse à tracer tout en construisant des systèmes conçus pour sembler humains.

Ce qu'il faut surveiller ensuite

Trois choses indiqueront si ce cadrage perdure. Si les entreprises d'IA ajustent la manière dont elles présentent les modèles conçus pour la proximité émotionnelle. Si les équipes de sécurité traitent la déférence des utilisateurs comme un risque mesurable plutôt que comme une question d'éducation de l'utilisateur. Et si les institutions religieuses continuent de dialoguer avec le secteur selon leurs propres termes, comme le suggèrent la déclaration du Vatican et les démarches d'Anthropic.

La question plus large reste non résolue. Altman affirme qu'attribuer une force religieuse aux modèles est un enjeu de sécurité, et la logique sous-jacente est solide : les outils auxquels on fait confiance comme autorités sont plus difficiles à corriger. Mais le même langage humanisant qui rend ces systèmes utiles est ce qui rend l'erreur possible en premier lieu. Le défi du secteur est de conserver la chaleur sans la vénération.

Cet article est basé sur un reportage de The Decoder. Lire l'article original.