Ce que les gens disent aux chatbots devient un problème de confidentialité que l’IA n’a pas résolu

L’usage personnel de l’IA se heurte à des risques de confidentialité non résolus

Les consommateurs transforment de plus en plus les chatbots en confidents à tout faire. Ils leur demandent de l’aide pour leurs finances, des questions de santé, du stress émotionnel et des décisions privées. Mais à mesure que ce comportement devient plus courant, une réalité difficile s’impose : beaucoup de personnes peuvent divulguer des informations profondément sensibles à des systèmes dont les limites de confidentialité à long terme restent floues.

Un nouveau reportage de ZDNET résume la principale inquiétude. Des chercheurs qui étudient les conséquences de l’alimentation des systèmes d’IA avec des informations personnelles expliquent que le problème ne tient pas seulement à ce que les entreprises collectent aujourd’hui, mais aussi à ce que les utilisateurs ne peuvent pas vraiment contrôler une fois que ces informations entrent dans un écosystème de modèles. Jennifer King, chargée de recherche en confidentialité et en politique des données à l’Institut d’intelligence artificielle centrée sur l’humain de Stanford, a déclaré à ZDNET que « vous ne pouvez tout simplement pas contrôler où vont les informations », avertissant qu’elles pourraient fuiter de manière inattendue pour les utilisateurs.

Les chatbots sont conçus pour faire parler les gens

Le risque est amplifié par la conception. Les interfaces des grands modèles de langage sont pensées pour être conversationnelles, réactives et rassurantes. Cela les rend utiles, mais aussi exceptionnellement efficaces pour faire émerger des informations que les gens hésiteraient à partager ailleurs. ZDNET présente le sujet en termes ordinaires de plus en plus réalistes : les gens utilisent les chatbots pour interpréter des résultats d’analyses, trier leurs finances personnelles ou recevoir des conseils dans des moments d’anxiété nocturne.

Ce type d’usage n’est plus marginal. L’article cite une étude de 2025 de l’université Elon qui révèle qu’un peu plus de la moitié des adultes américains utilisent des grands modèles de langage. Si ce niveau d’adoption se maintient, les questions de confidentialité autrefois considérées comme des cas limites concernent désormais des comportements de masse. Le problème n’est pas simplement de savoir si quelques utilisateurs intensifs en disent trop. Il s’agit de déterminer si une habitude numérique grand public est en train de se former autour de systèmes que le public comprend encore mal.

Le résultat est un nouveau décalage. Les utilisateurs peuvent percevoir les chatbots comme des outils au ressenti privé, même lorsque les réalités juridiques, techniques et organisationnelles qui les sous-tendent sont bien plus complexes. L’interface paraît intime. L’environnement de données ne l’est peut-être pas.

La mémorisation, l’extraction et la surveillance restent des préoccupations ouvertes

L’une des questions les plus difficiles est de savoir si les modèles peuvent mémoriser des informations sensibles et si ces éléments peuvent ensuite être récupérés, en tout ou en partie. ZDNET note que la mémorisation est l’une des principales critiques dans la plainte du New York Times contre OpenAI, tandis qu’OpenAI a déclaré en 2024 que « la régurgitation est un bug rare » qu’elle tente d’éliminer.

Le point plus large est que l’incertitude elle-même fait partie du risque. Les chercheurs n’ont pas besoin de prouver que chaque divulgation privée sera reproduite mot pour mot pour recommander la prudence. S’il n’existe pas de compréhension publique fiable de la fréquence de la mémorisation, des conditions dans lesquelles l’information pourrait réapparaître, ou de la solidité réelle des garde-fous, alors les utilisateurs prennent des décisions de confidentialité dans l’ombre.

L’avertissement de King, tel que relayé par ZDNET, pointe aussi vers une autre couche : la dépendance à la gestion d’entreprise. Les utilisateurs font en pratique confiance aux entreprises pour mettre en place des garde-fous empêchant la fuite d’informations mémorisées ou sensibles. Cela signifie que les résultats en matière de confidentialité dépendent non seulement de la conception technique, mais aussi des incitations, de la gouvernance, de l’application des règles et d’une vigilance continue bien après la fermeture de la fenêtre de conversation.

Le changement social avance peut-être plus vite que les protections

Ce qui rend le sujet plus urgent, c’est la façon dont les chatbots passent d’outils de tâche à des systèmes proches de relations. ZDNET note que des personnes ont noué des relations amoureuses avec des chatbots ou les utilisent comme coachs de vie et thérapeutes. Que ces usages deviennent dominants ou non, ils révèlent une tendance importante : les systèmes d’IA sont de plus en plus sollicités pour traiter le type de contenu autrefois réservé aux médecins, conseillers, proches ou journaux intimes.

Ce changement modifie les enjeux. Une requête d’achat divulguée, c’est une chose. Une divulgation sur la santé mentale, des difficultés financières ou une inquiétude médicale, c’en est une autre. Même lorsque les données ne sont pas exposées publiquement, les effets en aval de la conservation, de l’accès interne, de l’entraînement des modèles ou des changements de politique peuvent rester importants. Dans ce contexte, la confidentialité ne concerne pas seulement l’embarras. Elle peut affecter le profilage futur, le ciblage commercial et la volonté des utilisateurs de demander de l’aide honnêtement.

L’article met aussi en lumière une question culturelle. Les gens ne s’arrêtent peut-être pas pour évaluer ces risques parce que les chatbots deviennent ordinaires. Ils sont disponibles à toute heure, produisent des réponses fluides et créent un sentiment d’immédiateté qui encourage la révélation avant la réflexion. Cette commodité est l’une des raisons de la hausse de l’adoption. C’est aussi l’une des raisons pour lesquelles la prudence risque d’être en retard sur les comportements.

Un signal d’alerte pour la prochaine phase de l’adoption de l’IA

Le débat actuel n’appelle pas à abandonner les chatbots. Il rappelle que l’usage social de l’IA se développe plus vite que la compréhension publique des compromis en matière de confidentialité. L’écart entre ces deux éléments peut devenir dangereux si les consommateurs supposent que l’intimité implique la confidentialité.

L’approche de ZDNET est utile parce qu’elle évite de prétendre que le problème est résolu. Les chercheurs essaient encore de cerner toutes les implications du partage d’informations personnelles avec les chatbots. Cette incertitude est précisément la raison pour laquelle le sujet mérite plus d’attention maintenant, et non plus tard. Une fois qu’une technologie est intégrée à une habitude quotidienne, modifier le comportement des utilisateurs est bien plus difficile que de l’orienter dès le départ.

La leçon pratique est simple. Plus les systèmes d’IA deviennent capables et personnels, plus il est probable que les gens les traitent comme des destinataires de confiance pour des informations sensibles. À moins que les entreprises, les régulateurs et les utilisateurs ne confrontent directement ce fait, la prochaine phase de l’adoption de l’IA pourrait être définie non seulement par ce que les chatbots peuvent faire, mais aussi par tout ce que trop de personnes ont cru, à tort, pouvoir leur confier sans risque.

Cet article s’appuie sur un reportage de ZDNET. Lire l’article original.