Les gens supposent encore que les messages personnels sont humains, même quand une IA aurait pu les écrire

Une contradiction révélatrice dans la façon dont les gens jugent la communication générée par l’IA

À mesure que l’IA générative se répand dans l’écriture quotidienne, une question sociale de base devient plus difficile à trancher : comment les gens réagissent-ils lorsqu’un message personnel est écrit par une machine ? Deux nouvelles expériences évoquées par Fast Company suggèrent que la réponse est plus contradictoire qu’on pourrait le penser. Les gens pénalisent fortement les messages personnels générés par l’IA lorsqu’ils savent que l’IA a été utilisée, mais ils ne soupçonnent généralement pas l’IA par défaut, même lorsque le texte qu’ils lisent a été généré par un modèle.

La recherche, menée auprès de plus de 1 300 participants basés aux États-Unis, âgés de 18 à 84 ans, a examiné la manière dont les destinataires jugeaient les expéditeurs à partir de messages comme des excuses envoyées par e-mail ou par SMS. Les participants ont été répartis en quatre groupes. Certains ont vu les messages sans aucune information sur l’auteur. D’autres ont été informés que les messages avaient été clairement écrits par un humain, clairement générés par une IA, ou qu’ils pouvaient avoir été rédigés par l’un ou l’autre.

Les résultats ont mis en évidence une nette sanction sociale associée à la divulgation d’une paternité par l’IA. Lorsque les personnes savaient qu’un message avait été généré par une IA, elles évaluaient l’expéditeur plus négativement, en utilisant des termes comme paresseux, insincère et manquant d’effort. Lorsqu’elles pensaient que le même texte venait d’un humain, elles le décrivaient au contraire comme authentique, reconnaissant et attentionné.

La partie frappante : la plupart des gens ne semblent pas méfiants

Le résultat le plus surprenant n’était pas que la divulgation de l’IA modifie les opinions. C’est que l’IA non divulguée ne le faisait pas. Les participants qui n’avaient reçu aucune information sur l’auteur se sont formé des impressions aussi positives que celles des personnes explicitement informées que les messages avaient été écrits par un humain.

Ce résultat révèle une asymétrie importante dans l’environnement actuel de la communication. Beaucoup de gens sont prêts à sanctionner l’usage de l’IA une fois qu’il est visible, mais ils n’abordent pas encore l’écriture personnelle avec un scepticisme de base. Dans la vie courante, les destinataires peuvent toujours supposer que les messages qui semblent sincères reflètent l’effort propre d’une personne, même lorsque les systèmes d’IA sont capables de produire un texte détaillé et émotionnellement approprié.

Les chercheurs semblaient s’attendre à ce que la familiarité croissante du public avec l’IA générative rende déjà les gens plus prudents. Au lieu de cela, l’hypothèse par défaut restait largement humaine. En pratique, cela signifie que l’IA peut influencer les jugements sociaux sans être reconnue comme un facteur, à condition que son rôle ne soit pas divulgué.

Les utilisateurs fréquents d’IA n’étaient pas très différents

Les chercheurs ont ensuite testé si la familiarité avec l’IA générative modifiait la façon dont les participants réagissaient. Ils ont comparé les gros utilisateurs, les petits utilisateurs et les personnes qui utilisent rarement ou jamais la technologie. Là encore, les résultats ont battu en brèche une idée reçue.

Les utilisateurs fréquents ont bien un peu moins pénalisé l’usage de l’IA lorsqu’il était divulgué. Mais ils ne se sont pas montrés beaucoup plus sceptiques lorsque l’auteur n’était pas précisé. Même les personnes qui utilisent l’IA générative un jour sur deux avaient tendance à supposer que les messages avaient été écrits par une personne. Le même schéma de base s’est maintenu dans tous les groupes d’usage : la divulgation déclenchait une réaction négative, mais l’absence de divulgation préservait généralement des impressions positives.

Cela compte, car cela suggère que l’exposition seule ne suffit peut-être pas à changer les normes sociales autour de la communication rédigée par l’IA. Les gens peuvent utiliser ces outils eux-mêmes et malgré tout ne pas en tenir compte lorsqu’ils évaluent les messages qu’ils reçoivent. L’habitude de supposer une paternité humaine semble rester forte, du moins pour l’instant.

Pourquoi la sanction sociale importe

Les implications de l’étude dépassent la simple curiosité académique. Les relations personnelles et professionnelles sont façonnées par la manière dont les gens interprètent l’effort écrit. Des excuses réfléchies, un mot de remerciement chaleureux, une mise à jour soigneusement rédigée ou un message professionnel diplomatique peuvent tous influencer la perception de l’expéditeur. Les destinataires considèrent souvent le temps et l’attention reflétés dans un message comme une preuve de sincérité, d’authenticité ou de compétence.

Si le texte généré par l’IA est jugé plus sévèrement lorsqu’il est divulgué, les personnes qui utilisent l’IA pourraient alors subir un coût réputationnel dès que cet usage devient visible. En même temps, si les messages d’IA non divulgués continuent de recevoir la même réception positive que les textes humains, la technologie peut remodeler discrètement la communication interpersonnelle sans changement correspondant des attentes.

Cela crée une nouvelle tension. Les individus peuvent avoir des raisons pratiques d’utiliser l’IA, en particulier pour des messages difficiles ou émotionnellement sensibles. Mais la signification sociale de ce choix reste indécise. Les expériences suggèrent que beaucoup de destinataires lisent encore l’écriture personnelle à travers un prisme plus ancien, selon lequel la qualité du message est censée refléter directement le travail humain.

Un problème de divulgation sans norme établie

Les résultats soulèvent aussi une question plus complexe de politique et d’étiquette : faut-il divulguer l’aide de l’IA dans la communication personnelle ? La recherche résumée par Fast Company ne répond pas directement à cette question, mais elle montre bien le coût de la divulgation dans les conditions sociales actuelles. Une fois que les lecteurs savent que l’IA a été impliquée, ils voient l’expéditeur plus défavorablement, même lorsque le texte ne change pas.

C’est une base difficile sur laquelle construire des normes de transparence. Si la divulgation détériore la perception et que la non-divulgation passe inaperçue, les gens ont une forte incitation à se taire sur l’intervention de l’IA. À terme, cela pourrait creuser l’écart entre la manière dont les messages sont produits et la manière dont ils sont interprétés.

Cela pourrait aussi compliquer la communication professionnelle, les relations amoureuses, les amitiés et d’autres contextes où les messages écrits ont un poids émotionnel ou réputationnel. Plus les modèles seront puissants, plus il sera facile de produire un texte convaincant à grande échelle. Mais l’étude suggère que les attentes sociales n’ont pas encore rattrapé cette réalité technique.

Ce que cela dit de la prochaine phase de l’adoption de l’IA

L’enseignement principal est que l’usage de l’IA dans l’écriture n’est pas seulement une question technique. C’est aussi une question sociale. La technologie peut déjà générer des messages que de nombreux lecteurs reçoivent positivement. Pourtant, une fois son intervention révélée, le même message peut être jugé moins sincère. Cet écart est susceptible de façonner la manière dont l’IA sera adoptée dans la communication quotidienne.

Pour l’instant, le public semble traverser une phase de transition instable. Les gens savent que l’IA existe et beaucoup l’utilisent eux-mêmes, mais ils interprètent encore souvent l’écriture personnelle comme si elle venait directement d’une autre personne. Tant que cette hypothèse ne changera pas, la communication assistée par l’IA continuera de créer des écarts entre production et perception.

C’est pourquoi ces expériences comptent. Elles suggèrent que la prochaine phase de l’IA générative ne sera pas définie uniquement par ce que les modèles peuvent écrire, mais par la capacité des normes sociales, des standards de divulgation et des attentes d’authenticité à évoluer assez vite pour suivre ce que les outils font déjà.

• Les participants ont jugé plus négativement les messages personnels écrits par l’IA lorsqu’ils savaient que l’IA avait été utilisée, par rapport à des messages identiques qu’ils croyaient écrits par un humain.
• Lorsque la paternité n’était pas divulguée, la plupart des gens supposaient que le message venait d’une personne et réagissaient positivement.
• Même les utilisateurs fréquents d’IA n’étaient pas beaucoup plus sceptiques par défaut, ce qui suggère que les normes sociales sont en retard sur les capacités techniques.

Cet article s’appuie sur un reportage de Fast Company. Lire l’article original.