As pessoas ainda presumem que mensagens pessoais foram escritas por humanos, mesmo quando poderiam ter sido geradas por IA

Uma contradição reveladora em como as pessoas julgam a comunicação gerada por IA

À medida que a IA generativa se espalha pela escrita cotidiana, uma pergunta social básica fica mais difícil de responder: como as pessoas reagem quando uma mensagem pessoal foi escrita por uma máquina? Dois novos experimentos discutidos pela Fast Company sugerem que a resposta é mais contraditória do que muitos poderiam imaginar. As pessoas punem fortemente mensagens pessoais geradas por IA quando sabem que a IA foi usada, mas geralmente não suspeitam de IA por padrão, mesmo quando o texto que leem foi gerado por um modelo.

A pesquisa, conduzida com mais de 1.300 participantes nos Estados Unidos, entre 18 e 84 anos, examinou como os destinatários julgavam os remetentes com base em mensagens como um pedido de desculpas enviado por e-mail ou por texto. Os participantes foram divididos em quatro grupos. Alguns viram as mensagens sem nenhuma informação sobre a autoria. Outros foram informados de que as mensagens haviam sido definitivamente escritas por um humano, definitivamente geradas por IA, ou poderiam ter sido qualquer uma das duas.

Os resultados expuseram uma clara penalização social ligada à autoria divulgada por IA. Quando as pessoas sabiam que uma mensagem havia sido gerada por IA, avaliavam o remetente de forma mais negativa, usando termos como preguiçoso, insincero e sem esforço. Quando acreditavam que o mesmo texto vinha de um humano, em vez disso o descreviam como genuíno, grato e atencioso.

A parte impressionante: a maioria das pessoas não parece suspeitar

O resultado mais surpreendente não foi que a IA divulgada mudou opiniões. Foi que a IA não divulgada não mudou. Os participantes que não receberam nenhuma informação sobre a autoria formaram impressões tão positivas quanto as das pessoas explicitamente informadas de que as mensagens haviam sido escritas por um humano.

Esse achado aponta para uma assimetria importante no ambiente de comunicação atual. Muitas pessoas estão dispostas a punir o uso de IA assim que ele se torna visível, mas ainda não abordam a escrita pessoal com desconfiança de base. Na vida cotidiana, os destinatários ainda podem presumir que mensagens com tom sincero refletem o próprio esforço de uma pessoa, mesmo quando os sistemas de IA são capazes de produzir texto detalhado e emocionalmente adequado.

Os pesquisadores pareciam esperar que a crescente familiaridade pública com a IA generativa já estivesse tornando as pessoas mais cautelosas. Em vez disso, a suposição padrão permaneceu esmagadoramente humana. Em termos práticos, isso significa que a IA pode influenciar julgamentos sociais sem ser reconhecida como fator algum, desde que seu papel não seja divulgado.

Os usuários frequentes de IA não foram muito diferentes

Os pesquisadores então testaram se a familiaridade com a IA generativa mudava a forma como os participantes respondiam. Eles compararam usuários intensivos, usuários leves e pessoas que raramente ou nunca usam a tecnologia. Aqui também, os resultados contrariaram uma suposição comum.

Os usuários frequentes de fato penalizaram um pouco menos o uso de IA quando ele era divulgado. Mas não foram notavelmente mais céticos quando a autoria não era especificada. Até mesmo pessoas que usam IA generativa em dias alternados tendiam a assumir que as mensagens haviam sido escritas por uma pessoa. O mesmo padrão básico se manteve entre os grupos de uso: a divulgação provocou uma reação negativa, mas a ausência de divulgação geralmente preservou impressões positivas.

Isso importa porque sugere que a exposição por si só talvez não seja suficiente para mudar normas sociais em torno da comunicação escrita por IA. As pessoas podem usar essas ferramentas por conta própria e ainda assim deixar de levá-las em conta ao avaliar as mensagens que recebem. O hábito de presumir autoria humana parece continuar forte, pelo menos por enquanto.

Por que a penalização social importa

As implicações do estudo vão além da curiosidade acadêmica. Relações pessoais e profissionais são moldadas por como as pessoas interpretam o esforço escrito. Um pedido de desculpas cuidadoso, uma nota de agradecimento calorosa, uma atualização bem composta ou uma mensagem de trabalho diplomática podem influenciar a forma como o remetente é percebido. Os destinatários muitas vezes tratam o tempo e o cuidado refletidos em uma mensagem como evidência de sinceridade, autenticidade ou competência.

Se o texto gerado por IA é julgado de forma mais severa quando divulgado, então pessoas que usam IA podem enfrentar um custo reputacional quando esse uso se torna visível. Ao mesmo tempo, se mensagens de IA não divulgadas continuarem recebendo a mesma recepção positiva que as escritas por humanos, a tecnologia pode remodelar silenciosamente a comunicação interpessoal sem mudanças correspondentes nas expectativas.

Isso cria uma nova tensão. Indivíduos podem ter razões práticas para usar IA, especialmente para mensagens difíceis ou emocionalmente sensíveis. Mas o significado social de fazer isso ainda está indefinido. Os experimentos sugerem que muitos destinatários ainda leem a escrita pessoal por uma lente mais antiga, na qual a qualidade da mensagem é entendida como reflexo do trabalho humano direto.

Um problema de divulgação sem norma estabelecida

Os resultados também levantam uma questão mais complexa de política e etiqueta: as pessoas deveriam divulgar assistência de IA na comunicação pessoal? A pesquisa resumida pela Fast Company não responde diretamente a essa pergunta, mas mostra o custo da divulgação nas condições sociais atuais. Assim que os leitores sabem que a IA estava envolvida, eles veem o remetente de forma menos favorável, mesmo quando o texto é o mesmo.

Essa é uma base difícil para construir normas de transparência. Se a divulgação prejudica a percepção e a não divulgação passa despercebida, as pessoas têm um forte incentivo para ficar em silêncio sobre a participação da IA. Com o tempo, isso pode ampliar a lacuna entre como as mensagens são produzidas e como são interpretadas.

Também pode complicar a comunicação no trabalho, em relacionamentos, amizades e outros contextos em que mensagens escritas carregam peso emocional ou reputacional. Quanto mais fortes os modelos se tornarem, mais fácil será produzir texto convincente em escala. Mas o estudo sugere que as expectativas sociais ainda não alcançaram essa realidade técnica.

O que isso diz sobre a próxima fase da adoção da IA

A principal conclusão é que o uso de IA na escrita não é apenas uma questão técnica. É social. A tecnologia já consegue gerar mensagens que muitos leitores recebem positivamente. No entanto, uma vez revelado seu envolvimento, a mesma mensagem pode ser julgada como menos sincera. Essa lacuna provavelmente moldará como a IA será adotada na comunicação do dia a dia.

Por enquanto, o público parece estar em um período de transição instável. As pessoas sabem que a IA existe e muitas a usam, mas ainda costumam interpretar a escrita pessoal como se viesse diretamente de outra pessoa. Até que essa suposição mude, a comunicação assistida por IA continuará criando desencontros entre produção e percepção.

É por isso que esses experimentos importam. Eles sugerem que a próxima fase da IA generativa não será definida apenas pelo que os modelos podem escrever, mas por se as normas sociais, os padrões de divulgação e as expectativas de autenticidade evoluirão rápido o suficiente para acompanhar o que as ferramentas já fazem.

• Os participantes julgaram mais negativamente mensagens pessoais escritas por IA quando sabiam disso do que mensagens idênticas que acreditavam ser humanas.
• Quando a autoria não era divulgada, a maioria assumia que a mensagem vinha de uma pessoa e reagia positivamente.
• Até usuários frequentes de IA não foram muito mais céticos por padrão, sugerindo que as normas sociais estão atrasadas em relação à capacidade técnica.

Este artigo é baseado em reportagem da Fast Company. Leia o artigo original.