La gente sigue asumiendo que los mensajes personales son humanos, incluso cuando pudo haberlos escrito una IA

Una contradicción reveladora en la forma en que se juzga la comunicación generada por IA

A medida que la IA generativa se extiende a la escritura cotidiana, una pregunta social básica se vuelve más difícil de responder: ¿cómo reacciona la gente cuando un mensaje personal ha sido escrito por una máquina? Dos nuevos experimentos comentados por Fast Company sugieren que la respuesta es más contradictoria de lo que muchos podrían esperar. Las personas penalizan con fuerza los mensajes personales generados por IA cuando saben que se usó IA, pero en general no sospechan de la IA por defecto, incluso cuando el texto que leen fue generado por un modelo.

La investigación, realizada con más de 1.300 participantes radicados en Estados Unidos, de entre 18 y 84 años, examinó cómo los destinatarios juzgaban a los remitentes a partir de mensajes como una disculpa enviada por correo electrónico o por texto. Los participantes se dividieron en cuatro grupos. Algunos vieron los mensajes sin información sobre la autoría. A otros se les dijo que los mensajes habían sido escritos definitivamente por un humano, generados definitivamente por IA, o que podían haber sido cualquiera de las dos cosas.

Los resultados expusieron una clara penalización social ligada a la autoría de IA cuando esta se revela. Cuando la gente sabía que un mensaje había sido generado por IA, valoraba al remitente de forma más negativa, usando términos como perezoso, insincero y poco esforzado. Cuando creían que el mismo texto provenía de un humano, en cambio lo describían como genuino, agradecido y considerado.

La parte sorprendente: la mayoría de la gente no parece sospechar

El resultado más sorprendente no fue que la IA revelada cambiara las opiniones. Fue que la IA no revelada no lo hizo. Los participantes que no recibieron información sobre la autoría formaron impresiones tan positivas como las de las personas a quienes se les dijo explícitamente que los mensajes habían sido escritos por un humano.

Ese hallazgo apunta a una asimetría importante en el entorno comunicativo actual. Muchas personas están dispuestas a castigar el uso de IA una vez que es visible, pero todavía no abordan la escritura personal con escepticismo de base. En la vida ordinaria, los destinatarios pueden seguir suponiendo que los mensajes que suenan sinceros reflejan el propio esfuerzo de una persona, incluso cuando los sistemas de IA son capaces de producir texto detallado y emocionalmente adecuado.

Los investigadores parecían haber esperado que la creciente familiaridad pública con la IA generativa ya estuviera volviendo a la gente más cauta. En cambio, la suposición por defecto siguió siendo abrumadoramente humana. En términos prácticos, eso significa que la IA puede influir en los juicios sociales sin ser reconocida en absoluto como un factor, siempre que su papel no se divulgue.

Los usuarios frecuentes de IA no fueron muy distintos

Luego, los investigadores probaron si la familiaridad con la IA generativa cambiaba la forma en que los participantes respondían. Compararon usuarios intensivos, usuarios ocasionales y personas que rara vez o nunca usan la tecnología. También aquí, los resultados desafiaron una suposición común.

Los usuarios frecuentes sí penalizaron ligeramente menos el uso de IA cuando se revelaba. Pero no fueron notablemente más escépticos cuando la autoría no se especificaba. Incluso las personas que usan IA generativa cada dos días tendían a asumir que los mensajes habían sido escritos por una persona. El mismo patrón básico se mantuvo en todos los grupos de uso: la divulgación desencadenó una reacción negativa, pero la ausencia de divulgación por lo general conservó las impresiones positivas.

Eso importa porque sugiere que la exposición por sí sola puede no ser suficiente para cambiar las normas sociales en torno a la comunicación escrita por IA. Las personas pueden usar estas herramientas por sí mismas y aun así no tenerlas en cuenta al evaluar los mensajes que reciben. El hábito de asumir autoría humana parece seguir siendo fuerte, al menos por ahora.

Por qué importa la penalización social

Las implicaciones del estudio van más allá de la curiosidad académica. Las relaciones personales y profesionales están moldeadas por cómo la gente interpreta el esfuerzo escrito. Una disculpa meditada, una nota cálida de agradecimiento, una actualización cuidadosamente redactada o un mensaje laboral diplomático pueden influir en cómo se percibe al remitente. Los destinatarios a menudo tratan el tiempo y el cuidado reflejados en un mensaje como evidencia de sinceridad, autenticidad o competencia.

Si el texto generado por IA se juzga con más dureza cuando se revela, entonces las personas que usan IA podrían enfrentar un costo reputacional una vez que ese uso sea visible. Al mismo tiempo, si los mensajes de IA no revelados siguen recibiendo la misma recepción positiva que los escritos por humanos, la tecnología puede remodelar silenciosamente la comunicación interpersonal sin cambios correspondientes en las expectativas.

Eso crea una nueva tensión. Los individuos pueden tener razones prácticas para usar IA, especialmente en mensajes difíciles o emocionalmente sensibles. Pero el significado social de hacerlo sigue sin resolverse. Los experimentos sugieren que muchos destinatarios todavía leen la escritura personal con un lente más antiguo, en el que la calidad del mensaje se asume como reflejo del trabajo humano directo.

Un problema de divulgación sin una norma establecida

Los hallazgos también plantean una pregunta más compleja de política y etiqueta: ¿debería la gente divulgar la ayuda de la IA en la comunicación personal? La investigación resumida por Fast Company no responde directamente esa pregunta, pero sí muestra el costo de la divulgación en las condiciones sociales actuales. Una vez que los lectores saben que hubo IA involucrada, ven al remitente de forma menos favorable, incluso cuando el texto es el mismo.

Es una base difícil sobre la cual construir normas de transparencia. Si revelar el uso daña la percepción pero no revelar pasa desapercibido, se da a las personas un fuerte incentivo para guardar silencio sobre la participación de la IA. Con el tiempo, eso puede ampliar la brecha entre cómo se producen los mensajes y cómo se interpretan.

También podría complicar la comunicación en el trabajo, las citas, las amistades y otros entornos donde los mensajes escritos tienen peso emocional o reputacional. Cuanto más potentes sean los modelos, más fácil será producir texto convincente a escala. Pero el estudio sugiere que las expectativas sociales no han alcanzado todavía esa realidad técnica.

Lo que esto dice sobre la próxima fase de adopción de la IA

La conclusión más importante es que el uso de IA en la escritura no es solo un asunto técnico. Es un asunto social. La tecnología ya puede generar mensajes que muchos lectores reciben positivamente. Sin embargo, una vez que se revela su participación, ese mismo mensaje puede ser juzgado como menos sincero. Esa brecha probablemente marcará la forma en que la IA se adopte en la comunicación diaria.

Por ahora, el público parece estar en un período de transición inestable. La gente sabe que la IA existe y muchos la usan ellos mismos, pero todavía suelen interpretar la escritura personal como si viniera directamente de otra persona. Hasta que esa suposición cambie, la comunicación asistida por IA seguirá creando desajustes entre producción y percepción.

Por eso estos experimentos importan. Sugieren que la siguiente fase de la IA generativa no estará definida solo por lo que los modelos puedan escribir, sino por si las normas sociales, los estándares de divulgación y las expectativas de autenticidad evolucionan lo bastante rápido como para ponerse al día con lo que las herramientas ya están haciendo.

• Los participantes juzgaron más negativamente los mensajes personales escritos por IA cuando se reveló su autoría que los mensajes idénticos que creían escritos por humanos.
• Cuando no se divulgó la autoría, la mayoría asumió que el mensaje venía de una persona y respondió positivamente.
• Incluso los usuarios frecuentes de IA no mostraron mucho más escepticismo por defecto, lo que sugiere que las normas sociales van por detrás de la capacidad técnica.

Este artículo se basa en una cobertura de Fast Company. Leer el artículo original.