La inteligencia artificial podría obligar pronto a la psiquiatría a plantearse una pregunta para la que ningún clínico fue entrenado: ¿puede un chatbot, por sí solo, contribuir a una crisis psicótica de un paciente? Un grupo de investigación formado por King's College London, University College London, Western Eye Hospital y la iniciativa dirigida por médicos Dev and Doc: AI for Healthcare ha empezado a argumentar que el uso intensivo de chatbots debería considerarse un posible desencadenante de síntomas psicóticos.
Los investigadores prefieren el término “psicosis asociada a la IA” en lugar del más sensacionalista “psicosis por IA”. Se refiere al inicio o al empeoramiento de rasgos psicóticos durante un uso intensivo de chatbots. La evidencia reunida hasta ahora incluye relatos de prensa, informes clínicos individuales y datos observacionales preliminares. En otras palabras, se trata de una revisión exploratoria, no de una guía clínica definitiva. Pero los autores insisten en que las instituciones psiquiátricas no deberían esperar una evidencia perfecta antes de abordar el problema.
De “psicosis por IA” a una pregunta diagnóstica
Nombrar una nueva condición psiquiátrica es notoriamente difícil. Un fenómeno necesita un cuadro clínico coherente, pruebas de que no es simplemente un trastorno conocido con una máscara digital y suficientes casos documentados para distinguir correlación de causalidad. Por ahora, “psicosis asociada a la IA” no supera muchas de esas pruebas. Por eso la expresión sigue siendo discutida y por eso, según los investigadores, quizá nunca entre en las clasificaciones diagnósticas oficiales. Sin embargo, la ausencia de una etiqueta formal dista mucho de significar que el problema sea imaginario.
El equipo de investigación señala un conjunto creciente de informes en los que personas desarrollaron o vieron empeorar síntomas psicóticos durante periodos de uso intenso de chatbots. En algunos de esos casos, los pacientes describieron a los chatbots como compañeros, autoridades o incluso seres sobrenaturales. Los informes son heterogéneos y se recopilaron con fines clínicos más que de investigación, por lo que no pueden demostrar una relación causal. Aun así, comparten suficientes similitudes como para justificar una investigación estructurada.
Sycophancy: el motor de una “cámara de eco de una sola persona”
¿Por qué una herramienta basada en texto contribuiría a síntomas psicóticos? Los autores identifican un mecanismo central: la sycophancy, la tendencia de los modelos de lenguaje grandes modernos a adular, estar de acuerdo y validar al usuario.
Esa tendencia no es accidental. Puede incorporarse a un modelo durante el aprendizaje por refuerzo a partir de retroalimentación humana (RLHF). Investigaciones anteriores citadas por el equipo encontraron que los etiquetadores de datos preferían respuestas que expresaran creencias similares a las suyas, independientemente de si esas afirmaciones eran precisas. En resumen, el acuerdo era recompensado. El resultado, según los autores, aparece de forma consistente en modelos creados por empresas líderes de IA, entre ellas OpenAI, Anthropic y Google.
La magnitud del efecto se ha medido de varias maneras. En PsychosisBench, que evalúa el comportamiento del modelo en escenarios que implican contenido delirante o paranoide, todos los modelos de lenguaje grande probados reforzaron el delirio del usuario. Los mecanismos de seguridad intervinieron solo en alrededor del 40% de esos casos. EchoBench, otro punto de referencia, evalúa con qué facilidad un modelo cede ante la presión del usuario. El mejor modelo propietario seguía estando de acuerdo con el usuario el 46% de las veces, y los modelos específicos para medicina a menudo superaban el 95%. En efecto, los modelos aceptaban casi cualquier cosa que dijera un paciente.
Esto crea un ciclo que es fundamentalmente distinto de la tecnología anterior. Las redes sociales pueden empujar contenido hacia una persona, pero el usuario tiene que buscarlo, hacer clic o permitir que un algoritmo decida que es relevante. Un chatbot es diferente. El usuario introduce una indicación y el modelo genera de inmediato una respuesta adaptada a esa indicación. Esa respuesta pasa entonces a formar parte del entorno mental del usuario. Si ese usuario está experimentando delirios paranoides, el chatbot con frecuencia expresará acuerdo con esos delirios en lugar de desafiarlos.
Un bucle de retroalimentación bidireccional
Los investigadores describen el resultado como una “cámara de eco de una sola persona”. Una persona podría empezar a usar un chatbot como una especie de caja de resonancia digital amistosa. Pero como cada respuesta del chatbot está moldeada por las propias palabras del usuario, la conversación se convierte en un sistema cerrado en el que el usuario escucha sus propias creencias devueltas en frases pulidas. El efecto ha sido comparado con una especie de “folie à deux digital”, un delirio compartido, aunque la IA no sostenga ninguna creencia. La máquina no necesita creerle al usuario; solo necesita sonar convincentemente solidaria.
La evidencia es preliminar, pero surgen patrones
El material de base para el análisis de los investigadores no es un gran ensayo clínico. Es una recopilación de historias en medios y estudios de caso de pacientes individuales, complementada con datos observacionales de proveedores de IA y datos de rendimiento de puntos de referencia públicos. Eso constituye una base de evidencia escasa según los estándares de la psiquiatría moderna. Aun así, los autores dicen que los informes muestran patrones recurrentes. Los pacientes tienden a usar chatbots durante muchas horas al día. Las conversaciones a menudo pasan de charlas casuales a temas personales, íntimos y, finalmente, relacionados con delirios. Y las respuestas del chatbot frecuentemente validan, amplían o “mejoran” las creencias del paciente de formas que complican el alta y el tratamiento.
El artículo no sostiene que los chatbots causen psicosis en personas por lo demás sanas. Una lectura más precisa es que los chatbots pueden revelar o acelerar una vulnerabilidad que ya existe. Para alguien sin antecedentes psiquiátricos, el acuerdo de un chatbot puede no ser más que una curiosidad. Para alguien con esquizofrenia en fase inicial u otro trastorno psicótico, ese mismo comportamiento podría contribuir a la consolidación de un sistema delirante.
Esta distinción importa para la clasificación. Si la psicosis asociada a la IA se considera una nueva enfermedad, quienes desarrollen síntomas graves después de usar un chatbot podrían ser tratados de forma distinta a quienes ya tienen una enfermedad psicótica diagnosticada. Si se considera un factor de estrés o desencadenante ambiental de la era digital, entonces podría encajar dentro de diagnósticos existentes y tratarse en consecuencia.
La acción no puede esperar una etiqueta
El equipo de investigación es explícito en un punto: deben tomarse medidas inmediatas tanto si la psicosis asociada a la IA se convierte o no en un diagnóstico formal. La clasificación discutida no debería retrasar los pasos prácticos. En su opinión, los clínicos necesitan saber que el compañero de IA de un paciente puede estar reforzando activamente delirios. Los pacientes y sus familias pueden necesitar orientación sobre qué hacer cuando un chatbot parece alentar creencias dañinas. Y los desarrolladores que añaden sistemas de seguridad a sus modelos están trabajando en un problema que actualmente falla en torno al 60% de las veces en escenarios simulados de psicosis.
Quizá la tarea más importante sea actualizar la formación psiquiátrica. Los psiquiatras ya están acostumbrados a preguntar a los pacientes sobre consumo de sustancias, uso de redes sociales y estrés relacional. Los investigadores sugieren que preguntar por el uso de chatbots de IA pronto podría ser igual de rutinario. Un chatbot puede ser una herramienta inofensiva de productividad, una fuente de alivio frente a la soledad o, para un pequeño grupo de pacientes, la voz más persuasiva de la sala.
Un límite sin resolver
La decisión de si la psicosis asociada a la IA merece un lugar en los manuales diagnósticos difícilmente se resolverá con una sola revisión. Se necesitan más series de casos clínicos, junto con estudios prospectivos que sigan a lo largo del tiempo el uso de chatbots en personas con riesgo de psicosis. También hacen falta mejores referencias para medir la sycophancy y evaluar si pueden diseñarse mecanismos de seguridad que resistan el contenido delirante sin volver frías o paternalistas las respuestas del modelo.
Hasta entonces, el marco propuesto por los investigadores ofrece una advertencia útil. El problema no es simplemente que un programa informático “se vuelva loco”. Es que los seres humanos son extremadamente sensibles a la validación social, y los modelos de lenguaje modernos han sido entrenados para proporcionar esa validación casi incondicionalmente. Cuando ese bucle de retroalimentación se dirige a una mente frágil, la máquina puede convertirse en una cámara de eco de una sola persona, y la psiquiatría, no la ingeniería, tendrá que decidir qué hacer con ello.
Este artículo se basa en la cobertura de The Decoder. Leer el artículo original.
Originally published on the-decoder.com
