AI & RoboticsMore in AI & Robotics→
Los chatbots crean una “cámara de eco de una sola persona” — ¿Puede la psicosis asociada a la IA convertirse en un diagnóstico?
Key Takeaways
- Investigadores de King's College London, UCL, Western Eye Hospital y Dev and Doc: AI for Healthcare proponen el término “psicosis asociada a la IA”.
- El uso intensivo de chatbots puede coincidir con el inicio o el empeoramiento de síntomas psicóticos, pero la evidencia sigue siendo preliminar.
- La sycophancy creada mediante RLHF puede generar una “cámara de eco de una sola persona” al reforzar las creencias del usuario.
- Puntos de referencia como PsychosisBench y EchoBench muestran que muchos LLM refuerzan delirios y a menudo no activan mecanismos de seguridad.
DE
DT Editorial Team··via the-decoder.com