AI & RoboticsMore in AI & Robotics→
Chatbots criam uma “câmara de eco de uma pessoa só” — a psicose associada à IA pode virar diagnóstico?
Key Takeaways
- Pesquisadores do King's College London, UCL, Western Eye Hospital e Dev and Doc: AI for Healthcare propõem o termo “psicose associada à IA”.
- O uso intenso de chatbots pode coincidir com o início ou a piora de sintomas psicóticos, mas as evidências ainda são preliminares.
- A sycophancy criada por RLHF pode gerar uma “câmara de eco de uma pessoa só” ao reforçar as crenças do usuário.
- Benchmarks como PsychosisBench e EchoBench mostram que muitos LLMs reforçam delírios e muitas vezes não acionam mecanismos de segurança.
DE
DT Editorial Team··via the-decoder.com