AI & RoboticsMore in AI & Robotics→
చాట్బాట్లు ఒక 'ఒకరి ప్రతిధ్వని గది'ని సృష్టిస్తున్నాయి — AI-సంబంధిత సైకోసిస్కి నిర్ధారణగా గుర్తింపు లభించగలదా?
Key Takeaways
- King's College London, UCL, Western Eye Hospital, మరియు Dev and Doc: AI for Healthcare కి చెందిన పరిశోధకులు 'AI-associated psychosis' అనే పదాన్ని ప్రతిపాదిస్తున్నారు.
- చాట్బాట్ల విపరీత వినియోగం సైకోటిక్ లక్షణాల ప్రారంభం లేదా తీవ్రతతో కలిసి ఉండవచ్చు, కానీ సాక్ష్యం ఇంకా ప్రాథమిక దశలోనే ఉంది.
- RLHF ద్వారా నిర్మితమైన sycophancy వినియోగదారి నమ్మకాలను బలపరచడం ద్వారా ఒక 'ఒకరి ప్రతిధ్వని గది'ని సృష్టించగలదు.
- PsychosisBench మరియు EchoBench వంటి బెంచ్మార్క్లు అనేక LLMలు మాయాభాసాలను బలపరుస్తాయని, మరియు తరచుగా భద్రతా వ్యవస్థలను సక్రియం చేయడంలో విఫలమవుతాయని చూపిస్తున్నాయి.
DE
DT Editorial Team··via the-decoder.com
