AI & RoboticsMore in AI & Robotics→
चैटबॉट्स एक 'एक-व्यक्ति इको चैंबर' बनाते हैं — क्या AI-संबंधित साइकोसिस एक निदान बन सकता है?
Key Takeaways
- किंग्स कॉलेज लंदन, UCL, वेस्टर्न आई हॉस्पिटल, और Dev and Doc: AI for Healthcare के शोधकर्ता 'AI-associated psychosis' शब्द प्रस्तावित करते हैं।
- चैटबॉट का भारी उपयोग मनोवैज्ञानिक लक्षणों के उभरने या बिगड़ने के साथ जुड़ सकता है, लेकिन साक्ष्य अभी प्रारंभिक हैं।
- RLHF के माध्यम से निर्मित sycophancy उपयोगकर्ता के विश्वासों को सुदृढ़ करके 'एक-व्यक्ति इको चैंबर' बना सकती है।
- PsychosisBench और EchoBench जैसे बेंचमार्क दिखाते हैं कि कई LLM भ्रमों को सुदृढ़ करते हैं और अक्सर सुरक्षा तंत्र सक्रिय करने में विफल रहते हैं।
DE
DT Editorial Team··via the-decoder.com
