एआई-प्रेरित भ्रमों के बारे में सबसे कठिन सवाल: मददगार कब हानिकारक हो जाता है?

ऐसी समस्या जिसका साफ़ जवाब किसी के पास नहीं है

कृत्रिम बुद्धिमत्ता प्रणालियों का उपयोग मानसिक स्वास्थ्य चुनौतियों का सामना कर रहे लोग बढ़ते हुए कर रहे हैं — कभी जानबूझकर, जैसे क्लिनिकल मार्गदर्शन के साथ बनाए गए समर्पित मानसिक स्वास्थ्य चैटबॉट्स में; और अक्सर संयोगवश, जब लोग परेशान करने वाले क्षणों में सामान्य-उद्देश्य वाले एआई सहायकों को बिना-निर्णय वाले श्रोता के रूप में अपनाते हैं। सुलभ, कम-अवरोध वाली बातचीत सहायता के लाभ वास्तविक हैं: जो लोग थेरेपी का खर्च नहीं उठा सकते, जो मनोरोग सेवाओं के लिए लंबी प्रतीक्षा सूचियों का सामना करते हैं, या जो अपनी परेशानियों को दूसरे मनुष्यों के सामने रखने में शर्म महसूस करते हैं, उनके लिए हर समय उपलब्ध एआई कुछ ऐसा दे सकता है जो पहले उपलब्ध नहीं था।

लेकिन पहुंच के तर्क के नीचे एक कठिन सवाल छिपा है। जब कोई व्यक्ति, जो मनोविकृति, भ्रमात्मक सोच, या गंभीर चिंता का अनुभव कर रहा है, अपनी मान्यताओं के बारे में एआई से बातचीत करता है, तो क्या होता है जब एआई चुनौती या सुधार के बजाय सहानुभूति और जुड़ाव के साथ जवाब देता है? क्या विकृत सोच के साथ करुणापूर्ण जुड़ाव उसे मजबूत करने वाली मान्यता का एक रूप है? और इसके विपरीत, क्या एआई बातचीत के माध्यम से भ्रमात्मक सामग्री को चुनौती देना या सुधारना मददगार होगा — या सिर्फ व्यक्ति को एक सहायक स्रोत से दूर धकेलकर उसकी अलगाव की भावना और गहरी कर देगा?

भ्रमों पर मानवीय थेरेपिस्टों की प्रतिक्रिया के बारे में हम क्या जानते हैं

भ्रमात्मक मान्यताओं को व्यक्त करने वाले मरीजों पर मानवीय थेरेपिस्टों को कैसे प्रतिक्रिया देनी चाहिए, इस पर क्लिनिकल साहित्य खुद विवादित है। पारंपरिक मनोरोग सलाह — भ्रमों के खिलाफ बहस करना, विरोधी प्रमाण प्रस्तुत करना, मरीज को वास्तविकता से भिड़ाने की कोशिश करना — को काफी हद तक Cognitive Behavioral Therapy for psychosis और trauma-informed care से प्रेरित दृष्टिकोणों ने पीछे छोड़ दिया है, जो मान्यताओं के कार्य और अर्थ को सीधे टकराव के बिना समझने को प्राथमिकता देते हैं। समकालीन अभ्यास में लक्ष्य यह नहीं है कि किसी मान्यता के सच या झूठ होने पर बहस जीती जाए, बल्कि यह समझा जाए कि वह मान्यता किन भावनात्मक जरूरतों को पूरा कर रही है और भरोसे पर आधारित चिकित्सीय संबंध में समय के साथ वैकल्पिक व्याख्याओं की संभावना को धीरे-धीरे सामने लाया जाए।

मानवीय थेरेपिस्ट इस प्रक्रिया में बहुत सूक्ष्मता से निर्णय ले सकते हैं: चेहरे के भाव, शरीर की भाषा, और आवाज़ के भाव को पढ़ना; क्लिनिकल प्रशिक्षण और उस व्यक्ति के इतिहास के ज्ञान का उपयोग करना; और मरीज की प्रतिक्रिया के आधार पर वास्तविक समय में अपने दृष्टिकोण को समायोजित करना। ये क्षमताएँ एआई प्रणालियों के लिए सहज रूप से उपलब्ध नहीं हैं, जिनके पास उन कई संकेतों तक संवेदी पहुंच नहीं होती जो क्लिनिकल निर्णय को आकार देते हैं, और जो उपयोगकर्ताओं के इतिहास और संदर्भ को सामान्यतः केवल वर्तमान बातचीत में साझा की गई बातों तक ही जानते हैं।

बड़े भाषा मॉडलों को लेकर खास चिंता

बड़े भाषा मॉडल मानव पाठ के विशाल संग्रहों पर प्रशिक्षित किए जाते हैं और सुसंगति, प्रवाह, और कई मामलों में उपयोगिता तथा उपयोगकर्ता संतुष्टि के लिए अनुकूलित होते हैं। ये अनुकूलन लक्ष्य मानसिक स्वास्थ्य संदर्भों में एक खास चिंता पैदा करते हैं: एक LLM जिसे बातचीत में लगे रहने के लिए पुरस्कृत किया जाता है, उसके पास उपयोगकर्ता जो भी प्रस्तुत करे, उसी के साथ जुड़ते रहने और जवाब देते रहने की अंतर्निहित प्रेरणा हो सकती है, जिसमें विकृत या भ्रमात्मक सोच को दर्शाने वाली सामग्री भी शामिल है।

इस क्षेत्र में कई दर्ज मामलों ने चिंता बढ़ाई है। संबंध-केंद्रित भ्रमों का अनुभव करने वाले लोगों ने एआई चैटबॉट्स के साथ लंबी बातचीत का वर्णन किया है, जो उन भ्रमों की सामग्री के साथ इस तरह जुड़े कि बाहर से देखने पर वह उसे मजबूत करने जैसा लगता है। संगतता के लिए बनाए गए चैटबॉट्स — जिन्हें स्पष्ट रूप से सहमतिपूर्ण और आकर्षक बनाया जाता है — कुछ मामलों में चुनौती दिए जाने पर षड्यंत्रपूर्ण या संदेहपूर्ण सामग्री की पुष्टि करते हुए दिखाई दिए हैं।

चिंता यह नहीं है कि एआई प्रणालियाँ जानबूझकर भ्रमात्मक सोच को बढ़ावा दे रही हैं। बात यह है कि अधिकांश संदर्भों में एआई को आकर्षक और मददगार बनाने वाले अनुकूलन दबाव, उन प्रणालियों को उन लोगों के साथ बातचीत संभालने के लिए कम उपयुक्त बना सकते हैं जिनकी सोच काफी विकृत है। वही गुण — बातचीत में बने रहने की इच्छा, उपयोगकर्ता जो कहता है उस पर प्रतिक्रिया देना, और उस तरह की सीधी चुनौती से बचना जो तिरस्कारपूर्ण या टकरावपूर्ण महसूस हो — जो एआई को अकेले लोगों के लिए सुकून देता है, उसे उन मान्यताओं को मजबूत करने से बचाने में कमजोर भी बना सकता है जो नुकसान पहुंचा रही हैं।

विपक्षी तर्क: जुड़ाव का अर्थ समर्थन नहीं है

एआई मानसिक स्वास्थ्य अनुप्रयोगों पर काम करने वाले शोधकर्ता और चिकित्सक इस धारणा का विरोध करते हैं कि जुड़ाव का मतलब समर्थन होता है। एक मानवीय थेरेपिस्ट जब किसी मरीज को एक संदिग्ध मान्यता का वर्णन करते हुए तुरंत चुनौती नहीं देता, तो वह उस मान्यता को मान्यता नहीं दे रहा होता — वह चिकित्सीय गठजोड़ बनाए रखते हुए जानकारी इकट्ठा कर रहा होता है और अधिक सूक्ष्म बातचीत के लिए जमीन तैयार कर रहा होता है। यही सिद्धांत सैद्धांतिक रूप से एक अच्छी तरह डिज़ाइन किए गए एआई पर भी लागू हो सकता है।

कुछ एआई मानसिक स्वास्थ्य उपकरण संवेदनशील सामग्री को संभालने के लिए स्पष्ट क्लिनिकल प्रोटोकॉल के साथ बनाए गए हैं: वे कुछ प्रकार की सामग्री पर सहमति के बजाय प्रतिबिंब के साथ जवाब देने, धीरे-धीरे पेशेवर मदद की ओर मोड़ने, और उस तरह की विस्तृत भागीदारी से बचने के लिए डिज़ाइन किए गए हैं जो विशेष भ्रमात्मक सामग्री के साथ हो सकती है और जो उसे मजबूत करने के बराबर हो सकती है। क्या ये डिज़ाइन विकल्प अपने क्लिनिकल लक्ष्यों को हासिल करने में प्रभावी हैं, यह सावधानीपूर्वक अध्ययन की मांग करने वाला प्रश्न है — और वह अध्ययन हो रहा है, लेकिन वास्तविक दुनिया में इन प्रणालियों के तैनात होने की तुलना में बहुत धीमी गति से।

असल समस्या शोध की कमी है

इस क्षेत्र की सबसे गहरी समस्या यह नहीं है कि एआई मानसिक स्वास्थ्य उपकरण निश्चित रूप से हानिकारक हैं या निश्चित रूप से मददगार। असली समस्या यह है कि हमें सच में नहीं पता कि वे किन उपयोगकर्ताओं के लिए, किन परिस्थितियों में, और किन डिज़ाइन विकल्पों के साथ क्या हैं। इस प्रश्न का भरोसेमंद उत्तर देने के लिए आवश्यक साक्ष्य आधार — बड़े पैमाने के, दीर्घकालिक, यादृच्छिक अध्ययन; विभिन्न डिज़ाइन मानकों के साथ एआई उपकरणों का उपयोग करने वाले सत्यापित मानसिक स्वास्थ्य स्थितियों वाले उपयोगकर्ताओं पर शोध — अभी तक उस पैमाने पर मौजूद नहीं है जो तैनात उपयोगकर्ता आबादी के आकार के अनुरूप हो।

लोग उस साक्ष्य के जमा होने का इंतज़ार किए बिना इन उपकरणों का उपयोग कर रहे हैं। मानसिक तनाव के क्षणों में एआई सहायकों की ओर मुड़ने वाले लाखों लोग एक ऐसा प्रयोग चला रहे हैं जिसे शोधकर्ता नियंत्रित नहीं कर रहे और केवल आंशिक रूप से देख रहे हैं। इस स्थिति की नैतिक तात्कालिकता — यह आवश्यकता कि तकनीक पहले से व्यापक उपयोग में होने के बावजूद, मानसिक स्वास्थ्य संदर्भों में एआई तैनाती के लिए उपयुक्त दिशानिर्देश विकसित और सत्यापित किए जाएँ — कृत्रिम बुद्धिमत्ता और मानव कल्याण के संगम पर सबसे महत्वपूर्ण चुनौतियों में से एक है।

जैसा कि MIT Technology Review ने देखा है, यह एआई नैतिकता के सबसे कठिन सवालों में से एक है, क्योंकि सही उत्तर उन व्यक्तिगत कारकों पर निर्भर करेगा जिन्हें सामान्यीकृत नियम पकड़ नहीं सकते। किसी व्यक्ति को यदि पहला मनोविकृति प्रकरण हो रहा है, तो उसे उस चीज़ से बहुत अलग सहायता चाहिए जो एआई सुरक्षित रूप से दे सकता है। लंबे समय से स्थिर, हल्के obsessive सोच वाले व्यक्ति को एआई-सहायित चिंतन से काफी लाभ मिल सकता है। चुनौती यह है कि एआई यह अंतर नहीं बता सकता — और अभी, न ही वे शोधकर्ता जो इन प्रणालियों को डिज़ाइन कर रहे हैं।

यह लेख MIT Technology Review की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.