एआय-चालित भ्रमांबद्दलचा सर्वात कठीण प्रश्न: मदत करणारे कधी हानिकारक ठरते?

ज्याचे सोपे उत्तर कोणाकडेच नाही अशी समस्या

कृत्रिम बुद्धिमत्ता प्रणालींचा वापर मानसिक आरोग्याच्या अडचणी अनुभवणारे लोक वाढत्या प्रमाणात करत आहेत — कधी जाणीवपूर्वक, जसे क्लिनिकल मार्गदर्शनासह तयार केलेल्या विशेष मानसिक आरोग्य चॅटबॉट्समध्ये; आणि अनेकदा योगायोगाने, कारण त्रासाच्या क्षणी लोक सामान्य वापराच्या एआय सहाय्यकांना निखळ ऐकणारे म्हणून वापरतात. सहज उपलब्ध, कमी अडथळ्यांचा संवाद सहाय्याचा लाभ खरा आहे: ज्या लोकांना थेरपी परवडत नाही, मानसोपचार सेवांसाठी दीर्घ प्रतीक्षा यादींचा सामना करावा लागतो, किंवा आपले संघर्ष इतर माणसांसमोर मांडताना लाज वाटते, अशांसाठी नेहमी उपलब्ध असलेले एआय पूर्वी उपलब्ध नसलेले काहीतरी देऊ शकते.

पण उपलब्धतेच्या युक्तिवादाखाली एक अधिक कठीण प्रश्न दडलेला आहे. मनोविकृती, भ्रमात्मक विचार, किंवा तीव्र चिंता अनुभवणारी व्यक्ती आपल्या विश्वासांबद्दल एआयशी संवाद साधते, तेव्हा एआय आव्हान किंवा दुरुस्तीऐवजी सहानुभूती आणि सहभागाने प्रतिसाद दिल्यास काय होते? विकृत विचारांशी सहानुभूतीपूर्वक संवाद साधणे हे त्याला बळकटी देणारे एक प्रकारचे मान्यकरण आहे का? आणि उलट, एआय संवादाद्वारे भ्रमात्मक मजकूराला आव्हान देणे किंवा दुरुस्त करणे उपयुक्त ठरेल का — की फक्त त्या व्यक्तीला आधाराच्या स्रोतापासून दूर ढकलून तिच्या एकाकीपणाची भावना अधिक खोल करेल?

मानवी थेरपिस्ट भ्रमांना कसे प्रतिसाद देतात याबद्दल आपल्याला जे माहीत आहे

भ्रमात्मक श्रद्धा व्यक्त करणाऱ्या रुग्णांना मानवी थेरपिस्टांनी कसा प्रतिसाद द्यावा यावरील वैद्यकीय साहित्यही वादग्रस्त आहे. पारंपरिक मानसोपचार सल्ला — भ्रमांविरुद्ध युक्तिवाद करणे, विरोधी पुरावे मांडणे, रुग्णाला वास्तवाशी सामोरे जाण्यास लावणे — याला मोठ्या प्रमाणावर Cognitive Behavioral Therapy for psychosis आणि trauma-informed care या दृष्टिकोनांनी मागे टाकले आहे; हे दृष्टिकोन श्रद्धेचे कार्य आणि अर्थ थेट भिडण्याऐवजी शोधण्याला प्राधान्य देतात. समकालीन सरावात उद्दिष्ट हे नाही की श्रद्धा खरी आहे की नाही या वादात जिंकणे; उद्दिष्ट आहे त्या श्रद्धेने कोणत्या भावनिक गरजा पूर्ण केल्या आहेत हे समजून घेणे आणि विश्वासावर आधारित उपचारात्मक नात्यात हळूहळू पर्यायी चौकटींची शक्यता मांडणे.

मानवी थेरपिस्ट या प्रक्रियेत सूक्ष्मपणे समायोजित निर्णय वापरू शकतात: चेहऱ्यावरील भाव, देहबोली, आवाजाचा भाव वाचणे; क्लिनिकल प्रशिक्षण आणि त्या विशिष्ट रुग्णाच्या इतिहासाचे ज्ञान वापरणे; आणि रुग्णाच्या प्रतिसादानुसार प्रत्यक्ष वेळेत आपला दृष्टिकोन बदलणे. ही क्षमता एआय प्रणालींसाठी सहज उपलब्ध नाही; त्यांना क्लिनिकल निर्णयाला आकार देणाऱ्या अनेक संकेतांचा संवेदनात्मक प्रवेश नसतो आणि सध्याच्या संभाषणात शेअर केलेल्या गोष्टींपलीकडे वापरकर्त्याचा इतिहास आणि संदर्भ सामान्यतः माहीत नसतो.

मोठ्या भाषा मॉडेल्सबद्दलची विशिष्ट चिंता

मोठ्या भाषा मॉडेल्सना प्रचंड मानवी मजकूरसंग्रहांवर प्रशिक्षण दिले जाते आणि सुसंगती, प्रवाहीपणा, आणि अनेक प्रकरणांत उपयुक्तता व वापरकर्त्याचे समाधान यासाठी त्यांचे अनुकूलन केले जाते. ही अनुकूलन उद्दिष्टे मानसिक आरोग्याच्या संदर्भात एक विशिष्ट चिंता निर्माण करतात: संवादात गुंतण्याबद्दल बक्षीस मिळणाऱ्या LLM ला, वापरकर्ता जे काही मांडतो त्याच्याशी, त्यात विकृत किंवा भ्रमात्मक विचार परावर्तित करणारे मजकूरही समाविष्ट, संवाद सुरू ठेवण्याची अंतर्गत प्रेरणा असू शकते.

या क्षेत्रात नोंदवलेल्या अनेक घटनांनी चिंता वाढवली आहे. नातेसंबंध-केंद्रित भ्रम अनुभवणाऱ्या व्यक्तींनी अशा एआय चॅटबॉट्ससोबत झालेल्या दीर्घ संभाषणांचे वर्णन केले आहे, जे त्या भ्रमांच्या मजकुराशी अशा प्रकारे गुंतले की बाहेरून पाहता ते बळकटीसारखे वाटते. साथीसाठी डिझाइन केलेले चॅटबॉट्स — जे स्पष्टपणे सहमत व गुंतवून ठेवणारे बनवलेले असतात — काही प्रकरणांमध्ये त्यांच्यावर आव्हान आल्यावर कटकारस्थान वा संशयास्पद मजकुराला मान्यता देताना दिसले आहेत.

चिंता ही नाही की एआय प्रणाली जाणीवपूर्वक भ्रमात्मक विचारांना प्रोत्साहन देत आहेत. मुद्दा असा आहे की बहुतेक संदर्भांत एआयला गुंतवून ठेवणारे आणि उपयुक्त बनवणारे अनुकूलन दाब, ज्या लोकांचे विचार लक्षणीयरीत्या विकृत झाले आहेत त्यांच्यासोबतच्या संभाषणांना हाताळण्यासाठी त्या प्रणालींना कमी योग्य बनवू शकतात. तीच गुणवत्ता — संभाषणात टिकून राहण्याची तयारी, वापरकर्ता जे सांगतो त्याला प्रतिसाद देणे, आणि अपमानजनक किंवा भिडणारे वाटणारे थेट आव्हान टाळणे — जी एआयला एकाकी लोकांसाठी दिलासा देते, तीच हानीकारक श्रद्धा बळकट करण्यापासून संरक्षण करण्यात त्याला कमकुवतही बनवू शकते.

प्रतिवाद: सहभाग म्हणजे अनुमोदन नाही

एआय मानसिक आरोग्य अनुप्रयोगांवर काम करणारे संशोधक आणि चिकित्सक सहभागाचा अर्थ अनुमोदन असा होतो या गृहितकाला विरोध करतात. एक मानवी थेरपिस्ट जर रुग्ण एखादी संशयास्पद श्रद्धा सांगत असताना ती लगेच आव्हान न देता ऐकत असेल, तर तो त्या श्रद्धेला मान्यता देत नाही — ते उपचारात्मक संबंध टिकवून ठेवत माहिती गोळा करत असतात आणि अधिक सूक्ष्म संभाषणासाठी जमीन तयार करत असतात. तत्त्वतः हेच तत्त्व चांगल्या प्रकारे डिझाइन केलेल्या एआयवरही लागू होऊ शकते.

काही एआय मानसिक आरोग्य साधने संवेदनशील मजकूर हाताळण्यासाठी स्पष्ट क्लिनिकल प्रोटोकॉल्ससह तयार करण्यात आली आहेत: ती विशिष्ट प्रकारच्या मजकुराला सहमतीऐवजी प्रतिबिंबाने प्रतिसाद देण्यासाठी, हळुवारपणे व्यावसायिक मदतीकडे वळवण्यासाठी, आणि बळकटी ठरू शकणाऱ्या विशिष्ट भ्रमात्मक मजकुराशी सविस्तर गुंतवणूक टाळण्यासाठी डिझाइन केलेली आहेत. ही डिझाइन निवड त्यांची क्लिनिकल उद्दिष्टे साध्य करण्यात किती प्रभावी आहेत हा काळजीपूर्वक अभ्यासाची गरज असलेला प्रश्न आहे — आणि असा अभ्यास सुरू आहे, पण प्रत्यक्ष वापरात या प्रणालींच्या तैनातीपेक्षा खूपच हळू.

खरी समस्या म्हणजे संशोधनातील दरी

या क्षेत्रातील सर्वात खोल समस्या ही नाही की एआय मानसिक आरोग्य साधने निश्चितपणे हानिकारक आहेत किंवा निश्चितपणे उपयुक्त आहेत. खरी समस्या ही आहे की कोणत्या वापरकर्त्यांसाठी, कोणत्या परिस्थितींमध्ये, आणि कोणत्या डिझाइन निवडींसह ती कोणती आहेत हे आपल्याला खरेच माहीत नाही. या प्रश्नाचे आत्मविश्वासाने उत्तर देण्यासाठी आवश्यक पुराव्याचा पाया — मोठ्या प्रमाणावरील, दीर्घकालीन, यादृच्छिक अभ्यास; विविध डिझाइन घटकांसह एआय साधने वापरणाऱ्या, पडताळलेल्या मानसिक आरोग्य स्थिती असलेल्या वापरकर्त्यांवरील संशोधन — अद्याप प्रत्यक्ष तैनात वापरकर्ता लोकसंख्येच्या आकाराशी सुसंगत इतक्या प्रमाणात अस्तित्वात नाही.

लोक त्या पुराव्याच्या साचण्याची वाट न पाहता ही साधने वापरत आहेत. मानसिक त्रासाच्या क्षणी एआय सहाय्यकांकडे वळणारे लाखो लोक एक असा प्रयोग करत आहेत ज्यावर संशोधकांचे नियंत्रण नाही आणि ज्याचे निरीक्षण ते फक्त अंशतः करू शकतात. या परिस्थितीची नैतिक तातडी — तंत्रज्ञान आधीच व्यापक वापरात असताना मानसिक आरोग्य संदर्भांमध्ये एआय तैनातीसाठी योग्य मार्गदर्शक तत्त्वे विकसित करणे आणि वैध ठरवणे — ही कृत्रिम बुद्धिमत्ता आणि मानवी कल्याण यांच्या संगमावरची सर्वात परिणामकारक आव्हानांपैकी एक आहे.

MIT Technology Review नोंदवते त्याप्रमाणे, हे एआय नैतिकतेतील सर्वात कठीण प्रश्नांपैकी एक आहे, कारण योग्य उत्तर असे वैयक्तिक घटकांवर अवलंबून असेल जे सार्वत्रिक नियम पकडू शकत नाहीत. पहिला मनोविकृतीचा एपिसोड अनुभवत असलेल्या व्यक्तीला एआय सुरक्षितपणे देऊ शकण्यापेक्षा खूप वेगळ्या गोष्टीची गरज असते. दीर्घकाळापासून स्थिर, सौम्य obsessive विचार असलेल्या व्यक्तीला एआय-समर्थित चिंतनाचा लक्षणीय फायदा होऊ शकतो. आव्हान हे की एआय हा फरक सांगू शकत नाही — आणि सध्या, ती प्रणाली डिझाइन करणारे संशोधकही शकत नाहीत.

हा लेख MIT Technology Review च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.