Kaiser Permanente थेरपिस्ट म्हणतात की नवीन AI स्क्रीनिंग रोगीांना धोक्यात घालतेय

जब AI मानसिक स्वास्थ्य कतार का प्रबंधन करता है

Kaiser Permanente च्या थेरपिस्ट संपातीन आहेत, आणि त्यांच्या मुख्य तक्रारीचे एक म्हणजे नवीन AI-चालित रोगी स्क्रीनिंग आणि रूटिंग सिस्टेम जो क्लिनिकल कर्मचारी म्हणतात की धोक्यांची चुका करत आहे. अनेक Kaiser सुविधांमध्ये थेरपिस्ट म्हणतात की सिस्टेम आत्महत्येचे विचार किंवा तीव्र मानसिक आरोग्य संकट दर्शवणाऱ्या रोगीांना चुकीच्या पद्धतीने वर्गीकृत करत आहे आणि अनेक रोगी अल्गोरिदम रूटिंग निर्णयांचे फलस्वरूप गंभीर हानीच्या जवळ आले आहेत. Kaiser ने सिस्टेमचा बचाव केला आहे, पण थेरपिस्ट्सचे विवरण एक चिंताजनक चित्र दर्शवतात जेथे AI असे संदर्भात तैनात केला जात आहे जेथे त्रुटीच्या परिणाम अपरिवर्तनीय असू शकतात.

AI स्क्रीनिंग सिस्टेम कसे काम करते

मानसिक आरोग्य सेटिंग्समध्ये रोगी स्क्रीनिंग परंपरेने मानक प्रश्नावली वर अवलंबून असते—PHQ-9 सारख्या साधने किंवा Columbia Suicide Severity Rating Scale—क्लिनिकल मुलाखतीसह रोगीच्या मानसिक आरोग्य गरजेची तातकालीनता आणि स्वरूप मूल्यांकन करण्यासाठी. Kaiser AI सिस्टेम कथित रूपे या प्रक्रियेचे भाग वाढवते किंवा काही प्रकरणांमध्ये बदलते, प्रवेश प्रश्नावलीतील प्रतिक्रिया, रोगी इतिहास डेटा, आणि वर्तनात्मक संकेत वापरून जोखीम स्कोर आणि रूटिंग सुझाव तयार करते जो निर्धारित करते की रोगीला किती लवकर पाहिले जाते आणि कोणत्या प्रकारचे प्रदाता द्वारे.

तत्त्वतः, AI-सहायक स्क्रीनिंग सुसंगतता सुधारू शकते आणि मानव प्रवेश मूल्यांकनात अंतर्निहित परिवर्तनशीलता कमी करू शकते. एक रोगी जो व्यस्त दिवसात प्रवेश करताना प्रस्तुत होतो जेव्हा प्रवेश कर्मचारी भारप्रस्त असतात, त्याला त्याच अल्गोरिदमिक मूल्यांकन मिळेल जो आदर्श परिस्थितीत प्रस्तुत होणाऱ्या रोगीला मिळतो. सिस्टेम रोगीच्या इतिहासातील जोखीम घटक शोधू शकते जे व्यस्त मानव स्क्रीनर मिस करू शकतो.

थेरपिस्ट काय नोंदवत आहेत

थेरपिस्ट्सचे विवरण असे सिस्टेम वर्णन करतात जे विरुद्ध दिशेत अयशस्वी होत आहे. अनेक क्लिनिकल चिकित्सक अशा प्रकरणांचा अहवाल देतात जेथे रोगीांनी त्यांच्या प्रवेश प्रश्नावलीमध्ये आत्महत्येचे विचार व्यक्त केले होते, त्यांना नियमित नियुक्त्या ऐवजी जरूरी स्लॉट दिले गेले, कारण AI सिस्टेम रोगीच्या इतिहासातील अन्य घटकांना—जसे की पूर्वीचे स्थिर मूल्यांकन—वर्तमान प्रवेशातील तीव्र संकट संकेतांपेक्षा जास्त वजन देत आहे.

एक वाक्य जे विवादाच्या मीडिया कव्हरेजमध्ये प्रतिध्वनित होते ते म्हणजे "धन्य आहे की ते अजूनही जिवंत आहेत"—एक सूत्रीकरण जो थेरपिस्ट्स रोगीांचे वर्णन करण्यासाठी वापरतात जे चुकीच्या पद्धतीने कम-प्राधान्य रूटिंगनंतर प्रतीक्षा कालावधी सोडून गेले. कोणत्या रोगीला सिस्टेमचे फलस्वरूप गंभीर नुकसान झाले हे विवादास्पद राहते; Kaiser चे दावे आहेत की सिस्टेम स्थापित क्लिनिकल सुरक्षा मानदंडांमध्ये कार्य करते, तर थेरपिस्ट्स म्हणतात की त्यांनी ज्या धोक्यात पडण्याच्या परिस्थितींचे निरीक्षण केले आहे ते सुचवतात की ते मानदंड अपुरे आहेत.

उच्च-दांव ट्रिएजमध्ये अल्गोरिदमिक सरासरीचे जोखीम

या विवादातील मुख्य तणाव मशीन लर्निंग लागू करण्याच्या क्लिनिकल ट्रिएजमध्ये व्यापक समस्या प्रतिबिंबित करते. AI सिस्टेम ऐतिहासिक डेटावर प्रशिक्षित होते आणि प्रशिक्षण वितरणमध्ये सरासरी कार्यक्षमतेसाठी अनुकूलित होते. मानसिक आरोग्य स्क्रीनिंगमध्ये, जे रोगी सुरक्षा दृष्टिकोनातून सर्वात महत्वाचे आहेत, ते अगदी ते आहेत जे बाह्य आहेत—व्यक्ती ज्यांची वर्तमान संकट प्रस्तुती त्यांच्या ऐतिहासिक पायावर लक्षणीयरूपे भिन्न आहे, किंवा जे तरीके भाषा कमी करतात जे प्रशिक्षित क्लिनिकल चिकित्सक सावधानीच्या संकेत म्हणून ओळखतात, परंतु मजकूर-आधारित AI सिस्टेम तोंडावर ठेवू शकतात.

क्लिनिकल अंतर्ज्ञान—थेरपिस्टचा टोन, शरीराची भाषा, संकोच, आणि संदर्भ वाचन—प्रश्नावलीतील प्रतिक्रिया कॅप्चर करत नाहीत. एक स्क्रीनिंग सिस्टेम जो मुख्यतः प्रश्नावली डेटा आणि ऐतिहासिक रेकॉर्ड वर अवलंबून असतो, संकट संकेतांना व्यवस्थितरूपे कम वजन देऊ शकतो जे वास्तविक आपातकालीन परिस्थितीला नियमित नियुक्तीपासून वेगळे करतात. जेव्हा दांव रोगीचे जीवन असतात, तर संकट संकेतांचे व्यवस्थित अंडरवेइटिंग अगदी अयशस्वी मोड आहे जे सहन केले जाऊ शकत नाही.

क्लिनिकल सेटिंग्समध्ये AI साठी व्यापक निहितार्थ

Kaiser Permanente रोगी रूटिंग आणि संसाधन वाटपाचे व्यवस्थापन करण्यासाठी AI तैनात करणारी एकमेव आरोग्य प्रणाली नाही. संपूर्ण यूनाइटेड स्टेट्समध्ये आरोग्य प्रणाली सारख्या साधनांचा अंमलबजावणी करत आहेत, कार्यक्षमता सुधारण्याच्या वचनाने आकर्षित, जेथे प्रदाता अभाव लगत पहुंच समस्या निर्माण करते. मानसिक आरोग्य सेवा विशेषतः गंभीर क्षमता मर्यादांना सामोरे असते, AI-सहायक ट्रिएजच्या आकर्षणाला विशेषतः मजबूत करते—आणि संभाव्य परिणामांची गंभीरता विचारात घेऊन अल्गोरिदम त्रुटींचे जोखीम विशेषतः उच्च आहे.

Kaiser विवाद संभवतः इतर आरोग्य प्रणाली मानसिक आरोग्य संदर्भात AI स्क्रीनिंग साधनांसाठी सत्यापन आणि पर्यवेक्षण आवश्यकतांचा कसे संपर्क करतात या बाबतीत प्रभाव टाकेल. नियामक, क्लिनिकल व्यावसायिक संस्था, आणि आरोग्य प्रणाली प्रशासक सर्व हे पाहत आहेत की हे कसे खेळते, हे जाणून की मोठ्या प्रमाणात तैनात केलेले AI ट्रिएज साधन एकतर मानसिक आरोग्य सेवेच्या प्रवेशामध्ये लक्षणीयरूपे सुधारण्यास सक्षम आहेत किंवा प्रणालीगत जोखीम निर्माण करू शकतात जे पर्याप्त क्लिनिकल पर्यवेक्षण आणि त्रुटी-शोध यंत्रणा न करता तैनात केल्यास त्या फायद्यांना ओव्हरराइड करू शकतात.

हा लेख The Guardian द्वारे अहवालावर आधारित आहे. मूल लेख वाचा.