Kaiser Permanente கவுன்சலர்கள் புதிய AI ஆய்வு நோயாளிகளை ঝুக்கத்தில் ফেலுவதாக சொல்கிறார்கள்

AI மানசிக ஆரோக்கிய வரிசை நிர்வহிக்கும் போது

Kaiser Permanente கவுன்சலர்கள் வேலை நிறுத்தத்தில் আছেன், மற்றும் அவர்களின் முக்கிய புகாரின் ஒன்று ஒரு புதிய AI-இயக்கப்பட்ட நோயாளி ஆய்வு மற்றும் நிலைக்ஷ நாவல் ப்ரणालை (“Routing System”) ப்றம், அது ক்லினிக்கல் பணியாளர்கள் பத்திய பிழைகளை செய்கிறது. பல Kaiser வசதிகளில் கவுன்சலர்கள் ஆত்มহত்যை பற்றி சிந்திக்கும் அல்லது তীವ್র மানசிক ஆரோக்கிய সংকট முன்னோக்கி நோயாளிகளை தவறாக வর্गीकരण செய்கிறது என கூறுகின்றனர் மற்றும் பல நோயாளிகள் algorithm নிலைக்ஷ முடிவு விளைவாக கடுமையான தீங்குக்கு நெருக்கமாக வந்துவிட்டனர். Kaiser तरभण रक्षा किया है, लेकिन कवुंसलरों की खाते एक चिंताजनक चित्र चित्रित करते हैं जहां AI ऐसे संदर्भ में तैनात किया जा रहा है जहां त्रुटियों में अपरिवर्तनीय परिणाम हो सकते हैं।

AI ஆய்வு ப்ரणาली எப్పుడు வேலை செய్యक

मानसिक स्वास्थ्य सेटिंग्स में रोगी स्क्रिनिंग पारंपरिक रूप से मानकीकृत प्रश्नावली पर निर्भर करती है—PHQ-9 जैसे उपकरण या Columbia Suicide Severity Rating Scale—सीलीनिकल साक्षात्कार के साथ नोगी के मानसिक स्वास्थ्य की तात्कालिकता और प्रकृति का आकलन करने के लिए। Kaiser AI system कथित रूप से इस प्रक्रिया के हिस्सों को बढ़ाता है या कुछ मामलों में बदलता है, intake प्रश्नावली में प्रतिक्रियाओं, रोगी इतिहास डेटा, और व्यवहारिक संकेतों का उपयोग करके एक जोखिम स्कोर और नিर्देशन सुझाव उत्पन्न करता है।

सिद्धांत रूप में, AI-सहायक स्क्रिनिंग सामंजस्य में सुधार कर सकता है और मानव सेवन मूल्यांकन में निहित परिवर्तनीयता को कम कर सकता है। एक रोगी जो एक व्यस्त दिन पर आता है जब सेवन कर्मचारी अभिभूत होते हैं, वह आदर्श परिस्थितियों में सेवन के समान एल्गोरिथम मूल्यांकन प्राप्त करेगा। सिस्टम रोगी के इतिहास में जोखिम कारकों की पहचान भी कर सकता है जो एक व्यस्त मानव स्क्रीनर को याद आ सकता है।

கவுன்சलर्स் அறிக்கை செய్యుటయున్నది

कवुंसलरों की खाते एक ऐसे सिस्टम का वर्णन करते हैं जो विपरीत दिशा में विफल हो रहा है। कई नैदानिक चिकित्सक ऐसे उदाहरणों की रिपोर्ट करते हैं जहां रोगियों ने अपनी सेवन प्रश्नावली में आत्महत्या की सोच व्यक्त की थी, उन्हें नियमित नियुक्तियों के बजाय तत्काल स्लॉट के लिए नियुक्त किया गया था, क्योंकि AI सिस्टम रोगी के इतिहास में अन्य कारकों को — जैसे पिछले स्थिर मूल्यांकन — वर्तमान सेवन में तीव्र संकट संकेतकों की तुलना में अधिक भारी वजन दे रहा था।

एक मुहावरा जो विवाद के मीडिया कवरेज में गूंजा है, वह है "भगवान का शुक्र है कि वे अभी भी जीवित हैं"—एक सूत्रीकरण जो कवुंसलर आमतौर पर रोगियों का वर्णन करने के लिए उपयोग करते हैं जो गलत तरीके से कम-प्राथमिकता निर्देशन के बाद प्रतीक्षा अवधि के माध्यम से बच गए। क्या कोई रोगी वास्तव में सिस्टेम के परिणामस्वरूप गंभीर नुकसान से पीड़ित हुआ, यह विवादास्पद बना हुआ है; Kaiser का दावा है कि सिस्टेम स्थापित नैदानिक सुरक्षा मानकों के भीतर काम करता है, जबकि कवुंसलर कहते हैं कि वे जो निकट-चूक देख रहे हैं वह बताते हैं कि वे मानक अपर्याप्त हैं।

उচ्च-दांव ट्रिएज में एल्गोरिथमिक औसत का जोखिम

এই বিরোধে मূল উত्तেजনা মেশिन लर्निंग को নैदानिक ट्रिएज पर लागू करने की व्यापक समस्या को प्रतिफলিত করে। AI सिस्टम ऐतिहासिक डेटा पर प्रशिक्षित होते हैं और प्रशिक्षण वितरण में औसत प्रदर्शन के लिए अनुकूलित होते हैं। मानसिक स्वास्थ्य स्क्रिनिंग में, जो रोगी सुरक्षा के दृष्टिकोण से सबसे महत्वपूर्ण हैं, वे ठीक ही हैं जो बाहर हैं—व्यक्ति जिनकी वर्तमान संकट प्रस्तुति उनके ऐतिहासिक आधार से काफी भिन्न होती है, या जो तरीकों से भाषा को कम करते हैं जिसे प्रशिक्षित नैदानिक चिकित्सक चेतावनी संकेत के रूप में पहचानते हैं, लेकिन पाठ-आधारित AI सिस्टेम चेहरे के मूल्य पर व्याख्या कर सकते हैं।

नैदानिक अंतर्ज्ञान—कवुंसलर का टोन, शरीर की भाषा, संकोच, और संदर्भ का पढ़ना—प्रश्नावली प्रतिक्रियाएं नहीं पकड़ता। एक स्क्रिनिंग सिस्टेम जो मुख्य रूप से प्रश्नावली डेटा और ऐतिहासिक रिकॉर्ड पर निर्भर करता है, संकट संकेतों को व्यवस्थित रूप से कम वजन दे सकता है जो एक वास्तविक आपातकाल को एक नियमित नियुक्ति से अलग करते हैं। जब दांव एक रोगी का जीवन होता है, तो संकट संकेतों का व्यवस्थित अंडरवेटिंग बिल्कुल विफलता मोड है जिसे सहन नहीं किया जा सकता।

नैदानिक सेटिंग्स में AI के लिए व्यापक प्रभाव

Kaiser Permanente रोगी निर्देशन और संसाधन आवंटन को प्रबंधित करने के लिए AI तैनात करने वाला एकमात्र स्वास्थ्य प्रणाली नहीं है। पूरे यूनाइटेड स्टेट्स में स्वास्थ्य प्रणालियां समान उपकरण लागू कर रही हैं, दक्षता में सुधार की प्रतिज्ञा से आकर्षित जहां प्रदाता की कमी लगातार पहुंच समस्याएं बनाती हैं। मानसिक स्वास्थ्य सेवा विशेष रूप से गंभीर क्षमता बाधाओं का सामना करता है, जिससे AI-सहायक ट्रिएज की अपील विशेष रूप से मजबूत होती है—और संभावित परिणामों की गंभीरता को देखते हुए एल्गोरिथम त्रुटियों का जोखिम विशेष रूप से अधिक होता है।

Kaiser विवाद संभवतः यह प्रभावित करेगा कि अन्य स्वास्थ्य प्रणालियां मानसिक स्वास्थ्य प्रसंग में AI स्क्रिनिंग उपकरणों के लिए सत्यापन और निरीक्षण आवश्यकताओं के लिए कैसे संपर्क करती हैं। नियामक, नैदानिक व्यावसायिक निकाय, और स्वास्थ्य प्रणाली प्रशासक सभी देख रहे हैं कि यह कैसे खेल जाता है, यह जानते हुए कि बड़े पैमाने पर तैनात AI ट्रिएज उपकरण या तो मानसिक स्वास्थ्य सेवा में पहुंच में उल्लेखनीय रूप से सुधार कर सकते हैं या प्रणालीगत जोखिम बना सकते हैं जो पर्याप्त नैदानिक निरीक्षण और त्रुटि-पहचान तंत्र के बिना तैनात किए जाने पर उन लाभों को ओवरराइड कर सकते हैं।

यह लेख The Guardian द्वारा रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.