चिकित्सा एआई, उसके पीछे मौजूद प्रमाण से भी तेज़ी से फैल रही है
Nature Medicine में प्रकाशित एक संपादकीय स्वास्थ्य-प्रौद्योगिकी की सबसे बड़ी खामियों में से एक पर सीधा तर्क रखता है: उद्योग एआई उपकरण बनाने में तो लगातार बेहतर हो रहा है, लेकिन अब भी इस बात के सुसंगत प्रमाण कम हैं कि वे उपकरण व्यवहार में देखभाल को बेहतर बनाते हैं। प्रेडिक्टिव मॉडल, निर्णय-समर्थन प्रणालियाँ और जनरेटिव टूल पहले ही क्लिनिकल सेटिंग्स में प्रवेश कर रहे हैं, जबकि बड़े भाषा मॉडल भी स्वास्थ्य जानकारी के लिए आम लोगों द्वारा उपयोग किए जा रहे हैं। संपादकीय कहता है कि स्वास्थ्य सेवा में अपनाने की गति बढ़ रही है, लेकिन वास्तविक दुनिया में मूल्य का प्रमाण सीमित बना हुआ है।
यही अंतर इस लेख का मूल है। मेडिकल एआई कागज़ पर प्रभावशाली दिख सकती है, खासकर जब डेवलपर sensitivity, specificity, discrimination या calibration जैसे सांख्यिकीय मापों की रिपोर्ट करते हैं। ये संख्याएँ बताती हैं कि कोई प्रणाली संगणकीय रूप से कैसा प्रदर्शन करती है। वे अपने-आप यह साबित नहीं करतीं कि रोगियों को बेहतर इलाज मिलता है, क्लिनिशियन बेहतर निर्णय लेते हैं, या तैनाती के बाद स्वास्थ्य प्रणालियाँ अधिक प्रभावी ढंग से काम करती हैं।
प्रदर्शन मानक पर्याप्त क्यों नहीं हैं
संपादकीय का तर्क है कि स्वास्थ्य सेवा सत्यापन की एक संकीर्ण समझ की ओर खिसक गई है। कोई मॉडल retrospective परीक्षण में अच्छा स्कोर कर सकता है और फिर भी क्लिनिकल रूप से विफल हो सकता है यदि वह गलत समय पर आए, समझने में कठिन हो, स्टाफ उसे नज़रअंदाज़ कर दे, या मौजूदा वर्कफ़्लो को बाधित करे। दूसरे शब्दों में, तकनीकी सफलता और चिकित्सीय लाभ एक ही चीज़ नहीं हैं।
यह कोई मामूली अकादमिक शिकायत नहीं है। यदि अस्पताल या प्रदाता मुख्यतः प्रदर्शन मानकों के आधार पर टूल अपनाते हैं, तो वे ऐसे उत्पादों पर समय और पैसा खर्च कर सकते हैं जिनका व्यावहारिक मूल्य स्पष्ट नहीं है। इससे भी बदतर, वे ऐसे नए नुकसान या अक्षमताएँ ला सकते हैं जो बेंचमार्क अध्ययनों में दिखाई नहीं देतीं। संपादकीय चेतावनी देता है कि क्षेत्र की मौजूदा आदतें समय से पहले कार्यान्वयन का जोखिम बढ़ा रही हैं, आंशिक रूप से इसलिए क्योंकि प्रभाव के बारे में दावे पेपरों और उत्पाद सामग्री में अधिक सामान्य हो रहे हैं, जबकि साक्ष्य मानक अब भी अस्पष्ट हैं।
जब वास्तविक चिकित्सीय लाभ दाँव पर हो, तो चिकित्सा लंबे समय से प्रमाण की एक अधिक मजबूत श्रृंखला की माँग करती रही है। दवा विकास इसका एक स्पष्ट उदाहरण है। नई दवाओं का मूल्यांकन सिर्फ इस आधार पर नहीं किया जाता कि वे जैव-रासायनिक प्रभाव पैदा करती हैं या शुरुआती प्रयोगशाला कार्य में आशाजनक लगती हैं। वे चरणबद्ध साक्ष्य आवश्यकताओं से गुजरती हैं, और सार्वजनिक निगरानी यह तय करने में मदद करती है कि स्वीकृति, सिफारिश या प्रतिपूर्ति के लिए प्रमाण पर्याप्त है या नहीं।
संपादकीय कहता है कि मेडिकल एआई ने ऐसे तुलनीय मानदंड विकसित नहीं किए हैं। इसका यह मतलब नहीं कि सॉफ़्टवेयर को दवा की तरह बिल्कुल ही विनियमित किया जाना चाहिए। ये तकनीकें तेज़ी से विकसित हो रही हैं, अनुप्रयोग बहुत अलग-अलग हैं, और साक्ष्य उत्पन्न करने के प्रोत्साहन असमान हैं। लेकिन यदि कंपनियाँ और संस्थाएँ यह दावा करना चाहती हैं कि एआई देखभाल को बेहतर बनाती है, तो क्षेत्र को एक ऐसे ढाँचे की ज़रूरत है जो उन दावों को उस प्रभाव के अनुपात में प्रमाण से जोड़े जो वे दावा कर रहे हैं।
