अध्ययन ने AI स्वास्थ्य डेटा उत्पत्ति में परेशान करने वाली कमियों का खुलासा किया
स्ट्रोक और मधुमेह जैसे स्वास्थ्य जोखिमों की भविष्यवाणी करने के लिए डिज़ाइन किए गए कृत्रिम बुद्धिमत्ता मॉडल ऐसे डेटासेट पर बनाए जा सकते हैं जिनकी उत्पत्ति सत्यापित नहीं की जा सकती, BMC Medicine में प्रकाशित नए शोध के अनुसार। क्वींसलैंड यूनिवर्सिटी ऑफ टेक्नोलॉजी (QUT) और ऑस्ट्रेलियन सेंटर फॉर हेल्थ सर्विसेज इनोवेशन (AusHSI) के शोधकर्ताओं के नेतृत्व में किए गए अध्ययन ने Kaggle पर होस्ट किए गए दो व्यापक रूप से डाउनलोड किए गए स्वास्थ्य डेटासेट की जांच की, जो डेटासेट और मशीन-लर्निंग संसाधनों को साझा करने के लिए एक लोकप्रिय ऑनलाइन प्लेटफॉर्म है। निष्कर्ष कुछ AI-संचालित नैदानिक उपकरणों की नींव में एक महत्वपूर्ण दोष को उजागर करते हैं।
125 से अधिक सहकर्मी-समीक्षित अध्ययनों में उपयोग किए गए डेटासेट
प्रश्न में दो डेटासेट 125 सहकर्मी-समीक्षित अध्ययनों में उपयोग किए गए पाए गए, इस तथ्य के बावजूद कि वे डेटा कहाँ से आया, इसे कैसे एकत्र किया गया, या क्या यह वास्तविक रोगियों का प्रतिनिधित्व करता है, इस बारे में लगभग कोई जानकारी नहीं देते हैं। QUT के स्कूल ऑफ पब्लिक हेल्थ एंड सोशल वर्क और AusHSI के प्रमुख लेखक अलेक्जेंडर गिब्सन ने इस खोज पर आश्चर्य व्यक्त किया। गिब्सन ने कहा, "इस तरह की चीज़ का सामना करना एक बहुत बड़ा आश्चर्य था। ये डेटासेट असामान्य पैटर्न प्रदर्शित करते हैं जो उनकी प्रामाणिकता और नैदानिक अनुसंधान के लिए उपयुक्तता के बारे में गंभीर प्रश्न उठाते हैं।"
नैदानिक प्रभाव और पेटेंट उद्धरण
डेटा पर आधारित तीन पूर्वानुमान मॉडलों ने नैदानिक अभ्यास में उपयोग के साक्ष्य दिखाए। एक मॉडल को एक चिकित्सा उपकरण पेटेंट में उद्धृत किया गया था, और मॉडलों को 86 समीक्षा लेखों में संदर्भित किया गया था। इससे पता चलता है कि अंतर्निहित डेटा की संदिग्ध उत्पत्ति के बावजूद, इन मॉडलों ने वास्तविक दुनिया के चिकित्सा निर्णयों और नवाचारों को प्रभावित किया है।
आवश्यक डेटा-उत्पत्ति मानदंडों पर शून्य अंक
अध्ययन ने अंतरराष्ट्रीय स्तर पर मान्यता प्राप्त TRIPOD+AI रिपोर्टिंग ढांचे का उपयोग करके डेटासेट का आकलन किया, जो पूर्वानुमान मॉडल अध्ययनों की पारदर्शिता और पूर्णता का मूल्यांकन करता है। डेटासेट ने आवश्यक डेटा-उत्पत्ति मानदंडों पर 9 में से 0 अंक प्राप्त किए, जो उनकी उत्पत्ति के बारे में सत्यापन योग्य जानकारी की पूर्ण कमी का संकेत देता है। गिब्सन ने चेतावनी दी कि यह पत्रिकाओं, डेवलपर्स और चिकित्सकों के लिए एक लाल झंडा होना चाहिए। उन्होंने कहा, "अज्ञात उत्पत्ति के डेटा पर बने पूर्वानुमान मॉडलों का नैदानिक निर्णय लेने में कोई स्थान नहीं है। विश्वसनीय डेटा के बिना, आउटपुट अविश्वसनीय हैं और चिकित्सकों को गुमराह करने और रोगियों को नुकसान पहुँचाने का जोखिम है।"
मजबूत प्रकटीकरण आवश्यकताओं का आह्वान
लेखक अनुशंसा करते हैं कि पत्रिकाएँ, फंडर्स और डेटा भंडार डेटा-स्रोत प्रकटीकरण के लिए आवश्यकताओं को मजबूत करें। वे यह भी सुझाव देते हैं कि आगे दुरुपयोग को रोकने के लिए दो Kaggle डेटासेट को हटा दिया जाए। इन डेटासेट का उपयोग करने वाले सात लेख पहले ही अविश्वसनीय होने के कारण पत्रिकाओं से वापस लिए जा चुके हैं। अध्ययन के परिणामों ने कलेक्शन ऑफ ओपन साइंस इंटीग्रिटी गाइड्स को भी अपडेट किया है, जो अनुसंधान अखंडता सुनिश्चित करने के लिए संसाधन प्रदान करता है।
स्वास्थ्य सेवा में AI के लिए व्यापक निहितार्थ
गिब्सन ने कहा कि यह मुद्दा एक व्यापक चुनौती को दर्शाता है क्योंकि AI उपकरण स्वास्थ्य सेवा में प्रसारित हो रहे हैं। मजबूत डेटा उत्पत्ति मानकों के बिना, दोषपूर्ण मॉडलों को नैदानिक अभ्यास में तैनात करने का जोखिम बढ़ जाता है। अध्ययन उन AI मॉडलों को प्रशिक्षित करने के लिए उपयोग किए जाने से पहले डेटासेट के कठोर सत्यापन की आवश्यकता को रेखांकित करता है जो रोगी परिणामों को प्रभावित कर सकते हैं।
क्षेत्र के लिए सिफारिशें
- पत्रिकाओं को AI पूर्वानुमान मॉडल का उपयोग करने वाले किसी भी अध्ययन के लिए विस्तृत डेटा उत्पत्ति जानकारी की आवश्यकता होनी चाहिए।
- फंडर्स को डेटा संग्रह और साझाकरण प्रथाओं में पारदर्शिता अनिवार्य करनी चाहिए।
- Kaggle जैसे डेटा भंडारों को यह सुनिश्चित करने के लिए सत्यापन प्रक्रियाएँ लागू करनी चाहिए कि डेटासेट न्यूनतम उत्पत्ति मानकों को पूरा करते हैं।
- चिकित्सकों को डेटा विश्वसनीयता के स्पष्ट प्रमाण के बिना AI उपकरणों को अपनाने में सावधानी बरतनी चाहिए।
निष्कर्ष AI और चिकित्सा समुदायों के लिए एक चेतावनी के रूप में कार्य करते हैं, इस बात पर जोर देते हुए कि स्वास्थ्य सेवा में AI का वादा तभी साकार हो सकता है जब इन मॉडलों को रेखांकित करने वाला डेटा विश्वसनीय हो।
यह लेख Medical Xpress की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on medicalxpress.com
