अप्रमाणित डेटासेटवर आधारित AI आरोग्य अंदाज मॉडेल्स गंभीर चिंता निर्माण करतात

अभ्यासात AI आरोग्य डेटा उत्पत्तीतील त्रासदायक अंतर उघडकीस

स्ट्रोक आणि मधुमेह यांसारखे आरोग्य धोके अंदाज करण्यासाठी डिझाइन केलेली कृत्रिम बुद्धिमत्ता मॉडेल्स अशा डेटासेटवर बांधली जाऊ शकतात ज्यांची उत्पत्ती सत्यापित करता येत नाही, असे BMC Medicine मध्ये प्रकाशित नवीन संशोधनात म्हटले आहे. क्वीन्सलँड युनिव्हर्सिटी ऑफ टेक्नॉलॉजी (QUT) आणि ऑस्ट्रेलियन सेंटर फॉर हेल्थ सर्व्हिसेस इनोव्हेशन (AusHSI) येथील संशोधकांनी केलेल्या या अभ्यासात, डेटासेट आणि मशीन-लर्निंग संसाधने सामायिक करण्यासाठी लोकप्रिय ऑनलाइन प्लॅटफॉर्म Kaggle वर होस्ट केलेल्या दोन मोठ्या प्रमाणावर डाउनलोड केलेल्या आरोग्य डेटासेटची तपासणी करण्यात आली. निष्कर्ष काही AI-चालित क्लिनिकल साधनांच्या पायामध्ये एक गंभीर दोष अधोरेखित करतात.

125 पेक्षा जास्त सहकर्मी-पुनरावलोकित अभ्यासांमध्ये वापरलेले डेटासेट

प्रश्नातील दोन डेटासेट 125 सहकर्मी-पुनरावलोकित अभ्यासांमध्ये वापरले गेले असल्याचे आढळले, जरी त्यांनी डेटा कोठून आला, तो कसा गोळा केला गेला किंवा तो वास्तविक रुग्णांचे प्रतिनिधित्व करतो की नाही याबद्दल जवळजवळ कोणतीही माहिती दिली नाही. QUT च्या स्कूल ऑफ पब्लिक हेल्थ अँड सोशल वर्क आणि AusHSI चे प्रमुख लेखक अलेक्झांडर गिब्सन यांनी या शोधाबद्दल धक्का व्यक्त केला. “असे काहीतरी आढळून येणे हा एक प्रचंड आश्चर्याचा धक्का होता,” गिब्सन म्हणाले. “हे डेटासेट असामान्य नमुने प्रदर्शित करतात जे त्यांच्या सत्यता आणि क्लिनिकल संशोधनासाठी उपयुक्ततेबद्दल गंभीर प्रश्न उपस्थित करतात.”

क्लिनिकल परिणाम आणि पेटंट उद्धरण

डेटावर आधारित तीन अंदाज मॉडेल्सनी क्लिनिकल प्रॅक्टिसमध्ये वापराचे पुरावे दर्शवले. एक मॉडेल वैद्यकीय उपकरण पेटंटमध्ये उद्धृत केले गेले होते, आणि मॉडेल्सचा संदर्भ 86 पुनरावलोकन लेखांमध्ये देण्यात आला होता. हे सूचित करते की अंतर्निहित डेटाची संशयास्पद उत्पत्ती असूनही, या मॉडेल्सनी वास्तविक-जगातील वैद्यकीय निर्णय आणि नवकल्पनांवर प्रभाव टाकला आहे.

आवश्यक डेटा-उत्पत्ती निकषांवर शून्य गुण

अभ्यासाने आंतरराष्ट्रीय स्तरावर मान्यताप्राप्त TRIPOD+AI रिपोर्टिंग फ्रेमवर्क वापरून डेटासेटचे मूल्यांकन केले, जे अंदाज मॉडेल अभ्यासांची पारदर्शकता आणि पूर्णता मूल्यांकन करते. डेटासेटनी आवश्यक डेटा-उत्पत्ती निकषांवर 9 पैकी 0 गुण मिळवले, जे त्यांच्या उत्पत्तीबद्दल सत्यापित माहितीचा पूर्ण अभाव दर्शविते. गिब्सनने चेतावणी दिली की हे जर्नल्स, डेव्हलपर्स आणि क्लिनिशियन्ससाठी एक लाल झेंडा असावे. “अज्ञात उत्पत्तीच्या डेटावर बांधलेल्या अंदाज मॉडेल्सना क्लिनिकल निर्णय घेण्यात स्थान नाही. विश्वासार्ह डेटाशिवाय, आउटपुट अविश्वसनीय असतात आणि क्लिनिशियन्सना दिशाभूल करण्याचा आणि रुग्णांना हानी पोहोचवण्याचा धोका असतो,” तो म्हणाला.

मजबूत प्रकटीकरण आवश्यकतांसाठी आवाहन

लेखक शिफारस करतात की जर्नल्स, निधीदाते आणि डेटा भांडारांनी डेटा-स्रोत प्रकटीकरणासाठी आवश्यकता मजबूत कराव्यात. ते असेही सुचवतात की दोन Kaggle डेटासेट पुढील गैरवापर टाळण्यासाठी काढून टाकावेत. या डेटासेटचा वापर करणारे सात लेख अविश्वसनीय असल्याने जर्नल्समधून आधीच मागे घेण्यात आले आहेत. अभ्यासाच्या निकालांनी ओपन सायन्स इंटिग्रिटी गाइड्सच्या संग्रहात देखील अद्यतने केली आहेत, जी संशोधन अखंडता सुनिश्चित करण्यासाठी संसाधने प्रदान करते.

आरोग्यसेवेतील AI साठी व्यापक परिणाम

गिब्सनने नमूद केले की ही समस्या आरोग्यसेवेमध्ये AI साधनांचा प्रसार होत असताना एक व्यापक आव्हान प्रतिबिंबित करते. मजबूत डेटा उत्पत्ती मानकांशिवाय, सदोष मॉडेल्स क्लिनिकल प्रॅक्टिसमध्ये तैनात करण्याचा धोका वाढतो. हा अभ्यास रुग्णांच्या परिणामांवर परिणाम करू शकणारी AI मॉडेल्स प्रशिक्षित करण्यासाठी वापरण्यापूर्वी डेटासेटच्या कठोर प्रमाणीकरणाची आवश्यकता अधोरेखित करतो.

क्षेत्रासाठी शिफारसी

• जर्नल्सनी AI अंदाज मॉडेल्स वापरणाऱ्या कोणत्याही अभ्यासासाठी तपशीलवार डेटा उत्पत्ती माहिती आवश्यक करावी.
• निधीदात्यांनी डेटा संकलन आणि सामायिकरण पद्धतींमध्ये पारदर्शकता अनिवार्य करावी.
• Kaggle सारख्या डेटा भांडारांनी डेटासेट किमान उत्पत्ती मानके पूर्ण करतात याची खात्री करण्यासाठी सत्यापन प्रक्रिया लागू कराव्यात.
• क्लिनिशियन्सनी डेटा विश्वासार्हतेचा स्पष्ट पुरावा नसताना AI साधने स्वीकारण्याबाबत सावधगिरी बाळगावी.

हे निष्कर्ष AI आणि वैद्यकीय समुदायांसाठी एक सावधानतेची कथा म्हणून काम करतात, यावर जोर देतात की आरोग्यसेवेतील AI चे आश्वासन केवळ तेव्हाच साकार होऊ शकते जेव्हा या मॉडेल्सना आधार देणारा डेटा विश्वासार्ह असेल.

हा लेख Medical Xpress च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.