मोठी भाषा मॉडेल्स क्लिनिकल कार्यप्रवाहांच्या जवळ येत असताना, विनंतीची भाषा AI-सहाय्यित निर्णयाच्या सुरक्षिततेवर किती परिणाम करते हा प्रश्न महत्त्वाचा ठरत आहे. Mount Sinaiच्या Icahn School of Medicineच्या संशोधकांच्या अभ्यासात हा परिणाम लक्षणीय असल्याचे दिसले.
Communications Medicineमध्ये प्रकाशित संशोधनानुसार, एक छोटी सुरक्षा-सूचना जोडल्यावर संभाव्य हानिकारक क्लिनिकल पर्याय 16.6%वरून 10.1%पर्यंत कमी झाले. तपासलेल्या 20पैकी 19 मॉडेल्समध्ये घट दिसली.
सिम्युलेटेड क्लिनिकल पर्यायांमध्ये मोजता येणारा बदल
संशोधकांनी 50 क्लिनिकल परिस्थितींच्या 501 प्रकारांमध्ये 20 मोठ्या भाषा मॉडेल्सचे परीक्षण केले. ओळख काढून टाकलेल्या रुग्णालयीन डिस्चार्ज नोंदींवर आधारित 100 प्रकरणेही वापरली. एकूण 10 दशलक्षांहून अधिक प्रतिसादांचे विश्लेषण झाले.
संदर्भ का महत्त्वाचा आहे
भाषा, मांडणी आणि संदर्भ यांचा मॉडेलच्या उत्तरांवर परिणाम होऊ शकतो. सुरक्षा-सूचना वैद्यकीय निर्णयाचा पर्याय नसून प्रणाली-डिझाइनचा एक स्तर म्हणून पाहिली पाहिजे.
फक्त उत्तर नव्हे, विनंतीचीही चाचणी
क्लिनिकल AIचे मूल्यांकन केवळ अचूक माहिती देण्यावर आधारित नसावे. संदिग्ध किंवा असुरक्षित विनंती मिळाल्यावर मॉडेल रुग्णसुरक्षेला प्राधान्य देते का, हेही तपासले पाहिजे.
निष्कर्ष काय दाखवतात आणि काय दाखवत नाहीत
संक्षिप्त सुरक्षा-सूचना अभ्यासातील परिस्थितींमध्ये हानिकारक पर्याय कमी करू शकतात. मात्र भाषा मॉडेल्स स्वतंत्रपणे क्लिनिकल निर्णय घेऊ शकतात किंवा प्रत्येक रुग्णालयात हाच परिणाम मिळेल, असे या अभ्यासातून सिद्ध होत नाही.
क्लिनिकल AIसाठी डिझाइनचा विचार
सुरक्षा-भाषेला नंतर जोडलेली चेतावणी न मानता उत्पादनाचा तपासता येणारा घटक मानले पाहिजे. या सूचनेने सर्व समस्या सोडवल्या नाहीत, पण मॉडेलचे वर्तन अधिक सुरक्षित दिशेने वळले.
हा लेख Medical Xpressच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.
Originally published on medicalxpress.com
