जैसे-जैसे बड़े भाषा मॉडल क्लिनिकल कार्यप्रवाहों के करीब आ रहे हैं, अनुरोध की भाषा AI-सहायित निर्णय की सुरक्षा को कितना प्रभावित करती है, यह प्रश्न महत्वपूर्ण हो गया है। Icahn School of Medicine at Mount Sinai के शोधकर्ताओं के अध्ययन में इसका प्रभाव उल्लेखनीय पाया गया।
Communications Medicine में प्रकाशित शोध के अनुसार, एक छोटा सुरक्षा-स्मरण जोड़ने से AI मॉडलों द्वारा चुने गए संभावित रूप से हानिकारक क्लिनिकल विकल्पों की हिस्सेदारी 16.6% से घटकर 10.1% हो गई। 20 मॉडलों में से 19 में कमी देखी गई।
सिमुलेटेड क्लिनिकल विकल्पों में मापने योग्य बदलाव
टीम ने 50 क्लिनिकल परिदृश्यों के 501 रूपों में 20 बड़े भाषा मॉडलों का मूल्यांकन किया और अस्पताल से छुट्टी के रिकॉर्ड से अनाम रूप में लिए गए 100 मामलों का उपयोग किया। कुल मिलाकर 10 मिलियन से अधिक मॉडल प्रतिक्रियाओं का अध्ययन हुआ और लगभग 1.18 मिलियन संभावित रूप से हानिकारक विकल्प पहचाने गए।
संदर्भ क्यों महत्वपूर्ण है
निष्कर्ष किसी एक वाक्य से अधिक उन परिस्थितियों से संबंधित है जिनमें AI प्रणाली अनुरोध प्राप्त करती है। भाषा, फ्रेमिंग और संदर्भ मॉडल के उत्तरों को प्रभावित कर सकते हैं, खासकर जब निर्देश रोगी-सुरक्षा से टकराते हों। सुरक्षा संकेत चिकित्सा निर्णय का विकल्प नहीं, बल्कि प्रणाली-डिजाइन की एक परत हो सकता है।
उत्तर ही नहीं, अनुरोध का भी परीक्षण
क्लिनिकल AI का मूल्यांकन केवल सटीक जानकारी देने की क्षमता पर केंद्रित नहीं होना चाहिए। यह भी देखना जरूरी है कि समस्या-पूर्ण या अस्पष्ट अनुरोध मिलने पर मॉडल रोगी-सुरक्षा को प्राथमिकता देता है या नहीं। अध्ययन का पैमाना बताता है कि prompting strategy को सटीकता, विश्वसनीयता और मानवीय निगरानी के साथ जांचना चाहिए।
निष्कर्ष क्या दिखाते हैं और क्या नहीं
संक्षिप्त सुरक्षा-निर्देश अध्ययन किए गए परिदृश्यों में हानिकारक विकल्प घटा सकते हैं। लेकिन वे यह सिद्ध नहीं करते कि भाषा मॉडल स्वतंत्र रूप से क्लिनिकल निर्णय ले सकते हैं या हर अस्पताल और सॉफ्टवेयर में समान कमी होगी। विशिष्ट कार्यप्रवाह में अलग से सत्यापन आवश्यक रहेगा।
क्लिनिकल AI के लिए डिजाइन का मुद्दा
स्वास्थ्य-संगठनों को सुरक्षा भाषा को बाद में जोड़े जाने वाले चेतावनी संदेश की तरह नहीं, बल्कि उत्पाद के परीक्षण योग्य घटक की तरह देखना चाहिए। यह छोटा सुधार हर समस्या हल नहीं करता, लेकिन मॉडल के व्यवहार को सुरक्षित दिशा में ले जा सकता है।
यह लेख Medical Xpress की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on medicalxpress.com
