एजंटिक AI स्वायत्ततेतील गहाळ दुवे: विश्वास हीच खरी अडचण का आहे

एजंटिक AI तिथे पोहोचले आहे जिथे चुका रुग्णांमध्ये मोजल्या जातात

वैद्यकीय कृत्रिम बुद्धिमत्तेचे मूल्यांकन पारंपरिकपणे निदान चाचणीसारखे केले जात असे. एक मॉडेल डेटासेटवर प्रशिक्षित केले जाते, वेगळ्या नमुन्यावर क्लिनिशियन्सशी तुलना करून बेंचमार्क केले जाते, आणि संवेदनशीलता, विशिष्टता किंवा अचूकतेच्या इतर काही मापाने गुण दिले जातात. हा संपूर्ण दृष्टिकोन एका गृहीतकावर आधारित आहे: मॉडेल एक आउटपुट तयार करते, आणि माणूस त्याचा अर्थ लावतो.

एजंटिक AI हे गृहीतक मोडून टाकते. ही प्रणाली अनेक टप्प्यांत उद्दिष्टे साधण्यासाठी बनवली जाते — रेकॉर्ड मिळवणे, चाचण्या ऑर्डर करणे, दस्तऐवजीकरणाचा मसुदा तयार करणे, फॉलो-अपचे नियोजन करणे, आणि नवीन माहिती आल्यावर योजना सुधारणे. २ ऑक्टोबर २०२६ रोजी Nature Medicine मध्ये प्रकाशित झालेला, "The missing links in agentic AI autonomy" शीर्षकाचा शोधनिबंध यामुळे निर्माण होणाऱ्या दरीवर लक्ष केंद्रित करतो. त्याचा विषय मॉडेलची अचूकता नसून विश्वास आहे: विशेषतः, ऑपरेशनल आणि निर्णयात्मक विश्वास, जो स्वायत्त प्रणालींना काळजीमध्ये अर्थपूर्ण सहभागास परवानगी देण्यापूर्वी अस्तित्वात असणे आवश्यक आहे.

ही मांडणी AI सुरक्षिततेबद्दल क्षेत्र सहसा ज्या पद्धतीने चर्चा करते त्यापेक्षा जाणीवपूर्वक वेगळी आहे. बहुतेक चर्चा विश्वासाला कार्यक्षमतेचा पुढील परिणाम मानतात — चांगले मॉडेल बनवा, आणि आत्मविश्वास येईल. हा शोधनिबंध सुचवतो की हे नाते उलट्याही दिशेने चालते: विश्वास मोजण्यायोग्य आणि कमावलेला बनवणाऱ्या संरचनांशिवाय, अगदी उत्कृष्ट मॉडेल्सनाही सुरक्षितपणे सोपवता येत नाही.

दोन प्रकारचा विश्वास, एक नाही

या शोधनिबंधाची सर्वात उपयुक्त चाल म्हणजे विश्वासाचे दोन श्रेणींमध्ये विभाजन. हा फरक महत्त्वाचा आहे कारण दोन्ही वेगवेगळ्या प्रकारे अपयशी ठरतात, आणि त्यांना एकत्र करून पाहिल्यास खरे प्रश्न कुठे आहेत हे लपते.

ऑपरेशनल विश्वास

ऑपरेशनल विश्वास म्हणजे एखादी प्रणाली जिथे प्रत्यक्षात तैनात केली आहे त्या वातावरणात, विश्वासार्हपणे, आपण जे करतो असे म्हणतो तेच करते का. ती योग्य डेटा स्रोतांपर्यंत पोहोचू शकते का? रेकॉर्ड गहाळ असल्यास, क्वेरी टाइमआउट झाल्यास किंवा इंटरफेस बदलल्यास ती सौम्यपणे अपयशी ठरते का? ती देखरेख करणाऱ्या माणसाला दिसेल अशा पद्धतीने क्षीण होते का, की गुपचूप आत्मविश्वासू निरर्थक गोष्टी तयार करते? हे अभियांत्रिकी प्रश्न वाटतात, पण क्लिनिकल सेटिंगमध्ये त्यांना क्लिनिकल महत्त्व असते. जी प्रणाली गुपचूप एक लॅब निकाल गमावते ती केवळ बगी नाही; ती संभाव्यतः हानिकारक आहे.

निर्णयात्मक विश्वास

निर्णयात्मक विश्वास अधिक संकुचित आणि स्थापित करणे कठीण आहे. तो याबद्दल आहे की प्रणाली जे निर्णय घेते — कोणती कृती करावी, कोणत्या क्रमाने, आणि विशेषतः, केव्हा थांबावे — त्यावर विसंबून राहण्यास पात्र आहेत का. एखादी प्रणाली ऑपरेशनलदृष्ट्या निर्दोष असू शकते आणि तरीही क्लिनिशियन सरळ नाकारेल असे निर्णय घेऊ शकते. उलटपक्षी, अस्थिर पायाभूत सुविधा असलेली प्रणाली जिथे काहीही तुटत नाही अशा संकुचित कक्षेत चांगले विचार करू शकते. सध्याच्या बहुतेक चर्चेप्रमाणे या दोन्हींना एकच चल मानल्यास, एक दुरुस्त केल्याने दुसऱ्यासाठी काहीही होत नाही ही वस्तुस्थिती झाकली जाते.

स्वायत्तता जोखमीचे गणित का बदलते

पारंपरिक क्लिनिकल AI साधन वर्कफ्लोमध्ये बसते आणि वाट पाहते. ते प्रश्नाचे उत्तर देते आणि उत्तराचे पुनरावलोकन केले जाते. एजंटिक प्रणाली वेगळे काहीतरी करतात: त्या एक सूत्र धरून ठेवतात. त्या मध्यवर्ती निवडी करतात, त्यातील काही परिणामकारक असतात, आणि त्या निवडी एकत्रित होत जातात. नामधारी प्रभारी व्यक्तीला शेवटी फक्त सारांश दिसू शकतो.

हे एकत्रित होणेच विश्वासाचा प्रश्न तातडीचा बनवते, तात्विक नाही. चेकपॉइंटशिवाय प्रणाली प्रत्येक अतिरिक्त पाऊल उचलते तेव्हा त्रुटी येऊ शकणाऱ्या ठिकाणांची संख्या आणि ती वारसा म्हणून घेणाऱ्या पुढील निर्णयांची संख्या वाढते. एका अंदाजासाठी चालणारी मानवी देखरेख दुपारभरात घेतलेल्या दहा कृतींच्या साखळीसाठी आपोआप लागू होत नाही.

आरोग्यसेवा हे आणखी तीव्र करते कारण हे क्षेत्र एजंटिक प्रणाली सहज दाखवतात त्या अपयश पद्धतींबद्दल असामान्यपणे कठोर आहे: अति-आत्मविश्वास, खरे वाटणारे बनावट, आणि स्वतःच्या क्षमतेची मर्यादा ओळखण्यातील अडचण. संदर्भ शोधून काढणारा चॅटबॉट लाजिरवाणा आहे. औषध परस्परक्रिया शोधून काढणारी आणि त्यावर कार्य करणारी प्रणाली पूर्णपणे वेगळी गोष्ट आहे.

गहाळ दुवे

शोधनिबंधाचा युक्तिवाद असा असेल की स्वायत्ततेसाठी क्षमतेपेक्षा अधिक आवश्यक आहे, तर पुढील स्वाभाविक प्रश्न असा आहे की प्रत्यक्षात काय अनुपस्थित आहे. शोधनिबंध ज्या क्षेत्राचा समावेश करतो तिथे अनेक दरी वारंवार आढळतात.

• कार्याशी जुळणारे मूल्यांकन. स्थिर बेंचमार्क एकल उत्तरे मोजतात, निर्णयांचे क्रम नाही. एजंटची योजना वाजवी होती का हे गुण देण्याची परिपक्व पद्धत नाही, फक्त त्याचे अंतिम आउटपुट संदर्भाशी जुळले का हे मोजले जाते.
• विचारसरणीची लेखापरीक्षणक्षमता. प्रणाली कृती करते तेव्हा तिने तसे का केले याचा नोंद अनेकदा पातळ किंवा नंतर पुनर्रचित केलेला असतो. विश्वासार्ह ठसे नसल्यास, देखरेख नाटक बनते.
• स्पष्ट एस्कलेशन. एजंटिक प्रणालींना स्पष्ट, विश्वासार्ह बिंदू आवश्यक आहेत जिथे त्या नियंत्रण माणसाकडे परत देतात. खूप जास्त हस्तांतरणांमुळे प्रणाली निरुपयोगी होते; खूप कमी असल्यास धोकादायक होते, आणि योग्य उंबरठा संदर्भानुसार बदलतो.
• स्वायत्ततेचा अंदाज घेणारे प्रशासन. उपकरणे आणि निदानांभोवती बांधलेल्या नियामक चौकटी अशा प्रणालींशी स्वच्छपणे जुळत नाहीत ज्यांचे वर्तन प्रत्येक तैनाती संदर्भानुसार बदलते.
• सामायिक व्याख्या. ऑपरेशनल विरुद्ध निर्णयात्मक विश्वास कशाला म्हणावे यासाठी मान्य शब्दावली नसल्यास, संस्था नोंदींची तुलना करू शकत नाहीत, आणि प्रत्येक तैनाती स्वतंत्रपणे स्वतःची मानके पुन्हा शोधते.

कमावलेली स्वायत्तता प्रत्यक्षात कशी दिसेल

शोधनिबंधाचा अंतर्भूत उपदेश असा आहे की स्वायत्तता हळूहळू आणि पुराव्यासह दिली पाहिजे, बेंचमार्क गुणांवरून गृहीत धरली नाही. याचा अर्थ बऱ्यापैकी कठोर संस्थात्मक सवयींचा संच.

• तैनाती संकुचित, उलट करता येण्याजोग्या कृतींपासून सुरू होऊन पुरावा जमताच व्याप्ती वाढवणे.
• केवळ अपटाइम आणि लेटन्सी नाही, तर कालांतराने निर्णयाची गुणवत्ता मागोवा घेणारी देखरेख.
• स्पष्ट जबाबदारी: स्वयंचलित कृतीमुळे हानी झाल्यास जबाबदार नामनिर्देशित माणूस किंवा समिती.
• स्वतंत्र पुनरावलोकनकर्ता काय घडले आणि का घडले हे पुनर्रचित करू शकेल इतके कठोर दस्तऐवजीकरण.

यातील काहीही भव्य नाही. हे ते जोडणारे ऊतक आहे जे सक्षम प्रणालीला विश्वासार्ह प्रणाली बनवते, आणि मूलभूत मॉडेल उत्साह निर्माण करण्याइतके प्रभावी असताना हा थरच वगळला जातो.

अस्वस्थ करणारा निष्कर्ष

Nature Medicine शोधनिबंधाचा सर्वात आव्हानात्मक अर्थ असा आहे की एजंटिक AI स्वायत्ततेतील गहाळ दुवे कदाचित तांत्रिकच नसतील. उत्तम मॉडेल्स ऑपरेशनल विश्वास साधणे सोपे करतील — वेगवान, अधिक विश्वासार्ह, कमी ठिसूळ. पण निर्णयात्मक विश्वास अशा प्रश्नांवर अवलंबून आहे जे कोणतीही आर्किटेक्चर सोडवत नाही: जबाबदार कोण, स्वीकार्य जोखीम कशाला म्हणावे, किती देखरेख पुरेशी, आणि ठरवण्याचा अधिकार कोणाला.

हे संस्थात्मक आणि क्लिनिकल प्रश्न आहेत, आणि मानवी व्यावसायिकांसाठी त्यांची उत्तरे देण्याचा आरोग्यसेवेकडे दशकांचा कष्टाने मिळवलेला अनुभव आहे. पुढील काम हा अनुभव केवळ उत्तर देणाऱ्या नाही तर कृती करणाऱ्या प्रणालींपर्यंत वाढवणे आहे. तोपर्यंत, वैद्यकशास्त्रातील बहुतेक एजंटिक AI चे प्रामाणिक वर्णन स्वायत्त नाही. ते अदेखरेखीत आहे, जे पूर्णपणे वेगळी गोष्ट आहे.

हा लेख Nature Medicine च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.