Agentic AI मुळे उद्योगांना शासन आणि सुरक्षा नियंत्रणांवर पुनर्विचार करावा लागत आहे

AI एजंट आता केवळ उत्पादकतेचे साधन नाहीत, तर एक शासन-संबंधित समस्या देखील आहेत

कंपन्या व्यावसायिक कार्यप्रवाहांमध्ये AI एजंट्स तैनात करण्याची तयारी करत असताना, सुरक्षा आणि शासन हे या तंत्रज्ञानाला सुरक्षितपणे विस्तारण्यातील मुख्य अडथळे ठरत आहेत.

Deloitte Microsoft Technology Practice च्या सहकार्याने तयार केलेल्या MIT Technology Review Insights लेखात असा युक्तिवाद केला आहे की agentic AI उद्यमांसाठी एक नवा आक्रमण पृष्ठभाग उघडू शकतो. चिंता अशी आहे की असुरक्षित एजंट्सना संवेदनशील प्रणाली, मालकीचा डेटा, किंवा त्यांच्या उद्दिष्ट भूमिकेच्या बाहेरील साधनांपर्यंत पोहोचण्यासाठी हाताळले जाऊ शकते.

हा लेख MIT Technology Review चा संपादकीय अहवाल नसून प्रायोजित मजकूर आहे, मात्र त्यात सर्वेक्षण आकडे आणि स्पष्ट उद्यम-जोखीम भूमिका आहे. लेखात उद्धृत केलेल्या Deloitte AI Institute 2026 State of AI अहवालानुसार, जवळपास 74% कंपन्या दोन वर्षांत agentic AI तैनात करण्याची योजना आखत आहेत. स्वायत्त एजंट्ससाठी परिपक्व शासन मॉडेल असल्याचे सांगणाऱ्या केवळ 21% कंपन्या आहेत.

मानवी नसलेल्या ओळखी वाढत आहेत

लेखातील एक मुख्य मुद्दा म्हणजे आधुनिक उद्योग आधीच service accounts, machine credentials, automated workflows, आणि software actors यांसारख्या मानवी नसलेल्या ओळखींची वाढती संख्या व्यवस्थापित करत आहेत. Agentic AI हा कल अधिक वेगवान करू शकतो, कारण एजंट्सना परवानग्या, डेटा प्रवेश, टूल प्रवेश, आणि वापरकर्ते किंवा व्यवसाय कार्यांच्या वतीने कृती करण्याची क्षमता आवश्यक असू शकते.

यामुळे सामान्य chatbot वापरापेक्षा वेगळा जोखीम प्रोफाइल तयार होतो. प्रश्नांना उत्तरे देणारी conversational प्रणाली एक गोष्ट आहे; फाइल्स मिळवू शकणारा, अंतर्गत साधने कॉल करू शकणारा, प्रणालींमध्ये लिहू शकणारा, किंवा कृती सुरू करू शकणारा एजंट दुसरी गोष्ट आहे. शासनाने एजंट काय करू शकतो, तो कोणाचा अधिकार वापरत आहे, आणि त्याच्या वर्तनाचे निरीक्षण कसे केले जाते हे ठरवायला हवे.

स्रोत लेखानुसार, कार्यकारी अधिकारी सर्वाधिक चिंतित आहेत ते डेटा गोपनीयता आणि सुरक्षिततेबद्दल, जे 73% म्हणून नमूद केले आहे. कायदेशीर, बौद्धिक संपदा, आणि नियामक अनुपालन 50% वर आहेत, तर शासन क्षमता आणि देखरेख 46% वर नमूद केल्या आहेत.

कंट्रोल-प्लेन संकल्पना AI ऑपरेशन्समध्ये येत आहे

Deloitte च्या Cyber Practice मधील principal Andrew Rafla control plane ला एक केंद्रीकृत स्तर म्हणून वर्णन करतात जो कोणते एजंट कोणत्या परवानग्यांसह, कोणत्या धोरणांखाली, आणि कोणत्या मॉडेल्स व साधनांचा वापर करून चालवले जाऊ शकतात हे नियंत्रित करतो. त्यांच्या मते, असा स्तर नसल्यास कंपन्यांकडे scalable autonomous operation नसून unmanaged execution असते.

ही संकल्पना महत्त्वाची आहे, कारण उद्योग सहसा तंत्रज्ञान वेगळे ठेवून तैनात करत नाहीत. AI एजंट्स identity systems, document stores, customer records, code repositories, analytics platforms, आणि बाह्य सेवांशी परस्परसंवाद करू शकतात. प्रत्येक तैनाती परवानग्या आणि auditability वेगवेगळ्या पद्धतीने हाताळत असल्यास, देखरेख तुकड्यातुकड्यांत विभागली जाते.

कार्यशील शासन प्रणालीला मूलभूत ऑपरेशनल प्रश्नांची उत्तरे द्यावी लागतील: एजंटने काय केले, कोणाच्या वतीने केले, कोणता डेटा वापरला, कोणत्या धोरणाखाली केले, आणि ती कृती पुन्हा निर्माण किंवा थांबवता येते का. लेख या प्रश्नांना enterprise-scale agent वापरासाठीची किमान पायाभूत रचना म्हणून मांडतो.

शासन पायलट आणि उत्पादन यांच्यात फरक निर्माण करते

स्रोताचा युक्तिवाद असा आहे की शासनच AI एजंट्सना प्रयोगांमधून पुनरावृत्तीयोग्य उद्यम स्वयंचलनात रूपांतरित करते. पायलट प्रकल्प अनेकदा जवळच्या देखरेखीवर, मर्यादित डेटावर, किंवा मॅन्युअल guardrails वर अवलंबून राहू शकतात. उत्पादन तैनातींना अशा नियंत्रणांची गरज असते जी संघ आणि वापर प्रकरणांमध्ये सातत्याने कार्य करतात.

जोखीम केवळ एकच चूक करण्याची नाही. खराबरीत्या शासित agent प्रणाली अनपेक्षितपणे आणि मोठ्या प्रमाणात अपयशी ठरू शकते. अनेक एजंट्सना व्यापक प्रवेश, कमकुवत निरीक्षण, किंवा अस्पष्ट जबाबदारी असल्यास, लहान डिझाइन दोष प्रणालीगत जोखमीमध्ये रूपांतरित होऊ शकतात.

व्यवसायांसाठी जवळच्या काळातील अर्थ असा की agent तैनातीसोबत identity, security, compliance, आणि observability नियोजन असणे आवश्यक आहे. शासनाला नंतर जोडायची गोष्ट मानल्यास सुरुवातीचे pilot सोपे वाटू शकतात, पण व्यापक rollout साठी आवश्यक नियंत्रण संरचना नसलेली संस्था तयार होऊ शकते.

लेख काय सूचित करतो

हा लेख enterprise AI चर्चेतल्या एका व्यापक बदलाचे प्रतिबिंब आहे. प्रश्न आता केवळ AI एजंट्स उपयुक्त काम स्वयंचलित करू शकतात का, इतकाच नाही. प्रश्न असा आहे की त्या एजंट्सने कोणत्या मर्यादांमध्ये काम करायचे ते संस्था ठरवू आणि अंमलात आणू शकतात का.

स्रोत प्रायोजित मजकूर असल्यामुळे, त्याच्या शिफारशी त्या संदर्भात वाचल्या पाहिजेत. तरीही, त्याने ओळखलेल्या जोखीम श्रेणी ठोस आहेत: गोपनीयता, सुरक्षा, कायदेशीर अनुपालन, बौद्धिक संपदा, देखरेख, परवानग्या, आणि auditability. agentic AI demonstrations मधून operational systems कडे जात असताना या बाबी केंद्रस्थानी राहण्याची शक्यता आहे.

हा लेख MIT Technology Review च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.