तज्ज्ञांचा इशारा: एआय एजंटांसाठी अधिक कडक एंटरप्राइझ गार्डरेल्स आवश्यक

एआय एजंट सहाय्यापासून कृतीकडे जात आहेत

एआय एजंटांना आता फक्त प्रश्नांची उत्तरे देणारे आणि मजकूर तयार करणारे चॅट इंटरफेस म्हणून पाहिले जात नाही. Snowflake Summit मध्ये बोललेल्या तज्ज्ञांच्या मते, ते आता विविध अॅप्लिकेशन्स आणि डेटा वातावरणांमध्ये कृती करू शकणाऱ्या डिजिटल कामगारांप्रमाणे मांडले जात आहेत. हा बदल जोखीम प्रोफाइल मोठ्या प्रमाणात बदलतो. एकदा प्रणाली माहिती मिळवू शकली, निर्णय घेऊ शकली, आणि वापरकर्त्याच्या वतीने पावले उचलू शकली, की मुख्य प्रश्न मॉडेल उपयुक्त आहे का हा राहत नाही. प्रश्न असा होतो की संस्थेने तिच्या अधिकाराच्या मर्यादा इतक्या स्पष्टपणे निश्चित केल्या आहेत का, की ती नुकसान करणार नाही.

ZDNET ने अधोरेखित केलेल्या टिप्पण्यांमध्ये हाच केंद्रबिंदू होता, जिथे सुरक्षा आणि ओळख तज्ज्ञांनी कंपन्यांनी एजंट तैनातीकडे अनेक सुरुवातीच्या पायलट्स सूचित करतात त्यापेक्षा खूप अधिक शिस्तीने पाहावे, असा युक्तिवाद केला. सर्वात ठळक इशारा साध्या भाषेत आला: एजंटांना उत्सुक पण दिशाभूल झालेल्या इंटर्नसारखे वागवा. ही उपमा उपयुक्त आहे, कारण ती संधी आणि समस्या दोन्ही पकडते. इंटर्न उपयुक्त ठरू शकतात, पण फक्त त्यांची व्याप्ती स्पष्ट असेल, परवानग्या मर्यादित असतील, आणि परिणामासाठी जबाबदार व्यवस्थापक असेल, तेव्हाच. एआय एजंटांनाही तीच रचना लागते, असे पॅनेलिस्ट्सचे म्हणणे होते.

परवानग्याच आता खरे रणांगण ठरत आहेत

Resolve AI चे संस्थापक आणि CTO मयांक अग्रवाल यांनी इशारा दिला की मजबूत मर्यादा नसताना एजंटला विस्तृत उद्दिष्ट देणे लवकरच अनपेक्षित परिणाम देऊ शकते. त्यांचा मुद्दा असा नव्हता की एजंट स्वभावतः बेफिकीर असतात; तर ते पारंपरिक सॉफ्टवेअरच्या तुलनेत खूपच कमी अंदाज करता येण्याजोग्या पद्धतीने काम करतात. जुन्या ऑटोमेशन पाइपलाईन्स स्पष्ट असत: प्रणाली एक API कॉल करत असे, ज्ञात payload पाठवत असे, आणि ज्ञात पुढील कृती सुरू करत असे. एजंटिक प्रणाली लक्ष्य पूर्ण करण्याचा प्रयत्न करताना मार्ग गतिशीलपणे तयार करू शकतात. हाच लवचिकपणा त्यांना आकर्षक बनवतो, आणि हाच त्यांना नियंत्रित करणे कठीणही बनवतो.

व्यवहारात याचा अर्थ असा की एंटरप्राइझ संघांनी फक्त feature-level testing वर थांबू नये. एजंट काय वाचू शकतो, काय लिहू शकतो, कोणाच्या अधिकाराखाली काम करतो, आणि कोणत्या प्रणालींना escalation शिवाय कधीही स्पर्श करू नये, हे मॉडेल करावे लागेल. 1Password च्या CTO नॅन्सी वांग यांनी क्षमता सोबत context आणि intent यांचे महत्त्व अधोरेखित केले. एजंट काय करण्यासाठी तयार केला आहे, हे जाणणे पुरेसे नाही; तो कोणत्या authority चा वापर करतो आणि त्याला मिळणाऱ्या डेटाचे परिणाम काय आहेत, हेही संस्थांनी समजून घेतले पाहिजे.

ही ओळखीची governance समस्या आहे, पण नव्या कवचात. कंपन्या अनेक वर्षांपासून privileged human users, service accounts, आणि integration credentials चे व्यवस्थापन करत आहेत. एआय एजंट या तिन्हींचे गुण एकत्र आणतात. ते संभाषणात्मक आणि कमी जोखमीचे वाटू शकतात, पण आतून ते संवेदनशील प्रणाली, अंतर्गत knowledge bases, procurement tools, किंवा customer records शी जोडलेले असू शकतात. त्यामुळे least-privilege design, audit trails, आणि approval workflows अधिक महत्त्वाचे बनतात, कमी नाही.

जुने सॉफ्टवेअर प्लेबुक का दबावाखाली आहे

चर्चेतील महत्त्वाच्या कल्पनांपैकी एक म्हणजे पारंपरिक development assumptions agentic software वर थेट लागू होत नाहीत. deterministic systems मध्ये, संघांना अपयशाचे मार्ग आधीच समजावून घेता येतात, कारण logic chain जाणीवपूर्वक बांधलेली असते. Agentic systems अधिक open-ended वर्तन आणतात. डेव्हलपर उद्दिष्ट आणि toolset ठरवू शकतो, पण मध्ये कोणते टप्पे प्रणाली निवडेल हे सगळे नाही. याचा अर्थ प्रणाली अनियंत्रित आहे असा नाही. याचा अर्थ नियंत्रण वेगळ्या पद्धतीने डिझाइन करावे लागेल.

एंटरप्राइझ खरेदीदारांसाठी, याचा अर्थ एक नवी checklist असेल. तैनातीपूर्वी, संघांनी role boundaries, escalation thresholds, logging requirements, आणि human review points निश्चित करावे लागतील. तैनातीदरम्यान, अनोखा tool use, जास्त retries, आणि सामान्य pattern च्या बाहेर माहिती मिळवण्याचे प्रयत्न पकडू शकेल असे monitoring लागेल. तैनातीनंतर, एक मूलभूत operational प्रश्नाचे governance उत्तर द्यावे लागेल: एजंटने महागडा किंवा हानिकारक निर्णय घेतला तर घटनेची जबाबदारी कोणाची?

अनेक pilots productivity gains म्हणून सादर केले जात असल्याने, सुरुवातीच्या प्रयोगात accountability चा प्रश्न सहज दुर्लक्षित होतो. पण एजंटना स्वतंत्रपणे काम करण्याची परवानगी दिल्यावर productivity ची कथा बदलते. मग ते फक्त software features राहत नाहीत, तर व्यवसायातील operational actors बनतात.

स्वीकाराचा पुढचा टप्पा नियंत्रणाबद्दल असेल

Snowflake Summit चर्चेचे महत्त्व केवळ एवढे नाही की तज्ज्ञ सावध राहायला सांगत आहेत. महत्त्वाचे म्हणजे चर्चा model quality च्या पलीकडे enterprise control architecture कडे गेली आहे. कंपन्या एजंटना real workflows मध्ये तपासण्यासाठी अधिक तयार दिसत आहेत, पण त्या एजंट्सभोवतीची गार्डरेल्स अजून असमतोल आहेत. त्यामुळे technical capability आणि organizational readiness यांच्यात दरी निर्माण होते.

वेगाने पुढे जाणाऱ्या संस्थांसाठी, आधी access वाढवून नंतर policy लिहायची असा मोह होईल. या चर्चेतील इशारे उलट दिशेने बोट दाखवतात. जर एखादा एजंट business systems ला स्पर्श करू शकत असेल, तर त्याचा remit कठोरपणे मर्यादित, authority chain स्पष्ट, आणि सातत्यपूर्ण देखरेख असणे आवश्यक आहे. अन्यथा, त्याला उपयुक्त बनवणारी autonomyच त्याला महागडे, noncompliant, किंवा unsafe बनवू शकते.

त्या अर्थाने, intern metaphor टिकून राहतो, कारण तो marketing language पेक्षा operational वास्तव अधिक चांगल्या प्रकारे पकडतो. एआय एजंट सक्षम, जलद, आणि अधिकाधिक स्वायत्त होऊ शकतात. पण structure, context, आणि supervision शिवाय, त्यांना अजूनही चाव्या देऊन एकटं सोडण्याइतपत तयार मानता येत नाही.

हा लेख ZDNET च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.