एआई एजेंट सहायता से कार्रवाई की ओर बढ़ रहे हैं
एआई एजेंटों को अब केवल ऐसे चैट इंटरफेस के रूप में नहीं देखा जा रहा है जो सवालों के जवाब देते हैं और पाठ तैयार करते हैं। Snowflake Summit में बोलने वाले विशेषज्ञों के अनुसार, इन्हें तेजी से ऐसे डिजिटल कर्मचारियों के रूप में तैनात किया जा रहा है जो एप्लिकेशन और डेटा वातावरण में कार्रवाइयां कर सकते हैं। यह बदलाव जोखिम प्रोफ़ाइल को काफी बदल देता है। जब कोई सिस्टम जानकारी निकाल सकता है, निर्णय ले सकता है, और उपयोगकर्ता की ओर से कदम उठा सकता है, तब मुख्य सवाल यह नहीं रहता कि मॉडल उपयोगी है या नहीं। सवाल यह बन जाता है कि क्या संगठन ने उसके अधिकार की सीमाएं इतनी स्पष्ट परिभाषित की हैं कि वह नुकसान न कर सके।
ZDNET द्वारा रेखांकित टिप्पणियों में यही केंद्रीय विषय था, जहां सुरक्षा और पहचान विशेषज्ञों ने तर्क दिया कि कंपनियों को एजेंट तैनाती को उन शुरुआती पायलटों से कहीं अधिक अनुशासन के साथ अपनाना चाहिए जितना कई शुरुआती प्रयोग सुझाते हैं। सबसे सख्त चेतावनी साधारण भाषा में आई: एजेंटों को उत्सुक लेकिन गलत दिशा में जाने वाले इंटर्न की तरह समझो। यह तुलना उपयोगी है, क्योंकि यह अवसर और समस्या दोनों को पकड़ती है। इंटर्न उपयोगी हो सकते हैं, लेकिन तभी जब उनका दायरा स्पष्ट हो, उनकी अनुमतियां सीमित हों, और परिणाम के लिए एक जिम्मेदार प्रबंधक जवाबदेह हो। पैनलिस्टों के अनुसार, एआई एजेंटों को भी वही ढांचा चाहिए।
अनुमतियां अब असली मैदान बन रही हैं
Resolve AI के संस्थापक और CTO मायांक अग्रवाल ने चेतावनी दी कि किसी एजेंट को बिना मजबूत प्रतिबंधों के व्यापक लक्ष्य देना जल्दी ही अवांछित परिणाम दे सकता है। उनका बिंदु यह नहीं था कि एजेंट स्वभाव से लापरवाह होते हैं, बल्कि यह कि वे पारंपरिक सॉफ्टवेयर की तुलना में कहीं कम पूर्वानुमेय तरीके से काम करते हैं। पुराने ऑटोमेशन पाइपलाइन स्पष्ट होते थे: सिस्टम एक API कॉल करता, ज्ञात पेलोड भेजता, और ज्ञात अगला कदम शुरू करता। एजेंटिक सिस्टम लक्ष्य पूरा करने की कोशिश में रास्ते गतिशील रूप से बना सकते हैं। यही लचीलापन उन्हें आकर्षक बनाता है, और यही उन्हें नियंत्रित करना कठिन भी बनाता है।
व्यवहार में इसका मतलब है कि एंटरप्राइज़ टीमों को केवल फीचर-स्तरीय परीक्षण पर नहीं रुकना चाहिए। उन्हें यह मॉडल करना होगा कि एजेंट क्या पढ़ सकता है, क्या लिख सकता है, किसके अधिकार के तहत काम करता है, और बिना एस्केलेशन किन सिस्टमों को कभी छू नहीं सकता। 1Password की CTO नैन्सी वांग ने क्षमता के साथ संदर्भ और इरादे के महत्व पर जोर दिया। एजेंट को क्या करना है, यह जानना पर्याप्त नहीं है; संगठनों को यह भी समझना होगा कि वह किस अधिकार का उपयोग कर रहा है और जिस डेटा तक उसकी पहुंच है, उसके क्या निहितार्थ हैं।
यह एक परिचित गवर्नेंस समस्या है, लेकिन नए आवरण में। कंपनियां लंबे समय से विशेषाधिकार प्राप्त मानव उपयोगकर्ताओं, सर्विस अकाउंट्स, और इंटीग्रेशन क्रेडेंशियल्स को प्रबंधित करती रही हैं। एआई एजेंट इन तीनों के गुणों को मिला देते हैं। वे बातचीत करने वाले और कम जोखिम वाले लग सकते हैं, लेकिन अंदर से वे संवेदनशील सिस्टमों, आंतरिक ज्ञान आधारों, खरीद उपकरणों, या ग्राहक रिकॉर्ड से जुड़े हो सकते हैं। इससे कम-से-कम-विशेषाधिकार डिजाइन, ऑडिट ट्रेल्स, और अनुमोदन वर्कफ़्लो और भी महत्वपूर्ण हो जाते हैं।
पुराना सॉफ्टवेयर प्लेबुक क्यों दबाव में है
चर्चा के अधिक महत्वपूर्ण विचारों में से एक यह है कि पारंपरिक विकास मान्यताएं एजेंटिक सॉफ्टवेयर पर सीधे लागू नहीं होतीं। नियतात्मक प्रणालियों में, टीमें अक्सर विफलता मोड का पहले से अनुमान लगा सकती हैं, क्योंकि लॉजिक चेन जानबूझकर बनाई जाती है। एजेंटिक प्रणालियां अधिक खुले-आम व्यवहार लाती हैं। डेवलपर लक्ष्य और टूलसेट परिभाषित कर सकता है, लेकिन सिस्टम हर मध्यवर्ती कदम क्या चुनेगा, यह नहीं। इसका मतलब यह नहीं कि सिस्टम अनियंत्रित है। इसका मतलब है कि नियंत्रण अलग तरीके से डिजाइन करना होगा।
एंटरप्राइज़ खरीदारों के लिए, इसका अर्थ एक नई चेकलिस्ट होगा। तैनाती से पहले, टीमों को भूमिका सीमाएं, एस्केलेशन थ्रेशोल्ड, लॉगिंग आवश्यकताएं, और मानव समीक्षा बिंदु तय करने होंगे। तैनाती के दौरान, उन्हें असामान्य टूल उपयोग, अत्यधिक पुनः प्रयास, और सामान्य पैटर्न से बाहर जानकारी तक पहुंचने के प्रयासों को पकड़ने वाली निगरानी चाहिए। तैनाती के बाद, उन्हें एक बुनियादी परिचालन प्रश्न का उत्तर देने वाली गवर्नेंस चाहिए: यदि एजेंट कोई महंगा या हानिकारक निर्णय लेता है, तो घटना की जिम्मेदारी किसकी होगी?
यह जवाबदेही वाला सवाल शुरुआती प्रयोग के दौरान आसानी से छूट जाता है, क्योंकि कई पायलटों को उत्पादकता लाभ के रूप में प्रस्तुत किया जाता है। लेकिन जब एजेंटों को स्वतंत्र रूप से काम करने दिया जाता है, तो उत्पादकता की कहानी बदल जाती है। तब वे केवल सॉफ्टवेयर फीचर नहीं रहते, बल्कि व्यवसाय के भीतर परिचालन अभिनेता बन जाते हैं।
स्वीकृति का अगला चरण नियंत्रण के बारे में होगा
Snowflake Summit की चर्चा का महत्व केवल इतना नहीं है कि विशेषज्ञ सावधानी बरतने को कह रहे हैं। महत्व यह है कि बहस मॉडल गुणवत्ता से आगे बढ़कर एंटरप्राइज़ नियंत्रण वास्तुकला तक पहुंच गई है। कंपनियां एजेंटों को वास्तविक वर्कफ़्लो में आजमाने के लिए अधिक इच्छुक दिख रही हैं, लेकिन उन एजेंटों के आसपास के गार्डरेल असमान हैं। इससे तकनीकी क्षमता और संगठनात्मक तैयारी के बीच एक अंतर पैदा होता है।
तेजी से आगे बढ़ने वाली फर्मों के लिए, पहले पहुंच बढ़ाने और बाद में नीति लिखने का प्रलोभन होगा। इस चर्चा की चेतावनियां इसके उलट इशारा करती हैं। यदि कोई एजेंट बिज़नेस सिस्टमों को छू सकता है, तो उसका दायरा कठोर रूप से सीमित होना चाहिए, अधिकार की स्पष्ट श्रृंखला होनी चाहिए, और निरंतर निगरानी होनी चाहिए। अन्यथा वही स्वायत्तता, जो उसे उपयोगी बनाती है, उसे महंगा, गैर-अनुपालनकारी, या असुरक्षित बना सकती है।
उस अर्थ में, इंटर्न वाला रूपक टिक सकता है क्योंकि वह मार्केटिंग भाषा की तुलना में परिचालन वास्तविकता को बेहतर पकड़ता है। एआई एजेंट सक्षम, तेज, और तेजी से स्वतंत्र हो सकते हैं। लेकिन संरचना, संदर्भ, और निगरानी के बिना, उन्हें अब भी अकेला नहीं छोड़ा जा सकता।
यह लेख ZDNET की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.
Originally published on zdnet.com
