என்டারப்ரைஸ் AI பாதுகாப்பு இடைவெளி
நிறுவனங்கள் AI சாட்பாட்স் மற்றும் கோபைலட்ஸிலிருந்து முழு தன்னாட்சி AI ஏஜென்ட்களுக்கு நகர்ந்து வருவதால் - இணையம் உலாவல், குறিப்பு செயல்படுத்தல், மின்னஞ்சல் எழுதல் மற்றும் அனுப்புதல், என்டারப்ரைஸ் மென்பொருள் கணினிகளுடன் தொடர்பு கொள்ளல் - பாதுகாப்பு கவலையின் ஒரு புதிய வகை உদித்தெழுந்துள்ளது: ஏஜென்ட் ஏதாவது தவறு செய்தால் என்ன நடக்கும்? NVIDIA இன் புதிய Agent Toolkit என்டারப்ரைஸ் டெவலப்பர்கள் மற்றும் IT குழுக்களுக்கு AI ஏஜென்ட் வழக்கைக் கட்டுப்படுத்த மேலும் கட்டுப்பாடு வழங்க வடிவமைக்கப்பட்டுள்ளது, பாதுகாப்பு குறிப்பங்கள், கண்காணிப்பு திறன்கள் மற்றும் குறுக்கீட்டு வழிமுறைகளை வழங்குகிறது, இது தன்னாட்சி AI கணினிகளை அளவில் பாதுகாப்பாக பகுதியீடு செய்ய சாத்தியமாக்குகிறது।
டூல்கிட் என்டারப்ரைஸ் AI சந்தையில் ஒரு உண்மையான இடைவெளியை தீர்க்கிறது. பெரிய AI மாதிரி சேவைகளீர்கள் முதன்மையாக மாதிரி திறன் மற்றும் செலவு குறைப்பு மீது கவனம் செலுத்திய்துள்ளனர், பாதுகாப்பு பெயர்ச்சிகளை சம்வாদ AI இடைவினை பொதுவாக ஆபத்தான வெளியீடுகளை தடுப்பதையே நோக்கமாக கொண்டுள்ளது. தன்னாட்சி ஏஜென்ட்கள் பொதுவாக பகுதியெடு கார்யங்களை மேற்கொள்கின்றன - வெறுமனே பாठ தயாரிப்பு அல்ல ஆனால் உண்மையான விளைவுகளுடன் விஷயங்களைச் செய்கின்றன - ஒரு வேறுபட்ட வகையான பாதுகாப்பு கட்டமைப்பு தேவைப்பட்டு, இது ரன்டைம் வழக்கு கண்காணிப்பு, செயல் நோக்கம் வரைமுறை, மற்றும் மனிதன்-ஆஸ் கொள்ளளை-மீ-லூப் மறுசெய்கைப்படுத்தல் வழிமுறையை உவெனிறு கவனம் செலுத்துகிறது।
டூல்கிட் வெளியிட்டிர்கள்
NVIDIA இன் Agent Toolkit என்டারப்ரைஸ் AI பாதுகாப்பு பல பண்புவான பல உறுப்புக்களை உள்ளடக்கிய்துள்ளது. பாதுகாப்பு அத்திமுறை டெவலப்பர்களுக்கு ஏஜென்ட் ஒரு செயல்த்த செயல்களின் நோக்கம் வரையறை மாற்ற அனுமதிக்கிற - அதை சிறிப்பிடாத்து அ்যவ்ய சம்களுயின் திணைஅ, அது அறிவுவ்ய லயனதयन்ட்டுங்கள்ை, மற்றும் எ का निर्णयदের்ी समyमत् स्पष्ट पहले धीबार एनाममनुष्य आवश्यकता आगे बढ़ें. ये सुरक्षा अत्त एजेंट के पाठ्य उत्पाद के स्तर के बजाय इसके कार्य स्थान के स्तर पर काम करते हैं, जो वास्तविक दुनियादारी कार्य लेने वाली प्रणाली के लिए हस्तक्षेप का उपयुक्त स्तर है।
निगरानी और अवलोकनीयता उपकरण कार्य निष्पादन के दौरान एक एजेंट वास्तव में क्या कर रहा है इसमें दृश्यमानता प्रदान करते हैं - इसके तर्क चरणों, यह जो कार्य करता है, और उन कार्यों के परिणामों को इस तरह लॉग करते हुए कि मानव ऑपरेटर एजेंट व्यवहार की पूर्वव्यापी समीक्षा कर सकें और ऐसे पैटर्न की पहचान कर सकें जो सुझाते हैं कि एजेंट अपने इच्छित पैरामीटर के बाहर काम कर रहा है। यह अवलोकनीयता एजेंट विफलताओं को डीबग करने के लिए आवश्यक है और कॉर्पोरेट कानूनी और अनुपालन टीमों को यह प्रदर्शित करने के लिए कि उपयुक्त निरीक्षण मौजूद है।
मानव-इन-द-लूप तंत्र एंटरप्राइज टीमों को चेकपॉइंट्स को परिभाषित करने की अनुमति देता है जहां एजेंट निष्पादन आगे बढ़ने से पहले मानव समीक्षा के लिए रुकता है। उच्च-दांव के निर्णयों के लिए - बड़े वित्तीय लेनदेन, बाहरी पक्षों के लिए संचार, उत्पादन प्रणालियों में परिवर्तन - एजेंट कार्य करने से पहले मानव अनुमोदन की आवश्यकता की क्षमता एक महत्वपूर्ण सुरक्षा सुविधा है जो कई शुरुआती एजेंसी फ्रेमवर्क्स ने पर्याप्त रूप से प्रदान नहीं की है।
एंटरप्राइज अपनाव इसके बिना धीमा क्यों है
AI एजेंट क्षमताओं में सबसे अधिक रुचि रखने वाली कई एंटरप्राइज्स उन्हें तैनात करने के बारे में सबसे अधिक सावधान भी हैं। वित्तीय सेवा फर्में, स्वास्थ्यसेवा संगठन, और सामान्य रूप से विनियमित उद्योगों के पास अनुपालन दायित्व, ऑडिट आवश्यकताएं, और देयता जोखिम हैं जो अप्रमोचित स्वायत्त AI कार्यों को वास्तव में समस्याग्रस्त बनाते हैं। AI एजेंट्स का वादा - जटिल ज्ञान कार्य के ऑटोमेशन के माध्यम से उत्पादकता में नाटकीय वृद्धि - इन संगठनों के लिए कुछ समय से दिखाई दे रहा है, लेकिन एजेंट्स को जिम्मेदारी से तैनात करने के लिए आवश्यक जोखिम प्रबंधन ढांचा क्षमता विकास से पीछे रह गया है।
NVIDIA का टूलकिट कंपनी को केवल AI कंप्यूटिंग इंफ्रास्ट्रक्चर प्रदाता के रूप में नहीं बल्कि सुरक्षा और प्रशासन परत के प्रदाता के रूप में स्थित करता है जो एंटरप्राइज डिप्लॉयमेंट के लिए आवश्यक है। यह एक रणनीतिक रूप से महत्वपूर्ण कदम है: यह NVIDIA के मूल्य प्रस्ताव को GPU हार्डवेयर और CUDA सॉफ्टवेयर से एप्लिकेशन और प्रशासन परत में विस्तारित करता है जहां एंटरप्राइज खरीद निर्णय किए जाते हैं।
व्यापक AI सुरक्षा संदर्भ
टूलकिट AI सुरक्षा बातचीत में एक व्यापक बदलाव को दर्शाता है जो दीर्घकालिक जोखिमों के बारे में अमूर्त चिंताओं से ठोस, निकट-अवधि की चिंताओं की ओर जाता है आज उत्पादन में तैनात एजेंट सिस्टम के व्यवहार के बारे में। एंटरप्राइज AI सुरक्षा मुख्य रूप से अस्तित्वगत जोखिम को रोकने के बारे में नहीं है - यह छोटे पैमाने की विफलताओं को रोकने के बारे में है जो एंटरप्राइज ऑपरेशन को नुकसान पहुंचाती हैं, कंपनियों को देयता के लिए बेनकाब करती हैं, और AI सिस्टम में विश्वास को कम करती हैं जो अन्यथा वास्तविक मूल्य रखते हैं। इन निकट-अवधि की समस्याओं को हल करना वाणिज्यिक रूप से आवश्यक है और अधिक सक्षम भविष्य की सिस्टम को आवश्यकता होगी उस सुरक्षा ढांचे के लिए एक उपयोगी परीक्षण आधार है।
यह लेख AI News द्वारा रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.
Originally published on artificialintelligence-news.com
