நிபுணர்கள் எச்சரிக்கை: ஏஐ ஏஜென்ட்களுக்கு கடுமையான நிறுவன பாதுகாப்புக் கட்டுப்பாடுகள் தேவை

ஏஐ ஏஜென்ட்கள் உதவியிலிருந்து செயல்பாட்டுக்குள் நுழைகின்றன

ஏஐ ஏஜென்ட்களை இனி கேள்விகளுக்கு பதிலளித்து உரை வரைவாக்கும் சாதாரண சாட் இடைமுகங்களாக மட்டும் கருதவில்லை. Snowflake Summit-இல் பேசிய நிபுணர்களின் படி, அவை செயலிகள் மற்றும் தரவு சூழல்களில் செயல்களை மேற்கொள்ளக்கூடிய டிஜிட்டல் பணியாளர்களாக அதிகமாக நிலைநிறுத்தப்படுகின்றன. இந்த மாற்றம் அபாயப் பண்பை பெரிதும் மாற்றுகிறது. ஒரு அமைப்பு தகவலை மீட்டெடுக்கவும், முடிவுகளை எடுக்கவும், பயனரின் சார்பில் படிகளைச் செயல்படுத்தவும் முடிந்தவுடன், முக்கிய கேள்வி மாதிரி பயனுள்ளதா என்பது அல்ல. நிறுவனம் அதன் அதிகாரத்தின் எல்லைகளை போதுமான அளவு தெளிவாக வரையறுத்துள்ளதா, அது சேதம் செய்யாமல் இருக்குமா என்பதே கேள்வியாகிறது.

ZDNET எடுத்துக்காட்டிய கருத்துகளில் இதுவே மையக் கருப்பொருளாக இருந்தது; அங்கு பாதுகாப்பு மற்றும் அடையாள நிபுணர்கள், பல ஆரம்ப முயற்சிகள் பரிந்துரைப்பதைவிட அதிகமான ஒழுங்குடன் நிறுவனங்கள் ஏஜென்ட் இயக்கத்தை அணுக வேண்டும் என்று வாதிட்டனர். மிக வலுவான எச்சரிக்கை எளிய மொழியில் வந்தது: ஏஜென்ட்களை ஆர்வமுள்ள ஆனால் திசை தவறிய இன்டர்ன்களாகப் பாருங்கள். இந்த ஒப்புமை பயனுள்ளது, ஏனெனில் அது வாய்ப்பையும் சிக்கலையும் ஒரே நேரத்தில் காட்டுகிறது. இன்டர்ன்கள் உற்பத்திவாய்ந்தவர்களாக இருக்கலாம், ஆனால் அவர்களின் எல்லை தெளிவாக வரையறுக்கப்பட்டிருக்கும்போது, அனுமதிகள் கட்டுப்படுத்தப்பட்டிருக்கும்போது, மற்றும் முடிவுக்குப் பொறுப்பான மேலாளர் ஒருவர் இருக்கும்போது மட்டுமே. ஏஐ ஏஜென்ட்களுக்கும் அதே கட்டமைப்பு தேவை என்று பேனலிஸ்ட்கள் கூறினர்.

அனுமதிகளே இப்போது உண்மையான போர்க்களமாகின்றன

Resolve AI-யின் நிறுவனர் மற்றும் CTO மாயங்க் அகர்வால், வலுவான கட்டுப்பாடுகள் இன்றி ஒரு ஏஜென்டுக்கு பரந்த இலக்கை வழங்குவது விரைவில் தேவையற்ற முடிவுகளை உருவாக்கலாம் என்று எச்சரித்தார். அவரது கருத்து ஏஜென்ட்கள் இயல்பாகவே பொறுப்பற்றவர்கள் என்பதல்ல; பாரம்பரிய மென்பொருளை விட அவர்கள் மிகவும் முன்கணிக்க முடியாத விதத்தில் இயங்குகிறார்கள் என்பதுதான். பழைய தானியக்க வழித்தடங்கள் தெளிவாக இருந்தன: ஒரு அமைப்பு ஒரு API-யை அழைத்து, அறிந்த payload-ஐ அனுப்பி, அறிந்த அடுத்த நடவடிக்கையைத் தூண்டும். ஏஜென்டிக் அமைப்புகள் ஒரு இலக்கை நிறைவேற்ற முயற்சிக்கும் போது பாதைகளை தானாக அமைத்துக்கொள்ள முடியும். அந்த நெகிழ்வுத்தன்மையே அவற்றை ஈர்க்கக்கூடியதாகவும், அதே சமயம் நிர்வகிக்க கடினமாகவும் மாற்றுகிறது.

நடைமுறையில், இதன் பொருள் நிறுவன குழுக்கள் feature-level சோதனையில் மட்டும் நின்றுவிட முடியாது என்பதுதான். ஏஜென்ட் எதைப் படிக்கலாம், எதை எழுதலாம், யாரின் அதிகாரத்தின் கீழ் இயங்குகிறது, மற்றும் எந்த அமைப்புகளை உயர்தர அனுமதி இல்லாமல் தொடக்கூடாது என்பதை அவர்கள் மாதிரிபடுத்த வேண்டும். 1Password-இன் CTO நான்சி வாங், திறனுடன் சேர்ந்து context மற்றும் intent-இன் முக்கியத்துவத்தையும் வலியுறுத்தினார். ஏஜென்ட் என்ன செய்ய உருவாக்கப்பட்டது என்பதை அறிதல் போதாது; அது எந்த அதிகாரத்தைப் பயன்படுத்துகிறது, அது அணுகும் தரவின் விளைவுகள் என்ன என்பதையும் நிறுவனங்கள் புரிந்துகொள்ள வேண்டும்.

இது பழக்கமான ஆளுகை பிரச்சினை, ஆனால் புதிய கவசத்தில். நிறுவனங்கள் பல காலமாக சிறப்பு அனுமதி கொண்ட மனிதப் பயனர்கள், service accounts, மற்றும் integration credentials-ஐ நிர்வகித்து வருகின்றன. ஏஐ ஏஜென்ட்கள் இம்மூன்றின் அம்சங்களையும் இணைக்கின்றன. அவை உரையாடல்மயமாகவும் குறைந்த ஆபத்தாகவும் தோன்றலாம், ஆனால் உள்ளே அவை உணர்திறன் மிக்க அமைப்புகள், உள் அறிவுத் தரவுத்தளங்கள், கொள்முதல் கருவிகள், அல்லது வாடிக்கையாளர் பதிவுகளுடன் இணைக்கப்பட்டிருக்கலாம். இதனால் least-privilege design, audit trails, மற்றும் approval workflows மேலும் முக்கியமாகின்றன.

பழைய மென்பொருள் நடைமுறை ஏன் அழுத்தத்தில் உள்ளது

பேச்சின் முக்கியமான கருத்துகளில் ஒன்று, பாரம்பரிய மேம்பாட்டு ஊகங்கள் agentic software-க்கு நேரடியாக பொருந்துவதில்லை என்பதுதான். deterministic systems-இல், குழுக்கள் தோல்வி முறைகளை முன்கூட்டியே காரணம் கூறி புரிந்துகொள்ள முடியும், ஏனெனில் logic chain திட்டமிட்டே கட்டமைக்கப்பட்டுள்ளது. Agentic systems மிகவும் திறந்த முடிவு நடத்தைகளை அறிமுகப்படுத்துகின்றன. ஒரு developer இலக்கும் toolset-உம் வரையறுக்கலாம், ஆனால் இடையில் எந்த படியை system தேர்வு செய்யும் என்பதை எல்லாம் அல்ல. இதனால் system-ஐ கட்டுப்படுத்த முடியாது என்பதல்ல. கட்டுப்பாட்டை வேறு விதமாக வடிவமைக்க வேண்டும் என்பதே பொருள்.

நிறுவன வாங்குபவர்களுக்கு, இது ஒரு புதிய checklist-ஆக மாறும். deployment-க்கு முன், role boundaries, escalation thresholds, logging requirements, மற்றும் human review points ஆகியவற்றை குழுக்கள் வரையறுக்க வேண்டும். deployment-இன் போது, அசாதாரண tool use, மிகுந்த retries, மற்றும் வழக்கமற்ற patterns-க்கு வெளியே உள்ள தகவல்களை அணுக முயற்சிகளைப் பிடிக்கக்கூடிய monitoring தேவைப்படும். deployment-க்குப் பிறகு, ஒரு அடிப்படை செயல்பாட்டு கேள்விக்கு ஆளுகை பதில் அளிக்க வேண்டும்: ஏஜென்ட் ஒரு செலவான அல்லது தீங்கான முடிவை எடுத்தால், அந்த incident-க்கு யார் பொறுப்பேற்பார்?

ஆரம்ப பரிசோதனையில் அந்த accountability கேள்வி எளிதாக மறக்கப்படுகிறது, ஏனெனில் பல pilots productivity gains ஆகவே விவரிக்கப்படுகின்றன. ஆனால் ஏஜென்ட்களுக்கு தனித்தனியாக செயல்பட அனுமதி அளிக்கப்பட்டவுடன் productivity story மாறுகிறது. அப்போது அவை வெறும் மென்பொருள் அம்சங்களாக இல்லாமல், நிறுவனத்தின் உள்ளே செயல்படும் actors ஆக மாறுகின்றன.

அடுத்த தத்தெடுப்பு கட்டம் கட்டுப்பாட்டை பற்றியதாக இருக்கும்

Snowflake Summit விவாதத்தின் முக்கியத்துவம் நிபுணர்கள் எச்சரிக்கைக்கேற்ப அழைப்பது மட்டுமல்ல. விவாதம் model quality-யைத் தாண்டி நிறுவன control architecture-க்குள் நகர்ந்துவிட்டது என்பதே முக்கியம். நிறுவனங்கள் ஏஜென்ட்களை real workflows-இல் சோதிக்க அதிகம் தயாராகத் தெரிகின்றன, ஆனால் அந்த ஏஜென்ட்களுக்கான guardrails இன்னும் சமநிலை இல்லாமல் உள்ளன. இதனால் technical capability மற்றும் organizational readiness இடையில் ஒரு இடைவெளி உருவாகிறது.

வேகமாக நகரும் நிறுவனங்களுக்கு, முதலில் access-ஐ விரிவுபடுத்தி பின்னர் policy எழுதலாம் என்ற எண்ணம் இருக்கும். இந்த விவாதத்தில் வந்த எச்சரிக்கைகள் அதற்கு மாறாகச் சொல்கின்றன. ஒரு ஏஜென்ட் business systems-ஐத் தொடக் கூடியதாக இருந்தால், அதற்கு கடுமையாக வரையறுக்கப்பட்ட remit, தெளிவான authority chain, மற்றும் தொடர் மேற்பார்வை இருக்க வேண்டும். இல்லையெனில் அதே autonomy, பயனுள்ளதாக மாற்றும் விஷயம், அதையே expensive, noncompliant, அல்லது unsafe ஆக மாற்றும்.

அந்த வகையில், intern metaphor இன்னும் நிலைத்திருக்கக்கூடும், ஏனெனில் marketing language-ஐ விட அது செயல்பாட்டு உண்மையை நன்றாகப் பிடிக்கிறது. ஏஐ ஏஜென்ட்கள் திறமையானவை, வேகமானவை, மேலும் அதிகளவில் சுயாதீனமானவையும் ஆகலாம். ஆனால் அமைப்பு, context, மற்றும் supervision இன்றி, அவை இன்னும் சாவிகள் கொடுத்து தனியாக விடத் தயாராக இல்லை.

இந்தக் கட்டுரை ZDNET-இன் செய்திப்பரப்பலின் அடிப்படையில் எழுதப்பட்டுள்ளது. மூலக் கட்டுரையைப் படிக்கவும்.