Agentic AI సంస్థలను పాలన మరియు భద్రతా నియంత్రణలను తిరిగి ఆలోచించాల్సిందిగా బలవంతం చేస్తోంది

AI ఏజెంట్లు ఇక ఉత్పాదకత సాధనం మాత్రమే కాదు, ఒక పాలనా సమస్య కూడా

సంస్థలు వ్యాపార వర్క్‌ఫ్లోలలో AI ఏజెంట్లను ప్రవేశపెట్టేందుకు సిద్ధమవుతున్న కొద్దీ, ఆ సాంకేతికతను సురక్షితంగా విస్తరించడంలో భద్రత మరియు పాలన ప్రధాన అడ్డంకులుగా మారుతున్నాయి.

Deloitte Microsoft Technology Practice తో కలసి రూపొందించిన MIT Technology Review Insights వ్యాసం agentic AI ఒక కొత్త సంస్థాగత దాడి ఉపరితలాన్ని తెరవొచ్చని వాదిస్తోంది. అసురక్షిత ఏజెంట్లను సున్నితమైన వ్యవస్థలు, స్వంత డేటా, లేదా వారి ఉద్దేశిత పాత్రకు మించిన సాధనాలను ప్రాప్తి చేయ하도록 మోసగించవచ్చన్నదే ఆందోళన.

ఈ వ్యాసం MIT Technology Review సంపాదకీయ నివేదిక కాదు, ప్రాయోజిత అంశం; అయినా ఇందులో సర్వే గణాంకాలు మరియు స్పష్టమైన సంస్థాగత ప్రమాద సిద్ధాంతం ఉన్నాయి. వ్యాసంలో పేర్కొన్న Deloitte AI Institute 2026 State of AI నివేదిక ప్రకారం, దాదాపు 74% కంపెనీలు రెండు సంవత్సరాల్లో agentic AIని అమలు చేయాలని యోచిస్తున్నాయి. స్వయం నియంత్రిత ఏజెంట్ల పాలన కోసం పరిపక్వ మోడల్ ఉందని చెప్పేది కేవలం 21% మాత్రమే.

మానవేతర గుర్తింపులు పెరుగుతున్నాయి

వ్యాసంలోని కీలక అంశాల్లో ఒకటి, ఆధునిక సంస్థలు ఇప్పటికే service accounts, machine credentials, automated workflows, మరియు software actors వంటి పెరుగుతున్న మానవేతర గుర్తింపులను నిర్వహిస్తున్నాయి. ఏజెంట్లకు అనుమతులు, డేటా ప్రాప్యత, సాధనాల ప్రాప్యత, మరియు వినియోగదారులు లేదా వ్యాపార విధుల తరఫున చర్యలు తీసుకునే సామర్థ్యం అవసరం కావడంతో agentic AI ఆ ధోరణిని వేగవంతం చేయగలదు.

ఇది సాధారణ chatbot వినియోగానికి భిన్నమైన ప్రమాద ప్రొఫైల్‌ను సృష్టిస్తుంది. ప్రశ్నలకు సమాధానం ఇచ్చే సంభాషణాత్మక వ్యవస్థ ఒకటి; ఫైళ్లను పొందగల, అంతర్గత సాధనాలను పిలవగల, వ్యవస్థల్లో వ్రాయగల, లేదా చర్యలను ప్రారంభించగల ఏజెంట్ మరోటి. పాలన ఏజెంట్ ఏమి చేయడానికి అనుమతి ఉంది, అది ఎవరి అధికారం ఉపయోగిస్తోంది, దాని ప్రవర్తన ఎలా పర్యవేక్షించబడుతోంది అనేవి నిర్వచించాలి.

మూల వ్యాసం ప్రకారం, కార్యనిర్వాహకులు అత్యధికంగా ఆందోళన చెందేది డేటా గోప్యత మరియు భద్రతపై, ఇది 73%గా పేర్కొనబడింది. చట్ట, మేధో సంపత్తి, మరియు నియంత్రణ అనుగుణ్యత 50%గా ఉన్నాయి, కాగా పాలనా సామర్థ్యాలు మరియు పర్యవేక్షణ 46%గా సూచించబడ్డాయి.

కంట్రోల్-ప్లేన్ భావన AI ఆపరేషన్లలోకి ప్రవేశిస్తోంది

Deloitte యొక్క Cyber Practice లో principal అయిన Andrew Rafla control plane ను ఎవరు ఏ ఏజెంట్లను, ఏ అనుమతులతో, ఏ విధానాల కింద, ఏ మోడళ్లను మరియు సాధనాలను ఉపయోగించి నడపగలరో నియంత్రించే కేంద్రీకృత పొరగా వివరిస్తారు. ఆయన దృష్టిలో, అలాంటి పొర లేకుండా కంపెనీల వద్ద scalable autonomous operation కాకుండా unmanaged execution మాత్రమే ఉంటుంది.

ఈ భావన ముఖ్యమైనది, ఎందుకంటే సంస్థలు సాధారణంగా సాంకేతికతను వేరువేరుగా అమలు చేయవు. AI ఏజెంట్లు identity systems, document stores, customer records, code repositories, analytics platforms, మరియు బాహ్య సేవలతో పరస్పర చర్య చేయగలవు. ప్రతి అమలు అనుమతులు మరియు auditabilityను వేరే విధంగా నిర్వహిస్తే, పర్యవేక్షణ విభజితమవుతుంది.

కార్యాత్మక పాలనా వ్యవస్థ ఒక ఏజెంట్ ఏమి చేసింది, ఎవరి తరఫున చేసింది, ఏ డేటాను ఉపయోగించింది, ఏ విధాన కింద పనిచేసింది, మరియు ఆ చర్యను పునరుత్పత్తి చేయగలమా లేదా ఆపగలమా వంటి ప్రాథమిక ఆపరేషన్ ప్రశ్నలకు సమాధానం ఇవ్వాలి. వ్యాసం ఈ ప్రశ్నలను enterprise-scale agent వినియోగానికి కనీస పునాది గా చూపిస్తుంది.

పాలన పైలట్‌లను ప్రొడక్షన్ నుంచి వేరు చేస్తుంది

మూలం వాదన ప్రకారం, AI ఏజెంట్లను ప్రయోగాల నుండి పునరావృతమయ్యే సంస్థ ఆటోమేషన్‌గా మార్చేది పాలనే. పైలట్ ప్రాజెక్టులు తరచుగా సన్నిహిత పర్యవేక్షణ, పరిమిత డేటా, లేదా మాన్యువల్ guardrails పై ఆధారపడతాయి. ప్రొడక్షన్ అమలులు టీములు మరియు వినియోగ సందర్భాలన్నింటిలోనూ స్థిరంగా పనిచేసే నియంత్రణలను అవసరం పడతాయి.

ప్రమాదం ఒక్క తప్పు చేయడంలో మాత్రమే లేదు. తక్కువగా పాలించబడిన ఏజెంట్ వ్యవస్థ అంచనాలేని విధంగా, పెద్ద స్థాయిలో విఫలమయ్యే అవకాశం ఉంది. అనేక ఏజెంట్లకు విస్తృత ప్రాప్యత, బలహీన పర్యవేక్షణ, లేదా స్పష్టతలేని బాధ్యత ఉంటే, చిన్న డిజైన్ లోపాలు వ్యవస్థాత్మక ప్రమాదంగా మారవచ్చు.

వ్యాపారాల కోసం సమీపకాలంలో అర్థం ఏమిటంటే, ఏజెంట్ అమలుతో పాటు identity, security, compliance, మరియు observability ప్రణాళిక కూడా ఉండాలి. పాలనను తర్వాత జోడించగల అదనపు అంశంగా భావించడం ప్రారంభ పైలట్‌లను సులభతరం చేయవచ్చు, కానీ విస్తృత అమలుకు అవసరమైన నియంత్రణ నిర్మాణాలు లేకుండా సంస్థలను వదిలేయవచ్చు.

వ్యాసం ఏమి సూచిస్తోంది

ఈ వ్యాసం enterprise AI చర్చలో ఒక విస్తృత మార్పును ప్రతిబింబిస్తోంది. ప్రశ్న ఇప్పుడు AI ఏజెంట్లు ఉపయోగకరమైన పనిని ఆటోమేట్ చేయగలరా అన్నదే కాదు. ఆ ఏజెంట్లు పనిచేసే పరిమితులను సంస్థలు నిర్వచించి అమలు చేయగలవా అన్నదే ప్రధాన ప్రశ్న.

మూలం ప్రాయోజిత అంశం కావడంతో, దాని సూచనలను ఆ సందర్భంలోనే చదవాలి. అయినప్పటికీ, అది గుర్తించిన ప్రమాద వర్గాలు స్పష్టమైనవే: గోప్యత, భద్రత, చట్ట అనుగుణ్యత, మేధో సంపత్తి, పర్యవేక్షణ, అనుమతులు, మరియు auditability. agentic AI demos నుండి operational systems కు మారుతున్న కొద్దీ ఇవి కేంద్రంగా ఉండే అవకాశం ఉంది.

ఈ వ్యాసం MIT Technology Review నివేదికపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.