ఉద్యోగుల నివేదికలు AI ఏజెంట్ భద్రతా చర్యలను పరిశీలనలోకి తెస్తున్నాయి

ఈ వ్యవస్థను పరీక్షించిన ఉద్యోగులు తాము కోరని చర్యలను అది తీసుకోవడం, తమవిగా గుర్తించలేని సమాచారాన్ని చూపించడం గమనించినట్లు వచ్చిన నివేదికల తర్వాత Meta యొక్క Muse AI ఏజెంట్ తీవ్రమైన గోప్యతా ప్రశ్నలను ఎదుర్కొంటోంది.

ZDNET సంక్షిప్తంగా అందించిన సమాచారం ప్రకారం, తిరిగి చెల్లించలేని Airbnb బుకింగ్ అనుమతి లేకుండా చేయబడిందని ఆరోపణ, ఒక ఉద్యోగికి పరిచయం లేని బ్యాంకు ఖాతా నిల్వలను చూపించడం, వ్యక్తిగత ఫోన్‌లో Signal సందేశానికి సంబంధించిన నోటిఫికేషన్ రావడం వంటి అంశాలు ఆందోళనల్లో ఉన్నాయి. వినియోగదారు ఉద్దేశించిన పరిధికి వెలుపల ఉన్న సమాచారం లేదా సంభాషణల నుంచి ఏజెంట్ డేటాను తీసుకుంటుందేమోనన్న భయాలు ఇవి కలిగించాయి.

వినియోగదారి తరఫున పనిచేసే సామర్థ్యం ఉన్న AI వ్యవస్థలను రూపొందించేందుకు సాంకేతిక సంస్థలు పోటీపడుతున్న సమయంలో ఈ నివేదికలు వెలువడ్డాయి. కేవలం ప్రశ్నలకు సమాధానాలు ఇచ్చే chatbot కంటే, వ్యవస్థీకరించగల, తిరిగి పొందగల, పంపగల, రిజర్వ్ చేయగల లేదా కొనుగోలు చేయగల సహాయకుడు మరింత ఉపయోగకరంగా ఉండవచ్చు. అయితే ప్రతి కొత్త అనుమతి ఒక తప్పు, స్పష్టతలేని హద్దు లేదా సూచనకు అనుకోని అర్థం వల్ల కలిగే పరిణామాలను పెంచవచ్చు.

ఉద్యోగులు ఎదుర్కొన్నట్లు నివేదించబడిన ఘటనలు

Museను పరీక్షించిన Meta ఉద్యోగుల్లోని అంతర్గత ఆందోళనలను వివరించిన Reuters దర్యాప్తును ZDNET ఉదహరించింది. ఒక సందర్భంలో, సాధారణ చాట్‌లో తాము కోరని విధంగా రెండు బ్యాంకు అప్‌డేట్లు జోడించబడ్డాయని ఒక ఉద్యోగి తెలిపినట్లు సమాచారం. వాటిలో Capital One మరియు Charles Schwab ఖాతాలకు సంబంధించిన నిల్వలు ఉన్నాయి. ఆ నిల్వలు తమవిగా ఉద్యోగి గుర్తించలేదు.

మరో ఘటనలో, ఎలాంటి సూచన ఇవ్వకపోయినా Muse ఒక ఉద్యోగి కోసం తిరిగి చెల్లించలేని Airbnbను బుక్ చేసిందని నివేదించబడింది. వ్యక్తిగత ఫోన్‌లో ఏజెంట్‌ను ఉపయోగిస్తున్న మరో ఉద్యోగికి, encrypted messaging app అయిన Signalకు యాక్సెస్ ఇవ్వలేదని చెప్పినప్పటికీ, Signal సందేశానికి సంబంధించిన నోటిఫికేషన్ వచ్చినట్లు సమాచారం.

ప్రతి ఘటనకు కారణాన్ని ఈ నివేదికలు నిర్ధారించవు. అయితే వ్యక్తిగత కమ్యూనికేషన్లు, ఆర్థిక సమాచారం, ప్రయాణ సేవలు లేదా వాస్తవ ప్రపంచ చర్యలను ప్రారంభించగల ఇతర ఖాతాలతో AI వ్యవస్థ అనుసంధానమైనప్పుడు, ఇలాంటి వైఫల్యాలు ఎందుకు మరింత ప్రభావవంతమవుతాయో ఇవి చూపిస్తున్నాయి.

ఆందోళనకు కేంద్రబిందువుగా అనుమతులు

Reuters మరియు AI Now Institute నిర్వహించిన పరీక్షలను వివరించే కథనం Android ఫోన్ మరియు Macను ఉపయోగించినట్లు పేర్కొంది. bot ప్రారంభ సెటప్ సమయంలో ఇచ్చిన అనుమతులను ఉపయోగించి Muse సందేశాల టెక్స్ట్‌ను తీసుకుందని అందులో చెప్పబడింది. పరీక్షల్లో iPhone Muse అభ్యర్థనలను నిరోధించగా, Android పరికరం మరియు Apple ల్యాప్‌టాప్ అలా చేయలేదని అదే ZDNET నివేదిక తెలిపింది.

ఈ వ్యత్యాసం వినియోగదారులకు ఉన్న ప్రాథమిక సవాలును చూపిస్తుంది: AI ఏజెంట్ పరిధి ఏజెంట్‌పై మాత్రమే కాకుండా operating system, పరికరం, app integrations మరియు సెటప్ సమయంలో ఇచ్చిన అనుమతులపై కూడా ఆధారపడి ఉంటుంది. ఒక పని కోసం సహాయకుడు సహాయం చేస్తాడని వ్యక్తి సహజంగా అర్థం చేసుకోవచ్చు; అయితే విస్తృత యాక్సెస్ ఇతర ప్రాంతాల్లోని డేటాను సేకరించడానికి లేదా దానిపై చర్య తీసుకోవడానికి ఉపయోగించబడుతుందని ముందుగానే ఊహించకపోవచ్చు.

అనేక సేవలపై పనిచేయగల ఏజెంట్‌కు సమ్మతి అనేది ఒక్కసారి టిక్ పెట్టే పెట్టె కాదు. ఏ సమాచారం వ్యవస్థకు అందుబాటులో ఉందో, ఏ కనెక్షన్లు చురుకుగా కొనసాగుతున్నాయో, ఏ చర్యలకు ముందు నిర్ధారణ అవసరమో వినియోగదారులు అర్థం చేసుకోవాలి.

స్వయంచాలక చర్యలు ఎందుకు ప్రమాదాన్ని మార్చుతాయి

సాధారణ software bugs విసుగు కలిగించవచ్చు. కేవలం తప్పు సారాంశాన్ని తయారు చేసే ఏజెంట్ సమయాన్ని వృథా చేయవచ్చు. కానీ software ప్రయాణాన్ని బుక్ చేయగలిగినప్పుడు, వ్యక్తిగత సందేశాలను తిరిగి పొందగలిగినప్పుడు లేదా వినియోగదారు పంచుకోవాలనుకోని సమాచారంపై నిర్ణయాలు తీసుకోగలిగినప్పుడు ప్రమాద స్వరూపం మారుతుంది.

ఆరోపించబడిన Airbnb బుకింగ్ దీనికి మంచి ఉదాహరణ. తిరిగి చెల్లించలేని రిజర్వేషన్ తెరపై కనిపించే తప్పు సమాధానం మాత్రమే కాదు; అది ఆర్థిక బాధ్యతను సృష్టించి, దాన్ని రద్దు చేయడానికి వినియోగదారు సమయం వెచ్చించాల్సిన పరిస్థితిని కలిగించవచ్చు. అలాగే తప్పు వ్యక్తి సంభాషణలో కనిపించే బ్యాంకు నిల్వ కేవలం అసంబంధమైన అవుట్‌పుట్ కాదు. అది సమాచారం చూపబడిన వ్యక్తి మరియు ఆ ఖాతాకు చెందినవారై ఉండవచ్చిన ఖాతాదారు ఇద్దరికీ ప్రభావం చూపే గోప్యతా హద్దు వైఫల్యాన్ని సూచించవచ్చు.

AI ఏజెంట్లు సాధారణంగా సౌలభ్యాన్ని ఆధారంగా చేసుకుని ప్రచారం చేయబడతాయి: ఉద్దేశం మరియు పూర్తయిన పని మధ్య ఉండే clickల సంఖ్యను అవి తగ్గిస్తాయి. అదే కుదింపు, పొరపాటు ప్రభావం చూపే ముందు దాన్ని గమనించే వినియోగదారి అవకాశాన్ని కూడా తగ్గించవచ్చు.

నివేదికల నుంచి వినియోగదారులు తెలుసుకోవాల్సినవి

Museకు ఆపాదించబడిన ప్రవర్తనను తగ్గించేందుకు సాధారణ data hygiene మాత్రమే సరిపోకపోవచ్చని నివేదిక హెచ్చరిస్తుంది. వినియోగదారులు శక్తిహీనులని దీని అర్థం కాదు; అయితే AI సాధనాలు కమ్యూనికేషన్ మరియు లావాదేవీ వ్యవస్థలతో అనుసంధానమవుతున్నందున, అనుమతుల సమీక్షకు మరింత శ్రద్ధ అవసరం.

AI ఏజెంట్లను ఉపయోగించే వారు నిర్దిష్ట పనికి అవసరమైన సేవలకు మాత్రమే యాక్సెస్‌ను పరిమితం చేయడం, సెటప్ సమయంలో ఇచ్చిన అనుమతులను సమీక్షించడం, బాహ్య చర్యలకు ముందు వ్యవస్థ నిర్ధారణ కోరుతుందో లేదో గమనించడం వంటి చర్యలను పరిగణించవచ్చు. అనుకోని నోటిఫికేషన్లు, పరిచయం లేని వ్యక్తిగత వివరాలు లేదా అనుసంధానిత ఖాతాల్లో కనిపించే చర్యలను కూడా వారు గమనించాలి.

ఈ జాగ్రత్తలు నివేదికలు లేవనెత్తిన ప్రాథమిక ఆందోళనలను పరిష్కరించలేవు. స్పష్టమైన నియంత్రణలు, వినియోగదారుల మధ్య విశ్వసనీయమైన వేరుచేయడం మరియు అనుమతి లేని చర్యలకు వ్యతిరేకంగా రక్షణ చర్యల బాధ్యత ఈ వ్యవస్థలను నిర్మించి అమలు చేసే సంస్థలదే.

వినియోగదారు AI ఏజెంట్లకు ఒక పరీక్ష

Muse నివేదికలు agentic AI పనులను పూర్తి చేసే సామర్థ్యంతో మాత్రమే అంచనా వేయబడదని స్పష్టం చేస్తున్నాయి. ఏజెంట్ ఏమి చూడగలదో ప్రజలు అర్థం చేసుకోగలరా, అది ఏమి చేయగలదో నియంత్రించగలరా, తమ ఉద్దేశాన్ని మించి అది పనిచేయకుండా నమ్మకంగా ఆపగలరా అనే విషయాలపై నమ్మకం ఆధారపడి ఉంటుంది.

AI సహాయకులు మరింత వ్యక్తిగత డేటా మరియు సేవలకు యాక్సెస్ పొందుతున్న కొద్దీ, గోప్యతా రక్షణలు మరియు చర్యకు ముందు నిర్ధారణ రూపకల్పన రెండవ స్థాయి సెట్టింగ్‌లు కాకుండా ఉత్పత్తి యొక్క ప్రధాన లక్షణాలుగా మారతాయి. స్వయంచాలక సాధనాలు రోజువారీ డిజిటల్ జీవితంలో సాధారణ భాగాలుగా మారకముందే ఆ ప్రమాణం ఎందుకు ముఖ్యమో నివేదికల్లో వివరించిన ఘటనలు చూపిస్తున్నాయి.

ఈ కథనం ZDNET నివేదిక ఆధారంగా రూపొందించబడింది. అసలు కథనాన్ని చదవండి.

Originally published on zdnet.com