Microsoft Copilot for Wordలో వార్మ్లాంటి దాడి దీర్ఘకాలంగా ఉన్న AI భద్రతా ఆందోళనను స్పష్టమైన ప్రదర్శనగా మార్చింది
ఒక భద్రతా పరిశోధకుడు, Microsoft Word డాక్యుమెంట్లలో దాగి ఉన్న ప్రాంప్ట్ ఇంజెక్షన్లు, ప్రజలు కంటెంట్ను మళ్లీ ఉపయోగించడానికి లేదా సంగ్రహించడానికి Microsoft Copilot for Word ఉపయోగించినప్పుడు, ఫైల్ నుండి ఫైల్కు వ్యాప్తి చెందగలవని చూపించారు. దీని ఫలితం ఒకసారి జరిగే ఎక్స్ప్లోయిట్ మాత్రమే కాదు, స్వయంగా వ్యాపించే ఒక మెకానిజం, సాధారణ డాక్యుమెంట్లనే క్యారియర్లుగా మార్చగలదు.
రిపోర్ట్ చేసిన కనుగొనుగుల ప్రకారం, ఈ దాడి, మానవ పాఠకులు గమనించకపోవచ్చని విధంగా, ఉదాహరణకు తెల్ల నేపథ్యంపై తెల్ల టెక్స్ట్ లేదా అత్యంత చిన్న ఫాంట్ పరిమాణంలో, సూచనలను డాక్యుమెంట్లో పొందుపరచడం ద్వారా పనిచేస్తుంది. Copilot టెక్స్ట్ను ప్రాసెస్ చేయడానికి ముందు రంగు మరియు ఫాంట్-సైజ్ ఫార్మాటింగ్ను తొలగిస్తుందని పరిశోధకుడు చెబుతున్నారు, కాబట్టి దాచిన సూచనలు మానవుడికి దాదాపు కనిపించకపోయినా AI వ్యవస్థకు మాత్రం కనిపిస్తూనే ఉంటాయి.
ఈ తేడా ముఖ్యమైనది, ఎందుకంటే ఇది వినియోగదారు ఫైల్లో ఉందని నమ్మేది మరియు AI సహాయకుడు నిజంగా చదివేది మధ్య ఒక ఖాళీని సృష్టిస్తుంది. Copilot కొత్త డాక్యుమెంట్ రూపొందించేటప్పుడు ఆ దాచిన సూచనలను అనుసరిస్తే, ఇంజెక్ట్ చేసిన టెక్స్ట్ ఆ అవుట్పుట్లోనూ కాపీ కావచ్చు. ఆ కొత్త ఫైల్ తరువాత మరొక క్యారియర్గా మారుతుంది. ఆ రెండవ డాక్యుమెంట్ను తరువాత మూల పదార్థంగా ఉపయోగిస్తే, అదే దాచిన సూచనలు మళ్లీ పనిచేయగలవు.
ఈ ప్రదర్శన ఎందుకు ముఖ్యమైనది
ప్రాంప్ట్ ఇంజెక్షన్ చాలాకాలంగా AI వ్యవస్థలలో పరిష్కారం కాని సమస్యగా పేర్కొనబడుతోంది, కానీ అనేక చర్చలు అబ్స్ట్రాక్ట్ స్థాయిలోనే ఆగిపోతాయి. ఈ కేసు మరింత నిర్దిష్టంగా, మరింత కలవరపెట్టేలా ఉంది, ఎందుకంటే సాధారణ ఆఫీస్ వర్క్ఫ్లోలలో ఈ బలహీనత ఎలా కదలగలదో ఇది చూపిస్తుంది. ఒక దుష్ట ఫైల్, సాంప్రదాయ అర్థంలో వినియోగదారుని కోడ్ నడపమని మోసం చేయాల్సిన అవసరం లేదు. అది జ్ఞాన కార్మికులు ప్రతి రోజు చేసే డాక్యుమెంట్-హ్యాండ్లింగ్ పనుల్లో ఉపయోగించబడితే చాలు.
రిపోర్ట్ చేసిన సందర్భం, ఇంటర్నెట్ నుండి డౌన్లోడ్ చేసిన సోకిన మార్కెట్ విశ్లేషణ Copilot ఉపయోగించి తయారైన ఆర్థిక నివేదికను ఎలా ప్రభావితం చేయగలదో చూపిస్తుంది. నివేదిక దాచిన సూచనలను స్వీకరిస్తే, అది తర్వాతి డ్రాఫ్ట్లు, డెరివేటివ్ సారాంశాలు లేదా టెంప్లేట్-ఆధారిత డాక్యుమెంట్లను కూడా కలుషితం చేయగలదు. మరో మాటలో చెప్పాలంటే, డాక్యుమెంట్లను మళ్లీ ఉపయోగించడానికి సులభతరం చేసే ఉత్పాదకత ఫీచర్ అదే సమయంలో దాడి కొనసాగడానికి ఒక మార్గాన్ని కూడా సృష్టిస్తుంది.
ఇది క్లాసిక్ ఫిషింగ్ లేదా మ్యాక్రో మాల్వేర్ నుండి గమనించదగ్గ మార్పు. ఇక్కడ చెప్పబడిన ప్రమాదం, విశ్వసనీయ వ్యాపార కంటెంట్లోని భాషను AI మోడల్ ఎలా అర్థం చేసుకుంటుందో దానితో సంబంధం ఉంది. మూల డాక్యుమెంట్ హానికరం కానట్టుగా కనిపించవచ్చు, సాధారణ తనిఖీలో పాస్ కావచ్చు, అయినా downstream అవుట్పుట్లను మార్చవచ్చు.
Microsoftకు సమాచారం ఇచ్చారు, కానీ కనుగొనుగులు ప్రచురించబడినప్పుడు ఫిక్స్ అమల్లో లేదు
దాడి వెనుక ఉన్న పరిశోధకుడు Hakon Maloy, మూల పదార్థం ప్రకారం మార్చి 31న Microsoftకు ఈ ప్రవర్తనను నివేదించారు. Microsoft ఈ ప్రవర్తనను ధృవీకరించింది, కానీ రెండు సవరణ ప్రయత్నాలు విఫలమయ్యాయని నివేదిక చెబుతోంది. 144 రోజుల తరువాత, Maloy పెలోడ్ టెక్స్ట్ను విడుదల చేయకుండా కనుగొనుగులను ప్రచురించారు.
ఆ టైమ్లైన్ రెండు కారణాల వల్ల ముఖ్యమైనది. మొదట, ఈ సమస్య కేవలం సిద్దాంతపరమైనది కాదు లేదా తప్పుగా అర్థం చేసుకున్న ఎడ్జ్ కేసు ఫలితం కాదు అని ఇది సూచిస్తుంది. రెండవది, సహజ భాషను ingest చేసి మార్చేందుకు నిర్మించిన వ్యవస్థల్లో ప్రాంప్ట్-ఇంజెక్షన్ సమస్యలను పరిష్కరించడం ఎంత కష్టమో ఇది బలపరుస్తుంది. ఒక అసిస్టెంట్ డాక్యుమెంట్లోని ప్రతిదాన్నీ సంభావ్యంగా ఉపయోగకరమైన సందర్భంగా చదవాలని భావిస్తే, చెల్లుబాటు అయ్యే సూచనలను దుష్ట సూచనల నుండి వేరు చేయడం సాంకేతికంగా మరియు ఉత్పత్తి పరంగా క్లిష్టమవుతుంది.
ప్రజా ఫిక్స్ లేకుండా ఈ కనుగొనుగులను ప్రచురించడం ఎంటర్ప్రైజ్ AI విక్రేతలపై ఒత్తిడిని కూడా పెంచుతుంది. Copilot మరియు ఇలాంటి టూల్స్, కంపెనీ అంతర్గత ఫైళ్లలో డ్రాఫ్టింగ్, ఎడిటింగ్, సంగ్రహించడం మరియు సమాచారాన్ని సమ్మిళితం చేయడంలో సహాయపడే అసిస్టెంట్లుగా ఎక్కువగా ప్రస్తావించబడుతున్నాయి. ఇది డాక్యుమెంట్ సరిహద్దులు మరియు సూచనల నిర్వహణపై నమ్మకాన్ని ఉత్పత్తి భద్రతలో కేంద్ర అంశంగా మారుస్తుంది.
ఇది కేవలం AI ల్యాబ్ సమస్య కాదు, ఆఫీస్ ఉత్పాదకత సమస్య కూడా
ఈ కేసు ప్రత్యేకంగా నిలవడానికి ఒక కారణం ఇది, విస్తృతంగా ఉపయోగించే ఉత్పాదకత సందర్భంలోకి వస్తుంది; పరిమితంగా ఉన్న chatbot ఇంటర్ఫేస్లో కాదు. Word డాక్యుమెంట్లు టీమ్లు, విభాగాలు, భాగస్వాములు మరియు బాహ్య మూలాల మధ్య తరచుగా పంచుకుంటారు. అనేక సంస్థలు ఉద్యోగులను సమయం ఆదా చేసేందుకు ఆ డాక్యుమెంట్లలో మరింత భాగాన్ని AI కోపైలట్లకు పంపాలని చురుకుగా ప్రోత్సహిస్తున్నాయి.
రిపోర్ట్లో వివరించిన ఎక్స్ప్లోయిట్ ప్రకారం, సౌలభ్యం కూడా దాడి ఉపరితలంగా మారవచ్చు. ఒక వినియోగదారుడు ప్రమాదకరమైన అటాచ్మెంట్పై క్లిక్ చేయాల్సిన అవసరం లేదు, macros ఎనేబుల్ చేయాల్సిన అవసరం లేదు, లేదా అనుమానాస్పద సాఫ్ట్వేర్ ఇన్స్టాల్ చేయాల్సిన అవసరం లేదు. బదులుగా, పాత డాక్యుమెంట్ను ఆధారంగా కొత్త డాక్యుమెంట్ రాయడానికి Copilot సహాయం కోరడమే దాచిన సూచనలను ప్రతిరూపించడానికి సరిపోవచ్చు.
ఇది రక్షణ అలవాట్లను నిర్వచించడం కష్టతరం చేస్తుంది. సంప్రదాయ భద్రతా మార్గదర్శకాలు సాధారణంగా కనిపించే హెచ్చరిక సంకేతాలు లేదా ఎగ్జిక్యూటబుల్ కంటెంట్పై దృష్టి పెడతాయి. ఇక్కడ ప్రమాదకరమైన పదార్థం మానవ దృష్టిని తప్పించడానికి కేవలం ఫార్మాట్ చేసిన సాదా టెక్స్ట్ మాత్రమే, కానీ మోడల్కు అది చదవదగినదిగానే ఉంటుంది. కాబట్టి ఈ దాడి ఒకే ఫైల్లో మానవ మరియు యంత్ర దృష్టి మధ్య ఉన్న వ్యత్యాసాన్ని వినియోగిస్తుంది.
AI భద్రతా స్థితి గురించి ఈ ప్రదర్శన ఏమి చెబుతోంది
విస్తృతంగా చూస్తే, ప్రాంప్ట్ ఇంజెక్షన్ నిజమైన ఉత్పత్తుల్లో ఇంకా పరిష్కారం కాలేదని ఇది చెబుతోంది, ముఖ్యంగా మిక్స్డ్-ట్రస్ట్ ఇన్పుట్లను అర్థం చేసుకునే విస్తృత అధికారాన్ని మోడళ్లకు ఇచ్చినప్పుడు. బాహ్య డాక్యుమెంట్లు, వెబ్ పేజీలు, ఈమెయిళ్లు లేదా అటాచ్మెంట్లలో దాగి ఉన్న సూచనలు AI వ్యవస్థలలో ఇప్పటికే తెలిసిన ఆందోళన. చెడు డాక్యుమెంట్ ఒక వర్క్ఫ్లోలోకి ప్రవేశించిన తర్వాత, ఈ ఉదాహరణ సమస్యను నియంత్రించడాన్ని మరింత కఠినం చేసే ఒక ప్రసార మెకానిజాన్ని జత చేస్తుంది.
ప్రాంప్ట్ ఇంజెక్షన్ అనేది కేవలం విచిత్రమైన సమాధానాలను ఇచ్చే చికాకు మాత్రమే అన్న భావనను కూడా ఈ నివేదిక తగ్గిస్తుంది. ఇక్కడ ప్రమాదం ఆపరేషనల్. దుష్ట సూచన సాధారణ వ్యాపార ఆర్టిఫాక్ట్లలో జీవించి, సాధారణ జ్ఞాన పనిలో వ్యాప్తి చెందగలదు. విధ్వంసకరమైన కోడ్ ఎగ్జిక్యూషన్ లేకపోయినా, ఉద్యోగులు నమ్మగలిగే నివేదికలు, సారాంశాలు, ప్రణాళికా డాక్యుమెంట్లు మరియు ఇతర రికార్డుల సమగ్రతకు ఇది ప్రమాదాన్ని సృష్టిస్తుంది.
నిజమైన పెలోడ్ టెక్స్ట్ను నిలిపివేయాలని పరిశోధకుడు తీసుకున్న నిర్ణయం, తక్షణ కాపీక్యాట్ వినియోగాన్ని కొంత మేర పరిమితం చేస్తుంది, కానీ ప్రచురిత వివరణ ఈ వైఫల్య తరగతిని చూపడానికి సరిపోతుంది. AI కోపైలట్లను మూల్యాంకనం చేస్తున్న కంపెనీలకు పాఠం స్పష్టంగా ఉంది: డాక్యుమెంట్ ingestion ను, మూలం సాధారణ ఆఫీస్ కంటెంట్లా కనిపిస్తుందనే కారణంతోనే సురక్షితమని భావించకూడదు.
ఎంటర్ప్రైజ్లు AI రచనా టూల్స్పై మరింత ఆధారపడుతున్న కొద్దీ, కంటెంట్ మరియు కమాండ్ మధ్య సరిహద్దు రక్షించాల్సిన అత్యంత ముఖ్యమైన భద్రతా రేఖలలో ఒకటిగా మారుతోంది. ప్రస్తుతం వ్యవస్థల్లో ఆ రేఖ ఇంకా చాలా సులభంగా మసకబారుతుందని ఈ ప్రదర్శన చూపిస్తోంది.
ఈ వ్యాసం The Decoder నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.
Originally published on the-decoder.com