సైబర్ AIపై పెంటగాన్ దృక్కోణం మారుతోంది
ఈ వారం, అమెరికా రక్షణ సాంకేతిక రంగంలోని ఇద్దరు సీనియర్ అధికారులు, సైబర్ సామర్థ్యం ఉన్న కృత్రిమ మేధస్సు యొక్క తాజా తరాన్ని కేవలం ముప్పుగా మాత్రమే అర్థం చేసుకోకూడదని చెప్పారు. వాషింగ్టన్‌లో జరిగిన SCSP AI+Expoలో మాట్లాడుతూ, సైబర్ పాలసీ అసిస్టెంట్ సెక్రటరీ కాథరిన్ సటన్ మరియు పెంటగాన్ చీఫ్ టెక్నాలజీ ఆఫీసర్ ఎమిల్ మైఖేల్, Anthropic విడుదల చేయని Mythos వ్యవస్థను ఆధారంగా తీసుకున్న సాధనాలు రక్షణకు కూడా శక్తివంతమైన పరికరాలుగా మారవచ్చని వాదించారు.
అభూతపూర్వ వేగంతో సాఫ్ట్‌వేర్ బలహీనతలను గుర్తించి వాటిని దుర్వినియోగం చేయగల AI వ్యవస్థలపై ఆందోళన పెరుగుతున్న వేళ, రక్షణ శాఖలో మరింత ప్రాయోగిక దృక్పథం నెలకొంటున్నదాన్ని ఈ వ్యాఖ్యలు చూపిస్తున్నాయి. ఆ వేగాన్ని కేవలం కొత్త ప్రమాద మూలంగా మాత్రమే చూపించకుండా, మనుషుల బృందాలు నేటి పరిస్థితుల్లో నిర్వహించగల దానికంటే వేగంగా బలహీన వ్యవస్థలను దృఢపరచడానికి అదే సామర్థ్యాన్ని ఉపయోగించవచ్చని పెంటగాన్ అధికారులు వాదిస్తున్నారు.
ప్రస్తుత ప్యాచింగ్ మోడల్, ఇది తరచుగా రోజులు లేదా వారాల పాటు సాగుతుంది, AI మరింత వేగంగా కదిలే వాతావరణంలో ఇక సరిపోదని సటన్ అన్నారు. ఆమె మాటల్లో, ప్రధాన అవకాశం సారాంశాత్మకమైనది కాదు. అది సురక్షిత కోడ్. అధునాతన మోడళ్లు లోపభూయిష్టమైన సాఫ్ట్‌వేర్‌ను వేగంగా గుర్తించి సరిచేయగలిగితే, సైన్యం మరియు దాని కాంట్రాక్టర్లు పాత ప్రక్రియలు ఎప్పుడూ అందుకోలేని వేగంతో ప్రమాదాన్ని తగ్గించడం ప్రారంభించగలరు.
“మానవ వేగం” నుంచి యంత్ర వేగం వరకు
అధికారుల వ్యాఖ్యలు ఒక సరళమైన కానీ కీలకమైన విషయంపై కేంద్రీకృతమయ్యాయి: విస్తారమైన సాఫ్ట్‌వేర్ పునాది అంతటా బలహీనతలు ఇప్పటికే ఉన్నాయి, మరియు AI వాటిని కనుగొనే, సరిచేసే, దుర్వినియోగం చేసే వేగాన్ని మార్చుతోంది. ఆ లోపాలు కొత్తవి కావని మైఖేల్ అన్నారు. ఇప్పుడు మారేది టైమ్‌లైన్. Mythos వంటి వ్యవస్థలు రక్షకులు బగ్‌లను వేగంగా కనుగొనడంలో సహాయపడవచ్చు, కానీ అదే బగ్‌లను దాడి చేసేవారు ఆయుధాలుగా మార్చుకునే వేగాన్నీ పెంచవచ్చు.
ఈ ద్వంద్వ-ఉపయోగ వాస్తవమే ఈ క్షణాన్ని జాతీయ భద్రతకు అంత ముఖ్యంగా మారుస్తోంది. ఫెడరల్ ప్రభుత్వానికే కాకుండా, దేశానికే డిజిటల్ మౌలిక సదుపాయాలను మరింత దృఢపరచాల్సిన సమయం వచ్చిందని మైఖేల్ వివరించారు. రక్షణ శాఖ అనేక సంవత్సరాలుగా సాంకేతిక రుణాన్ని కూడబెట్టుకున్న పాత సాఫ్ట్‌వేర్ వ్యవస్థలు మరియు కోడ్ బేస్‌ల మిశ్రమంపై ఆధారపడుతోంది. అలాంటి వాతావరణంలో, బలహీనమైన కోడ్‌ను స్వయంచాలకంగా ప్యాచ్ చేయగల మోడల్ కేవలం ఆపరేషన్లను స్వల్పంగా మెరుగుపరచడం కంటే ఎక్కువ చేయగలదు. చాలా కాలం క్రితమే జరగాల్సిన పనిని వేగవంతం చేయగలదు.
AI ప్రక్రియలోకి వస్తే సైబర్ ప్రమాదం మాయం అవుతుందని వాదన కాదు. అంగీకారయోగ్యమైన ప్రతిస్పందన సమయానికి ఉన్న ప్రామాణికం మారుతోందనేదే విషయం. యంత్ర-వేగ దుర్వినియోగం సాధారణమైతే, యంత్ర-వేగ నివారణ కూడా అవసరం అవుతుంది. నెమ్మదిగా జరిగే కొనుగోలు చక్రాలు, పొడవైన ధ్రువీకరణ ప్రక్రియలు, విభజితమైన సాఫ్ట్‌వేర్ యాజమాన్యం మీద ఆధారపడిన సంస్థలకు ఇది పెద్ద మార్పు.
Mythos ప్రత్యేకమైనది కాకపోయినా ఎందుకు ముఖ్యం
పెంటగాన్ ప్యానెల్ చుట్టూ ఉన్న ప్రజా చర్చలో ఎక్కువ భాగం Mythosపైనే కేంద్రీకృతమైంది, దాని నివేదించబడిన హ్యాకింగ్ సామర్థ్యాల వల్ల దృష్టి ఆకర్షించిన Anthropic మోడల్ ఇది. కానీ ఈ రంగాన్ని ఒకే సంస్థ లేదా ఒకే మోడల్ నిర్వచించదని భావనను తగ్గించడానికి మైఖేల్ ప్రయత్నించారు. Mythosను, వచ్చే ఏడాది లేదా అంతకంటే కొంతకాలంలో ప్రధాన AI ల్యాబ్‌లు విడుదల చేసే అవకాశం ఉన్న సైబర్ సామర్థ్యమున్న మోడళ్ల విస్తృత వర్గానికి ప్రారంభ ఉదాహరణగా ఆయన వివరించారు.
అది ముఖ్యం, ఎందుకంటే పెంటగాన్ ఒక్క విక్రేత వివాదాన్ని దాటి ఆలోచించేందుకు ప్రయత్నిస్తోంది. ట్రంప్ పరిపాలన మరియు రక్షణ కార్యదర్శి పీట్ హెగ్సెత్ ఫెడరల్ వినియోగం కోసం Anthropic ఉత్పత్తులను నిషేధించిన తర్వాత, Anthropic ప్రస్తుతం ప్రభుత్వంపై కేసులు దాఖలు చేస్తోంది. మైఖేల్ స్వయంగా Anthropic CEOని బహిరంగంగా విమర్శించారు. అయినప్పటికీ, ఈ ఈవెంట్‌లో ఆయన వ్యాఖ్యలు వ్యూహాత్మక సమస్య ఏ ఒక్క కంపెనీ సంబంధానికీ మించి పెద్దదని సూచించాయి.
అదే అర్థంలో, పెంటగాన్ ఒకేసారి రెండు విషయాలను సంకేతం ఇస్తోంది. మొదటిది, ఈ రకమైన సామర్థ్యంలో Anthropicకు శాశ్వత ఏకాధిపత్యం ఉందని అది నమ్మడం లేదు. రెండవది, అనేక సంస్థలు సమానంగా ఉన్నతమైన ఫంక్షన్లతో మోడళ్లను అభివృద్ధి చేస్తున్నందున సైబర్ AIలో విస్తృత ఏకీకరణ ఉంటుందని అది భావిస్తోంది. ఆ అంచనా నిజమైతే, విధాన సవాలు ఒక నిర్దిష్ట వ్యవస్థ ఉందా లేదా అన్నది కాదు, ప్రభుత్వం మరియు పరిశ్రమ అటువంటి అనేక వ్యవస్థలు ఉన్న ప్రపంచానికి ఎలా అనుగుణంగా మారతాయన్నదే.
రక్షణ సంస్థలకు పెద్ద పరీక్ష
పెంటగాన్ యొక్క ఆశావాదం ఈ సాధనాలకు సంబంధించిన ప్రమాదాలను తొలగించదు. అవి వాటిని మరింత పదును చేస్తాయి. సెకన్లలో బలహీనతలను కనుగొని సరిచేయగల వ్యవస్థ, పాలన, ధృవీకరణ, ప్రతిస్పందనకు ఉన్న సమయాన్ని కూడా కుదిస్తుంది. అలాంటి వ్యవస్థలకు ఎంతవరకు స్వయం నియంత్రణను సురక్షితంగా ఇవ్వవచ్చు, ఎక్కడ మానవ సమీక్ష అవసరంగా ఉండాలి, ఈ వేగ మార్పుకు రూపొందించని పాత నెట్‌వర్క్‌లలో వాటిని ఎలా ప్రవేశపెట్టాలి అన్నదాన్ని రక్షణ సంస్థలు నిర్ణయించాలి.
సన్నద్ధతకు సంబంధించిన ప్రాయోగిక ప్రశ్న కూడా ఉంది. సైబర్ మోడళ్లు విస్తృతంగా అందుబాటులోకి వచ్చినా, వాటిని వాస్తవ వర్క్‌ఫ్లోలలో ఏకీకృతం చేయాల్సిన బాధ్యత రక్షణ శాఖదే. అంటే పాత ప్లాట్‌ఫారమ్‌లు, అసమాన కోడింగ్ ఆచారాలు, అనేకస్థాయిల బ్యూరోక్రటిక్ నియంత్రణలతో నిర్వచించబడిన సాఫ్ట్‌వేర్ వాతావరణంలో అధునాతన AIని సరిపోల్చడం. వాగ్దానం చాలా పెద్దది, కానీ అమలు సవాలు కూడా అంతే పెద్దది.
అయినా, సటన్ మరియు మైఖేల్ నుంచి వచ్చిన ప్రధాన సందేశం స్పష్టంగా ఉంది. సైబర్ AI అవిర్భావం కేవలం కొత్త దాడి ముప్పు ఉపరితలాన్ని మాత్రమే సృష్టించదు. అది సమర్థవంతమైన రక్షణ ఎలా ఉండాలో తిరిగి ఆలోచించాల్సిందిగా చేస్తుంది. ఆ రూపకల్పనలో, విజయం అనేది శక్తివంతమైన మోడళ్లు బయటకు రావడాన్ని ఆపడం కంటే, ప్రత్యర్థులు దానిని దుర్వినియోగం చేసే వేగం కంటే త్వరగా బహిర్గతాన్ని తగ్గించడానికి సమాన సామర్థ్యాలను ఉపయోగించడంపైనే ఎక్కువగా ఆధారపడి ఉంటుంది.
పెంటగాన్‌కు, ఇది AIని దూర భవిష్యత్ ఆధునికీకరణ ప్రాజెక్ట్‌గా కాకుండా తక్షణ ఆపరేషనల్ అవసరంగా మారుస్తుంది. ఈ పోటీ కేవలం మరింత బలమైన సైబర్ సాధనాలను తయారుచేయడమే కాదు. ప్యాచింగ్, నివారణ, సాఫ్ట్‌వేర్ హార్డెనింగ్‌లు వేగంగా మానవ వేగాన్ని మించి కదులుతున్న ముప్పు దృశ్యంతో సరిపోలేలా చూసుకోవడమూ.
ఈ వ్యాసం Breaking Defense నివేదికపై ఆధారపడింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on breakingdefense.com