Anthropic AI పరీక్షలో వర్గీకరించిన వ్యవస్థ లోపాలు గుర్తించబడినట్లు నివేదిక

Anthropic పరీక్షా నివేదిక AI భద్రతా చర్చకు అత్యవసరతను పెంచింది

ఒక అజ్ఞాత అమెరికా అధికారి వ్యాఖ్యలు మరియు సెనెట్ విచారణలో చేసిన వ్యాఖ్యలను ఉటంకించిన Fast Company కొత్త నివేదిక ప్రకారం, Anthropic యొక్క అధునాతన AI మోడళ్లలో ఒకటి పరీక్షా వ్యాయామంలో అత్యంత సున్నితమైన అమెరికా ప్రభుత్వ కంప్యూటర్ వ్యవస్థల్లోని లోపాలను గుర్తించింది. ఇది నిజమైతే, జాతీయ భద్రతా సందర్భాల్లో frontier AI వ్యవస్థలను ఎలా అంచనా వేయాలి, నియంత్రించాలి, మరియు అమలు చేయాలి అన్న చర్చలో ఇది ఒక ముఖ్యమైన మైలురాయి అవుతుంది.

నివేదిక ప్రకారం, Anthropic అమెరికా ఇంటెలిజెన్స్ ఏజెన్సీలతో కలిసి తన Mythos మోడల్‌ను కలిగిన ఒక పరీక్షలో పని చేసింది. కొన్ని గంటల్లోనే మోడల్ కొన్ని లోపాలను గుర్తించిందని ఆ అధికారి చెప్పారు. అదే మూలం లోపాలను త్వరగా కనుగొన్నప్పటికీ, ఆ సమయంలో మోడల్ వాటిని వినియోగించిందని అర్థం కాదని కూడా చెప్పింది. ఆ తేడా కీలకం: ఒక వ్యవస్థలోకి ప్రవేశించడానికి సంభావ్య మార్గాన్ని గుర్తించడం, వాస్తవంగా చొరబాటు చేయడమంత కాదు. అయినప్పటికీ, ఈ అభియోగం గమనించదగ్గది, ఎందుకంటే ప్రభుత్వంలో అత్యంత సున్నితమైన డిజిటల్ వాతావరణాలపై కూడా అధునాతన AI వ్యవస్థలు వేగవంతమైన లోపాల గుర్తింపులో ఉపయోగపడవచ్చని ఇది సూచిస్తోంది.

ఈ వ్యాయామాన్ని ప్రజా భద్రత, జాతీయ భద్రత, మరియు ఆర్థిక వ్యవస్థకు తీవ్రమైన ప్రమాదాల నుంచి కీలక సాఫ్ట్‌వేర్‌ను కాపాడేందుకు పెద్ద కంపెనీలు మరియు ఇతర సంస్థలను ఒకచోట చేర్చే ప్రయత్నంగా వివరించిన Anthropic కార్యాచరణ Project Glasswing‌తో నివేదిక అనుసంధానించింది. ఈ రూపకల్పన పరీక్షను విస్తృత సందర్భంలో ఉంచుతుంది. AI సంస్థలు మరియు ప్రభుత్వాలు ఇక సైబర్ భద్రతా ప్రమాదాన్ని ఊహాత్మక భవిష్యత్తు సమస్యగా చూడడం లేదు. అత్యంత సామర్థ్యమున్న మోడళ్లు లోపాలను కనుగొనడానికి కావలసిన సమయాన్ని తగ్గించగలవు, వ్యవస్థ లోపాలను మ్యాప్ చేయగలవు, మరియు దాడి సంబంధిత సైబర్ పనిలోని కొన్ని భాగాలను చేయడానికి అవసరమైన నైపుణ్యాన్ని తగ్గించగలవు అన్న అవకాశానికి అనుగుణంగా అవి ప్రక్రియలను నిర్మిస్తున్నాయి.

ఏది నిర్ధారణ అయింది, ఏది కాదు

ఈ కథలో అత్యంత బలమైన జాగ్రత్త మూలాల గురించే. ప్రధాన ఆరోపణలు వర్గీకృత లేదా అత్యంత సున్నితమైన విషయాలపై మాట్లాడుతున్న అజ్ఞాత అధికారికి చెందాయి. Fast Company కూడా జూన్ 11న Senate Committee on Banking, Housing, and Urban Affairs విచారణలో డెమోక్రాటిక్ సెనేటర్ మార్క్ వార్నర్ ఈ వ్యాయామాన్ని ప్రస్తావించారని, ఈ సాధనం “వారాల్లో కాదు, గంటల్లో” దాదాపు అన్ని వర్గీకరించిన వ్యవస్థల్లోకి ప్రవేశించిందని చెప్పి, ఆ వివరణను National Security Agency మరియు U.S. Cyber Command అధిపతి జనరల్ Joshua Rudd‌కు ఆపాదించారని నివేదిస్తోంది.

అయితే NSA గానీ Anthropic గానీ ఆ నివేదికలోని వివరాలను బహిరంగంగా ధృవీకరించలేదు. వ్యాసం ప్రకారం, NSA ఇమెయిల్ ద్వారా వ్యాఖ్యానించడానికి నిరాకరించింది, Anthropic ప్రతినిధి కూడా వ్యాఖ్యానించడానికి నిరాకరించారు. దీంతో ప్రజా రికార్డు ఒక అసాధారణ స్థితిలో ఉంది: ఆందోళన ఉన్నదనే విస్తృత సంకేతం ఒక బహిరంగ విచారణ సూచనతో మద్దతు పొందుతోంది, కానీ నిర్దిష్ట వివరాలు ఇంకా భాగికంగానే వెల్లడయ్యాయి. వర్గీకరించిన నెట్‌వర్క్‌లలో నిజంగా ఏం జరిగిందో పూర్తిగా స్థిరపడిన కథనంగా ఈ నివేదికను పరిగణించడం తొందరపాటు అవుతుంది.

అయినా కూడా, అసంపూర్ణంగా మూలీకరించిన నివేదిక అయినప్పటికీ, ఈ కథ ముఖ్యం, ఎందుకంటే ఇది ప్రస్తుతం జరుగుతున్న విస్తృత విధాన మార్పుతో సరిపోలుతోంది. ప్రభుత్వాలు అత్యాధునిక AI మోడళ్లను ద్వంద్వ వినియోగ వ్యవస్థలుగా ఎక్కువగా చూస్తున్నాయి. అవి పరిశోధన, కోడింగ్, విశ్లేషణకు సహాయం చేయగలవు, కానీ అవి అధికంగా అందుబాటులో ఉంటే లేదా తక్కువగా పరీక్షించబడితే సైబర్ దాడులు, బయోసెక్యూరిటీ ప్రమాదం, తప్పుడు సమాచారం కార్యకలాపాలు, మరియు వ్యూహాత్మక అస్థిరతను కూడా పెంచగలవు.

కాలక్రమం ఎందుకు ముఖ్యమైనది

నివేదికలో తెలిపిన ఈ వ్యాయామం Anthropic మరియు Trump administration మధ్య కనిపిస్తున్న ఉద్రిక్తత సమయంలో వచ్చింది. Fast Company ప్రకారం, Anthropic తమ AI వ్యవస్థలను అమెరికా సైన్యం ఎలా ఉపయోగిస్తుందో అన్నదానిపై ఆందోళనలు వ్యక్తం చేసింది, అదే సమయంలో పరిపాలన కొన్ని Anthropic మోడళ్ల వినియోగాన్ని పరిమితం చేసింది. జూన్ ప్రారంభంలో, పరిపాలన Anthropic తమ తాజా మోడళ్లు Fable 5 మరియు Mythos 5 ను విదేశీ పౌరులు ఉపయోగించకుండా నిరోధించాలని ఆదేశించింది. Anthropic ఆ తరువాత అన్ని కస్టమర్ల కోసం ఆ మోడళ్లను నిలిపివేసింది, అలాగే తాము గుర్తించిన భద్రతా సమస్య ఆధారంగా ప్రభుత్వ చర్యలు సమంజసం కావని నమ్మడం లేదని కూడా తెలిపింది.

ఈ క్రమం ప్రస్తుత AI క్షణంలోని నిర్వచించే వ్యతిరేకతలలో ఒకదాన్ని హైలైట్ చేస్తుంది. ప్రభుత్వాలు frontier labs తమ రక్షణలను పరీక్షించడానికి, లోపాలను వెలికి తీయడానికి, మరియు కీలక మౌలిక సదుపాయాలను బలోపేతం చేయడానికి సహాయపడాలని కోరుకుంటున్నాయి. అదే సమయంలో, ఆ ప్రభుత్వాలు ప్రత్యర్థులు వాటిని ఉపయోగించగలరన్న లేదా ప్రమాదకర సామర్థ్యాలు వ్యాప్తి చెందగలరన్న ఆందోళనతో అదే మోడళ్లకు ప్రాప్యతను పరిమితం చేయడానికి కూడా మరింత సిద్ధంగా ఉన్నాయి. ఫలితంగా, AI కంపెనీలు వ్యూహాత్మక భాగస్వాములు మరియు నియంత్రిత ప్రమాద కారకులు రెండూ అయ్యేలా ఒక లాగుడు-పోరాట సంబంధం ఏర్పడుతోంది.

నివేదికలో పేర్కొన్న White House చర్య ఇంకొక పొరను జోడిస్తుంది. Anthropic‌కు ఇచ్చిన ఆదేశానికి పది రోజుల ముందు, అధ్యక్షుడు Donald Trump అత్యాధునిక AI వ్యవస్థలు సృష్టించే జాతీయ భద్రతా ప్రమాదాలను ప్రజా విడుదలకు ముందు ఒక నెల వరకు ఫెడరల్ ప్రభుత్వం పరిశీలించడానికి枠ాన్ని ఏర్పరుస్తూ ఒక executive order పై సంతకం చేశారు, ఇందులో అభివృద్ధాకర్తల భాగస్వామ్యం స్వచ్ఛందమని పేర్కొన్నారు. ఇది మోడల్ లాంచ్‌ల తర్వాత స్పందించడమే కాకుండా, ముందుగానే స్క్రీనింగ్ వ్యవస్థను నిర్మించడానికి వాషింగ్టన్ ప్రయత్నిస్తున్నదని సూచిస్తోంది.

ఫ్రంటియర్ మోడళ్లకు సైబర్ భద్రత ఒక ఒత్తిడి పరీక్షగా మారుతోంది

నివేదిక యొక్క లోతైన ప్రాముఖ్యత ఒక కంపెనీ లేదా ఒక ఆరోపిత పరీక్ష ఫలితానికి మాత్రమే పరిమితం కాదు. ఇది ఫ్రంటియర్ మోడల్ సామర్థ్యానికి అత్యంత స్పష్టమైన వాస్తవ-ప్రపంచ ప్రమాణాలలో ఒకటిగా సైబర్ భద్రతను చూపిస్తుంది. కాన్ఫిగరేషన్లను వేగంగా విశ్లేషించగల, సంభావ్య బలహీన పాయింట్లను గుర్తించగల, మరియు దాడి శ్రేణులపై తార్కికంగా ఆలోచించగల ఒక మోడల్ శక్తివంతమైన రక్షణ సహాయకుడిగా మారవచ్చు. అదే సామర్థ్యాలు దుర్వినియోగం అయితే దాడి చర్యలను కూడా పదును పెట్టగలవు.

అందుకే ఇటువంటి ఆరోపణలు ఎగుమతి నియంత్రణలు, ప్రాప్యత పరిమితులు, మరియు మూల్యాంకన ప్రమాణాలను ప్రభావితం చేసే అవకాశం ఉంది. ఒక మోడల్ సైబర్ చొరబాటు పనியின் వేగం లేదా స్థాయిని గణనీయంగా మెరుగుపరచగలదని విధాననిర్ణేతలు నమ్మితే, వారు కఠిన విడుదల నియంత్రణలు మరియు మరింత కఠినమైన ముందస్తు పరీక్షలను కోరతారు. ప్రారంభ ఫలితాలపై ప్రభుత్వాలు అతిగా స్పందించవచ్చని కంపెనీలు భావిస్తే, చట్టబద్ధ వినియోగం మరియు గ్లోబల్ పోటీతత్వాన్ని పరిమితం చేసే విస్తృత ఆంక్షలను వారు వ్యతిరేకిస్తారు.

Fast Company కూడా, ఒక సైబర్‌సెక్యూరిటీ కార్యనిర్వాహకుల బృందం ఈ ఆదేశాన్ని ఉపసంహరించాలని పరిపాలనను కోరిందని, ఆ చర్య అమెరికా ప్రత్యర్థులకు సహాయపడవచ్చని వాదించిందని నివేదిస్తోంది. ఆ వాదన AI పాలనలో మరో విభజన రేఖను ప్రతిబింబిస్తుంది: ప్రాప్యతను పరిమితం చేయడం కొంత ప్రమాదాన్ని తగ్గించగలదు, కానీ నమ్మకమైన పరిశోధకులు, కంపెనీలు, మరియు మిత్ర దేశ సంస్థల మధ్య రక్షణ సామర్థ్యం వ్యాప్తిని కూడా నెమ్మదిపరచగలదు. సైబర్ విధానంలో, సాధనాలను పరిమితం చేయడం ఎప్పుడూ ఖర్చుల్లేనిది కాదు.

తరువాత ఏమి చూడాలి

తదుపరి ముఖ్యమైన పరిణామం, నివేదిక చేసిన పరీక్షా రికార్డులో ఏ భాగమైనా బహిరంగంగా నిర్ధారించబడుతుందా అన్నదే. ఏజెన్సీలు, చట్టసభ్యులు, లేదా Anthropic మరిన్ని వివరాలు విడుదల చేస్తే, చర్చ ఊహాగానాల నుండి ప్రాధాన్యతకు వేగంగా మారవచ్చు. అది Anthropic మాత్రమే కాకుండా, ఇతర మోడల్ డెవలపర్లు red-team వ్యాయామాలను ఎలా రూపొందిస్తారు, ప్రమాదకర సామర్థ్యాలను ఎలా వర్గీకరిస్తారు, మరియు పెద్ద విడుదలలకు ముందు ప్రభుత్వాలతో ఎలా చర్చిస్తారు అన్నదానిపై కూడా ప్రభావం చూపుతుంది.

ప్రస్తుతం, ఈ నివేదిక పూర్తిస్థాయి ప్రజా కేసు ఫైల్ కంటే నమ్మదగిన సంకేతంగా నిలుస్తోంది. ఆ పరిమిత రూపంలో కూడా, AI భద్రతా ప్రశ్నలు సిద్ధాంతం నుండి ఆపరేషన్ పరీక్షల దశకు ఎంత వేగంగా కదులుతున్నాయో ఇది చూపిస్తుంది. కేంద్ర సమస్య ఇప్పుడు advanced models cyber securityలో ముఖ్యమా కాదా అన్నది కాదు. ప్రభుత్వాలు మరియు labs ఆ సామర్థ్యాన్ని ఎలా కొలుస్తాయి, దాని ప్రమాదాలను ఎలా నియంత్రిస్తాయి, మరియు తదుపరి తరం వ్యవస్థలు రాకముందే ఎవరికీ ప్రాప్యత ఇవ్వాలి అన్నదే.

ఈ వ్యాసం Fast Company నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.