పరిమితమైన AI వ్యవస్థ ప్రభుత్వంలో అత్యంత సున్నితమైన వినియోగదారులలో ఒకరికి చేరినట్టు కనిపిస్తోంది
జాతీయ భద్రతా సంస్థ (NSA) Mythos Preview ను ఉపయోగిస్తున్నట్లు సమాచారం. ఇది Anthropic తాజాగా ప్రకటించిన AI మోడల్, సైబర్సెక్యూరిటీ పనుల కోసం రూపొందించబడింది, అయితే కంపెనీ ఈ వ్యవస్థను ప్రజా విడుదలకు దూరంగా ఉంచింది. అందించిన నివేదిక ప్రకారం, Mythos దాడి-ఆధారిత సైబర్ దాడులకు చాలా శక్తివంతమని Anthropic ఈ నెల ప్రారంభంలో చెప్పింది, అందుకే దాన్ని విస్తృతంగా విడుదల చేయలేదు, మరియు ప్రాప్యతను సుమారు 40 సంస్థలకు మాత్రమే పరిమితం చేశారు. NSA ఆ ప్రకటించని స్వీకర్తలలో ఒకటిగా కనిపిస్తోంది.
ఇది నిజమైతే, frontier AI విధానంలో ఇప్పుడు జరుగుతున్న సంక్లిష్ట దశను ఈ ఏర్పాటు ప్రతిబింబిస్తుంది. ప్రభుత్వాలు రక్షణాత్మక మరియు కార్యాచరణ పనుల కోసం, ముఖ్యంగా సైబర్సెక్యూరిటీలో, అధునాతన మోడళ్లను కోరుకుంటున్నాయి. అదే సమయంలో, దాడి ప్రయోజనాల కోసం కూడా ఉపయోగించగల సాధనాలను అమలు చేయడంలో వచ్చే ప్రమాదాలను అదే సంస్థలు ఎదుర్కొంటున్నాయి. Mythos ను NSA ఉపయోగిస్తున్నట్లు వచ్చిన సమాచారం, ఆ ఉద్రేకాన్ని అసాధారణంగా స్పష్టంగా చూపిస్తోంది.
Mythos తో NSA ఏమి చేస్తున్నదని నివేదిక చెబుతోంది
NSA ప్రధానంగా Mythos ను దాడి చేయదగిన బలహీనతల కోసం వాతావరణాలను స్కాన్ చేయడానికి ఉపయోగిస్తున్నట్లు ఆ వ్యాసం చెబుతోంది. AI అమలుల చుట్టూ తరచుగా వినిపించే విస్తృత మార్కెటింగ్ భాషతో పోలిస్తే ఇది చాలా సంకుచితమైన, స్పష్టమైన వివరణ. దీని అర్థం ఒక ప్రాయోగిక వినియోగం: శక్తివంతమైన మోడల్ను డిజిటల్ మౌలిక సదుపాయాలపై పెట్టి, శత్రువులు చేయకముందే బలహీనతలను గుర్తించడం.
ఇది ముఖ్యమైనది, ఎందుకంటే బలహీనతల గుర్తింపు రక్షణ మరియు దాడి మధ్య సరిహద్దులో ఉంటుంది. రక్షకులు లోపాలను గుర్తించేందుకు సహాయపడే వ్యవస్థ స్వభావతః దాడిచేసేవారు వినియోగించగల మార్గాలను కూడా బయటపెట్టగలదు. నివేదికలో వివరించిన Anthropic స్థానం ఈ ద్వంద్వ వినియోగ సమస్యను గుర్తిస్తున్నట్లు కనిపిస్తోంది. కంపెనీ Mythos ను సైబర్సెక్యూరిటీ పనుల కోసం నిర్మించిన frontier model గా ప్రకటించింది, కానీ దాని దాడి సామర్థ్యంపై ఆందోళనల కారణంగా ప్రజా విడుదలను నిలిపివేసింది.
ఆ నేపథ్యం NSA కు లభించిన ప్రాప్యతను మరింత గమనార్హంగా చేస్తుంది. ఇది వినియోగదారుల ప్రారంభం లేదా ఎంటర్ప్రైజ్ బీటా కాదు; అత్యంత ఎంపిక చేసిన సంస్థలకు నియంత్రిత అమలు లాగా కనిపిస్తోంది. అందించిన పాఠ్యం ప్రకారం, U.K.’s AI Security Institute కూడా ప్రాప్యతను ధృవీకరించింది. ఈ వివరాలు కలిపి చూస్తే, ముఖ్యంగా శక్తివంతమైన వ్యవస్థలు ముందుగా రాష్ట్ర లేదా రాష్ట్రానికి సమీపమైన సంస్థలతో పంచుకోవచ్చు, తరువాతే ఓపెన్ వాణిజ్య మార్కెట్లోకి రావచ్చు అనే నమూనాను సూచిస్తున్నాయి.
అమెరికా ప్రభుత్వంలోని ఒక విరోధాభాసం
ఈ నివేదికలో అత్యంత ప్రభావవంతమైన అంశం NSA Anthropic సాంకేతికతను ఉపయోగిస్తున్నదనే విషయం మాత్రమే కాదు. అది జరుగుతున్న సమయంలో Anthropic రక్షణ శాఖతో విభేదంలో ఉందని చెబుతోంది. కొన్ని వారాల క్రితం, అందించిన పాఠ్యం ప్రకారం, ఒక మోడల్ యొక్క పూర్తి సామర్థ్యాలకు అనియంత్రిత ప్రాప్యతను ఇవ్వడానికి కంపెనీ నిరాకరించడంతో Pentagon Anthropic ను “supply-chain risk” అని పిలిచింది.
ఇది ఫెడరల్ ప్రభుత్వంలో స్పష్టమైన ద్వంద్వ దృశ్యాన్ని సృష్టిస్తుంది. జాతీయ భద్రతా వ్యవస్థలోని ఒక భాగం Anthropic యొక్క పరిమిత సైబర్ మోడల్ నుండి విలువ పొందుతున్నట్లు సమాచారం. మరో భాగం కంపెనీని విస్తృత కొనుగోలు మరియు నియంత్రణ వివాదంలో ప్రమాదంగా పరిగణించింది. ఫెడరల్ AI మార్కెట్ను గమనిస్తున్న ఎవరికైనా ఇది గమనార్హమైన సంకేతం. వాషింగ్టన్ ఒకే స్థానం ఉన్న ఒకే కొనుగోలుదారిలా ప్రవర్తించడం లేదు. ఏజెన్సీలు మిషన్, ప్రాప్యత డిమాండ్లు, మరియు సంస్థాగత ప్రాధాన్యతల ఆధారంగా అధునాతన AI వ్యవస్థలను వేర్వేరుగా అంచనా వేస్తున్నాయి.
నివేదిక మరో రాజకీయంగా సున్నితమైన వివరాన్ని జోడిస్తుంది: భారీ స్థాయిలో దేశీయ నిఘా మరియు స్వయంచాలక ఆయుధాల అభివృద్ధికి Claude ను అందించడానికి Anthropic నిరాకరించినప్పుడు Pentagon వివాదం మొదలైంది. ఇవి ప్రస్తుత generative AI చర్చలో సైనిక మరియు గూఢచారి వినియోగాలపై అత్యంత కఠినమైన సరిహద్దులలో కొన్ని. అందించిన నివేదికకు మించి అదనపు ధృవీకరణ లేకపోయినా, సూచన స్పష్టంగా ఉంది: ప్రాప్యత చర్చలు ఇకపై కేవలం సాంకేతిక సమగ్రీకరణ లేదా ధరల గురించి మాత్రమే కాదు. ప్రదాతలు తమ మోడళ్లను ఎక్కడ ఉపయోగించనివ్వాలి, ఎక్కడ అనివ్వకూడదు అనే వాదనలుగా అవి మారుతున్నాయి.
ఇది ఒక కంపెనీ లేదా ఒక మోడల్కు మించి ఎందుకు ముఖ్యం
Mythos ను NSA ఉపయోగిస్తున్నట్లు వచ్చిన సమాచారం, AI పరిశ్రమ తదుపరి దశ ఎలా అభివృద్ధి చెందవచ్చో సూచిస్తోంది. ప్రధాన వ్యూహాత్మక ప్రశ్న ఇకపై ప్రభుత్వాలు frontier models ను ఉపయోగిస్తాయా లేదా అన్నది కాదు. ప్రాప్యత ఎలా విభజించబడుతుంది, ఎవరికీ ప్రత్యేక ప్రాప్యత లభిస్తుంది, మరియు ఆ అమలులను ఏ షరతులు నియంత్రిస్తాయి అన్నదే ప్రశ్న.
ఇక్కడ వివరించిన Anthropic విధానం విస్తృత విడుదలకు బదులుగా ఎంపిక చేసిన పంపిణీపై ఆధారపడుతున్నట్లు కనిపిస్తోంది. ఇది అత్యంత శక్తివంతమైన వ్యవస్థను ఎలా పరీక్షిస్తారు, ఎవరు దాన్ని నడుపుతారు అనే దానిపై కంపెనీకి మరింత నియంత్రణ ఇస్తుంది. అలాగే, అత్యంత ముఖ్యమైన అమలు ఆమోదిత సంస్థల చిన్న వలయంలో జరుగుతుండటంతో ప్రజా పరిశీలన కూడా తగ్గొచ్చు.
అమెరికా ప్రభుత్వ దృష్టిలో, ఈ ఘటన ఒక నిర్మాణాత్మక సమస్యను సూచిస్తోంది. ఏజెన్సీలు సైబర్సెక్యూరిటీ మరియు జాతీయ భద్రతా పనుల కోసం అధునాతన AI కావాలని కోరుకుంటున్నాయి, కానీ మోడల్ ప్రదాతలు ప్రతి ఏజెన్సీ ఆకాంక్షలకు సరిపోని వినియోగ పరిమితులను పెట్టవచ్చు. దీని వల్ల కొన్ని ఏజెన్సీలు సంకుచిత, మిషన్-సంబంధిత ఏర్పాట్ల ద్వారా ప్రాప్యత పొందితే, మరికొన్ని నియంత్రణ, పారదర్శకత, లేదా అనుమతించబడిన వినియోగంపై వివాదాల్లో చిక్కుకుపోయే చీలిక వ్యవస్థ ఏర్పడవచ్చు.
అదేవిధంగా, అత్యంత కఠినంగా పరిమితమైన frontier AI మోడళ్లు నిజమైన కార్యాచరణ ఉపయోగాన్ని పొందే తొలి రంగాల్లో సైబర్ రక్షణ ఒకటి కావచ్చని కూడా ఇది సూచిస్తోంది. నివేదికలో చెప్పిన వినియోగం స్పష్టమైనది, అత్యవసరమైనది, మరియు విధాన నిర్ణేతలకు అర్థమయ్యేది: స్వయంప్రతిపత్తి లేదా సాధారణ మేధస్సు సహాయం వంటి విస్తృత ఆశయాల కంటే దాడి చేయదగిన బలహీనతల కోసం స్కానింగ్ చేయడం సమర్థించడం సులభం. అందుకే సైబర్సెక్యూరిటీ, విక్రేతలు విస్తృతంగా విడుదల చేయడానికి చాలా ప్రమాదకరమని భావించే వ్యవస్థలకు ఆకర్షణీయమైన పరీక్షా ప్రదేశంగా మారుతోంది.
ఇంకా ధృవీకరించబడని విషయాలు
కథలోని ముఖ్యమైన భాగాలు ఇంకా నివేదికగా మాత్రమే ఉన్నాయి, ప్రజలకు నమోదైన ప్రభుత్వ విధానంగా కాదు. TechCrunch ప్రకారం NSA వినియోగాన్ని Axios నివేదించింది. అలాగే TechCrunch, వ్యాఖ్య కోసం NSA ని సంప్రదించిందని, Anthropic వ్యాఖ్యానించలేదని చెప్పింది. అంటే, అందించిన సమాచారాన్ని బట్టి, ఆ ఏర్పాటుపై, దాని షరతులపై, లేదా దాని పరిధిపై రెండు సంస్థల నుంచీ ప్రత్యక్ష అధికారిక ధృవీకరణ లేదు.
పర్యవేక్షణ గురించి కూడా ఇంకా సమాధానంలేని ప్రశ్నలు ఉన్నాయి. Mythos ప్రాప్యత ఎలా ఆడిట్ చేయబడుతోంది, దాని వినియోగాన్ని ఏ సాంకేతిక రక్షణలు నియంత్రిస్తున్నాయి, లేదా NSA వినియోగం పరీక్ష, అంతర్గత విశ్లేషణ, లేదా కార్యాచరణ అమలు వరకు మాత్రమే పరిమితమా అనే దానిని అందించిన పాఠ్యం నిర్ధారించదు. ఇవి ముఖ్యమైనవి, ఎందుకంటే ఇవే ఇది అన్వేషణాత్మక పైలటా లేదా మరింత స్థిరమైన కొనుగోలు మార్గంలో భాగమా అన్నది నిర్ణయిస్తాయి.
విస్తృత సంకేతం
ఈ జాగ్రత్తలున్నప్పటికీ, ఇది తేలికపాటి పరిశ్రమ విషయమేమీ కాదు. frontier AI పరిశోధన నుంచి జాతీయ భద్రతా అనువర్తనానికి రేఖ ఎంత వేగంగా కదులుతోందో చూపించే సూచిక ఇది. ప్రజా విడుదలకు చాలా శక్తివంతమని చెప్పబడే ఒక మోడల్, ప్రపంచంలోనే అత్యంత సాంకేతిక గూఢచార సంస్థలలో ఒకటైన దాని చేతుల్లో ఇప్పటికే ఉండవచ్చు. అదే సమయంలో, అదే కంపెనీ పౌర స్వేచ్ఛలు మరియు ఆయుధ సంబంధిత కారణాలపై ఇతర ప్రభుత్వ ప్రాప్యత రూపాలను వ్యతిరేకిస్తున్నట్లు సమాచారం.
అదే అసలు కథ. AI విధాన చర్చ ఇకపై అధునాతన వ్యవస్థలు శక్తివంతమా లేక ప్రమాదకరమా అన్నదానిపై మాత్రమే లేదు. ఎవరికీ ముందుగా ప్రాప్యత లభిస్తుంది, ఎవరికీ నిరాకరించబడుతుంది, మరియు కొనుగోలు ఒత్తిడి ద్వారా ఏ సంస్థలు నియమాలను ఆకారమివ్వగలవు అన్నదానిపై ఉంది. నివేదిక నిజమైతే, Mythos ఆ కొత్త క్రమం రూపుదిద్దుకుంటున్న ప్రారంభ ఉదాహరణ.
ముఖ్యాంశాలు
- TechCrunch ప్రకారం, Anthropic యొక్క పరిమిత Mythos Preview మోడల్ను NSA ఉపయోగిస్తోందని చెబుతున్నారు.
- Anthropic దానిని ప్రజా విడుదలకు చాలా శక్తివంతమని భావించినందున Mythos ను సుమారు 40 సంస్థలకు మాత్రమే పరిమితం చేసినట్లు అందించిన నివేదిక చెబుతోంది.
- డిజిటల్ వాతావరణాల్లో దాడి చేయదగిన బలహీనతలను స్కాన్ చేయడానికి NSA ప్రధానంగా మోడల్ను ఉపయోగిస్తోంది అని సమాచారం.
- ఈ అమలు, ప్రాప్యత మరియు అనుమతించబడిన వినియోగంపై Anthropic తో కొనసాగుతున్న Pentagon వివాదంతో కలిసి కనిపిస్తోంది.
ఈ వ్యాసం TechCrunch నివేదికలపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.
Originally published on techcrunch.com
