అమెరికా ఆదేశం తర్వాత Anthropic అధునాతన మోడళ్లను నిలిపివేస్తోంది

అమెరికా ఆదేశం అకస్మాత్తుగా మోడల్ shutdown‌కు దారితీస్తోంది అని Anthropic చెప్పింది

విదేశీ పౌరుల కోసం యాక్సెస్ నిలిపేయాలని అమెరికా ప్రభుత్వం ఆదేశించిన తర్వాత, తన అత్యంత అధునాతన AI మోడళ్లను నిలిపివేస్తామని Anthropic చెప్పింది, అని అందించిన రిపోర్ట్ తెలిపింది. ఈ చర్య కంపెనీ యొక్క Fable 5 మరియు Mythos 5 మోడళ్లను ప్రభావితం చేస్తోంది; జాతీయ భద్రతా ఆందోళనలకు సంబంధించిన తక్షణ compliance చర్యగా Anthropic దీన్ని వివరించింది.

ఈ పరిణామం AI నియంత్రణల పట్ల ప్రభుత్వ దృక్కోణంలో గణనీయమైన కఠినతర మార్పును సూచిస్తోంది. ఎన్నో సంవత్సరాలుగా US పరిమితులు ప్రధానంగా advanced AI నిర్మాణానికి అవసరమైన chips, semiconductor tools, ఇతర infrastructure మీదే ఉన్నాయి. మూలంలో వివరించిన ఈ ఆదేశం, modelలకే దగ్గరగా నియంత్రణ గీతను తీసుకొస్తూ, ఎవరు వాటిని యాక్సెస్ చేయగలరో పరిమితం చేస్తోంది.

Anthropic‌కు ఏమి చెప్పారో

మూల పాఠ్యం ప్రకారం, Fable 5 మరియు Mythos 5కు foreign nationals అందరికీ యాక్సెస్ నిలిపివేయాలని ఆదేశించే export control directive తమకు అందిందని Anthropic చెప్పింది. ఆ ఆదేశం వెనుక ఉన్న జాతీయ భద్రతా ఆందోళన గురించి ప్రత్యేక వివరాలు ఇవ్వలేదని సంస్థ పేర్కొంది.

కనీసం ఒక భద్రతా వ్యవస్థను bypass చేయడానికి లేదా “jailbreak” చేయడానికి మార్గం ఉందని ప్రభుత్వం భావిస్తున్నట్టు తాము అర్థం చేసుకున్నామని Anthropic చెప్పింది; ఈ భద్రత Fable 5 ను software vulnerabilities గుర్తించడానికి ఉపయోగించకుండా నిలిపేందుకు రూపొందించబడిందని మూలం తెలిపింది. మరో మాటలో చెప్పాలంటే, బలమైన సామర్థ్యాలు ఉన్న modelని software systems‌లోని exploit చేయగల బలహీనతలను కనుగొనడంలో సహాయపడేలా మలచవచ్చన్నదే ఆందోళనగా కనిపిస్తోంది.

ఈ కారణాన్ని కంపెనీ వ్యతిరేకించింది. అందించిన రిపోర్ట్‌లో, Anthropic తనకు verbal evidence మాత్రమే ఇచ్చారని, దాన్ని Fable 5‌పై ఉన్న సంభావ్య, పరిమిత, అన్ని సందర్భాలకు వర్తించని jailbreak గా పేర్కొంది. అంత పెద్ద సంఖ్యలో ప్రజలు వాడే commercial model‌ను వెనక్కి తీసుకోవడానికి అటువంటి కనుగొనడం సరిపోదని అది వాదించింది.

AI export policyలో కొత్త మలుపు

ఈ వివాదం ముఖ్యమైనది, ఎందుకంటే ఇది AI regulation‌లో కొత్త సరిహద్దును సూచిస్తోంది. Export controls సంప్రదాయంగా physical మరియు technical supply chain మీదే దృష్టి పెట్టాయి: advanced chips, lithography equipment మరియు సంబంధిత tools. AI services‌కి యాక్సెస్‌ను పరిమితం చేయడం వేరే, మరింత విఘాతకరమైన మెకానిజం; ముఖ్యంగా cloud access hardware పంపకుండా models‌ను ప్రపంచవ్యాప్తంగా వాడుకునేలా చేస్తే ఇది మరింత కీలకం.

frontier models యాక్సెస్‌ను nationality ఆధారంగా పరిమితం చేయగలిగితే, defense మరియు dual-use పరిశ్రమల్లో ఇప్పటికే సాధారణమైన export-screening విధానాల్లాంటి కొత్త compliance భారం AI కంపెనీలపై పడవచ్చు. ప్రభావిత వినియోగదారులను Anthropic సాంకేతికంగా ఎలా వేరు చేస్తుందో మూలం చెప్పలేదు, కానీ దాని ప్రకటన అనిశ్చితి మధ్య తక్కువ స్థాయి rollout ప్రయత్నించకుండా విస్తృత shutdown విధానాన్ని ఎంచుకున్నదని సూచిస్తోంది.

Anthropic మరియు Washington మధ్య ఉద్రిక్తత

ఈ ఆదేశం ఇప్పటికే ఉద్రిక్తంగా ఉన్న Anthropic-అమెరికా ప్రభుత్వ సంబంధాల మధ్య వచ్చింది. ఈ సంవత్సరం ప్రారంభంలో Anthropic తన AI models‌ను దేశీయ surveillance మరియు పూర్తిగా autonomous weapons systems కోసం US militaryకి ఇవ్వనని నిరాకరించిన తర్వాత సంబంధాలు దిగజారాయని మూలం చెబుతోంది. దానికి ప్రతిగా, ప్రభుత్వం ఆ సంస్థను supply chain blacklist‌లో చేర్చింది, అది ఏడాది తరువాత అమల్లోకి రానుంది.

ఈ నేపథ్యం ముఖ్యమైనది, ఎందుకంటే తాజా ఆదేశాన్ని ఇది ఒక వేరు సాంకేతిక వివాదం కంటే పెద్దదిగా చూపిస్తోంది. AI సంస్థలు రాష్ట్ర అధికారంతో ఎంతవరకు సహకరించాలి, defense use‌కి అనుమతించదగిన పరిమితులు ఎక్కడ ఉండాలి, మరియు privately developed models‌పై ప్రభుత్వాలు ఎంత ప్రభావం చూపాలి అనే పెద్ద పోరాటం మధ్య ఇది వస్తోంది.

Anthropic మరియు Trump administration అధికారుల మధ్య ఇటీవల కొంత సడలింపు సంకేతాలు కనిపించాయని కూడా నివేదిక పేర్కొంది. కొత్త ఆదేశం ఆ భావనకు విరుద్ధంగా ఉంది, అసలు వివాదం ఇంకా పరిష్కార కాలేదని సూచిస్తోంది.

Jailbreak అంశం ఎందుకు ముఖ్యం

Anthropic ఈ సమస్యను jailbreak ప్రమాదాన్ని ప్రభుత్వాలు ఎలా అంచనా వేయాలి అన్న వివాదంగా వివరించింది. అందించిన వివరాల్లో, కొన్ని రోజులు ముందే అది ఆమోదయోగ్యం కాని ప్రమాదాలున్న models‌ను ఆపే సామర్థ్యంతో సహా మరింత US oversight కోసం పిలుపునిచ్చింది. కానీ శుక్రవారం తీసుకున్న చర్య తాము న్యాయమైన, సాక్ష్యాధారిత ప్రక్రియగా భావించలేదని అది చెప్పింది.

ఆ తేడా చాలా కీలకం. AI సంస్థలు క్రమంగా ఏదో స్థాయి పర్యవేక్షణ తప్పదని అంగీకరిస్తున్నాయి, కొందరు దానిని బహిరంగంగానే సమర్థిస్తున్నారు. కష్టమైన ప్రశ్న ఏమిటంటే, ఏ పరిమితి దాటితే జోక్యం చేయాలి? ఒక చిన్న security bypass‌నే ప్రధాన commercial model‌కి అంతర్జాతీయ యాక్సెస్ నిలిపివేయడానికి సరిపోతే, దాదాపు ఏ advanced system‌కైనా ఆకస్మిక పరిమితులు విధించవచ్చని కంపెనీలు వాదించవచ్చు. మరోవైపు, regulators అదే కారణంతో ముందుగానే చర్య తీసుకోవాల్సిందేనని భావించవచ్చు.

విస్తృత పరిశ్రమకు సంకేతం

ఈ నివేదిత ఆదేశాన్ని ప్రతి frontier AI developer కూడా నిశితంగా గమనించే అవకాశం ఉంది. మరిన్ని సాంకేతిక వివరాలు లేకపోయినా, జాతీయ భద్రత ప్రమేయం ఉందని భావించినప్పుడు US అధికారులు model access‌పై నేరుగా చర్య తీసుకోవడానికి సిద్ధంగా ఉన్నారనే విషయం ఇది చూపిస్తోంది. ఒకే platform ద్వారా ప్రపంచవ్యాప్తంగా వినియోగదారులకు సేవలందించే providers‌కు ఇది కొత్త అనిశ్చితిని తెస్తుంది.

Anthropic‌కు తక్షణ ప్రభావం ఆపరేషనల్ మరియు ప్రతిష్ఠాపరమైన అంతరాయం. విస్తృత పరిశ్రమకు, ఈ ఘటన ఒక precedent‌గా మారవచ్చు. ప్రభుత్వాలు AI hardware‌ను నియంత్రించడం నుంచి AI capabilities‌ను service రూపంలో నియంత్రించడంవైపు మళ్లితే, కంపెనీలకు మరింత బలమైన screening, స్పష్టమైన deployment tiers, మరియు మెరుగైన safety arguments అవసరం అవుతుంది. అందించిన రిపోర్ట్ ప్రకారం, ఆ మార్పు ఇప్పటికే మొదలైనట్లే ఉంది.

ఈ వ్యాసం The Guardian నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.