అమెరికా ఆదేశం తర్వాత Anthropic Fable 5 మరియు Mythos 5ను నిలిపేసింది

ప్రభుత్వ ఆదేశం తర్వాత Anthropic రెండు కొత్త AI మోడళ్లను ఆఫ్‌లైన్‌లోకి తీసింది

Engadget పేర్కొన్న సంస్థ యొక్క ప్రజా వివరణ ప్రకారం, జూన్ 12, శుక్రవారం వచ్చిన అమెరికా ప్రభుత్వ ఆదేశం తర్వాత Anthropic తన కొత్తగా ప్రారంభించిన Fable 5 మరియు Mythos 5 మోడళ్లకు కస్టమర్ యాక్సెస్‌ను నిలిపేసింది. ఈ చర్య ఆ రెండు మోడళ్ల కస్టమర్లందరినీ ప్రభావితం చేస్తుంది, అయితే Anthropic యొక్క మిగతా మోడల్ లైనప్ మరియు దాని Claude chatbot మాత్రం అందుబాటులోనే ఉన్నాయి.

ఈ ఆదేశం, వారు అమెరికాలో ఉన్నా లేదా బయట ఉన్నా, అలాగే వారు Anthropicలో పని చేసినప్పటికీ, విదేశీ పౌరులకు యాక్సెస్‌ను నిలిపేయాలని అవసరం చేసిందని కంపెనీ తెలిపింది. Anthropic ఈ జోక్యాన్ని జాతీయ భద్రతా ఆందోళనలతో అనుసంధానించింది, అయితే ఆ ఆందోళనలను ప్రభుత్వం వివరంగా వెల్లడించలేదని కూడా పేర్కొంది.

దీంతో వేగంగా మారుతున్న AI మార్కెట్లో ఒక అసాధారణమైన మరియు ముఖ్యమైన పరిణామం ఏర్పడింది: ఒక ప్రధాన వాణిజ్య మోడల్ విడుదల కొన్ని రోజుల్లోనే జాతీయ భద్రతా ఆదేశం వల్ల నిలిచిపోవడం, అదే సమయంలో కంపెనీ ఆదేశాన్ని పాటిస్తూ, రీకాల్‌కు ఉన్న ఆధారంపై అసమ్మతి వ్యక్తం చేయడం.

ఏం చర్యకు దారితీసిందని Anthropic చెప్పింది

Fable 5ను jailbreak చేసే ఒక విధానం గురించి విన్న తర్వాత ప్రభుత్వం చర్య తీసుకుందని తాము నమ్ముతున్నామని Anthropic తెలిపింది. కంపెనీ ప్రకారం, అధికారులు ఒక పేరు తెలియని సంస్థ పంచుకున్న ఒక సంభావ్యమైన సంకుచితమైన, universal కాని jailbreak గురించి మౌఖిక ఆధారాలు ఇచ్చారు. మరిన్ని వివరాలను 24 గంటల్లో అందిస్తామని Anthropic తెలిపింది.

ఈ తేడా ముఖ్యమైనది. jailbreak ప్రయత్నాలకు వ్యతిరేకంగా ఏ మోడల్ ప్రొవైడర్ కూడా సంపూర్ణ నిరోధకతను హామీ ఇవ్వలేడని, అలాగే ప్రతి మోడల్ దానికి ప్రత్యేకంగా రూపొందించిన దాడులకు లోనవుతుందని Anthropic వాదించింది. Fable 5 కోసం తన వ్యూహం jailbreakలను సంకుచితంగా లేదా ఉత్పత్తి చేయడానికి ఖరీదైనవిగా చేయడం, విజయవంతమైన ప్రయత్నాలను గుర్తించి ఆపడానికి మానిటరింగ్‌పై ఆధారపడటం అని తెలిపింది.

ఈ framing ప్రకారం, కంపెనీ ఈ సమస్యను ప్రత్యేకంగా ప్రమాదకరమైన వైఫల్యానికి ఆధారంగా కాకుండా, layered defenses ద్వారా నిర్వహించాల్సిన తెలిసిన భద్రతా సమస్యగా చూస్తోంది. అయినప్పటికీ, తక్షణ ప్రాయోగిక ఫలితం ప్రభావిత మోడళ్లకు పూర్తి యాక్సెస్ నిలిపివేయడమే.

Fable 5 మరియు Mythos 5 ఎందుకు ముఖ్యమైనవి

Anthropic జూన్ 9న మాత్రమే Fableను ప్రారంభించినందున ఈ ఆదేశం ఒక సున్నిత సమయంలో వచ్చింది. Fableను Mythos సామర్థ్యాలలో చాలావాటిని విస్తృత ప్రజా ప్రేక్షకులకు తీసుకురావడానికి ఒక మార్గంగా కంపెనీ నిలిపింది. దీనికి విరుద్ధంగా, Mythosను Project Glasswing భాగస్వాములకు మాత్రమే కేటాయించి, Anthropic యొక్క state-of-the-art cybersecurity modelగా వివరించింది.

Fable సామర్థ్యాలు తాము విడుదల చేసిన ఏ గత మోడల్‌కన్నా ఎక్కువని Anthropic కూడా తెలిపింది. Engadget పేర్కొన్న కంపెనీ పరీక్షల్లో, Fable Pokemon FireRedను ఓడించింది, అయితే Claude ముందు Pokemon Redను ఓడించలేకపోయింది. పైకి చూస్తే ఆ పోలిక సరదాగా అనిపించినా, Fable సామర్థ్యంలో గణనీయమైన మెరుగుదలని సూచించేదిగా దాన్ని ప్రదర్శించారు.

అంటే, ఇది సాధారణ ఉత్పత్తి అప్‌డేట్ కాదు. ఇది Anthropic యొక్క అత్యంత అభివృద్ధి చెందిన పనితో అనుసంధానమైన తాజా flagship-స్థాయి విడుదల. ప్రారంభించిన వెంటనే ఇంత త్వరగా దాన్ని వెనక్కి తీసుకోవడం, భద్రతా సమీక్షకే కాదు, frontier systems కొత్త ప్రమాదాలను సృష్టిస్తున్నట్టు భావించినప్పుడు ప్రభుత్వాలు ఎలా జోక్యం చేసుకోవచ్చన్న ప్రశ్నకూ దారితీస్తుంది.

AI పరిపాలనకు ఒక పరీక్షా సందర్భం

బలమైన పర్యవేక్షణ అవసరం గురించి హెచ్చరిస్తూ ఎక్కువగా మాట్లాడిన పెద్ద AI కంపెనీలలో Anthropic ఒకటి. ఆ ఆదేశానికి దాని స్పందన ఆ స్థితిని ప్రతిబింబిస్తుంది, కానీ ఒక ముఖ్యమైన మినహాయింపుతో. అసురక్షిత deploymentలను ఆపే అధికారం ప్రభుత్వానికి ఉండాలని తాము నమ్ముతామని, కానీ అది పారదర్శకమైన, న్యాయమైన, స్పష్టమైన, సాంకేతిక వాస్తవాలపై ఆధారపడిన చట్టబద్ధ ప్రక్రియ ద్వారా మాత్రమే జరగాలని కంపెనీ తెలిపింది.

Anthropic ఒకవైపు ఆదేశాన్ని పాటిస్తూనే, మరోవైపు దాన్ని అమలు చేసిన విధానాన్ని సవాలు చేస్తోంది కాబట్టి ఇది ఒక గమనించదగిన ప్రజా స్థానం. మూల పాఠ్యాన్ని ఆధారంగా తీసుకుంటే, కంపెనీ అభ్యంతరం పర్యవేక్షణ ఆలోచనపై కాదు. అది, Anthropic చెప్పినట్లుగా, ఇలాంటి నిర్ణయాలను నియంత్రించాల్సిన స్పష్టమైన ప్రక్రియాత్మక రూపకల్పన లేకుండా, సంభావ్య jailbreakపై మౌఖిక ఆధారాలతో ప్రారంభమైన recall ప్రక్రియపై ఉంది.

కాబట్టి ఈ ఘటన ఒక కంపెనీ మరియు ఒక మోడల్ కుటుంబానికే పరిమితం కాదు. ఇది advanced AI వ్యవస్థల కోసం ఇంకా పరిష్కారం కాని విధాన ప్రశ్నను వెలుగులోకి తెస్తుంది: ఎప్పుడు ఒక నివేదిత exploit అత్యవసర జోక్యాన్ని సమర్థిస్తుంది, మరియు ప్రభుత్వాలు shutdownను బలవంతంగా చేయడానికి ముందు ఏ స్థాయి ఆధారాన్ని కోరాలి?

తరువాత ఏమిటి

ఇప్పటికి, Anthropic కస్టమర్లకు ఒక పరిమితమైన కానీ ముఖ్యమైన అంతరాయం ఉంది. Fable 5 మరియు Mythos 5 అందుబాటులో లేవు, కానీ ఇతర మోడళ్లు మరియు Claude ప్రభావితమవలేదు. ఇది ఆపరేషనల్ ప్రభావాన్ని పరిమితం చేస్తుంది, అయినప్పటికీ దీనికి పెద్ద సంకేతాత్మక ప్రాముఖ్యత ఉంది. ఒక ప్రభుత్వ ఆదేశం తాజాగా ప్రారంభించిన frontier మోడల్ deploymentలోకి నేరుగా ప్రవేశించింది, మరియు ఒక ప్రధాన AI డెవలపర్ దాదాపు వెంటనే యాక్సెస్‌ను వెనక్కి తీసుకోవాల్సి వచ్చింది.

అందుబాటులో ఉన్న నివేదికల ప్రకారం కొన్ని తెలియని అంశాలు మిగిలి ఉన్నాయి:

• అధికారులు ఏ నిర్దిష్ట జాతీయ భద్రతా ఆందోళనను గుర్తించారు.
• కథిత jailbreak వాస్తవానికి ఎంత విస్తృతంగా పనిచేసింది.
• నిలిపివేత తాత్కాలికమా లేదా దీర్ఘ rollbackగా మారుతుందా.
• Exploit మరియు దాని భద్రతా చర్యల గురించి Anthropic భవిష్యత్తులో ఏమి వెల్లడిస్తుంది.

ఈ వివరాలు ఇది ఒక జాగ్రత్త చర్యగా గుర్తుండిపోతుందా లేదా వాణిజ్య AI విడుదలలపై ప్రత్యక్ష రాష్ట్ర జోక్యానికి ప్రారంభ నమూనాగా గుర్తుండిపోతుందా అనేది నిర్ణయిస్తాయి. ఏదేమైనా, పరిశ్రమకు సందేశం ఇప్పటికే స్పష్టంగా ఉంది: frontier మోడల్ విడుదలలు ఇకపై కేవలం సాంకేతిక సిద్ధత మరియు మార్కెట్ టైమింగ్ మీద మాత్రమే ఆధారపడవు. వాటిని జాతీయ భద్రతా అధికారులు నిజ సమయంలో కూడా అడ్డగించగలరు.

అది AI deployment యొక్క కేంద్రాన్ని మార్చుతుంది. ప్రొవైడర్లు ఇంకా పనితీరు మరియు భద్రతపై పోటీ పడవచ్చు, కానీ వారు ఇప్పుడు పనిచేస్తున్న వాతావరణంలో ఒక నివేదిత బలహీనత అంతర్గత mitigation మాత్రమే కాకుండా, బాహ్య enforcementను కూడా ప్రేరేపించగలదు. Fable 5 మరియు Mythos 5ను Anthropic నిలిపివేయడం, AI పోటీ యొక్క తదుపరి దశ మోడల్ సామర్థ్యంతో పాటు పరిపాలనా వ్యవస్థలచేత కూడా రూపుదిద్దుకుంటుందనే ప్రారంభ సంకేతం.

ఈ వ్యాసం Engadget నివేదికల ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.