Anthropic ने US आदेशानंतर Fable 5 आणि Mythos 5 निलंबित केले

सरकारी आदेशानंतर Anthropic ने दोन नवे AI मॉडेल्स ऑफलाइन केली

Engadget ने उद्धृत केलेल्या कंपनीच्या सार्वजनिक स्पष्टीकरणानुसार, शुक्रवार, १२ जून रोजी अमेरिकन सरकारी आदेश मिळाल्यानंतर Anthropic ने आपल्या नव्याने लाँच केलेल्या Fable 5 आणि Mythos 5 मॉडेल्सवरील ग्राहक प्रवेश निलंबित केला आहे. या निर्णयाचा परिणाम त्या दोन्ही मॉडेल्सच्या सर्व ग्राहकांवर होतो, तर Anthropic ची उर्वरित मॉडेल रचना आणि त्याचा Claude chatbot उपलब्धच आहे.

कंपनीने सांगितले की या निर्देशानुसार परदेशी नागरिकांसाठी प्रवेश थांबवणे आवश्यक होते, ते अमेरिकेत असोत किंवा बाहेर, आणि अगदी त्यांनी Anthropic मध्ये काम केले तरीही. Anthropic ने या हस्तक्षेपाला राष्ट्रीय सुरक्षा चिंतांशी जोडले, मात्र सरकारने त्या चिंता तपशीलवार स्पष्ट केल्या नाहीत असेही म्हटले.

यामुळे वेगाने बदलणाऱ्या AI बाजारात एक असामान्य आणि महत्त्वाचा विकास समोर येतो: एका मोठ्या व्यावसायिक मॉडेल लाँचला काही दिवसांतच राष्ट्रीय सुरक्षा आदेशाने खंडित होणे, आणि कंपनी आदेशाचे पालन करत असतानाच परताव्याच्या आधाराशी असहमतीचे संकेत देणे.

Anthropic ने कारवाईमागचे कारण काय सांगितले

Fable 5 jailbreak करण्याच्या एका पद्धतीबद्दल ऐकल्यानंतर सरकारने ही कारवाई केली असे Anthropic ला वाटते, असे कंपनीने सांगितले. कंपनीच्या मते, अधिकाऱ्यांनी एका अज्ञात घटकाने शेअर केलेल्या संभाव्य अरुंद, non-universal jailbreak बद्दल तोंडी पुरावा दिला. Anthropic ने सांगितले की ती २४ तासांत अधिक तपशील देईल.

हा फरक महत्त्वाचा आहे. कोणताही model provider jailbreak प्रयत्नांविरुद्ध परिपूर्ण प्रतिकाराची हमी देऊ शकत नाही, आणि प्रत्येक model त्याच्यासाठी खास डिझाइन केलेल्या हल्ल्यांसाठी असुरक्षित असतो, असा Anthropic चा युक्तिवाद आहे. Fable 5 साठी त्यांची रणनीती jailbreak ना तर अरुंद ठेवणे, किंवा त्यांना तयार करणे महाग करणे, आणि यशस्वी प्रयत्न शोधण्यासाठी व बंद करण्यासाठी monitoring वर अवलंबून राहणे अशी होती.

या मांडणीतून कंपनीला ही समस्या विशेषतः धोकादायक अपयशाचा पुरावा कमी आणि स्तरित संरक्षणांद्वारे हाताळावा लागणारा परिचित सुरक्षा प्रश्न अधिक वाटतो. तरीही, तातडीचा प्रत्यक्ष परिणाम म्हणजे प्रभावित मॉडेल्सवरील प्रवेश पूर्णपणे निलंबित झाला.

Fable 5 आणि Mythos 5 का महत्त्वाचे आहेत

हा आदेश संवेदनशील क्षणी आला, कारण Anthropic ने Fable फक्त ९ जून रोजीच लाँच केले होते. कंपनीने Fable ला Mythos मधील अनेक क्षमता व्यापक सार्वजनिक प्रेक्षकांपर्यंत नेण्याचा मार्ग म्हणून मांडले होते. त्याउलट, Mythos Project Glasswing भागीदारांसाठी राखीव होते आणि Anthropic चे state-of-the-art cybersecurity model म्हणून वर्णन केले गेले होते.

Anthropic ने असेही सांगितले की Fable ची क्षमता त्यांनी जारी केलेल्या कोणत्याही आधीच्या मॉडेलपेक्षा जास्त आहे. Engadget ने संदर्भित केलेल्या कंपनी चाचण्यांमध्ये, Fable ने Pokemon FireRed हरवले, तर Claude पूर्वी Pokemon Red हरवू शकला नव्हता. वरवर ही तुलना हलकीफुलकी वाटते, पण Fable ने क्षमतेत लक्षणीय उडी घेतली आहे, याचा पुरावा म्हणून ती सादर करण्यात आली.

म्हणजेच, हा किरकोळ उत्पादन अद्यतन नव्हता. हा Anthropic च्या काही सर्वात प्रगत कामाशी जोडलेला नवा flagship-स्तरीय release होता. लाँचनंतर इतक्या लवकर ते मागे घेणे केवळ सुरक्षा पुनरावलोकनावरच नाही, तर frontier systems नव्या जोखमी निर्माण करत आहेत असे मानले गेल्यावर सरकारे कशी हस्तक्षेप करू शकतात यावरही प्रश्न उपस्थित करते.

AI governance साठी एक test case

Anthropic ही मजबूत oversight ची गरज सांगणाऱ्या मोठ्या AI कंपन्यांपैकी एक आहे. या आदेशाला दिलेली तिची प्रतिक्रिया त्या भूमिकेचे प्रतिबिंब आहे, मात्र एका महत्त्वाच्या अटीसह. असुरक्षित deployment थांबवण्याचा अधिकार सरकारकडे असावा, पण तो फक्त पारदर्शक, न्याय्य, स्पष्ट आणि तांत्रिक तथ्यांवर आधारित statutory process द्वारेच वापरला जावा, असे कंपनीने म्हटले.

हे सार्वजनिक विधान उल्लेखनीय आहे, कारण Anthropic एकाच वेळी आदेशाचे पालनही करत आहे आणि तो कसा राबवला गेला यालाही आव्हान देत आहे. source text वर आधारित पाहता, कंपनीचा आक्षेप oversight च्या कल्पनेवर नाही. आक्षेप आहे recall process वर, जो संभाव्य jailbreak बद्दलच्या तोंडी पुराव्यामुळे सुरू झाला, आणि अशा निर्णयांना नियंत्रित करणाऱ्या स्पष्ट procedural framework शिवाय झाला, असे Anthropic म्हणते.

म्हणूनच ही घटना एका कंपनीपुरती किंवा एका model family पुरती मर्यादित नाही. ती advanced AI systems साठी अद्याप सुटलेला policy प्रश्न उघड करते: केव्हा एखादा reported exploit emergency intervention योग्य ठरवतो, आणि सरकारांना shutdown लावण्यापूर्वी पुराव्याचा कोणता दर्जा आवश्यक असावा?

पुढे काय

सध्या Anthropic च्या ग्राहकांसाठी हा एक मर्यादित पण महत्त्वाचा व्यत्यय आहे. Fable 5 आणि Mythos 5 उपलब्ध नाहीत, पण इतर मॉडेल्स आणि Claude प्रभावित झालेले नाहीत. यामुळे operational blast radius मर्यादित राहतो, तरी प्रतीकात्मक अर्थ मोठा आहे. एका सरकारी आदेशाने थेट नव्याने लाँच झालेल्या frontier मॉडेलच्या deployment मध्ये प्रवेश केला आहे, आणि अग्रगण्य AI विकसकाला जवळजवळ तत्काळ access मागे घ्यावा लागला आहे.

उपलब्ध रिपोर्टिंगवरून काही अनिश्चितता कायम आहे:

• अधिकाऱ्यांनी कोणती विशिष्ट राष्ट्रीय सुरक्षा चिंता ओळखली.
• कथित jailbreak प्रत्यक्षात किती व्यापक प्रमाणात काम करत होता.
• निलंबन तात्पुरते आहे की दीर्घ rollback मध्ये बदलू शकते.
• Exploit आणि त्याच्या safeguards बद्दल Anthropic पुढे काय उघड करेल.

हे तपशील ठरवतील की ही घटना एक सावधगिरीची थांबा म्हणून लक्षात ठेवली जाईल की व्यावसायिक AI releases मध्ये थेट राज्य हस्तक्षेपाचा सुरुवातीचा आराखडा म्हणून. कुठल्याही परिस्थितीत, उद्योगासाठी संदेश आता स्पष्ट आहे: frontier model launches आता केवळ तांत्रिक तयारी आणि बाजारातील वेळ यांवर चालत नाहीत. राष्ट्रीय सुरक्षा प्राधिकरणे त्यांना प्रत्यक्ष वेळेतही थांबवू शकतात.

यामुळे AI deployment चा केंद्रबिंदू बदलतो. providers अजूनही performance आणि safety वर स्पर्धा करू शकतात, पण ते आता अशा वातावरणात कार्य करत आहेत जिथे reported vulnerability मुळे केवळ internal mitigation नव्हे, तर external enforcementही सुरू होऊ शकते. Fable 5 आणि Mythos 5 चे Anthropic ने केलेले निलंबन हे AI स्पर्धेच्या पुढच्या टप्प्यात model capability इतक्याच governance mechanisms चा प्रभाव असेल, याचे सुरुवातीचे लक्षण आहे.

हा लेख Engadget च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.