U.S. निर्देशानंतर Anthropic ने Fable 5 आणि Mythos 5 मागे घेतले

लाँचनंतर काही दिवसांतच Anthropic ने प्रवेश थांबवला

Anthropic ने आपली Fable 5 आणि Mythos 5 मॉडेल्स लाँच केल्यानंतर अवघ्या काही दिवसांत त्यांचा प्रवेश बंद केला, हा एक अचानक घेतलेला निर्णय आहे जो दाखवतो की frontier AI deployments किती वेगाने राष्ट्रीय सुरक्षेच्या चिंतांशी टक्कर देऊ शकतात. कंपनीच्या म्हणण्यानुसार, तात्काळ कारण म्हणजे शुक्रवारी संध्याकाळी मिळालेला U.S. Commerce Department चा निर्देश, ज्यामुळे नव्या मॉडेल्सवर export controls लागू झाले आणि अमेरिकेबाहेर त्यांचा वापर मर्यादित करण्यात आला.

सरकारी आदेशाचे जलद पालन सुनिश्चित करण्याचा हा एकमेव मार्ग असल्याने कंपनीने सर्व ग्राहकांसाठी दोन्ही मॉडेल्स निष्क्रिय केली, असे तिने सांगितले. Anthropic च्या इतर मॉडेल्सवर परिणाम झाला नाही. या पावलाची गती महत्त्वाची आहे: ही हळूहळू लागू होणारी प्रादेशिक मर्यादा किंवा तात्पुरती rate limit नव्हती, तर Anthropic कायदेशीर आणि तांत्रिक परिणामांवर काम करत असताना दोन सर्वात नवीन सिस्टम्सचे पूर्ण shutdown होते.

हस्तक्षेप का झाला

Ars Technica ने उद्धृत केलेल्या अहवालानुसार, प्रशासनातील अधिकाऱ्यांना अशा jailbreak च्या दाव्यांबद्दल चिंता होती, जो cyber, chemistry, आणि biology prompts वर broad classifier-based safeguards बायपास करू शकतो. त्या वर्णनानुसार, मॉडेल्स मोठ्या प्रमाणावर उपलब्ध राहण्यापूर्वी राष्ट्रीय सुरक्षा यंत्रणेला अशा धोक्याविरुद्ध अधिक सक्षम करण्यासाठी थांबा हवा होता.

Anthropic ने सार्वजनिकरीत्या या समस्येच्या तीव्रतेला विरोध केला. कंपनीने म्हटले की सरकारने संभाव्य narrow, non-universal jailbreak बद्दल तोंडी पुरावे दिले होते. Anthropic ने असेही सांगितले की त्यांनी पाहिलेल्या पुराव्यांवरून मॉडेल्सनी विशिष्ट codebase review परिस्थितीत तुलनेने किरकोळ आणि तुलनात्मकदृष्ट्या सोप्या software vulnerabilities ओळखल्या असल्याचे सूचित होत होते.

हा फरक महत्त्वाचा आहे. जर मूळ चिंता safety controls चा सर्वसाधारण बिघाड नसून एक narrow exploit path असेल, तर धोरणात्मक परिणाम खूप वेगळे असतील. मर्यादित jailbreak सूचित करते की मॉडेल patch करता येते, त्यावर लक्ष ठेवता येते, किंवा तात्पुरते मर्यादित करता येते. व्यापक अपयश आढळल्यास उद्योगव्यापी recall-style intervention साठी अधिक ठोस आधार मिळतो.

AI regulation साठी नवा दाबबिंदू

हा shutdown सरकारे advanced model releases कसे हाताळतील यातील मोठ्या बदलाच्या मधोमध आला आहे. Frontier AI labs ने मागील वर्षभरात कडक scrutiny साठी तयारी केली आहे, पण सार्वजनिक चर्चेत बहुतेक भर voluntary testing, disclosure, आणि post-release monitoring यावरच राहिला. हा प्रसंग अधिक कठोर पर्यायाकडे निर्देश करतो: launch नंतर perceived misuse risk किंवा safety gaps च्या आधारावर थेट सरकारी हस्तक्षेप.

Anthropic ने असा युक्तिवाद केला की संपूर्ण sector वर ही मर्यादा लागू केली तर नवीन frontier-model rollouts प्रत्यक्षात थांबू शकतात. ही तक्रार केवळ औपचारिक नाही. एक reported jailbreak, जरी तो narrow असला तरी, scale वर आधीच deployed केलेल्या मॉडेलला निष्क्रिय करण्याचे पुरेसे कारण बनले, तर प्रत्येक मोठ्या release ला त्वरित नियामकीय धोका निर्माण होऊ शकतो. तेव्हा labs ना हे गृहित धरावे लागेल की launch हा review चा शेवट नसून अधिक अनिश्चित oversight phase ची सुरुवात आहे.

एक स्पर्धात्मक पैलूही आहे. Anthropic च्या म्हणण्यानुसार, इतर publicly available systems मध्ये software vulnerability analysis सारखीच क्षमता आहे. ते खरे असल्यास, मुख्य प्रश्न असा बनतो की regulators विशिष्ट model, विशिष्ट exploit method, की बाजारात आधीपासून अस्तित्वात असलेल्या dual-use capabilities च्या विस्तृत वर्गावर प्रतिक्रिया देत आहेत. या एकाच समस्या नाहीत, आणि उत्तर भविष्यातील enforcement किती सुसंगत दिसेल हे ठरवेल.

Anthropic पलीकडे हा प्रसंग का महत्त्वाचा आहे

डेव्हलपर्स आणि enterprise खरेदीदारांसाठी, हा प्रसंग आठवण करून देतो की आघाडीच्या मॉडेल्सचा प्रवेश सामान्य product planning बाहेरील कारणांमुळे अचानक गायब होऊ शकतो. नवीन model family वर आधारित tools, workflows, किंवा internal systems तयार करणाऱ्या कंपन्यांना vendor selection मध्ये regulatory continuity सुद्धा लक्षात घ्यावी लागू शकते. एखाद्या model ची benchmark performance ही आता एकमेव risk variable राहिलेली नाही. Export status, deployment geography, आणि सरकारी निर्देशांना provider कसा प्रतिसाद देऊ शकतो, हेही तितकेच महत्त्वाचे ठरू शकते.

धोरणकर्त्यांसाठी, हा प्रकार अशा systems चे व्यवस्थापन किती कठीण आहे हे उघड करतो जे सामान्य coding आणि research context मध्ये उपयुक्त असतात, पण security risks म्हणूनही मांडले जाऊ शकतात. Frontier AI increasingly अनेक क्षमता एका model मध्ये एकत्र करत आहे. त्यामुळे सीमा आखणे कठीण होते: bugs साठी software review करणारे model defensive security work ला मदत करू शकते, पण त्याच function भोवतीच्या safeguards बायपास केल्या गेल्यास चिंता निर्माण होते.

पुढे काय घडते यामुळे एक precedent तयार होऊ शकतो. अहवालात उद्धृत प्रशासनिक स्रोतांनी सूचित केले की आवश्यक hardening काही आठवड्यांत पूर्ण होऊ शकते. लक्ष्यित fixes नंतर प्रवेश परत आला, तर हा प्रसंग आक्रमक पण तात्पुरत्या intervention म्हणून लक्षात राहू शकतो. जर credible jailbreak दिसताच नवीन releases थांबवण्याचा तो एक template बनला, तर Washington आणि उच्च-स्तरीय AI systems तयार करणाऱ्या कंपन्यांमधील संबंधांमध्ये हा फार मोठा बदल ठरेल.

हा लेख Ars Technica च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.