Anthropic ने अमेरिकी निर्देश के बाद Fable 5 और Mythos 5 वापस लिए

लॉन्च के कुछ दिनों बाद Anthropic ने पहुँच रोक दी

Anthropic ने लॉन्च के सिर्फ कुछ दिनों बाद अपने Fable 5 और Mythos 5 मॉडल्स की पहुँच बंद कर दी है, यह अचानक लिया गया फैसला दिखाता है कि frontier AI deployments कितनी तेजी से राष्ट्रीय-सुरक्षा चिंताओं से टकरा सकते हैं। कंपनी के अनुसार, इसका तात्कालिक कारण शुक्रवार शाम को मिला अमेरिकी Commerce Department का निर्देश था, जिसने नए मॉडलों पर export controls लागू किए और अमेरिका के बाहर उपयोग को सीमित कर दिया।

कंपनी ने कहा कि उसने सभी ग्राहकों के लिए दोनों मॉडल बंद कर दिए, क्योंकि सरकारी आदेश का तेजी से पालन सुनिश्चित करने का यही एकमात्र तरीका था। Anthropic के अन्य मॉडल इस कदम से प्रभावित नहीं हुए। इस कदम की गति महत्वपूर्ण है: यह किसी क्षेत्रीय प्रतिबंध या अस्थायी दर-सीमा का मामला नहीं था, बल्कि दो सबसे नए सिस्टमों का पूर्ण shutdown था, जबकि Anthropic कानूनी और तकनीकी प्रभावों को सुलझा रही थी।

हस्तक्षेप किस वजह से हुआ

Ars Technica द्वारा उद्धृत रिपोर्टिंग के अनुसार, प्रशासनिक अधिकारियों को इस दावे को लेकर चिंता थी कि एक jailbreak broad classifier-based safeguards को बायपास कर सकता है, खासकर cybersecurity, chemistry, और biology से जुड़े prompts पर। उस व्याख्या में, सरकार एक विराम चाहती थी ताकि national-security apparatus को उस तरह के खतरे के खिलाफ अधिक मज़बूत बनाया जा सके, इससे पहले कि मॉडल व्यापक रूप से उपलब्ध बने रहें।

Anthropic ने सार्वजनिक रूप से इस मुद्दे की गंभीरता पर सवाल उठाया। कंपनी ने कहा कि सरकार ने जिसे उसने संभावित सीमित, non-universal jailbreak बताया, उसके बारे में मौखिक सबूत दिए थे। Anthropic ने यह भी कहा कि उसने जो प्रमाण देखे, वे यह संकेत देते हैं कि मॉडल्स ने एक विशिष्ट codebase review परिदृश्य में अपेक्षाकृत मामूली और सरल software vulnerabilities की पहचान की थी।

यह अंतर महत्वपूर्ण है। यदि मूल चिंता एक सीमित exploit path है, न कि safety controls का व्यापक विफल होना, तो policy implications बहुत अलग होंगी। एक सीमित jailbreak से संकेत मिलता है कि मॉडल को patch, monitor, या अस्थायी रूप से constrain किया जा सकता है। एक व्यापक विफलता उद्योग-स्तर पर recall-style intervention के लिए कहीं मजबूत आधार देगी।

AI regulation पर नया दबाव-बिंदु

यह shutdown इस बड़े बदलाव के बीच हुआ है कि सरकारें advanced model releases को कैसे संभाल सकती हैं। Frontier AI labs पिछले एक साल से tighter scrutiny के लिए तैयारी कर रहे हैं, लेकिन सार्वजनिक चर्चा का अधिकांश हिस्सा voluntary testing, disclosure, और post-release monitoring पर केंद्रित रहा है। यह मामला एक अधिक सख्त विकल्प की ओर इशारा करता है: launch के बाद perceived misuse risk या safety gaps के आधार पर सीधा सरकारी हस्तक्षेप।

Anthropic ने तर्क दिया कि यदि इस threshold को पूरे sector पर लागू किया गया, तो नए frontier-model rollouts व्यावहारिक रूप से रुक सकते हैं। यह शिकायत केवल बयानबाज़ी नहीं है। अगर एक reported jailbreak, चाहे वह कितना भी सीमित क्यों न हो, पहले से व्यापक रूप से deployed मॉडल को disable करने का पर्याप्त कारण बन जाए, तो हर बड़े release को तत्काल regulatory exposure का सामना करना पड़ेगा। तब labs को मान लेना होगा कि launch अब review का अंत नहीं, बल्कि एक अधिक अनिश्चित oversight phase की शुरुआत है।

एक प्रतिस्पर्धात्मक आयाम भी है। Anthropic ने कहा कि अन्य सार्वजनिक रूप से उपलब्ध प्रणालियों में software vulnerability analysis जैसी समान क्षमताएँ हैं। यदि यह सही है, तो केंद्रीय प्रश्न यह बन जाता है कि regulators किसी विशिष्ट मॉडल, किसी विशिष्ट exploit method, या dual-use capabilities की किसी व्यापक श्रेणी पर प्रतिक्रिया दे रहे हैं जो पहले से बाज़ार में मौजूद हैं। ये एक जैसी समस्याएँ नहीं हैं, और उत्तर यह तय करेगा कि भविष्य में enforcement कितनी सुसंगत दिखेगी।

Anthropic से परे यह घटना क्यों मायने रखती है

डेवलपर्स और enterprise खरीदारों के लिए यह घटना याद दिलाती है कि प्रमुख मॉडलों की पहुँच ordinary product planning से बाहर के कारणों से भी गायब हो सकती है। जो कंपनियाँ नए मॉडल परिवार के ऊपर tools, workflows, या internal systems बना रही हैं, उन्हें अब vendor selection में regulatory continuity को भी शामिल करना पड़ सकता है। किसी मॉडल का benchmark प्रदर्शन अब एकमात्र जोखिम कारक नहीं है। export status, deployment geography, और सरकारी निर्देशों पर provider की प्रतिक्रिया देने की क्षमता भी उतनी ही महत्वपूर्ण हो सकती है।

नीति-निर्माताओं के लिए, यह मामला उन प्रणालियों को govern करने की कठिनाई को उजागर करता है जो सामान्य coding और research संदर्भों में उपयोगी हैं, लेकिन security risks के रूप में भी देखी जा सकती हैं। Frontier AI लगातार कई क्षमताओं को एक ही मॉडल में समेट रही है। इससे रेखाएँ खींचना कठिन हो जाता है: एक मॉडल जो bugs के लिए software समीक्षा करता है, defensive security work में मदद कर सकता है, लेकिन उसी कार्य से चिंता भी पैदा हो सकती है यदि उसके आसपास के safeguards को दरकिनार कर दिया जाए।

आगे क्या होता है, यह एक precedent तय कर सकता है। रिपोर्ट में उद्धृत प्रशासनिक स्रोतों ने सुझाव दिया कि आवश्यक hardening कुछ हफ्तों में पूरा किया जा सकता है। यदि targeted fixes के बाद पहुँच बहाल हो जाती है, तो यह घटना एक आक्रामक लेकिन अस्थायी हस्तक्षेप के रूप में याद की जा सकती है। यदि यह एक ऐसा template बन जाती है जिसमें credible jailbreak सामने आते ही नए releases रोक दिए जाएँ, तो यह Washington और शीर्ष-स्तरीय AI सिस्टम बनाने वाली कंपनियों के संबंध में कहीं अधिक महत्वपूर्ण बदलाव होगा।

यह लेख Ars Technica की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.