US आदेश के बाद Anthropic ने उन्नत मॉडल बंद करने का फैसला किया

Anthropic का कहना है कि एक US आदेश अचानक मॉडल शटडाउन के लिए मजबूर कर रहा है

Anthropic ने कहा कि वह अपने सबसे उन्नत AI मॉडलों को निष्क्रिय कर देगा, क्योंकि US सरकार ने कंपनी को विदेशी नागरिकों के लिए पहुँच निलंबित करने का आदेश दिया है, जैसा कि दिए गए रिपोर्ट में बताया गया है। यह कार्रवाई कंपनी के Fable 5 और Mythos 5 मॉडलों को प्रभावित करती है और Anthropic ने इसे राष्ट्रीय सुरक्षा चिंताओं से जुड़ा एक तत्काल अनुपालन कदम बताया।

यह विकास AI नियंत्रणों के प्रति सरकार के रवैये में एक तेज़ बढ़ोतरी को दर्शाता है। वर्षों से US प्रतिबंध मुख्यतः चिप्स, सेमीकंडक्टर उपकरणों और उन्नत AI बनाने के लिए आवश्यक अन्य अवसंरचना पर केंद्रित रहे हैं। स्रोत में वर्णित यह आदेश नियंत्रण की रेखा को मॉडल्स के और करीब ले आता है, क्योंकि यह अब इस बात को सीमित करता है कि उन्हें कौन देख सकता है।

Anthropic के अनुसार उसे क्या बताया गया

स्रोत पाठ के अनुसार, Anthropic ने कहा कि उसे एक export control directive मिला, जिसमें Fable 5 और Mythos 5 की पहुँच सभी foreign nationals के लिए निलंबित करने का आदेश दिया गया था। कंपनी ने कहा कि उसे आदेश के पीछे की राष्ट्रीय सुरक्षा चिंता के बारे में कोई विशिष्ट विवरण नहीं दिया गया।

Anthropic का कहना है कि वह समझता है कि सरकार का मानना है कि कम से कम एक सुरक्षा तंत्र को बायपास या “jailbreak” करने का तरीका हो सकता है, जो Fable 5 को software vulnerabilities की पहचान में इस्तेमाल होने से रोकने के लिए बनाया गया था। दूसरे शब्दों में, चिंता यह प्रतीत होती है कि मजबूत क्षमताओं वाला एक मॉडल उपयोगकर्ताओं को software systems में exploitable weaknesses खोजने में मदद करने के लिए हेरफेर किया जा सकता है।

कंपनी ने इस तर्क का विरोध किया। दिए गए रिपोर्ट में, Anthropic ने कहा कि उसे केवल verbal evidence दिया गया था, जिसे उसने Fable 5 के खिलाफ एक संभावित संकीर्ण, गैर-व्यापक jailbreak बताया। उसका तर्क था कि ऐसा निष्कर्ष उस commercial model को recall करने का आधार नहीं होना चाहिए, जिसका उपयोग बहुत बड़ी संख्या में लोग करते हैं।

AI export policy में एक नया मोर्चा

यह विवाद इसलिए महत्वपूर्ण है क्योंकि यह AI regulation की एक नई सीमा का संकेत देता है। Export controls पारंपरिक रूप से भौतिक और तकनीकी supply chain पर केंद्रित रहे हैं: उन्नत चिप्स, lithography equipment और संबंधित उपकरण। AI services तक पहुँच को सीमित करना एक अलग और संभावित रूप से अधिक विघटनकारी तंत्र है, खासकर जब cloud access hardware भेजे बिना मॉडल्स को वैश्विक स्तर पर इस्तेमाल करने देता है।

यदि frontier models तक पहुँच को nationality के आधार पर सीमित किया जा सकता है, तो AI कंपनियों पर रक्षा और dual-use उद्योगों में पहले से आम export-screening व्यवस्थाओं जैसा नया compliance बोझ आ सकता है। स्रोत यह नहीं बताता कि Anthropic प्रभावित उपयोगकर्ताओं को तकनीकी रूप से कैसे अलग करेगा, लेकिन उसके बयान से पता चलता है कि कंपनी ने अनिश्चितता के बीच संकीर्ण rollout के बजाय व्यापक shutdown दृष्टिकोण चुना।

Anthropic और Washington के बीच तनाव

यह आदेश Anthropic और US सरकार के पहले से तनावपूर्ण संबंधों के बीच आया है। स्रोत के अनुसार, इस साल की शुरुआत में संबंध तब बिगड़े जब Anthropic ने US military को अपने AI models का घरेलू surveillance और पूरी तरह autonomous weapons systems के लिए उपयोग करने की अनुमति देने से इनकार कर दिया। जवाब में, सरकार ने कंपनी को supply chain blacklist पर डाल दिया, जो साल के बाद में प्रभावी होने वाली थी।

यह पृष्ठभूमि मायने रखती है क्योंकि यह इस नवीनतम आदेश को किसी अलग तकनीकी असहमति से अधिक बनाती है। यह इस बड़े संघर्ष के बीच आता है कि AI कंपनियों को राज्य शक्ति के साथ कितनी भागीदारी करनी चाहिए, defense use की स्वीकार्य सीमाएँ कहाँ होनी चाहिए, और सरकारों को privately developed models पर कितना प्रभाव रखना चाहिए।

रिपोर्ट यह भी बताती है कि Anthropic और Trump administration के अधिकारियों के बीच हाल ही में नरमी के संकेत उभरे थे। नया आदेश उस धारणा के विपरीत जाता है और बताता है कि मूल विवाद अभी भी सुलझा नहीं है।

Jailbreak सवाल क्यों महत्वपूर्ण है

Anthropic ने इस मुद्दे को jailbreak जोखिम का मूल्यांकन कैसे किया जाए, इस पर विवाद के रूप में पेश किया। दिए गए विवरण में, कंपनी ने कुछ दिन पहले ही बेहतर US oversight की मांग की थी, जिसमें अस्वीकार्य जोखिम वाले models को रोकने की क्षमता भी शामिल थी। लेकिन उसका कहना था कि शुक्रवार की कार्रवाई उसके विचार में किसी सिद्धांत-आधारित या साक्ष्य-आधारित प्रक्रिया का पालन नहीं करती थी।

यह अंतर केंद्रीय है। AI कंपनियाँ लगातार यह स्वीकार कर रही हैं कि किसी न किसी स्तर की निगरानी अनिवार्य है, और कुछ तो इसका समर्थन भी करती हैं। कठिन प्रश्न यह है कि किस सीमा पर हस्तक्षेप होना चाहिए। यदि एक संकीर्ण सुरक्षा-प्रणाली बायपास ही किसी प्रमुख commercial model की अंतरराष्ट्रीय पहुँच रोकने के लिए पर्याप्त है, तो कंपनियाँ तर्क दे सकती हैं कि लगभग कोई भी उन्नत प्रणाली अचानक प्रतिबंधों के लिए संवेदनशील हो सकती है। दूसरी ओर, नियामक इसे जल्दी कदम उठाने का कारण मान सकते हैं।

पूरे उद्योग के लिए संकेत

रिपोर्ट किया गया आदेश हर frontier AI developer द्वारा बारीकी से देखा जाएगा। अधिक तकनीकी विवरण के बिना भी, यह दिखाता है कि US authorities राष्ट्रीय सुरक्षा के शामिल होने पर model access पर सीधे कार्रवाई करने के लिए तैयार हो सकती हैं। इससे एक ही platform के ज़रिये वैश्विक उपयोगकर्ताओं को सेवा देने वाले प्रदाताओं के लिए नई अनिश्चितता पैदा होती है।

Anthropic के लिए तत्काल परिणाम operational और reputational disruption है। व्यापक उद्योग के लिए, यह घटना एक precedent बन सकती है। यदि सरकारें AI hardware को नियंत्रित करने से AI capabilities को service form में नियंत्रित करने की ओर बढ़ती हैं, तो कंपनियों को अधिक मजबूत screening, स्पष्ट deployment tiers और अधिक defensible safety arguments की ज़रूरत होगी। दिए गए रिपोर्ट से संकेत मिलता है कि यह परिवर्तन पहले से ही शुरू हो सकता है।

यह लेख The Guardian की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.