Anthropic ने अमेरिकी आदेश के बाद Fable 5 और Mythos 5 निलंबित किए

सरकारी आदेश के बाद Anthropic ने दो नए AI मॉडल ऑफ़लाइन किए

Engadget द्वारा उद्धृत कंपनी की सार्वजनिक व्याख्या के अनुसार, Anthropic ने शुक्रवार, 12 जून को एक अमेरिकी सरकारी आदेश मिलने के बाद अपने हाल ही में लॉन्च किए गए Fable 5 और Mythos 5 मॉडल्स तक ग्राहक पहुंच निलंबित कर दी है। इस कदम का असर उन दोनों मॉडल्स के सभी ग्राहकों पर पड़ता है, जबकि Anthropic की बाकी मॉडल श्रृंखला और उसका Claude चैटबॉट उपलब्ध बने हुए हैं।

कंपनी ने कहा कि निर्देश के तहत विदेशी नागरिकों के लिए पहुंच रोकनी थी, चाहे वे संयुक्त राज्य के भीतर हों या बाहर, और यहां तक कि यदि वे Anthropic में काम करते हों तब भी। Anthropic ने इस हस्तक्षेप को राष्ट्रीय सुरक्षा चिंताओं से जोड़ा, हालांकि उसने यह भी कहा कि सरकार ने उन चिंताओं को विस्तार से स्पष्ट नहीं किया।

इससे तेज़ी से बदलते AI बाज़ार में एक असामान्य और महत्वपूर्ण घटनाक्रम सामने आता है: एक प्रमुख व्यावसायिक मॉडल लॉन्च, जो कुछ ही दिनों में राष्ट्रीय सुरक्षा आदेश से बाधित हो गया, और कंपनी ने इसका पालन करते हुए भी रिकॉल के आधार से असहमति का संकेत दिया।

Anthropic के अनुसार कार्रवाई क्यों हुई

Anthropic का कहना है कि उसका मानना है कि सरकार ने Fable 5 को jailbreak करने की एक विधि के बारे में सुनने के बाद यह कदम उठाया। कंपनी के अनुसार, अधिकारियों ने एक अनाम इकाई द्वारा साझा किए गए एक संभावित सीमित, गैर-वैश्विक jailbreak के बारे में मौखिक साक्ष्य दिए। Anthropic ने कहा कि वह 24 घंटों के भीतर और विवरण देगा।

यह अंतर महत्वपूर्ण है। Anthropic ने तर्क दिया कि कोई भी मॉडल प्रदाता jailbreak प्रयासों के खिलाफ पूर्ण प्रतिरोध की गारंटी नहीं दे सकता, और सभी मॉडल विशेष रूप से उनके लिए तैयार किए गए हमलों के प्रति संवेदनशील होते हैं। Fable 5 के लिए उसकी घोषित रणनीति यह थी कि jailbreaks को या तो सीमित रखा जाए या उन्हें तैयार करना महंगा बनाया जाए, और सफल प्रयासों का पता लगाने तथा उन्हें बंद करने के लिए निगरानी पर भरोसा किया जाए।

यह व्याख्या दर्शाती है कि कंपनी इस मुद्दे को किसी विशिष्ट रूप से खतरनाक विफलता के प्रमाण के रूप में कम, और एक ज्ञात सुरक्षा समस्या के रूप में अधिक देखती है, जिसे बहुस्तरीय बचाव के जरिए प्रबंधित करना होता है। इसके बावजूद, तत्काल व्यावहारिक परिणाम प्रभावित मॉडल्स तक पहुंच का पूर्ण निलंबन था।

Fable 5 और Mythos 5 क्यों महत्वपूर्ण हैं

यह आदेश एक संवेदनशील समय पर आया, क्योंकि Anthropic ने Fable को सिर्फ 9 जून को लॉन्च किया था। कंपनी ने Fable को Mythos की कई क्षमताएं व्यापक सार्वजनिक दर्शकों तक लाने का तरीका बताया था। इसके विपरीत, Mythos को Project Glasswing भागीदारों तक सीमित रखा गया था और इसे Anthropic का अत्याधुनिक साइबरसुरक्षा मॉडल कहा गया था।

Anthropic ने यह भी कहा कि Fable की क्षमताएं उसके द्वारा जारी किए गए किसी भी पिछले मॉडल से बेहतर हैं। Engadget द्वारा संदर्भित कंपनी परीक्षण में Fable ने Pokemon FireRed को हराया, जबकि Claude पहले Pokemon Red को नहीं हरा पाया था। सतही तौर पर यह तुलना हल्की-फुल्की लग सकती है, लेकिन इसे क्षमता में उल्लेखनीय बढ़त के प्रमाण के रूप में पेश किया गया था।

दूसरे शब्दों में, यह कोई मामूली उत्पाद अपडेट नहीं था। यह Anthropic के सबसे उन्नत काम से जुड़ा एक नया, फ्लैगशिप-स्तर का रिलीज़ था। लॉन्च के इतने तुरंत बाद इसे वापस लेना न केवल सुरक्षा समीक्षा, बल्कि इस सवाल को भी उठाता है कि जब अग्रणी प्रणालियों को नए जोखिम पैदा करने वाला माना जाता है, तब सरकारें कैसे हस्तक्षेप कर सकती हैं।

AI शासन के लिए एक परीक्षण मामला

Anthropic उन बड़े AI कंपनियों में से एक रही है जो मजबूत निगरानी की आवश्यकता को लेकर सबसे मुखर रही हैं। आदेश पर उसकी प्रतिक्रिया इसी रुख को दर्शाती है, लेकिन एक महत्वपूर्ण शर्त के साथ। कंपनी ने कहा कि उसका मानना है कि सरकार को असुरक्षित तैनातियों को रोकने की शक्ति होनी चाहिए, लेकिन केवल एक वैधानिक प्रक्रिया के माध्यम से जो पारदर्शी, निष्पक्ष, स्पष्ट और तकनीकी तथ्यों पर आधारित हो।

यह एक उल्लेखनीय सार्वजनिक रुख है, क्योंकि Anthropic एक साथ आदेश का पालन भी कर रही है और इसे लागू करने के तरीके को चुनौती भी दे रही है। स्रोत पाठ के आधार पर, कंपनी की आपत्ति निगरानी के विचार से नहीं है। उसकी आपत्ति एक संभावित jailbreak के मौखिक साक्ष्य से शुरू हुए रिकॉल प्रक्रिया पर है, बिना उस तरह के स्पष्ट प्रक्रियात्मक ढांचे के, जिसे Anthropic ऐसे निर्णयों का आधार मानती है।

इसलिए यह घटना एक कंपनी और एक मॉडल परिवार से आगे जाती है। यह उन्नत AI प्रणालियों के लिए एक अनसुलझा नीतिगत प्रश्न सामने लाती है: किसी रिपोर्ट किए गए exploit को आपातकालीन हस्तक्षेप का औचित्य कब माना जाए, और सरकारों को shutdown लागू करने से पहले किस स्तर के साक्ष्य की आवश्यकता होनी चाहिए?

आगे क्या

फिलहाल, Anthropic के ग्राहकों के लिए यह एक सीमित लेकिन महत्वपूर्ण व्यवधान है। Fable 5 और Mythos 5 अनुपलब्ध हैं, लेकिन अन्य मॉडल और Claude प्रभावित नहीं हुए हैं। इससे परिचालन असर सीमित रहता है, लेकिन प्रतीकात्मक महत्व बड़ा है। एक सरकारी आदेश ने सीधे एक नए लॉन्च किए गए frontier model की तैनाती में हस्तक्षेप किया है, और एक अग्रणी AI डेवलपर को लगभग तुरंत पहुंच वापस लेनी पड़ी है।

उपलब्ध रिपोर्टिंग के आधार पर कुछ अनिश्चितताएं बनी हुई हैं:

• अधिकारियों ने कौन-सी विशिष्ट राष्ट्रीय सुरक्षा चिंता पहचानी।
• कथित jailbreak व्यवहार में कितनी व्यापक रूप से काम करता था।
• क्या निलंबन अस्थायी है या लंबी rollback कार्रवाई में बदल सकता है।
• exploit और उसके safeguards के बारे में Anthropic आगे क्या खुलासा करेगा।

ये विवरण तय करेंगे कि इसे एक एहतियाती विराम के रूप में याद किया जाएगा या वाणिज्यिक AI रिलीज़ में सीधे राज्य हस्तक्षेप के शुरुआती खाके के रूप में। किसी भी स्थिति में, उद्योग के लिए संदेश पहले से स्पष्ट है: frontier model लॉन्च अब केवल तकनीकी तैयारी और बाज़ार समय-निर्धारण से संचालित नहीं होते। उन्हें राष्ट्रीय सुरक्षा प्राधिकरण भी वास्तविक समय में बाधित कर सकते हैं।

यह AI तैनाती के केंद्र को बदल देता है। प्रदाता अब भी प्रदर्शन और सुरक्षा के आधार पर प्रतिस्पर्धा कर सकते हैं, लेकिन वे ऐसे वातावरण में काम कर रहे हैं जहां एक रिपोर्ट किया गया vulnerability न केवल आंतरिक mitigation, बल्कि बाहरी प्रवर्तन को भी ट्रिगर कर सकता है। Fable 5 और Mythos 5 का Anthropic द्वारा निलंबन इस बात का शुरुआती संकेत है कि AI प्रतिस्पर्धा का अगला चरण मॉडल क्षमता जितना ही governance mechanisms से भी आकार लेगा।

यह लेख Engadget की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.