Anthropic के AI परीक्षण में कथित रूप से वर्गीकृत सिस्टमों की खामियां मिलीं

Anthropic की परीक्षण रिपोर्ट ने AI सुरक्षा बहस की तात्कालिकता बढ़ाई

Fast Company की एक नई रिपोर्ट, जिसमें एक अज्ञात अमेरिकी अधिकारी और सीनेट सुनवाई के दौरान की गई टिप्पणियों का हवाला दिया गया है, कहती है कि Anthropic के उन्नत AI मॉडलों में से एक ने परीक्षण अभ्यास के दौरान अत्यंत संवेदनशील अमेरिकी सरकारी कंप्यूटर प्रणालियों में कमजोरियां पहचानीं। यदि यह सही है, तो यह घटना इस बहस में एक महत्वपूर्ण क्षण होगी कि फ्रंटियर AI प्रणालियों का मूल्यांकन, नियंत्रण और राष्ट्रीय सुरक्षा संदर्भों में तैनाती कैसे की जानी चाहिए।

रिपोर्ट के अनुसार, Anthropic ने अमेरिकी खुफिया एजेंसियों के साथ मिलकर कंपनी के Mythos मॉडल से जुड़े एक परीक्षण में काम किया। अधिकारी ने कहा कि मॉडल ने कुछ कमजोरियां कुछ ही घंटों में खोज लीं। उसी स्रोत ने यह भी कहा कि कमजोरियां जल्दी खोज लेना यह नहीं दर्शाता कि मॉडल ने उसी समय उनका शोषण भी किया। यह अंतर महत्वपूर्ण है: किसी प्रणाली में प्रवेश का संभावित रास्ता पहचानना, घुसपैठ करने के समान नहीं है। फिर भी, यह दावा उल्लेखनीय है क्योंकि यह संकेत देता है कि उन्नत AI प्रणालियां सरकार के सबसे संवेदनशील डिजिटल वातावरणों में कुछ उच्च-गति कमजोरियों की खोज के लिए पहले से उपयोगी हो सकती हैं।

रिपोर्ट इस अभ्यास को Anthropic की एक पहल Project Glasswing से जोड़ती है, जिसे प्रमुख कंपनियों और अन्य संगठनों को एक साथ लाकर सार्वजनिक सुरक्षा, राष्ट्रीय सुरक्षा और अर्थव्यवस्था के लिए गंभीर जोखिमों के विरुद्ध महत्वपूर्ण सॉफ्टवेयर को सुरक्षित करने का प्रयास बताया गया है। यह परिप्रेक्ष्य परीक्षण को एक व्यापक संदर्भ में रखता है। AI कंपनियां और सरकारें अब साइबर सुरक्षा जोखिम को भविष्य की किसी काल्पनिक समस्या के रूप में नहीं देख रहीं। वे इस संभावना के इर्द-गिर्द प्रक्रियाएं बना रही हैं कि अत्यधिक सक्षम मॉडल खामियां खोजने में लगने वाले समय को कम कर सकते हैं, सिस्टम की कमजोरियों का नक्शा बना सकते हैं, और आक्रामक साइबर कार्य के कुछ हिस्सों को करने के लिए आवश्यक विशेषज्ञता घटा सकते हैं।

क्या पुष्टि हुई है, और क्या नहीं

इस कहानी में सबसे मजबूत सावधानी स्रोतों को लेकर है। केंद्रीय दावे एक अज्ञात अधिकारी से आते हैं, जो वर्गीकृत या अत्यंत संवेदनशील मामलों पर बोल रहा था। Fast Company यह भी रिपोर्ट करता है कि डेमोक्रेटिक सीनेटर मार्क वार्नर ने 11 जून को Senate Committee on Banking, Housing, and Urban Affairs के समक्ष सुनवाई के दौरान इस अभ्यास का उल्लेख किया, और कहा कि यह उपकरण लगभग सभी वर्गीकृत प्रणालियों में “हफ्तों में नहीं बल्कि घंटों में” घुस गया, तथा इस वर्णन को National Security Agency और U.S. Cyber Command के प्रमुख Gen. Joshua Rudd से जोड़ा।

लेकिन न तो NSA और न ही Anthropic ने रिपोर्ट में दिए गए विवरणों की सार्वजनिक पुष्टि की। लेख के अनुसार, NSA ने ईमेल द्वारा टिप्पणी करने से इनकार कर दिया, और Anthropic के एक प्रवक्ता ने भी टिप्पणी करने से इनकार किया। इससे सार्वजनिक रिकॉर्ड एक असामान्य स्थिति में है: चिंता के व्यापक अस्तित्व को सार्वजनिक सुनवाई के संदर्भ से समर्थन मिलता दिखता है, लेकिन बारीकियां अभी भी केवल आंशिक रूप से उजागर हैं। रिपोर्ट किए गए परिणामों को यह मान लेना जल्दबाजी होगी कि वर्गीकृत नेटवर्कों के भीतर वास्तव में क्या हुआ, इसका पूरा और स्थापित विवरण मिल गया है।

फिर भी, भले ही यह अधूरी तरह से स्रोतित रिपोर्ट हो, यह कहानी महत्वपूर्ण है क्योंकि यह मौजूदा व्यापक नीतिगत बदलाव से मेल खाती है। सरकारें तेजी से सबसे उन्नत AI मॉडलों को द्वि-उपयोग प्रणालियों के रूप में देख रही हैं। वे शोध, कोडिंग और विश्लेषण में मदद कर सकते हैं, लेकिन यदि वे बहुत अधिक सुलभ या बहुत कम परीक्षणित हों, तो साइबर आक्रमण, जैव-सुरक्षा जोखिम, दुष्प्रचार अभियानों और रणनीतिक अस्थिरता को भी बढ़ा सकते हैं।

समय का महत्व क्यों है

रिपोर्ट किया गया यह अभ्यास Anthropic और Trump प्रशासन के बीच स्पष्ट तनाव के दौर में सामने आया है। Fast Company के अनुसार, Anthropic ने इस बात पर चिंता जताई है कि अमेरिकी सेना अपने AI सिस्टमों का उपयोग कैसे करेगी, जबकि प्रशासन ने Anthropic के कुछ मॉडलों के उपयोग पर प्रतिबंध लगाया है। जून की शुरुआत में, प्रशासन ने एक निर्देश जारी किया जिसमें Anthropic को विदेशी नागरिकों को अपने नवीनतम मॉडल, Fable 5 और Mythos 5, का उपयोग करने से रोकने की आवश्यकता बताई गई। Anthropic ने अनुपालन के लिए सभी ग्राहकों के लिए इन मॉडलों को निष्क्रिय कर दिया, साथ ही कहा कि उसे नहीं लगता कि सरकार की कार्रवाई उसके द्वारा उठाई गई सुरक्षा समस्या के आधार पर उचित थी।

यह क्रम वर्तमान AI युग की एक परिभाषित विरोधाभास को उजागर करता है। सरकारें चाहती हैं कि फ्रंटियर लैब्स उन्हें रक्षा प्रणालियों का परीक्षण करने, कमजोरियां सामने लाने और महत्वपूर्ण अवसंरचना को मजबूत करने में मदद करें। साथ ही, वही सरकारें इन मॉडलों तक पहुंच सीमित करने के लिए अधिक इच्छुक हो रही हैं, इस चिंता के कारण कि इन्हें प्रतिद्वंद्वियों द्वारा इस्तेमाल किया जा सकता है या खतरनाक क्षमताएं फैल सकती हैं। परिणाम एक खींचतान भरा संबंध है, जिसमें AI कंपनियां एक साथ रणनीतिक साझेदार और विनियमित जोखिम-उत्पन्न करने वाले पक्ष दोनों हैं।

रिपोर्ट में उद्धृत White House कदम एक और परत जोड़ता है। Anthropic को दिए गए उस निर्देश से दस दिन पहले, President Donald Trump ने एक कार्यकारी आदेश पर हस्ताक्षर किए, जिसने संघीय सरकार के लिए सबसे उन्नत AI प्रणालियों से उत्पन्न राष्ट्रीय सुरक्षा जोखिमों की सार्वजनिक रिलीज़ से पहले एक महीने तक समीक्षा करने का ढांचा स्थापित किया, जिसमें डेवलपर्स की भागीदारी को स्वैच्छिक बताया गया। यह संकेत देता है कि Washington मॉडल लॉन्च के बाद सिर्फ प्रतिक्रिया तंत्र नहीं, बल्कि पहले से जांच व्यवस्था बनाने की कोशिश कर रहा है।

साइबर सुरक्षा फ्रंटियर मॉडल्स के लिए तनाव-परीक्षण बनती जा रही है

रिपोर्ट का गहरा महत्व केवल एक कंपनी या एक कथित परीक्षण परिणाम तक सीमित नहीं है। यह साइबर सुरक्षा को फ्रंटियर मॉडल क्षमता के सबसे स्पष्ट वास्तविक दुनिया के मानकों में से एक के रूप में रेखांकित करती है। ऐसा मॉडल जो कॉन्फ़िगरेशन का तेजी से विश्लेषण कर सके, संभावित कमजोर बिंदुओं की पहचान कर सके, और हमले की श्रृंखलाओं के माध्यम से तर्क कर सके, एक शक्तिशाली रक्षात्मक सहायक बन सकता है। वही क्षमताएं गलत उपयोग होने पर आक्रामक अभियानों को भी अधिक प्रभावी बना सकती हैं।

इसीलिए ऐसी दावेदारियां निर्यात नियंत्रण, पहुंच प्रतिबंधों और मूल्यांकन मानकों को प्रभावित करने की संभावना रखती हैं। यदि नीति-निर्माताओं का मानना है कि कोई मॉडल साइबर घुसपैठ कार्य की गति या पैमाने को पर्याप्त रूप से बढ़ा सकता है, तो वे कड़े रिलीज़ नियंत्रण और अधिक कठोर पूर्व-तैनाती परीक्षण की मांग करेंगे। यदि कंपनियों को लगता है कि सरकारें प्रारंभिक निष्कर्षों पर अति-प्रतिक्रिया कर सकती हैं, तो वे वैध उपयोग और वैश्विक प्रतिस्पर्धा को सीमित करने वाले व्यापक प्रतिबंधों का विरोध करेंगी।

Fast Company यह भी रिपोर्ट करता है कि साइबर सुरक्षा अधिकारियों के एक समूह ने प्रशासन से अपने निर्देश को वापस लेने का अनुरोध किया, यह तर्क देते हुए कि यह कदम अमेरिकी विरोधियों की मदद कर सकता है। यह तर्क AI शासन की एक और दरार को दर्शाता है: पहुंच सीमित करने से कुछ जोखिम कम हो सकते हैं, लेकिन इससे विश्वसनीय शोधकर्ताओं, कंपनियों और सहयोगी संस्थानों के बीच रक्षात्मक क्षमता का प्रसार भी धीमा पड़ सकता है। साइबर नीति में, उपकरणों को सीमित करना कभी भी बिना लागत के नहीं होता।

आगे क्या देखें

अगला महत्वपूर्ण विकास यह होगा कि क्या रिपोर्ट किए गए परीक्षण रिकॉर्ड का कोई हिस्सा सार्वजनिक रूप से पुष्ट किया जाता है। यदि एजेंसियां, सांसद, या Anthropic और विवरण जारी करते हैं, तो चर्चा जल्दी ही अटकलों से मिसाल की ओर बढ़ सकती है। इसका प्रभाव केवल Anthropic पर नहीं, बल्कि इस बात पर भी पड़ेगा कि अन्य मॉडल डेवलपर रेड-टीम अभ्यास कैसे तैयार करते हैं, खतरनाक क्षमताओं को कैसे वर्गीकृत करते हैं, और बड़े रिलीज़ से पहले सरकारों के साथ कैसे बातचीत करते हैं।

फिलहाल, यह रिपोर्ट एक विश्वसनीय संकेत के रूप में खड़ी है, न कि एक पूरी सार्वजनिक केस फाइल के रूप में। इसी सीमित रूप में भी, यह इस बात को रेखांकित करती है कि AI सुरक्षा के प्रश्न कितनी तेजी से सिद्धांत से संचालनात्मक परीक्षण में प्रवेश कर रहे हैं। मुख्य मुद्दा अब यह नहीं है कि क्या उन्नत मॉडल साइबर सुरक्षा में महत्वपूर्ण हो सकते हैं। मुद्दा यह है कि सरकारें और लैब्स उस क्षमता को कैसे मापेंगे, इसके जोखिमों को कैसे सीमित करेंगे, और अगली पीढ़ी के सिस्टम आने से पहले किसे पहुंच मिलेगी, यह कैसे तय करेंगे।

यह लेख Fast Company की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.