अनधिकृत पहुंच के दावे ने Anthropic की साइबर सुरक्षा AI रोलआउट पर जांच बढ़ाई

Anthropic Mythos तक कथित पहुंच की जांच कर रहा है

Anthropic एक रिपोर्ट की जांच कर रहा है जिसमें कहा गया है कि अनधिकृत उपयोगकर्ताओं के एक समूह ने Claude Mythos Preview तक पहुंच बना ली, जो कंपनी का एक AI टूल है और साइबर सुरक्षा पर केंद्रित है तथा जिसे केवल चुनिंदा विक्रेताओं के लिए उपलब्ध कराया गया था। कंपनी ने TechCrunch को बताया कि वह इस दावे की जांच कर रही है कि यह पहुंच तीसरे पक्ष के विक्रेता वातावरण के जरिए हुई, और उसने कहा कि उसे अब तक कोई सबूत नहीं मिला है कि Anthropic के अपने सिस्टम प्रभावित हुए हैं।

यह रिपोर्ट इसलिए महत्वपूर्ण है क्योंकि Mythos कोई सामान्य उपभोक्ता चैटबॉट नहीं है। Anthropic ने इस उत्पाद को एक एंटरप्राइज सुरक्षा टूल के रूप में वर्णित किया है, जिसमें इतनी क्षमता है कि गलत हाथों में यह आक्रामक हैकिंग के लिए फिर से इस्तेमाल किया जा सकता है। यही दोहरे उपयोग की प्रकृति बताती है कि इस टूल की सीमित रिलीज क्यों मायने रखती है: एक्सेस नियंत्रण केवल वाणिज्यिक पैकेजिंग का फैसला नहीं, बल्कि सुरक्षा मॉडल का हिस्सा हैं।

कथित तौर पर पहुंच कैसे मिली

स्रोत सामग्री के अनुसार, Bloomberg ने रिपोर्ट किया कि एक निजी ऑनलाइन फोरम के सदस्यों ने तीसरे पक्ष के विक्रेता के जरिए Mythos तक पहुंच हासिल की। शामिल लोगों की सार्वजनिक रूप से पहचान नहीं की गई है। रिपोर्ट में उद्धृत एक व्यक्ति के बारे में कहा गया कि वह Anthropic से जुड़े एक तीसरे पक्ष के ठेकेदार के लिए काम करता था, और समूह ने अपनी कोशिश के हिस्से के रूप में उसी व्यक्ति की पहुंच का उपयोग किया।

समूह ने Anthropic के अन्य मॉडलों के लिए पहले इस्तेमाल किए गए नामकरण या स्थान पैटर्न के आधार पर मॉडल के ऑनलाइन स्थान का एक शिक्षित अनुमान भी लगाया, ऐसा आरोप है। Bloomberg को कथित तौर पर टूल के स्क्रीनशॉट और एक लाइव डेमो दिखाया गया। कहा गया कि समूह ने Mythos तक उसी दिन पहुंच बनाई जिस दिन उसे सार्वजनिक रूप से घोषित किया गया था, और उसके बाद नियमित रूप से उसका उपयोग किया।

यह घटना क्यों मायने रखती है

AI कंपनियों के लिए यह घटना एक परिचित समस्या को और तीखे रूप में दिखाती है: एक मॉडल को उसके मूल में सुरक्षित रखा जा सकता है, लेकिन उसके आसपास के व्यापक इकोसिस्टम के जरिए वह फिर भी उजागर हो सकता है। विक्रेता वातावरण, ठेकेदार, प्रीव्यू प्रोग्राम और शुरुआती साझेदार तैनातियां उन जगहों की संख्या बढ़ा देती हैं जहां एक्सेस क्रेडेंशियल और रूटिंग विवरण लीक हो सकते हैं या गलत तरीके से इस्तेमाल किए जा सकते हैं।

Anthropic की मौजूदा स्थिति रिपोर्ट के दावे से अधिक संकीर्ण है। कंपनी यह नहीं कह रही कि उसके सिस्टम में सेंध लगी है। वह कह रही है कि वह तीसरे पक्ष के विक्रेता वातावरण से जुड़ी एक रिपोर्ट की जांच कर रही है और उसने कोई ऐसा सबूत नहीं देखा है कि गतिविधि ने Anthropic के सिस्टम को प्रभावित किया। यह अंतर महत्वपूर्ण है, लेकिन यह संचालन जोखिम को खत्म नहीं करता। प्रतिबंधित AI सिस्टम के लिए, किसी साझेदार के जरिए अनधिकृत उपयोग फिर भी नियंत्रित रोलआउट के उद्देश्य को कमजोर कर सकता है।

रिपोर्ट के अनुसार Mythos को Apple सहित विक्रेताओं के एक चुनिंदा समूह को Project Glasswing नामक एक पहल के हिस्से के रूप में जारी किया गया था। इस सीमित रिलीज का उद्देश्य खराब इरादे वाले लोगों द्वारा टूल के उपयोग की संभावना कम करना था। यदि किसी निजी समूह ने घोषणा के तुरंत बाद किसी विक्रेता चैनल के जरिए पहुंच हासिल कर ली, तो यह सवाल उठाता है कि प्रीव्यू तैनातियों की निगरानी कैसे की जाती है, पहुंच का दायरा कैसे तय किया जाता है, और संदिग्ध उपयोग का पता कितनी जल्दी लगाया जा सकता है।

AI सुरक्षा की व्यापक चुनौती

यह रिपोर्ट अप्रकाशित AI प्रणालियों के आसपास मौजूद संस्कृति की ओर भी इशारा करती है। स्रोत सामग्री में एक Discord चैनल का वर्णन है, जिसके सदस्य अप्रकाशित AI मॉडलों के बारे में जानकारी खोजते हैं। रिपोर्ट में उद्धृत व्यक्ति ने इस समूह को नुकसान पहुंचाने के बजाय नए मॉडलों के साथ प्रयोग करने में रुचि रखने वाला बताया। भले ही यह विवरण सही हो, एक साइबर सुरक्षा टूल के साथ अनधिकृत प्रयोग, एक सामान्य चैटबॉट के प्रति जिज्ञासा की तुलना में कहीं अधिक जोखिम वाला परिदृश्य बनाता है।

एंटरप्राइज AI सुरक्षा उत्पादों को इतना उपयोगी होना चाहिए कि वे खतरों का विश्लेषण कर सकें, जांच को स्वचालित कर सकें और रक्षकों की सहायता कर सकें। लेकिन वही क्षमताएं यदि टोही या शोषण की दिशा में मोड़ दी जाएं, तो खतरनाक बन सकती हैं। यही तनाव उत्पाद सुरक्षा के लिए रिलीज अनुशासन को केंद्रीय बनाता है। इसका अर्थ यह भी है कि प्रीव्यू में भाग लेने वाले विक्रेता सुरक्षा सीमा का हिस्सा बन जाते हैं।

Anthropic के लिए तत्काल कार्य यह तय करना है कि क्या हुआ, क्या कोई पहुंच मार्ग अभी भी खुला है, और क्या तीसरे पक्ष के वातावरण के आसपास के नियंत्रण पर्याप्त थे। व्यापक उद्योग के लिए यह घटना एक चेतावनी है कि फ्रंटियर AI शासन साधारण संचालन विवरणों पर निर्भर करता है: क्रेडेंशियल, ठेकेदार, विक्रेता अनुमतियां, लॉगिंग और आंतरिक नामकरण परंपराएं।

अब तक इस घटना को Anthropic के अपने सिस्टम पर हुए उल्लंघन के रूप में वर्णित नहीं किया गया है। फिर भी Mythos तक कथित पहुंच दिखाती है कि जैसे ही प्रतिबंधित AI टूल्स के अस्तित्व की जानकारी सार्वजनिक होती है, वे कितनी तेजी से लक्ष्य बन सकते हैं।

यह लेख TechCrunch की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.