Anthropic प्रतिबंधित AI मॉडल तक कथित पहुंच की समीक्षा कर रहा है

Anthropic ने पुष्टि की है कि वह Claude Mythos Preview तक अनधिकृत पहुंच की एक रिपोर्ट की जांच कर रहा है, जिसे कंपनी ने सार्वजनिक रिलीज़ के लिए अत्यधिक खतरनाक बताया है। बताया गया है कि यह पहुंच एक तृतीय-पक्ष विक्रेता वातावरण के माध्यम से हुई।

Bloomberg द्वारा रिपोर्ट की गई और Gizmodo द्वारा आगे प्रसारित कंपनी की बयानबाजी में कहा गया कि Anthropic को एक रिपोर्ट मिली थी जिसमें दावा किया गया था कि उसके किसी तृतीय-पक्ष विक्रेता वातावरण के माध्यम से Claude Mythos Preview तक अनधिकृत पहुंच बनाई गई। Bloomberg ने कथित रूप से उस समूह के एक सदस्य का लाइव डेमो और स्क्रीनशॉट देखे, जिसे इस पहुंच के लिए जिम्मेदार बताया गया।

सार्वजनिक रूप से उपलब्ध तथ्य सीमित हैं, और रिपोर्ट में शामिल लोगों और तरीकों की पहचान को लेकर सावधानी बरती गई है। फिर भी, यह घटना अग्रिम पंक्ति के AI प्रयोगशालाओं के लिए एक गंभीर शासन संबंधी प्रश्न उठाती है: जब किसी मॉडल को सार्वजनिक रिलीज़ से दूर रखा जाता है, तब भी विक्रेता पहुंच और आंतरिक टूलिंग ऐसे रास्ते बना सकती है जिन्हें स्वयं मॉडल से अधिक सुरक्षित रखना कठिन हो।

कथित पहुंच कैसे हुई

लेख में संक्षेपित स्रोत विवरण के अनुसार, समूह ने कई सूचनाओं को एक साथ जोड़ा। बताया गया है कि एक Discord समूह ने अनरिलीज़्ड AI मॉडलों की जानकारी खोजने के लिए bots का उपयोग किया। विवरण में AI प्रशिक्षण स्टार्टअप Mercor में एक डेटा उल्लंघन का भी उल्लेख है। इसके बाद समूह ने कथित तौर पर उस जानकारी को Anthropic के एक ठेकेदार के यहां काम करने वाले व्यक्ति की उपलब्ध पहुंच के साथ जोड़ दिया।

बताया गया है कि घटनाओं की उस श्रृंखला ने समूह को Claude Mythos की ऑनलाइन स्थिति का अनुमान लगाने में सक्षम बनाया। कहा जाता है कि समूह ने 7 अप्रैल से मॉडल तक पहुंच बनाई हुई थी, जो वही दिन है जब Anthropic ने Project Glasswing की घोषणा की थी।

रिपोर्ट में उद्धृत स्रोत ने दावा किया कि समूह को नुकसान पहुंचाने के बजाय नए मॉडलों के साथ प्रयोग करने में दिलचस्पी थी। यह दावा पहुंच संबंधी मुद्दे की गंभीरता को कम नहीं करता। यदि कोई प्रतिबंधित मॉडल किसी अनधिकृत पक्ष के लिए उपलब्ध है, तो जोखिम केवल इस बात पर निर्भर नहीं करता कि पहली रिपोर्ट में शामिल समूह का इरादा क्या था।