मर्यादित AI मॉडेलवरील कथित प्रवेशाची Anthropic कडून समीक्षा

Anthropic ने पुष्टी केली आहे की Claude Mythos Preview वर अनधिकृत प्रवेशाच्या अहवालाची ती चौकशी करत आहे, ज्याला कंपनीने सार्वजनिक प्रकाशनासाठी अतिधोकादायक असे वर्णन केले आहे. हा प्रवेश तृतीय-पक्ष विक्रेता वातावरणामार्फत झाल्याचे सांगितले गेले आहे.

Bloomberg ने अहवाल दिलेल्या आणि Gizmodo ने पुढे मांडलेल्या कंपनीच्या निवेदनात, Anthropic ने सांगितले की त्यांच्या एका तृतीय-पक्ष विक्रेता वातावरणामार्फत Claude Mythos Preview वर अनधिकृत प्रवेश झाल्याचा दावा करणारा अहवाल त्यांना प्राप्त झाला होता. Bloomberg ने कथितरित्या त्या प्रवेशासाठी जबाबदार असल्याचे सांगितलेल्या गटातील एका सदस्याकडून लाईव्ह डेमो आणि स्क्रीनशॉट्स पाहिले.

सार्वजनिकरित्या उपलब्ध तथ्ये मर्यादित आहेत, आणि अहवालात संबंधित लोक आणि पद्धती ओळखताना काळजी घेतली आहे. तरीही, ही घटना अग्रगण्य AI लॅब्ससाठी एक गंभीर प्रशासनिक प्रश्न उभा करते: एखादे मॉडेल सार्वजनिक प्रकाशनापासून दूर ठेवले तरी, विक्रेता प्रवेश आणि अंतर्गत साधने अशी दारे निर्माण करू शकतात जी मॉडेलपेक्षाही अधिक सुरक्षित ठेवणे कठीण असते.

कथित प्रवेश कसा झाला

लेखात संक्षेपित केलेल्या स्रोत कथनानुसार, त्या गटाने अनेक माहितीचे तुकडे एकत्र केले. एक Discord गट अप्रकाशित AI मॉडेल्सची माहिती शोधण्यासाठी bots वापरत होता, असे सांगितले जाते. त्या कथनात AI प्रशिक्षण स्टार्टअप Mercor मधील डेटा भंगाचाही उल्लेख आहे. नंतर त्या गटाने ती माहिती Anthropic च्या एका कंत्राटदाराकडे काम करणाऱ्या व्यक्तीला उपलब्ध असलेल्या प्रवेशाशी जोडल्याचा आरोप आहे.

घटनांच्या त्या साखळीमुळे गटाला Claude Mythos चे ऑनलाइन स्थान ओळखता आले, असे सांगितले जाते. Anthropic ने Project Glasswing जाहीर केले त्याच दिवशी, 7 एप्रिलपासून त्या गटाने मॉडेलला प्रवेश मिळवला, असेही म्हटले आहे.

अहवालात उद्धृत केलेल्या स्रोताने दावा केला की गटाचा हेतू नुकसान करणे नव्हे, तर नवीन मॉडेल्सवर प्रयोग करणे हा होता. तो दावा प्रवेश समस्येचे गांभीर्य कमी करत नाही. जर एखादे मर्यादित मॉडेल अनधिकृत पक्षासाठी उपलब्ध असेल, तर जोखीम केवळ पहिल्या अहवालात नमूद केलेल्या गटाच्या हेतूवर अवलंबून नसते.