अनधिकृत प्रवेशाच्या दाव्यामुळे Anthropic च्या सायबरसुरक्षा AI रोलआउटवर तपासणी वाढली

Mythos मधील कथित प्रवेशाची Anthropic चौकशी करत आहे

Anthropic एका अहवालाची चौकशी करत आहे ज्यात असा दावा आहे की अनधिकृत वापरकर्त्यांच्या एका गटाने Claude Mythos Preview मध्ये प्रवेश मिळवला, हे कंपनीचे सायबरसुरक्षेवर केंद्रित AI साधन होते आणि ते केवळ निवडक विक्रेत्यांना उपलब्ध करून देण्यात आले होते. कंपनीने TechCrunch ला सांगितले की हा प्रवेश तृतीय-पक्ष विक्रेता वातावरणातून झाला असल्याच्या दाव्यांची ती चौकशी करत आहे, आणि Anthropic च्या स्वतःच्या प्रणालींवर परिणाम झाल्याचे कोणतेही पुरावे तिला आढळले नाहीत.

हा अहवाल महत्त्वाचा आहे कारण Mythos हा सर्वसाधारण ग्राहक चॅटबॉट नाही. Anthropic ने या उत्पादनाचे वर्णन एंटरप्राइझ सुरक्षा साधन म्हणून केले आहे, ज्यात इतकी क्षमता आहे की चुकीच्या हातात ते आक्रमक हॅकिंगसाठी पुन्हा वापरले जाऊ शकते. याच दुहेरी-वापर स्वरूपामुळे या साधनाचे मर्यादित प्रकाशन महत्त्वाचे ठरते: प्रवेश नियंत्रणे ही केवळ व्यावसायिक पॅकेजिंगची निवड नाही, तर सुरक्षा मॉडेलचाच भाग आहेत.

प्रवेश कथितरीत्या कसा मिळाला

मूळ सामग्रीनुसार, Bloomberg ने वृत्त दिले की एका खाजगी ऑनलाइन फोरममधील सदस्यांनी तृतीय-पक्ष विक्रेत्याच्या माध्यमातून Mythos मध्ये प्रवेश मिळवला. संबंधित लोकांची सार्वजनिकरित्या ओळख उघड करण्यात आलेली नाही. अहवालात उद्धृत केलेल्या एका व्यक्तीबद्दल सांगितले गेले की तो Anthropic शी संबंधित तृतीय-पक्ष कंत्राटदारासाठी काम करत होता, आणि त्या गटाने आपल्या प्रयत्नाचा भाग म्हणून त्या व्यक्तीचा प्रवेश वापरला.

Anthropic ने इतर मॉडेल्ससाठी पूर्वी वापरलेल्या नामकरण किंवा स्थान पद्धतींच्या आधारे मॉडेलचे ऑनलाइन स्थानही त्या गटाने सुज्ञ अंदाजाने ओळखले असेही कथित आहे. Bloomberg ला टूलचे स्क्रीनशॉट आणि थेट प्रात्यक्षिक दाखवण्यात आले होते असे सांगितले जाते. तो गट Mythos ला सार्वजनिक घोषणेच्या त्याच दिवशी प्रवेश मिळवून बसला आणि नंतर नियमितपणे त्याचा वापर करत राहिला, असे म्हटले गेले.

ही घटना का महत्त्वाची आहे

AI कंपन्यांसाठी ही घटना एक परिचित समस्या अधिक ठळकपणे दाखवते: मॉडेलला त्याच्या केंद्रात संरक्षित ठेवता येते, पण त्याभोवतीच्या व्यापक परिसंस्थेमधून ते तरीही उघड होऊ शकते. विक्रेता वातावरण, कंत्राटदार, प्रिव्ह्यू प्रोग्राम आणि सुरुवातीच्या भागीदारांच्या तैनाती यांमुळे प्रवेश क्रेडेन्शियल आणि रूटिंग तपशील गळण्याची किंवा गैरवापर होण्याची शक्यता असलेल्या ठिकाणांची संख्या वाढते.

Anthropic ची सध्याची भूमिका अहवालातील दाव्यापेक्षा अधिक संकुचित आहे. कंपनी आपल्या प्रणालींमध्ये घुसखोरी झाली असे म्हणत नाही. ती तृतीय-पक्ष विक्रेता वातावरणाशी संबंधित एका अहवालाची चौकशी करत आहे आणि Anthropic प्रणालींवर परिणाम झाल्याचे दाखवणारे कोणतेही पुरावे तिला आढळले नाहीत, असे ती सांगते. हा फरक महत्त्वाचा आहे, पण तो कार्यात्मक जोखीम दूर करत नाही. मर्यादित AI प्रणालींसाठी, भागीदारामार्फत होणारा अनधिकृत वापरही नियंत्रित रोलआउटचा उद्देश कमकुवत करू शकतो.

अहवालानुसार, Mythos ला Apple सह निवडक विक्रेत्यांच्या एका गटासाठी Project Glasswing नावाच्या उपक्रमाचा भाग म्हणून रिलीज करण्यात आले होते. हे मर्यादित प्रकाशन वाईट हेतूच्या घटकांना साधन वापरण्याची शक्यता कमी करण्यासाठी होते. एखाद्या खाजगी गटाने घोषणेनंतर लगेचच विक्रेता चॅनेलद्वारे प्रवेश मिळवला असेल, तर प्रिव्ह्यू तैनाती कशी निरीक्षणाखाली ठेवली जाते, प्रवेश कसा मर्यादित केला जातो, आणि संशयास्पद वापर किती लवकर ओळखला जाऊ शकतो, हे प्रश्न उपस्थित होतात.

व्यापक AI सुरक्षा आव्हान

हा अहवाल अप्रकाशित AI प्रणालींभोवती असलेल्या संस्कृतीविषयक समस्येकडेही निर्देश करतो. मूळ सामग्रीत एका Discord चॅनेलचे वर्णन आहे, ज्याचे सदस्य अप्रकाशित AI मॉडेल्सबद्दल माहिती शोधतात. अहवालात उद्धृत केलेल्या व्यक्तीने त्या गटाचे वर्णन नुकसान करण्याऐवजी नवीन मॉडेल्सबरोबर प्रयोग करण्यात रस असलेला असे केले. जरी हे वर्णन अचूक असले, तरी सायबरसुरक्षा साधनासोबतचा अनधिकृत प्रयोग सामान्य चॅटबॉटबद्दलच्या कुतूहलापेक्षा अधिक जोखमीचा प्रसंग निर्माण करतो.

एंटरप्राइझ AI सुरक्षा उत्पादने इतकी उपयुक्त असली पाहिजेत की ती धोके विश्लेषित करू शकतील, तपास स्वयंचलित करू शकतील आणि रक्षकांना मदत करू शकतील. तीच क्षमता जर शोधमोहीम किंवा शोषणाच्या दिशेने वळली, तर ती धोकादायक ठरू शकते. हा ताण उत्पादन सुरक्षेसाठी प्रकाशन शिस्त केंद्रस्थानी ठेवतो. याचा अर्थ असा देखील होतो की प्रिव्ह्यूमध्ये सहभागी होणारे विक्रेते सुरक्षा सीमारेषेचा भाग बनतात.

Anthropic साठी तातडीचे काम म्हणजे नेमके काय घडले, कोणताही प्रवेश मार्ग अजून खुला आहे का, आणि तृतीय-पक्ष वातावरणाभोवतीची नियंत्रण व्यवस्था पुरेशी होती का, हे ठरवणे. व्यापक उद्योगासाठी, हा प्रसंग एक इशारा आहे की frontier AI governance ही साध्या कार्यकारी तपशीलांवर अवलंबून असते: क्रेडेन्शियल्स, कंत्राटदार, विक्रेता परवानग्या, लॉगिंग आणि अंतर्गत नामकरण पद्धती.

ही घटना अद्याप Anthropic च्या स्वतःच्या प्रणालींवरील उल्लंघन म्हणून वर्णन केलेली नाही. तरीही Mythos पर्यंत कथित पोहोच दाखवते की मर्यादित AI साधनांचे अस्तित्व कळताच ती किती वेगाने लक्ष्य बनू शकतात.

हा लेख TechCrunch च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.