Anthropic AI चाचणीत वर्गीकृत प्रणालीतील त्रुटी आढळल्याचे वृत्त

Anthropic च्या चाचणी अहवालाने AI सुरक्षेवरील चर्चेत तातडीची भावना वाढवली

Fast Company च्या एका नव्या अहवालात, एका अज्ञात अमेरिकी अधिकाऱ्याचा आणि सेनेट सुनावणीदरम्यान केलेल्या टिप्पण्यांचा उल्लेख करत, म्हटले आहे की Anthropic च्या प्रगत AI मॉडेलपैकी एकाने चाचणी सरावादरम्यान अत्यंत संवेदनशील अमेरिकी सरकारी संगणक प्रणालींमधील असुरक्षा ओळखल्या. जर हे खरे असेल, तर फ्रंटियर AI प्रणालींचे मूल्यांकन, नियंत्रण आणि राष्ट्रीय सुरक्षा परिस्थितींमध्ये तैनाती कशी करावी, या चर्चेत हा एक महत्त्वाचा क्षण ठरेल.

अहवालानुसार, Anthropic ने अमेरिकी गुप्तचर संस्थांसोबत आपल्या Mythos मॉडेलचा समावेश असलेली एक चाचणी केली. त्या अधिकाऱ्याने सांगितले की मॉडेलने काही असुरक्षा काही तासांत शोधून काढल्या. त्याच स्रोताने असेही म्हटले की कमकुवत जागा पटकन शोधणे म्हणजे त्या काळात मॉडेलने त्यांचा गैरवापर केला असे होत नाही. हा फरक महत्त्वाचा आहे: एखाद्या प्रणालीत प्रवेशाचा संभाव्य मार्ग ओळखणे आणि प्रत्यक्ष घुसखोरी करणे ही एकच गोष्ट नाही. तरीही, हा दावा लक्षवेधी आहे कारण तो सूचित करतो की प्रगत AI प्रणाली सरकारमधील काही सर्वात संवेदनशील डिजिटल वातावरणांविरुद्ध उच्च-गती असुरक्षा शोधण्यात आधीच उपयुक्त ठरू शकतात.

हा अहवाल या सरावाला Anthropic च्या Project Glasswing नावाच्या उपक्रमाशी जोडतो, ज्याचे वर्णन सार्वजनिक सुरक्षा, राष्ट्रीय सुरक्षा आणि अर्थव्यवस्थेला गंभीर धोके असलेल्या महत्त्वाच्या सॉफ्टवेअरचे संरक्षण करण्यासाठी मोठ्या कंपन्या आणि इतर संस्थांना एकत्र आणण्याचा प्रयत्न असे केले आहे. हे चौकट चाचणीला व्यापक संदर्भात ठेवते. AI कंपन्या आणि सरकारे आता सायबर सुरक्षेच्या धोक्याकडे काल्पनिक भविष्यातील समस्या म्हणून पाहत नाहीत. अत्यंत सक्षम मॉडेल्सना दोष शोधण्यासाठी लागणारा वेळ कमी करता येईल, प्रणालीतील कमकुवत जागा नकाशित करता येतील, आणि आक्रमक सायबर कामाच्या काही भागांसाठी आवश्यक कौशल्याची पातळी कमी करता येईल, या शक्यतेभोवती त्या प्रक्रिया उभारत आहेत.

काय पुष्टी झाले आहे, आणि काय नाही

या कथेत सर्वात मजबूत सावधगिरी म्हणजे स्रोत. मध्यवर्ती दावे हे वर्गीकृत किंवा अत्यंत संवेदनशील बाबींवर बोलणाऱ्या एका अज्ञात अधिकाऱ्याकडून आले आहेत. Fast Company हेही सांगते की 11 जून रोजी Senate Committee on Banking, Housing, and Urban Affairs च्या सुनावणीत डेमोक्रॅटिक सेन. मार्क वॉर्नर यांनी या सरावाचा उल्लेख केला, सांगितले की या साधनाने “आठवड्यांत नाही तर तासांत” जवळजवळ सर्व वर्गीकृत प्रणालींमध्ये प्रवेश केला, आणि हे वर्णन National Security Agency आणि U.S. Cyber Command चे प्रमुख जनरल Joshua Rudd यांच्याकडे श्रेय दिले.

परंतु NSA किंवा Anthropic यांनी अहवालातील तपशील सार्वजनिकरीत्या पुष्टी केलेले नाहीत. लेखानुसार NSA ने ईमेलद्वारे टिप्पणी देण्यास नकार दिला, आणि Anthropic च्या प्रवक्त्यानेही टिप्पणी देण्यास नकार दिला. त्यामुळे सार्वजनिक नोंद एका विचित्र अवस्थेत आहे: चिंतेचे व्यापक अस्तित्व सार्वजनिक सुनावणीतील संदर्भामुळे समर्थित दिसते, पण विशिष्ट तपशील अजूनही केवळ अंशतःच स्पष्ट आहेत. अहवालातील परिणामांना वर्गीकृत नेटवर्कमध्ये नेमके काय घडले याचे पूर्णपणे स्थापित वर्णन मानणे घाईचे ठरेल.

तरीही, अपूर्ण स्रोत असलेल्या अहवालाप्रमाणे असले तरी ही कथा महत्त्वाची आहे, कारण ती सध्या सुरू असलेल्या व्यापक धोरणात्मक बदलाशी जुळते. सरकारे अधिकाधिक प्रगत AI मॉडेल्सना दुहेरी वापराच्या प्रणाली म्हणून पाहत आहेत. त्या संशोधन, कोडिंग आणि विश्लेषणाला मदत करू शकतात, पण जर त्या खूप सहज उपलब्ध झाल्या किंवा त्यांची चाचणी कमी झाली, तर सायबर आक्रमणे, जैव-सुरक्षा धोके, दिशाभूल मोहिमा आणि धोरणात्मक अस्थिरता वाढवू शकतात.

वेळ का महत्त्वाची आहे

अहवालात नमूद केलेला हा सराव Anthropic आणि Trump administration यांच्यातील स्पष्ट तणावाच्या काळात आला आहे. Fast Company नुसार, Anthropic ने अमेरिकी सैन्य त्यांच्या AI प्रणालींचा कसा वापर करेल याबद्दल चिंता व्यक्त केली आहे, तर प्रशासनाने Anthropic च्या काही मॉडेल्सच्या वापरावर निर्बंध लादले आहेत. जूनच्या सुरुवातीला, प्रशासनाने Anthropic ने त्यांच्या नवीनतम मॉडेल्स Fable 5 आणि Mythos 5 चा वापर परदेशी नागरिकांना करू न देण्याचे निर्देश दिले. त्यानंतर Anthropic ने अनुपालनासाठी सर्व ग्राहकांसाठी ही मॉडेल्स निष्क्रिय केली, आणि सरकारच्या कारवायांना त्यांनी उपस्थित केलेल्या सुरक्षा समस्येमुळे समर्थन मिळत नाही असेही सांगितले.

ही मालिका सध्याच्या AI क्षणातील एक मूलभूत विरोधाभास दाखवते. सरकारांना frontier labs ने त्यांचे संरक्षण तपासण्यास, असुरक्षा उघड करण्यास आणि महत्त्वाची पायाभूत सुविधा मजबूत करण्यास मदत करावी अशी इच्छा आहे. त्याच वेळी, तीच सरकारे हे मॉडेल्स विरोधकांकडून वापरली जाऊ शकतात किंवा धोकादायक क्षमता पसरवू शकतात, या चिंतेमुळे त्यांच्यापर्यंतचा प्रवेश मर्यादित करण्यासही अधिक तयार आहेत. परिणामी, AI कंपन्या धोरणात्मक भागीदार आणि नियमनाखालील जोखीम घटक अशा दोन्ही भूमिका बजावणारे ताणतणावाचे नाते तयार होते.

अहवालात उद्धृत केलेला White House निर्णय आणखी एक थर जोडतो. Anthropic साठीच्या निर्देशाच्या दहा दिवस आधी, अध्यक्ष Donald Trump यांनी एक executive order स्वाक्षरी करून, अत्याधुनिक AI प्रणालींमुळे उद्भवणाऱ्या राष्ट्रीय सुरक्षा धोक्यांची सार्वजनिक प्रकाशनापूर्वी एक महिन्यापर्यंत फेडरल सरकारने पडताळणी करण्यासाठी चौकट उभी केली, ज्यात विकसकांचा सहभाग ऐच्छिक असल्याचे नमूद केले. यावरून वॉशिंग्टन मॉडेल लाँचनंतर प्रतिसाद देण्याऐवजी आधीच तपासणीची व्यवस्था उभारण्याचा प्रयत्न करत असल्याचे दिसते.

फ्रंटियर मॉडेल्ससाठी सायबर सुरक्षा आता एक तणाव-चाचणी बनत आहे

या अहवालाचे खोल महत्त्व एका कंपनीपुरते किंवा एका कथित चाचणी निकालापुरते मर्यादित नाही. तो सायबर सुरक्षेला फ्रंटियर मॉडेल क्षमतेच्या सर्वात स्पष्ट वास्तव-जगातील निकषांपैकी एक म्हणून अधोरेखित करतो. जो मॉडेल रचनांचे जलद विश्लेषण करू शकतो, संभाव्य कमकुवत जागा ओळखू शकतो, आणि हल्ल्यांच्या साखळ्यांवर तर्क करू शकतो, तो शक्तिशाली संरक्षण सहाय्यक ठरू शकतो. तीच क्षमता गैरवापर झाल्यास आक्रमक कारवायाही अधिक प्रभावी करू शकते.

म्हणूनच अशा दाव्यांचा निर्यात नियंत्रण, प्रवेश निर्बंध आणि मूल्यांकन मानकांवर परिणाम होण्याची शक्यता आहे. जर धोरणकर्त्यांना वाटले की एखादा मॉडेल सायबर घुसखोरीच्या कामाचा वेग किंवा प्रमाण लक्षणीयरीत्या वाढवू शकतो, तर ते कडक प्रकाशन नियंत्रण आणि अधिक कठोर पूर्व-तैनाती चाचणीसाठी आग्रह धरतील. जर कंपन्यांना वाटले की सरकारे प्राथमिक निष्कर्षांवर अतिप्रतिक्रिया करू शकतात, तर त्या वैध वापर आणि जागतिक स्पर्धात्मकता मर्यादित करणाऱ्या व्यापक निर्बंधांना विरोध करतील.

Fast Company हेही सांगते की सायबर सुरक्षा कार्यकारी अधिकाऱ्यांच्या एका गटाने प्रशासनाला ही निर्देशना मागे घ्यायला सांगितले, असा युक्तिवाद करत की यामुळे अमेरिकी विरोधकांना मदत होऊ शकते. हा युक्तिवाद AI प्रशासनातील आणखी एक फाटाफूट दाखवतो: प्रवेश मर्यादित केल्याने काही धोके कमी होऊ शकतात, पण त्याच वेळी विश्वसनीय संशोधक, कंपन्या आणि मित्रदेशीय संस्थांमध्ये संरक्षणक्षमतेचा प्रसार मंदावू शकतो. सायबर धोरणात साधने मर्यादित करणे कधीच खर्चरहित नसते.

पुढे काय पाहायचे

पुढील महत्त्वाचा विकास म्हणजे अहवालातील चाचणी नोंदीचा कोणताही भाग सार्वजनिकरीत्या सिद्ध होतो का हे. जर संस्था, कायदेकर्ते किंवा Anthropic अधिक तपशील जाहीर करतील, तर चर्चा लगेचच तर्ककथांपासून उदाहरणांकडे वळू शकते. याचा परिणाम केवळ Anthropic वरच नाही, तर इतर मॉडेल विकसक red-team सराव कसे आखतात, धोकादायक क्षमता कशा वर्गीकृत करतात, आणि मोठ्या प्रकाशनांपूर्वी सरकारांशी कशी वाटाघाटी करतात यावरही होईल.

सध्या हा अहवाल पूर्ण सार्वजनिक प्रकरण-फाइलपेक्षा विश्वासार्ह संकेत म्हणून उभा आहे. त्या मर्यादित स्वरूपातही, तो दाखवतो की AI सुरक्षा प्रश्न किती वेगाने सिद्धांतातून कार्यकारी चाचण्यांकडे जात आहेत. मुख्य मुद्दा आता प्रगत मॉडेल्स सायबर सुरक्षेत महत्त्वाचे आहेत का, हा नाही. मुद्दा हा आहे की सरकारे आणि लॅब्स ती क्षमता कशी मोजतील, तिचे धोके कसे मर्यादित करतील, आणि पुढील पिढीची प्रणाली येण्यापूर्वी प्रवेश कोणाला मिळेल हे कसे ठरवतील.

हा लेख Fast Company च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.