Anthropic चा मर्यादित Mythos मॉडेल NSA च्या वापरात असल्याची माहिती, वॉशिंग्टनच्या AI भूमिकेतील दुभंग उघड करते

एक मर्यादित AI प्रणाली सरकारमधील सर्वात संवेदनशील वापरकर्त्यांपर्यंत पोहोचल्यासारखी दिसत आहे

नॅशनल सिक्युरिटी एजन्सी (NSA) Mythos Preview वापरत असल्याची माहिती आहे. हा Anthropic चा नव्याने जाहीर केलेला AI मॉडेल असून तो सायबरसुरक्षा कामांसाठी तयार करण्यात आला आहे, तरी कंपनीने ही प्रणाली सार्वजनिक प्रकाशनापासून दूर ठेवली आहे. दिलेल्या अहवालानुसार, Anthropic ने या महिन्याच्या सुरुवातीला सांगितले होते की Mythos आक्रमक सायबरहल्ल्यांसाठी खूप सक्षम आहे म्हणून तो व्यापकपणे प्रसिद्ध केला जाणार नाही, आणि त्याचा प्रवेश सुमारे 40 संस्थांपुरता मर्यादित होता. NSA त्या उघड न केलेल्या प्राप्तकर्त्यांपैकी एक असल्याचे दिसते.

जर हे खरे असेल, तर हा करार frontier AI धोरणात आता उलगडत असलेला गुंतागुंतीचा टप्पा दाखवतो. सरकारांना संरक्षणात्मक आणि कार्यात्मक कामांसाठी, विशेषतः सायबरसुरक्षेत, प्रगत मॉडेल्स हवे आहेत. त्याच वेळी, हीच संस्थांची गरज अशा साधनांमधून येणाऱ्या धोक्यांशी सामना करण्याची आहे, जे आक्रमक उद्देशांसाठीही वापरले जाऊ शकतात. Mythos चा कथित NSA वापर हा ताण असामान्यपणे स्पष्टपणे दाखवतो.

अहवालानुसार NSA Mythos कसा वापरत आहे

लेखानुसार NSA प्रामुख्याने Mythos चा वापर शोषणयोग्य दुर्बलता असलेल्या वातावरणांचे स्कॅनिंग करण्यासाठी करत आहे. AI तैनातीभोवती फिरणाऱ्या व्यापक विपणन भाषेपेक्षा हे अधिक संकीर्ण आणि ठोस वर्णन आहे. याचा अर्थ प्रत्यक्ष वापर असा: एक शक्तिशाली मॉडेल डिजिटल पायाभूत सुविधांवर लावून, प्रतिस्पर्ध्यांआधी कमकुवत जागा शोधणे.

हे महत्त्वाचे आहे कारण दुर्बलता शोधणे संरक्षण आणि आक्रमण यांच्या सीमारेषेवर येते. जे सिस्टम रक्षकांना दोष शोधण्यात मदत करू शकते, ते स्वभावतः हल्लेखोर वापरू शकतील असे मार्ग उघड करू शकते. अहवालात वर्णन केलेली Anthropic ची भूमिका या दुहेरी-उपयोगी समस्येची जाणीव असल्याचे दिसते. कंपनीने Mythos हा सायबरसुरक्षा कामांसाठी बनवलेला frontier model म्हणून जाहीर केला, पण आक्रमक क्षमतेबद्दलच्या चिंतेमुळे तो सार्वजनिकरित्या प्रकाशित केला नाही.

त्या चौकटीमुळे NSA चा कथित प्रवेश विशेष लक्षणीय ठरतो. हे ग्राहक-लाँच किंवा एंटरप्राइझ बीटा नसून, अत्यंत निवडक संस्थांसाठी नियंत्रित तैनातीसारखे दिसते. दिलेल्या मजकुरानुसार, U.K.’s AI Security Institute नेही प्रवेशाची पुष्टी केली आहे. एकत्रितपणे, हे तपशील सूचित करतात की विशेषतः सक्षम प्रणाली आधी राज्य किंवा राज्य-संबंधित संस्थांना दिल्या जाऊ शकतात, खुल्या व्यावसायिक बाजारात येण्यापूर्वी.

अमेरिकेच्या सरकारमधील एक विरोधाभास

या अहवालातील सर्वात परिणामकारक मुद्दा केवळ NSA Anthropic तंत्रज्ञान वापरत आहे इतकाच नाही. मुद्दा असा आहे की ही तैनाती Anthropic आणि संरक्षण विभागामधील संघर्ष सुरू असतानाच होत असल्याचे सांगितले जाते. काही आठवड्यांपूर्वी, दिलेल्या मजकुरानुसार, कंपनीने मॉडेलच्या पूर्ण क्षमतांपर्यंत अनियंत्रित प्रवेश देण्यास नकार दिल्यामुळे Pentagon ने Anthropic ला “supply-chain risk” असे संबोधले.

यामुळे संघीय सरकारचे एक ठळक दुभंगलेले चित्र तयार होते. राष्ट्रीय सुरक्षा यंत्रणेचा एक भाग कथितपणे Anthropic च्या मर्यादित सायबर मॉडेलमधून मूल्य घेत आहे. दुसऱ्या भागाने कंपनीला विस्तृत खरेदी आणि नियंत्रण वादात धोका म्हणून पाहिले आहे. फेडरल AI बाजारावर लक्ष ठेवणाऱ्या कोणालाही हा महत्त्वाचा संकेत आहे. वॉशिंग्टन एकाच खरेदीदारासारखे, एकाच भूमिकेसह वागत नाही. एजन्सी मिशन, प्रवेशाच्या मागण्या, आणि संस्थात्मक प्राधान्यांनुसार प्रगत AI प्रणालींचे वेगवेगळे मूल्यांकन करताना दिसत आहेत.

अहवाल आणखी एक राजकीयदृष्ट्या संवेदनशील तपशील देतो: मोठ्या प्रमाणावर देशांतर्गत पाळत ठेवणे आणि स्वायत्त शस्त्र विकासासाठी Claude उपलब्ध करून देण्यास Anthropic ने नकार दिला तेव्हा Pentagon वाद सुरू झाला. सध्याच्या generative AI वादात लष्करी आणि गुप्तचर वापरांबाबतच्या सर्वात कठीण सीमा यामध्ये मोडतात. दिलेल्या अहवालापलीकडे अधिक पुष्टी नसली तरी, सूचकता स्पष्ट आहे: प्रवेशाविषयीची चर्चा आता केवळ तांत्रिक एकत्रीकरण किंवा किंमतीपुरती राहिलेली नाही. प्रदाते आपले मॉडेल कुठे वापरू देतील आणि कुठे नाही, याविषयीचे हे वाद होत आहेत.

हे एक कंपनी किंवा एक मॉडेल यापेक्षा अधिक का महत्त्वाचे आहे

Mythos चा कथित NSA वापर AI उद्योगाचा पुढील टप्पा कसा विकसित होऊ शकतो याचे संकेत देतो. सर्वात मोठा धोरणात्मक प्रश्न आता सरकारे frontier models वापरतील का हा नाही. प्रश्न असा आहे की प्रवेश कसा विभागला जाईल, कोणाला विशेषाधिकारित वापर मिळेल, आणि त्या तैनाती कोणत्या अटींवर चालतील.

इथे वर्णन केलेली Anthropic ची पद्धत व्यापक प्रसिद्धीऐवजी निवडक वितरणावर आधारित असल्याचे दिसते. यामुळे कंपनीला अत्यंत सक्षम प्रणालीची चाचणी कशी होईल आणि ती कोण चालवू शकेल यावर अधिक नियंत्रण मिळेल. त्यामुळे सार्वजनिक तपासणीही कमी होऊ शकते, कारण सर्वात महत्त्वाच्या तैनाती मान्यताप्राप्त संस्थांच्या एका छोट्या वर्तुळातच घडतात.

अमेरिकी सरकारसाठी, हा प्रसंग एक संरचनात्मक समस्या अधोरेखित करतो. एजन्सींना सायबरसुरक्षा आणि राष्ट्रीय सुरक्षा कामांसाठी प्रगत AI हवी आहे, पण मॉडेल पुरवठादार अशा वापर-मर्यादा लादू शकतात ज्या प्रत्येक एजन्सीच्या महत्त्वाकांक्षांशी जुळत नाहीत. यामुळे एक तुकड्या-तुकड्यांचे यंत्रणेचे स्वरूप निर्माण होऊ शकते, ज्यात काही एजन्सी संकीर्ण, मिशन-विशिष्ट करारांद्वारे प्रवेश मिळवतील, तर इतर नियंत्रण, पारदर्शकता, किंवा परवानगीयोग्य वापरावरून वादात अडकून राहतील.

हेही सूचित करते की सायबर संरक्षण हे कदाचित पहिले क्षेत्र ठरू शकते जिथे अत्यंत मर्यादित frontier AI models प्रत्यक्ष ऑपरेशनल महत्त्व मिळवतील. अहवालात सांगितलेला वापर स्पष्ट, तातडीचा, आणि धोरणकर्त्यांना समजण्याजोगा आहे: स्वायत्तता किंवा सर्वसाधारण बुद्धिमत्ता सहाय्यासारख्या व्यापक उद्दिष्टांपेक्षा शोषणयोग्य दुर्बलता शोधणे अधिक सहज समर्थन केले जाऊ शकते. त्यामुळे सायबरसुरक्षा ही त्या प्रणालींसाठी आकर्षक चाचणीभूमी ठरते, ज्या विक्रेत्यांना व्यापकपणे प्रसिद्ध करण्यासाठी खूप धोकादायक वाटतात.

काय अजून अप्रमाणित आहे

कथेतील महत्त्वाचे भाग अजूनही reported, म्हणजेच अधिकृतरीत्या दस्तऐवजीकृत सरकारी धोरणाच्या रूपात नाहीत. TechCrunch म्हणते की Axios ने NSA वापराबद्दल अहवाल दिला. TechCrunch असेही म्हणते की त्यांनी टिप्पणीसाठी NSA शी संपर्क केला, तर Anthropic ने टिप्पणी देण्यास नकार दिला. म्हणजेच, दिलेल्या साहित्यावरून, त्या कराराबद्दल, त्याच्या अटींबद्दल, किंवा त्याच्या व्याप्तीबद्दल कोणत्याही संस्थेकडून थेट अधिकृत पुष्टी नाही.

देखरेखीबाबतही अनुत्तरित प्रश्न आहेत. दिलेला मजकूर हे स्पष्ट करत नाही की Mythos प्रवेशाचे ऑडिट कसे केले जाते, कोणती तांत्रिक सुरक्षा त्याचा वापर नियंत्रित करते, किंवा NSA चा वापर फक्त चाचणी, अंतर्गत विश्लेषण, की ऑपरेशनल तैनातीपुरता मर्यादित आहे. हे अज्ञात मुद्दे महत्त्वाचे आहेत, कारण तेच ठरवतात की हा एक शोधात्मक पायलट आहे की अधिक कायमस्वरूपी खरेदी मार्गाचा भाग.

व्यापक संकेत

या सावधानतांनंतरही, हा काही किरकोळ उद्योगातील तपशील नाही. frontier AI संशोधन आणि राष्ट्रीय सुरक्षा अनुप्रयोग यांच्यामधील रेषा किती वेगाने हलत आहे, याचे हे सूचक आहे. सार्वजनिक प्रकाशनासाठी खूप सक्षम म्हटलेला एक मॉडेल जगातील सर्वात प्रगत गुप्तचर संस्थांपैकी एकाच्या हातात आधीच असू शकतो. त्याच वेळी, तीच कंपनी नागरी स्वातंत्र्य आणि शस्त्र-संबंधित कारणांवरून इतर प्रकारच्या सरकारी प्रवेशाला विरोध करत असल्याचे कथित आहे.

हीच खरी कथा आहे. AI धोरणाची चर्चा आता केवळ प्रगत प्रणाली शक्तिशाली आहेत की धोकादायक, याबद्दल नाही. प्रश्न असा आहे की कोणाला प्रथम प्रवेश मिळतो, कोणाला नाकारले जाते, आणि खरेदीच्या दबावातून कोणत्या संस्था नियम घडवू शकतात. अहवाल खरा असेल तर Mythos हा त्या नव्या व्यवस्थेच्या घडणीचा प्रारंभिक नमुना आहे.

मुख्य मुद्दे

• TechCrunch नुसार, NSA कथितपणे Anthropic चा मर्यादित Mythos Preview मॉडेल वापरत आहे.
• Anthropic ने तो सार्वजनिक प्रकाशनासाठी खूप सक्षम मानल्यामुळे Mythos सुमारे 40 संस्थांपुरता मर्यादित होता, असे दिलेला अहवाल सांगतो.
• NSA कथितपणे मॉडेलचा वापर मुख्यतः डिजिटल वातावरणातील शोषणयोग्य दुर्बलता स्कॅन करण्यासाठी करत आहे.
• ही तैनाती प्रवेश आणि अनुमत वापर यावरून Anthropic सोबत सुरू असलेल्या Pentagon वादाच्या शेजारी दिसते.

हा लेख TechCrunch च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.