एआई मॉडल के लिए एक वर्गीकृत प्रशिक्षण वातावरण
पेंटागन सुरक्षित, वर्गीकृत वातावरण स्थापित करने की योजना बना रहा है जहां जनरेटिव एआई कंपनियां — एंथ्रोपिक सहित और संभवतः अन्य सीमावर्ती एआई प्रयोगशालाएं — अपने मॉडल के कस्टम संस्करणों को वर्गीकृत सैन्य डेटा पर प्रशिक्षित कर सकती हैं, जैसा कि MIT टेक्नोलॉजी रिव्यू ने सीखा है। यह पहल वाणिज्यिक एआई को राष्ट्रीय सुरक्षा संचालन में एकीकृत करने में एक प्रमुख वृद्धि का प्रतिनिधित्व करेगी, जो वर्तमान व्यवस्था से आगे बढ़ेगी जिसमें एआई मॉडल वर्गीकृत सामग्री के बारे में प्रश्नों का उत्तर देते हैं, ऐसी स्थिति में जहां वर्गीकृत सामग्री स्वयं मॉडल को आकार देती है।
वर्तमान में, एंथ्रोपिक के क्लाउड जैसे एआई मॉडल वर्गीकृत सेटिंग्स में कार्यों में सहायता के लिए उपयोग किए जाते हैं जिनमें खुफिया विश्लेषण और कई रिपोर्टों के अनुसार, चल रहे संचालन में लक्ष्य चयन शामिल है। लेकिन इन तैनातियों में, एआई सिस्टम वर्गीकृत इनपुट पर संचालित होने वाले मानक वाणिज्यिक मॉडल हैं — वे वर्गीकृत डेटा पर प्रशिक्षित नहीं किए गए हैं या उनके साथ नहीं। यह अंतर सुरक्षा दृष्टिकोण से अत्यंत महत्वपूर्ण है।
वर्गीकृत डेटा पर प्रशिक्षण का क्या अर्थ होगा
वर्गीकृत डेटा पर मॉडल को प्रशिक्षित करना उस जानकारी को मॉडल के वजन में एम्बेड करेगा — गणितीय पैरामीटर जो सब कुछ एनकोड करते हैं जो एक मॉडल जानता है और यह कैसे तर्क देता है। एक मॉडल के विपरीत जो केवल किसी विशिष्ट क्वेरी के लिए संदर्भ के रूप में वर्गीकृत जानकारी को संसाधित करता है, एक वर्गीकृत-डेटा-प्रशिक्षित मॉडल खुफिया पैटर्न, विश्लेषणात्मक ढांचे और संभवतः विशिष्ट संवेदनशील जानकारी को अपनी मौलिक वास्तुकला में शामिल करेगा।
सुरक्षा निहितार्थ बहुत बड़े हैं। एक बार जब वर्गीकृत जानकारी मॉडल वजन में एम्बेड हो जाती है, तो इसे बाहर निकालना असाधारण रूप से मुश्किल हो जाता है। वर्गीकृत दस्तावेजों को संभालने की मानक प्रक्रियाएं — पहुंच नियंत्रण, ऑडिट ट्रेल, आवश्यकता-जानकारी प्रोटोकॉल — मशीन लर्निंग मॉडल पैरामीटर पर स्पष्ट रूप से मैप नहीं करते हैं। वर्गीकृत डेटा पर प्रशिक्षित एक मॉडल एक नई तरह की सुरक्षा कलाकृति का प्रतिनिधित्व करता है जिसके लिए मौजूदा ढांचे को नियंत्रित करने के लिए डिज़ाइन नहीं किया गया था।
रक्षा अधिकारी इन जोखिमों को स्वीकार करते हैं लेकिन तर्क देते हैं कि सैन्य-विशिष्ट एआई मॉडल की क्षमता लाभ — डोमेन-विशिष्ट शब्दावली को समझने के लिए प्रशिक्षित, संचालन सुरक्षा प्रोटोकॉल, और वर्गीकृत विश्लेषणात्मक ढांचे — उचित सुरक्षा आर्किटेक्चर विकसित करने में निवेश को सही ठहराता है।
एंथ्रोपिक की जटिल स्थिति
रक्षा विभाग के साथ एंथ्रोपिक का संबंध तेजी से खराब हो गया है। कंपनी ने अपने एआई के सैन्य अनुप्रयोगों के आसपास सख्त नीतियों के लिए सार्वजनिक रूप से प्रतिबद्ध किया है, और रिपोर्टिंग से पता चलता है कि यूएस अधिकारियों ने सवाल उठाया है कि क्या एंथ्रोपिक पर युद्धक्षेत्र प्रणालियों के साथ विश्वास किया जा सकता है। वर्गीकृत प्रशिक्षण कार्यक्रम एंथ्रोपिक — और संभवतः अन्य भाग लेने वाली एआई कंपनियों — को एक अभूतपूर्व स्थिति में डाल देगा: सुरक्षा निकासी के साथ कॉर्पोरेट कर्मचारी वर्गीकृत वातावरण के अंदर काम कर रहे हैं ताकि मॉडल को खुफिया पर प्रशिक्षित किया जा सके जिसकी वे अपने स्वयं के संगठनों के भीतर भी चर्चा नहीं कर सकते।
ओपनएआई का लाभ और प्रतिस्पर्धी परिदृश्य
ओपनएआई प्रतियोगियों की तुलना में पेंटागन आवश्यकताओं को पूरा करने के लिए तेजी से आगे बढ़ा प्रतीत होता है। रक्षा विभाग के साथ कंपनी की समझौता — जिसमें इसके मॉडल के सैन्य उपयोग पर पहले लागू कुछ प्रतिबंधों को आराम दिया गया — कथित तौर पर वर्गीकृत अनुबंधों के लिए पसंदीदा स्थिति दी है। $50 बिलियन Amazon-OpenAI सौदा, जो स्केल की गई सैन्य एआई तैनातियों के लिए कंप्यूट बुनियादी ढांचा प्रदान करता है, ओपनएआई को राष्ट्रीय सुरक्षा अनुप्रयोगों के लिए प्राथमिक वाणिज्यिक एआई विक्रेता के रूप में आगे बढ़ाता है।
पेंटागन की वर्गीकृत प्रशिक्षण पहल, यदि यह योजना के अनुसार आगे बढ़ती है, तो वाणिज्यिक एआई कंपनियों और यूएस रक्षा प्रतिष्ठान के बीच संबंध के अगले चरण को परिभाषित करेगी — एआई सुरक्षा अनुसंधान, एआई प्रयोगशालाओं के बीच प्रतिस्पर्धी गतिविधि, और अंतर्राष्ट्रीय एआई शासन ढांचे के लिए निहितार्थ के साथ। यह जो प्रश्न वाणिज्यिक एआई आर्किटेक्चर में राज्य रहस्य एम्बेड करने के बारे में उठाता है उनके पास रक्षा क्षेत्र या प्रौद्योगिकी उद्योग के इतिहास में कोई स्पष्ट पूर्वनिर्धारण नहीं है।
यह लेख MIT टेक्नोलॉजी रिव्यू की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on technologyreview.com