पेंटागन रक्षा प्रदाताओं के लिए सामान्य AI मानक स्थापित करने का काम कर रहा है

रक्षा उद्यम भर में AI मानकीकरण

पेंटागन अपनी बढ़ती कृत्रिम बुद्धिमत्ता प्रदाताओं की सूची को जिस पर अधिकारी "समान आधार" के रूप में वर्णित करते हैं, को संरेखित करने के लिए समन्वित प्रयास कर रहा है, सैन्य के भीतर AI प्रणालियों को कैसे विकसित, परीक्षण, तैनात और प्रशासित किया जाता है, इसके लिए सामान्य मानक स्थापित कर रहा है। रक्षा विभाग के अनुसंधान प्रमुख द्वारा उल्लिखित यह पहल, दर्जनों कंपनियों, कई सैन्य सेवाओं और लॉजिस्टिक्स अनुकूलन से युद्ध के मैदान के निर्णय समर्थन तक विस्तृत अनुप्रयोगों तक फैली एक विस्तारशील AI पारिस्थितिकी तंत्र का प्रबंधन करने की चुनौतियों को दर्शाता है।

जैसा कि DOD ने पिछले कुछ वर्षों में अपनी AI गोद लेने को तेज किया है, इसने Lockheed Martin और Raytheon जैसी बड़ी रक्षा ठेकेदारों से लेकर Palantir और Anduril जैसी सिलिकॉन वैली फर्मों तक छोटी विशेष AI स्टार्टअप तक विविध तकनीकी प्रदाताओं के साथ अनुबंध किया है। इन कंपनियों में से प्रत्येक अपनी स्वयं की विकास प्रथाएं, परीक्षण पद्धति, और सुरक्षा और नैतिकता के प्रति दृष्टिकोण लाता है। परिणाम सेना के भीतर एक AI परिदृश्य है जो तकनीकी रूप से विषम है और कुछ मामलों में लगातार प्रबंधित करना मुश्किल है।

वास्तव में "समान आधार" का अर्थ क्या है

मानकीकरण प्रयास AI विकास और तैनाती के कई पहलुओं को शामिल करता है।

• परीक्षण और मूल्यांकन: DOD चाहता है कि सभी AI प्रदाता अपनी प्रणालियों के प्रदर्शन, विश्वसनीयता और विफलता के तरीकों को परीक्षण करने के लिए तुलनीय तरीकों का उपयोग करें। इसमें मानकीकृत बेंचमार्क कार्य, सामान्य मूल्यांकन मेट्रिक्स और साझा परीक्षण बुनियादी ढांचा शामिल है जो विभिन्न प्रणालियों की तुलना करने की अनुमति देता है।
• सुरक्षा और मजबूती: सैन्य संदर्भों में तैनात की गई AI प्रणालियों को प्रतिकूल हमलों के प्रति लचीलेपन, उन इनपुट्स के लिए सुचारु गिरावट जो प्रशिक्षण वितरण से बाहर हैं, और सैन्य कार्यों की विशेषता वाली चरम परिस्थितियों में अनुमानित व्यवहार के लिए न्यूनतम मानकों को पूरा करना चाहिए।
• डेटा शासन: पहल में प्रशिक्षण डेटा को कैसे प्राप्त, लेबल, संग्रहीत और प्रदाताओं के बीच साझा किया जाता है, इसके लिए मानक शामिल हैं। डेटा गुणवत्ता AI प्रणाली के प्रदर्शन का एक महत्वपूर्ण निर्धारक है, और प्रदाताओं के बीच असंगत डेटा प्रथाएं असंगत परिणामों का कारण बन सकती हैं।
• अंतरसंचालनीयता: सैन्य AI प्रणालियों को तेजी से एक-दूसरे के साथ और मौजूदा कमांड-एंड-कंट्रोल बुनियादी ढांचे के साथ संचार करने की आवश्यकता होती है। सामान्य इंटरफेस मानक और डेटा प्रारूप इस एकीकरण को सक्षम करने के लिए आवश्यक हैं।
• दस्तावेज़ीकरण और लेखापरीक्षा क्षमता: प्रदाताओं से अपेक्षा की जाती है कि वे यह विस्तृत रिकॉर्ड बनाए रखें कि उनकी प्रणालियों को कैसे प्रशिक्षित किया गया, कौन सा डेटा उपयोग किया गया, कौन सी परीक्षण की गई, और कौन सी सीमाएं पहचानी गईं। यह दस्तावेज़ीकरण परिचालन विश्वास और कानूनी जवाबदेही दोनों के लिए महत्वपूर्ण है।

नैतिक आयाम

पेंटागन के AI मानकीकरण प्रयास के सबसे निकटता से देखे गए पहलुओं में से एक विभाग के AI नैतिकता सिद्धांतों के साथ इसका प्रतिच्छेदन है। DOD ने 2020 में अपने AI नैतिकता सिद्धांतों को अपनाया, पांच प्रतिबद्धताएं स्थापित कीं: कि AI प्रणालियों को जिम्मेदार, न्यायसंगत, पता लगाने योग्य, विश्वसनीय और शासनीय होना चाहिए। इन सिद्धांतों की कुछ लोगों द्वारा जिम्मेदार सैन्य AI के लिए एक सार्थक ढांचे के रूप में प्रशंसा की गई है और दूसरों द्वारा वास्तविक विकास और तैनाती निर्णयों को रोकने के लिए बहुत अस्पष्ट के रूप में आलोचना की गई है।

DOD अनुसंधान प्रमुख ने जोर दिया कि मानकीकरण प्रयास इन सिद्धांतों को संचालित करने का उद्देश्य है, न कि उन्हें प्रतिस्थापित करना। सभी प्रदाताओं को पूरा करना चाहिए परीक्षण, दस्तावेज़ीकरण, और सुरक्षा के लिए ठोस मानकों को स्थापित करके, विभाग अपनी नैतिक प्रतिबद्धताओं को व्यावहारिक बल देने का लक्ष्य रखता है। विचार यह है कि अमूर्त सिद्धांत जैसे कि "ट्रेसेबिलिटी" अर्थपूर्ण हो जाते हैं जब उन्हें लॉगिंग, ऑडिटिंग, और AI प्रणाली निर्णयों की व्याख्या के लिए विशिष्ट आवश्यकताओं में अनुवादित किया जाता है।

यह विशेष रूप से महत्वपूर्ण है जैसे-जैसे सेना अधिक परिणाम-उन्मुख AI अनुप्रयोगों की ओर बढ़ रही है। AI प्रणालियां जो आपूर्ति श्रृंखला लॉजिस्टिक्स को अनुकूलित करती हैं, AI प्रणालियों के विपरीत विभिन्न नैतिक चिंताएं उठाती हैं जो लक्ष्यों को पहचानती हैं या बल के उपयोग की सिफारिश करती हैं। मानकीकरण प्रयास यह सुनिश्चित करने का लक्ष्य है कि शासन ढांचा आवेदन के दांव के साथ उपयुक्त रूप से स्केल करता है।

मानकीकरण की चुनौतियां

रक्षा उद्यम भर में सामान्य AI मानकों को स्थापित करना कई कारणों से एक दुर्जेय चुनौती है। प्रौद्योगिकी स्वयं तेजी से विकसित हो रही है, और आज उचित मानकों कुछ वर्षों में पुरानी हो सकते हैं। सेना के भीतर AI अनुप्रयोगों की विविधता का अर्थ है कि एक आकार-फिट-सभी दृष्टिकोण काम करने की संभावना नहीं है; एक प्राकृतिक भाषा प्रसंस्करण प्रणाली के मानकों जो बुद्धिमत्ता रिपोर्ट को सारांशित करते हैं, आवश्यक रूप से एक कंप्यूटर दृष्टि प्रणाली के मानकों से भिन्न होंगे जो स्वायत्त वाहनों को गाइड करते हैं।

मानकीकरण और नवाचार के बीच भी तनाव है। रक्षा AI समुदाय ने जानबूझकर प्रदाताओं के एक विविध पारिस्थितिकी तंत्र को विकसित किया है क्योंकि विभिन्न कंपनियां विभिन्न दृष्टिकोण लाती हैं, और यह विविधता नवाचार को चलाती है। अत्यधिक कठोर मानकों ने उन प्रयोगों को दबा सकता है जो सफलता क्षमताओं का उत्पादन करते हैं, जबकि अत्यधिक ढीले मानकों सैन्य संदर्भों में AI को तैनात करने के वास्तविक जोखिमों को संबोधित करने में विफल हो सकते हैं।

इस तनाव को नेविगेट करने के लिए DOD को एक मानक ढांचे को अपनाना आवश्यक है जो सुरक्षा और जवाबदेही सुनिश्चित करने के लिए काफी कठोर है जबकि AI विकास की तेजी से गति को समायोजित करने के लिए काफी लचीला है। अधिकारियों का सुझाव है कि वे एक स्तरीय दृष्टिकोण की खोज कर रहे हैं, बेसलाइन आवश्यकताओं के साथ जो सभी AI प्रणालियों पर लागू होते हैं और अतिरिक्त आवश्यकताएं जो आवेदन की संवेदनशीलता और परिणाम के साथ स्केल करते हैं।

उद्योग की प्रतिक्रिया

रक्षा AI उद्योग की मानकीकरण प्रयास की प्रतिक्रिया आमतौर पर सकारात्मक रही है, लेकिन आरक्षण के बिना नहीं। बड़ी रक्षा ठेकेदार जो व्यापक नियामक आवश्यकताओं के आदी हैं, आमतौर पर स्पष्ट मानकों का स्वागत करते हैं क्योंकि वे अनिश्चितता को कम करते हैं और अनुपालन के संसाधनों वाली कंपनियों के लिए एक प्रतिस्पर्धी लाभ प्रदान करते हैं। छोटी स्टार्टअप, हालांकि, चिंता व्यक्त की है कि बोझिल अनुपालन आवश्यकताएं छोटी फर्मों को असमान रूप से प्रभावित कर सकती हैं और नवाचार की गति को धीमा कर सकती हैं।

DOD ने संकेत दिया है कि यह अपने मानक ढांचे के विकास में उद्योग की इनपुट की मांग कर रहा है, यह स्वीकार करते हुए कि एकतरफा शीर्ष-डाउन मानकों को सहयोगी-विकसित लोगों की तुलना में प्रभावी होने की संभावना कम है। प्रस्तावित परीक्षण पद्धति, दस्तावेज़ीकरण आवश्यकताओं, और सुरक्षा बेंचमार्क पर प्रतिक्रिया प्रदान करने के लिए कई उद्योग कार्य समूह को बुलाया गया है।

इस मानकीकरण प्रयास का परिणाम सेना से परे निहितार्थ होंगे। संयुक्त राज्य में AI प्रौद्योगिकी का सबसे बड़ा एकल उपभोक्ता के रूप में, DOD के मानक निर्णय यह प्रभावित करेंगे कि AI कंपनियां अपने उत्पादों को कैसे विकसित करते हैं और व्यापक प्रौद्योगिकी उद्योग AI सुरक्षा और शासन को कैसे अपनाता है। सही तरीके से काम करना न केवल राष्ट्रीय सुरक्षा के लिए, बल्कि AI विकास की समग्र परिक्रमा के लिए महत्वपूर्ण है।

यह लेख Defense One की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।