स्कूल पर हमले के बाद अमेरिकी टारगेटिंग सिस्टम जांच के दायरे में

एआई युग की सैन्य प्रक्रिया का पुराने बुनियादी ढांचे से सामना

ईरान में एक स्कूल पर हुए मिसाइल हमले की रिपोर्ट ने इस पर सवाल और तेज कर दिए हैं कि क्या कृत्रिम बुद्धिमत्ता के युद्ध योजना में बड़ी भूमिका लेने के साथ अमेरिकी सेना की टारगेटिंग प्रणालियां सुरक्षित तरीके से विकसित हो रही हैं। उपलब्ध स्रोत पाठ के अनुसार, जांचकर्ताओं ने पाया कि जिस स्थान को प्राथमिक विद्यालय बताने वाला एक महत्वपूर्ण नोट कमांडरों तक कभी पहुंचा ही नहीं, क्योंकि संबंधित खुफिया उपकरण आधिकारिक टारगेटिंग डेटाबेस से जुड़ा नहीं था।

मामले को स्रोत में एक साधारण सॉफ्टवेयर बग के रूप में नहीं रखा गया है। इसे कई परतों में हुई विफलता के रूप में प्रस्तुत किया गया है: पुरानी इमेजरी, अलग-अलग खुफिया प्रणालियां, मैन्युअल डेटा हैंडलिंग, और निर्णय श्रृंखला में एआई टूल्स का तेजी से परिचालन उपयोग, जो अब भी अधूरे रिकॉर्ड पर निर्भर है। इससे पैदा हुआ तनाव नजरअंदाज करना मुश्किल है। एआई लक्ष्य सुझाने की गति दे सकता है, लेकिन गति टूटी हुई स्रोत-सूचना या असंबद्ध डेटाबेस की भरपाई नहीं कर सकती।

मामले के केंद्र में छूटा हुआ नोट

उपलब्ध सामग्री में संक्षेपित विवरण के अनुसार, दक्षिण-पूर्वी ईरान के मिनाब शहर में स्थित स्थल को पहले अमेरिका ने एक ईरानी सैन्य नौसैनिक सुविधा के रूप में वर्गीकृत किया था। हालांकि, 2019 में एक विश्लेषक ने कथित तौर पर ऐसे बदलावों को चिह्नित किया जिनसे पता चलता था कि इमारत अब एक प्राथमिक विद्यालय बन चुकी थी। यह टिप्पणी एक डिजिटल खुफिया उपकरण में दर्ज की गई थी, लेकिन वह उपकरण स्ट्राइक लक्ष्यों को विकसित करने के लिए उपयोग किए जाने वाले प्राधिकृत लक्ष्य डेटाबेस से जुड़ा नहीं था।

नतीजतन, अद्यतन जानकारी उस प्रणाली तक कभी नहीं पहुंची जिस पर कमांडर निर्भर थे। स्रोत पाठ के अनुसार इमारत की कई बार समीक्षा की गई, लेकिन डेटाबेस को ठीक नहीं किया गया। वही सामग्री यह भी कहती है कि समीक्षा में इस्तेमाल की गई इमेजरी सात साल पुरानी थी। इन विवरणों को साथ रखें तो एक मूलभूत डेटा-गवर्नेंस विफलता सामने आती है: जानकारी मौजूद थी, लेकिन प्रक्रिया ने यह सुनिश्चित नहीं किया कि वह उस प्रणाली तक पहुंच सके जहां उसका सबसे अधिक महत्व था।

इसके परिणाम विनाशकारी थे। स्रोत कहता है कि फरवरी के अंत में हुए हमले में अनुमानित 120 बच्चों की मौत हुई। जांचकर्ताओं ने पहले ही अमेरिकी बलों को संभावित रूप से जिम्मेदार माना था, और बाद की रिपोर्टिंग ने, जैसा कि उपलब्ध पाठ में वर्णित है, उस निष्कर्ष को विशिष्ट तकनीकी और प्रक्रियागत विफलताओं से जोड़ा।

एआई की भूमिका: संदर्भ की गारंटी के बिना पैमाना

यह मामला एक विशेष रूप से संवेदनशील समय पर सामने आता है, क्योंकि उसी संघर्ष के दौरान अमेरिकी सेना कथित तौर पर बड़े पैमाने पर एआई-सहायता प्राप्त टारगेटिंग का उपयोग कर रही थी। स्रोत पाठ में कहा गया है कि Anthropic का Claude मॉडल Palantir के Maven Smart System में शामिल था और पहले दिन लगभग 1,000 लक्ष्यों का सुझाव दिया। इसमें पहले की रिपोर्टिंग का भी हवाला दिया गया है, जिसके अनुसार अभियान के शुरुआती दिनों में 3,000 से अधिक लक्ष्यों पर प्रहार किया गया।

ये आंकड़े तकनीकी परिष्कार के माप से कम और गति के माप से अधिक महत्वपूर्ण हैं। इस पैमाने पर, अंतर्निहित डेटा वातावरण की कोई भी कमजोरी अधिक खतरनाक हो जाती है। एआई छंटाई, रैंकिंग और सिफारिश को तेज कर सकता है। लेकिन वह उन रिकॉर्ड्स को भरोसेमंद ढंग से ठीक नहीं कर सकता जो कभी सिस्टम ऑफ रिकॉर्ड में अपडेट ही नहीं किए गए, या उन डेटाबेस में छिपे विरोधाभासों को हल नहीं कर सकता जो आपस में संवाद नहीं करते।

नीति समस्या को समझने के लिए यह अंतर जरूरी है। सैन्य एआई पर सार्वजनिक बहस अक्सर इस पर केंद्रित रहती है कि क्या किसी मॉडल को घातक लक्ष्यों की सिफारिश या प्राथमिकता तय करने की अनुमति दी जानी चाहिए। यह मामला एक शांत लेकिन उतना ही महत्वपूर्ण मुद्दा उठाता है: यदि कोई मॉडल अधूरी, पुरानी, या संरचनात्मक रूप से खंडित जानकारी पर काम करता है, तो कड़ी निगरानी के बावजूद वह खराब नतीजों में योगदान दे सकता है।

पुराने सिस्टमों का बोझ

उपलब्ध स्रोत पाठ एक केंद्रीय डेटाबेस MIDB की पहचान करता है, जिसे 1980 के दशक में बनाया गया था और जो अब भी काफी हद तक मैन्युअल इनपुट पर निर्भर है। इसमें कहा गया है कि MIDB को एक स्वचालित प्रणाली MARS से बदला जाना है, लेकिन यह परिवर्तन वर्षों से देरी में है। उसी सामग्री के अनुसार, Government Accountability Office ने 2020 में पहले ही लंबे समय से चली आ रही कमियों को चिह्नित किया था।

यह संरचना समझाती है कि समस्या एक छूटे हुए नोट से कहीं बड़ी क्यों है। एक सैन्य संगठन अपने कार्यप्रवाह के कुछ हिस्सों में उन्नत मशीन लर्निंग तैनात कर सकता है, जबकि अभी भी एक ऐसे कोर डेटा बैकबोन पर निर्भर रह सकता है जो किसी अलग युग के लिए बनाया गया था। ऐसे वातावरण में, एआई वास्तविक प्रणाली-नवाचार के बजाय संस्थागत विखंडन के ऊपर एक परत बनकर रह जाता है।

जोखिम यह है कि ऑपरेटर इस प्रक्रिया को वास्तविकता से अधिक आधुनिक, एकीकृत और विश्वसनीय मान सकते हैं। एक हाई-प्रोफाइल कमांड प्लेटफॉर्म में शामिल मॉडल तकनीकी सामंजस्य का आभास दे सकता है, जबकि निर्णायक डेटा अब भी नाज़ुक, आंशिक रूप से मैन्युअल पाइपलाइनों से होकर गुजरता है।

मानवीय समीक्षा केवल एक नारा नहीं है

स्रोत पाठ यह भी नोट करता है कि घातक निर्णयों की मानवीय समीक्षा के लिए निगरानी तंत्रों के अल्प-वित्तपोषित होने को लेकर चिंताएं थीं। यह महत्वपूर्ण है, क्योंकि एआई नीति चर्चाओं में “ह्यूमन इन द लूप” को अक्सर पर्याप्त सुरक्षा उपाय माना जाता है। व्यवहार में, मानवीय समीक्षा तभी काम करती है जब समीक्षकों के पास समय, संदर्भ और सही डेटा तक पहुंच हो। यदि डेटाबेस असंबद्ध हों, इमेजरी पुरानी हो, और कार्यप्रवाह गति के लिए बनाए गए हों, तो मानवीय समीक्षा एक अर्थपूर्ण नियंत्रण के बजाय औपचारिक चेकपॉइंट बनकर रह सकती है।

यह मामला रेखांकित करता है कि मानवीय निर्णय प्रणाली-डिजाइन से अलग नहीं है। एक समीक्षक उस चीज की पुष्टि नहीं कर सकता जिसे प्रणाली सामने ही न लाए। न ही कोई कमांडर किसी अनलिंक्ड टूल में छिपी स्कूल-नामिती को खोज सकता है। यहां बताई गई केंद्रीय विफलता मनुष्यों की अनुपस्थिति नहीं थी, बल्कि मानवीय ज्ञान के प्राधिकृत टारगेटिंग प्रक्रिया तक पहुंचने के लिए एक विश्वसनीय मार्ग का अभाव थी।

यह घटना क्या बदलती है

तत्काल प्रभाव संभवतः एआई के उपयोग पर एक सरल बहस के बजाय सैन्य डेटा एकीकरण की नई जांच होगा। उपलब्ध सामग्री खुद इस निष्कर्ष की ओर इशारा करती है, क्योंकि वह उन प्रणालियों पर जोर देती है जो आपस में बात ही नहीं कर रही थीं। वहां उद्धृत कुछ विशेषज्ञों को उम्मीद है कि अधिक एआई और डिजिटल प्रणालियों के बीच बेहतर लिंक त्रुटियों को कम कर सकते हैं। यह संभव है, लेकिन केवल तभी जब एकीकरण को धारणा के बजाय प्राथमिकता माना जाए।

रक्षा में एआई को परिचालन में लाने की दौड़ में लगे सरकारों के लिए एक गहरा सबक भी है। सबसे गंभीर विफलताएं संभवतः फ्रंटियर-मॉडल के व्यवहार से नहीं, बल्कि साधारण संस्थागत उपेक्षा से उत्पन्न होती हैं: पुरानी डेटाबेस, विलंबित आधुनिकीकरण, अपूर्ण माइग्रेशन योजनाएं, और ऐसे प्रोत्साहन जो सत्यापन पर थ्रूपुट को पुरस्कृत करते हैं। एआई इन कमजोरियों को बढ़ा सकता है, क्योंकि वह लक्ष्यों के नामांकन को प्रणाली से गुजरने की गति बढ़ा देता है।

सैन्य योजनाकारों और नीति-निर्माताओं के लिए निहितार्थ असहज लेकिन स्पष्ट है। एआई-सहायता प्राप्त टारगेटिंग कोई स्व-निहित क्षमता नहीं है। वह अपने नीचे के डेटा ढांचे की ताकतों और विफलताओं को विरासत में लेती है। यदि वह ढांचा क्षेत्रीय अपडेट को भरोसेमंद ढंग से ग्रहण नहीं कर सकता, खुफिया स्रोतों का मिलान नहीं कर सकता, और समीक्षा चक्रों के दौरान परिवर्तनों को संरक्षित नहीं रख सकता, तो अधिक स्वचालन केवल त्रुटि की ओर रास्ते को तेज कर देगा।

परत-दर-परत आधुनिकीकरण पर एक चेतावनी

स्रोत में परिलक्षित स्कूल हमले की जांच एक मॉडल की निंदा से कम और परत-दर-परत आधुनिकीकरण के प्रति चेतावनी अधिक लगती है। नई एआई टूल्स को अब भी पुराने सिस्टमों और मैन्युअल कार्यप्रवाह पर निर्भर प्रक्रिया में जोड़ा गया। परिणाम निर्बाध संवर्धन नहीं, बल्कि गणनात्मक गति और संस्थागत स्मृति के बीच एक खतरनाक असंतुलन था।

यह असंतुलन इस एक घटना से बहुत आगे तक भविष्य की बहसों को प्रभावित करने की संभावना रखता है। चाहे रक्षा हो, स्वास्थ्य सेवा हो, या महत्वपूर्ण अवसंरचना, उच्च-दांव वाले वातावरण में एआई तैनात करने वाले संगठनों को एक ही बुनियादी प्रश्न का सामना करना पड़ता है: क्या जिस प्रणाली में मॉडल जोड़ा जा रहा है, वह वास्तव में उसे समर्थन देने के लिए तैयार है? इस मामले में, स्रोत पाठ में प्रस्तुत साक्ष्य बताते हैं कि उत्तर नहीं था, और उस अंतर की कीमत नागरिकों की जान से चुकाई गई।

यह लेख The Decoder की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.