अमेरिकी सेना ने एआई-भ्रमित खुफिया जानकारी के चलते चीनी जहाज पर चढ़ने का किया था लगभग फैसला

वसंत 2026 में, अमेरिकी सेना एक चीनी जहाज पर चढ़ने से कुछ ही मिनटों की दूरी पर पहुंच गई थी, क्योंकि एक एआई चैटबॉट ने उसके कार्गो को गलती से परमाणु हथियारों के घटकों के रूप में पहचान लिया था। सीएनएन की एक विशेष रिपोर्ट के अनुसार, हथियारबंद सैनिक अपनी स्थिति में तैनात थे और विमान पहले ही हवा में थे, जब किसी ने यह त्रुटि पकड़ ली।

यह निकट-चूक किसी प्रयोगशाला, युद्ध-अभ्यास या रेड-टीम अभ्यास में नहीं हुई। यह एक वास्तविक खुफिया कार्यप्रवाह के भीतर सामने आई, जिसे एक ऐसे उपकरण ने संचालित किया जिसकी ओर एक विश्लेषक ने डेटा की व्याख्या में सहायता के लिए रुख किया था — और यह एक मशीन की गलती को अंतरराष्ट्रीय घटना में बदलने से बस एक पकड़ की दूरी पर थी।

कैसे एक चैटबॉट ने वाणिज्यिक कार्गो को परमाणु खतरे में बदल दिया

वह विश्लेषक यू.एस. स्पेशल ऑपरेशंस कमांड के अधीन काम करता था। सीएनएन की रिपोर्टिंग के अनुसार, विचाराधीन उपकरण ने ओपन-सोर्स इंटेलिजेंस को सरकारी प्रणालियों के भीतर रखी गई गुप्त सिग्नल्स इंटेलिजेंस के साथ जोड़ दिया था — यह मिश्रण चैटबॉट के आउटपुट को एक तैयार, आधिकारिक मूल्यांकन जैसा रूप दे रहा था।

इसके बजाय इसने जो उत्पन्न किया वह एक गलत पहचान थी। कार्गो परमाणु सामग्री नहीं था। लेकिन यह त्रुटि ऐसे रूप में आई जो खुफिया जानकारी जैसी दिखती थी: स्रोत-युक्त, संश्लेषित और निर्णय-निर्माता के लिए पैकेज की गई। सैनिकों को सतर्क किया गया, विमान तैनात किए गए, और एक मानव द्वारा यह पहचानने से पहले कि अंतर्निहित दावा झूठा था, एक बोर्डिंग अभियान निष्पादन के करीब पहुंच गया।

यह घटना इस बात का एक पाठ्यपुस्तक उदाहरण है कि क्या होता है जब एक जनरेटिव प्रणाली उन श्रेणियों को मिला देती है जिन्हें अलग करने का उसके पास कोई विश्वसनीय तरीका नहीं होता: सार्वजनिक रिपोर्टिंग, वर्गीकृत सिग्नल्स और अनुमान। आउटपुट सहज पढ़ा जाता है क्योंकि इन प्रणालियों को जिस चीज़ के लिए अनुकूलित किया जाता है वह प्रवाह है। दुनिया के बारे में सटीकता एक पूरी तरह से अलग समस्या है।

यह गलती इतनी प्रभावशाली क्यों थी

सीएनएन के विवरण के आधार पर, कई कारकों ने इस त्रुटि को बढ़ाया प्रतीत होता है:

• मिश्रित स्रोत। चैटबॉट ने ओपन-सोर्स सामग्री को सरकारी भंडारों की गुप्त सिग्नल्स इंटेलिजेंस के साथ मिला दिया, जिससे उन रेखाओं को धुंधला कर दिया जिन्हें विश्लेषक अलग रखने के लिए प्रशिक्षित होते हैं।
• आत्मविश्वासपूर्ण प्रस्तुति। झूठा संकेत एक निर्धारण के रूप में पैक किया गया था, न कि एक खुले प्रश्न के रूप में, जिससे कोई दृश्य संकेत नहीं मिला कि कुछ अनिश्चित था।
• गति का दबाव। जो उपकरण विश्लेषण को तेज करता है वह उस निष्कर्ष की ओर बढ़ने को भी तेज करता है जो वह उत्पन्न करता है, चाहे वह सही हो या नहीं।
• सीमित सत्यापन। कथित तौर पर सेना में इस बात के लिए कोई एकसमान मानक नहीं हैं कि एआई-जनित खुफिया जानकारी को संचालन में शामिल करने से पहले कैसे जांचा जाए।

सत्यापन की नींव के बिना एक अपनाने की मुहिम

यह घटना अमेरिकी सेना में एआई के उपयोग को बढ़ाने के एक जानबूझकर किए गए प्रयास के बीच में आती है। रक्षा सचिव पीट हेगसेथ एक त्वरण रणनीति को आगे बढ़ा रहे हैं जिसका उद्देश्य एआई को रक्षा कार्यप्रवाहों में और गहराई तक पहुंचाना है। महत्वाकांक्षा सीधी है: तेज विश्लेषण, अधिक डेटा संसाधित, छोटे निर्णय चक्र।

सीएनएन की रिपोर्टिंग जो सुझाव देती है वह यह है कि गार्डरेल रोलआउट की गति के साथ नहीं चल पाए हैं। सूत्रों ने उपयोग में लाई जा रही आंतरिक प्रणालियों को ज्यादातर वाणिज्यिक उत्पादों के "लिपस्टिक-एड" संस्करण बताया — यानी वाणिज्यिक उपकरण जिन पर सरकारी रंग चढ़ा दिया गया है, न कि ऐसी प्रणालियां जो वर्गीकृत खुफिया कार्य और उसकी सत्यापन आवश्यकताओं के लिए शुरू से बनाई गई हों।

उन्हीं सूत्रों ने इन उपकरणों के साथ व्यवहार में एक विभाजन की ओर इशारा किया। उनके अनुसार, युवा विश्लेषक एआई आउटपुट पर बिना सवाल किए भरोसा करते हैं — यह एक उचित आदत है जब उपकरण एक सर्च इंजन हो जो लिंक लौटाता है, और एक खतरनाक आदत है जब उपकरण ऐसे निष्कर्ष लौटाता है जो तैयार खुफिया जानकारी जैसे पढ़े जाते हैं।

असली जोखिम शायद साधारण है, अस्तित्वगत नहीं

यह निकट-बोर्डिंग उस तरीके के खिलाफ जाती है जिस तरह से एआई जोखिम पर आमतौर पर सार्वजनिक रूप से बहस होती है। सबसे तेज बहसें आमतौर पर मानव नियंत्रण से बच निकलने वाली सुपरइंटेलिजेंट प्रणालियों से संबंधित होती हैं। यह मामला कुछ अधिक साधारण के बारे में है: एक त्रुटिपूर्ण उपकरण, समय के दबाव में उपयोग किया गया, ऐसे लोगों द्वारा जो उसकी बात मानने की प्रवृत्ति रखते हैं, एक ऐसी संस्था के भीतर जिसमें उत्तर की जांच के लिए एकसमान नियम नहीं हैं।

एक सूत्र ने इस गतिशीलता को सीधे शब्दों में सारांशित करते हुए सीएनएन को बताया कि एआई "आपको एक बुरे विचार तक तेजी से पहुंचने देता है।" यह वाक्यांश विशिष्ट खतरे को पकड़ता है। तकनीक को खतरनाक होने के लिए दुर्भावनापूर्ण या सचेत होने की आवश्यकता नहीं है। उसे केवल एक गलत निष्कर्ष तक पहुंचना, उसे प्रसारित करना और उस पर कार्रवाई करना आसान बनाना है।

जो अधिवक्ता वर्षों से गैर-आलोचनात्मक या बुरे इरादे वाले ऑपरेटरों के हाथों में लापरवाह प्रणालियों के बारे में चेतावनी देते रहे हैं, उनके पास अब एक ठोस उदाहरण है। उन्होंने जिस परिदृश्य का वर्णन किया था — ईश्वर जैसी मशीनें नहीं, बल्कि लापरवाह मशीनें — वही वास्तव में सामने आया प्रतीत होता है।

यह निकट-चूक खुफिया कार्य में एआई के बारे में क्या बताती है

सबसे असहज विवरण यह है कि त्रुटि पकड़े जाने से पहले कितनी दूर तक पहुंच गई। एक झूठा संकेत चैट विंडो के भीतर नहीं रहा। यह एक सैन्य मुद्रा बन गया: सैनिक तैयार, विमान हवा में, बोर्डिंग कार्रवाई कुछ ही मिनटों की दूरी पर। यही एक भ्रम और एक संकट के बीच की दूरी है, और यह एक ही कार्यप्रवाह के भीतर तय हो गई।

यह घटना एक जवाबदेही प्रश्न को भी उजागर करती है जिसे संस्थाएं अभी सुलझा रही हैं। जब एक एआई-सहायता प्राप्त मूल्यांकन किसी परिचालन निर्णय में योगदान देता है, तो जिम्मेदारी मॉडल को हस्तांतरित नहीं होती। सत्यापन का दायित्व उसके आसपास के लोगों और प्रक्रियाओं के पास ही रहता है। यदि उस सत्यापन के लिए कोई एकसमान मानक मौजूद नहीं है, तो दायित्व प्रभावी रूप से अनिर्दिष्ट रहता है।

इसके बाद आने वाले व्यावहारिक प्रश्न

• संचालन को प्रभावित करने से पहले एआई-व्युत्पन्न खुफिया निष्कर्ष को कौन मंजूरी देता है?
• एक मॉडल के अनुमान को पुष्ट तथ्य से क्या अलग करता है, और वह अंतर विश्लेषक को कैसे दिखाया जाता है?
• वर्गीकृत खुफिया कार्य के लिए वाणिज्यिक-व्युत्पन्न आंतरिक उपकरणों को कैसे मान्य किया जाता है?
• कौन सा प्रशिक्षण विश्लेषकों को एक आत्मविश्वासपूर्ण, सहज और गलत आउटपुट को चुनौती देने के लिए तैयार करता है?

इनमें से कोई भी प्रश्न असामान्य नहीं है। ये किसी भी खुफिया प्रक्रिया की सामान्य आवश्यकताएं हैं जो स्रोत और पुष्टि पर निर्भर करती है। जटिलता यह है कि जनरेटिव उपकरण उस प्रक्रिया के कई चरणों को एक ही सहज उत्तर में समेट देते हैं, और यह संकुचन अदृश्य रहता है जब तक कोई जानबूझकर उसे खोजने की कोशिश न करे।

एक चेतावनी जो बिल्कुल समय पर आई

यह घटना बिना किसी बोर्डिंग के समाप्त हुई, जो इसे तबाही के बजाय एक चेतावनी बनाती है। यह इसे एक निकट-चूक के रूप में दर्ज करके आगे बढ़ जाने को भी आसान बनाती है। सीएनएन की रिपोर्टिंग इस प्रवृत्ति के खिलाफ तर्क देती है: जिन परिस्थितियों ने यह त्रुटि उत्पन्न की — मिश्रित डेटा स्रोत, वाणिज्यिक-स्तर की टूलिंग, अपनाने का दबाव, और गैर-आलोचनात्मक भरोसा — वे अभी भी मौजूद हैं।

वसंत 2026 में जो हुआ वह उस प्रकार की विफलता है जो एक बार पकड़ी जाती है और फिर, यदि कुछ नहीं बदलता, तो दोबारा नहीं पकड़ी जाती। क्या यह निकट-चूक सत्यापन मानकों के लिए एक निर्णायक मोड़ बनेगी या एक फुटनोट, यह अभी लिए जा रहे निर्णयों पर निर्भर करता है, जबकि विमान वापस जमीन पर हैं और कोई जहाज नहीं बोर्ड किया गया है।

यह लेख The Decoder की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।