एआय-भ्रमित गुप्तचर माहितीमुळे अमेरिकेच्या लष्कराने चिनी जहाज जवळपास ताब्यात घेतले

२०२६ च्या वसंत ऋतूत, अमेरिकेच्या लष्कराला एका चिनी जहाजावर चढाई करण्यापासून काही मिनिटेच राहिली होती, कारण एका एआय चॅटबॉटने त्या जहाजावरील माल चुकीच्या पद्धतीने अण्वस्त्रांचे घटक म्हणून ओळखला होता. सीएनएनच्या एका विशेष अहवालानुसार, हातात शस्त्रे घेतलेले सैनिक तयार होते आणि विमाने आधीच हवेत होती, तेवढ्यात कोणीतरी ही चूक हेरली.

ही जवळपासची घटना प्रयोगशाळेत, युद्ध-सरावात किंवा रेड-टीम सरावात घडली नाही. ती प्रत्यक्ष गुप्तचर कार्यप्रवाहात घडली, ज्याला एका विश्लेषकाने माहितीचा अर्थ लावण्यासाठी मदतीसाठी वापरलेल्या साधनाने चालना दिली — आणि एका क्षणाच्या हेरकामुळेच मशीनची चूक आंतरराष्ट्रीय घटनेत बदलण्यापासून वाचली.

चॅटबॉटने व्यापारी मालाचे अणु धोक्यात रूपांतर कसे केले

तो विश्लेषक अमेरिकेच्या स्पेशल ऑपरेशन्स कमांड अंतर्गत काम करत होता. सीएनएनच्या अहवालानुसार, संबंधित साधनाने ओपन-सोर्स गुप्तचर माहिती सरकारी प्रणालींमध्ये असलेल्या गुप्त सिग्नल्स गुप्तचर माहितीसोबत एकत्र केली — या मिश्रणामुळे चॅटबॉटच्या निष्कर्षाला पूर्ण, अधिकृत मूल्यांकनाचे स्वरूप आले.

पण त्याने तयार केले ते चुकीचे ओळखपत्र होते. तो माल अणुसामग्री नव्हता. मात्र ती चूक गुप्तचर माहितीसारख्या स्वरूपात आली: स्रोतांसह, संश्लेषित आणि निर्णय घेणाऱ्यासाठी तयार केलेली. सैनिकांना सतर्क केले गेले, विमाने हवेत उडवली गेली, आणि मूळ दावा खोटा असल्याचे एखाद्या माणसाला समजण्यापूर्वी चढाईची कारवाई अंमलात येण्याच्या जवळ पोहोचली.

ही घटना म्हणजे जनरेटिव्ह प्रणाली अशा श्रेणी एकत्र करते ज्यांना विश्वासार्हपणे वेगळे करण्याचा तिला मार्ग नाही — सार्वजनिक अहवाल, गुप्त सिग्नल्स आणि अनुमान — तेव्हा काय घडते याचे पाठ्यपुस्तकीय उदाहरण आहे. निष्कर्ष सहज वाचनीय वाटतो कारण या प्रणाली प्रामुख्याने असाच प्रवाहीपणा साधण्यासाठी तयार केल्या जातात. जगाबद्दलची अचूकता ही पूर्णपणे वेगळी समस्या आहे.

ही चूक इतकी पटवणारी का ठरली

सीएनएनच्या वृत्तानुसार, अनेक घटकांनी ही चूक वाढवली असावी:

• मिश्र स्रोत. चॅटबॉटने ओपन-सोर्स साहित्य सरकारी संग्रहातील गुप्त सिग्नल्स गुप्तचर माहितीसोबत एकत्र केले, ज्यामुळे विश्लेषकांना वेगळे ठेवण्याचे प्रशिक्षण दिले जाते त्या रेषा अस्पष्ट झाल्या.
• आत्मविश्वासू सादरीकरण. खोटा इशारा खुल्या प्रश्नाऐवजी निश्चित निर्णयाच्या स्वरूपात मांडला गेला, त्यामुळे काही अनिश्चित आहे याचा फारसा दृश्य संकेत राहिला नाही.
• वेगाचा दबाव. विश्लेषण वेगवान करणारे साधन तयार होणाऱ्या निष्कर्षाकडे — तो योग्य असो वा नसो — वाटचालही वेगवान करते.
• मर्यादित पडताळणी. एआय-निर्मित गुप्तचर माहिती कारवायांमध्ये जाण्यापूर्वी तपासण्यासाठी लष्करात सर्वत्र एकसमान मानके नसल्याचे वृत्त आहे.

पडताळणीचा आधार नसलेली स्वीकार वाढवण्याची मोहीम

ही घटना अमेरिकेच्या लष्करात एआयचा वापर वाढवण्याच्या जाणीवपूर्वक प्रयत्नांच्या मध्यभागी घडली आहे. संरक्षण मंत्री पीट हेगसेथ संरक्षण कार्यप्रवाहांमध्ये एआयचा स्वीकार अधिक खोलवर नेण्याच्या उद्देशाने एक गतीवर्धन धोरण पुढे नेत आहेत. महत्त्वाकांक्षा स्पष्ट आहे: वेगवान विश्लेषण, अधिक डेटा प्रक्रिया, लहान निर्णय चक्रे.

सीएनएनच्या अहवालानुसार, मात्र, संरक्षक कुंपणे या विस्ताराशी ताळमेळ राखू शकली नाहीत. सूत्रांनी सांगितले की वापरात असलेल्या अंतर्गत प्रणाली बहुतांशी व्यावसायिक उत्पादनांच्या "लिपस्टिक-लेपित" आवृत्त्या आहेत — गुप्त गुप्तचर कामासाठी आणि त्याच्या पडताळणीच्या गरजांसाठी सुरुवातीपासून तयार केलेल्या प्रणालींऐवजी सरकारी रंग लावलेली व्यावसायिक साधने.

त्याच सूत्रांनी या साधनांकडे पाहण्याच्या दृष्टिकोनातील फरकाकडे लक्ष वेधले. त्यांच्या मते, तरुण विश्लेषक एआयच्या निष्कर्षांवर प्रश्न न करता विश्वास ठेवतात — जेव्हा साधन दुवे परत करणारे सर्च इंजिन असते तेव्हा ही वाजवी सवय ठरते, पण जेव्हा साधन पूर्ण गुप्तचर माहितीसारखे वाचणारे निष्कर्ष परत करते तेव्हा ती धोकादायक ठरते.

खरा धोका कदाचित सामान्य, अस्तित्वविषयक नाही

ही जवळपासची चढाई सार्वजनिक चर्चेत एआय धोक्याबद्दल केल्या जाणाऱ्या चर्चेच्या पद्धतीविरुद्ध जाते. सर्वात मोठे युक्तिवाद सहसा महासुपरबुद्ध प्रणाली मानवी नियंत्रणातून सुटण्याबद्दल असतात. ही घटना अधिक सामान्य गोष्टीबद्दल आहे: एक दोषपूर्ण साधन, वेळेच्या दबावाखाली, त्याच्या शब्दावर विश्वास ठेवण्याची प्रवृत्ती असलेल्या लोकांकडून, उत्तर तपासण्यासाठी एकसमान नियम नसलेल्या संस्थेत वापरले गेले.

एका सूत्राने ही गतिशीलता स्पष्टपणे सांगितली, सीएनएनला दिलेल्या माहितीत म्हटले की एआय "तुम्हाला वाईट कल्पनेपर्यंत वेगाने पोहोचू देतो." हे वर्णन विशिष्ट धोका अधोरेखित करते. तंत्रज्ञान धोकादायक ठरण्यासाठी दुर्भावनापूर्ण किंवा सजग असण्याची गरज नाही. त्याने केवळ चुकीचा निष्कर्ष गाठणे, पसरवणे आणि त्यावर कारवाई करणे सोपे केले पाहिजे.

वर्षानुवर्षे निष्काळजी प्रणाली अविचारी किंवा गैरहेतूने वागणाऱ्या हातात गेल्याबद्दल इशारा देणाऱ्या समर्थकांना आता ठोस उदाहरण मिळाले आहे. त्यांनी वर्णन केलेले चित्र — देवासारख्या मशिन्स नाहीत, तर निष्काळजी मशिन्स — तंतोतंत घडलेले दिसते.

गुप्तचर कामातील एआयबद्दल ही जवळपासची घटना काय उघड करते

सर्वात अस्वस्थ करणारा तपशील म्हणजे ही चूक पकडली जाण्यापूर्वी किती दूर गेली. खोटा इशारा चॅट विंडोमध्ये राहिला नाही. तो लष्करी मुद्रा बनला: सैन्य तयार, विमाने हवेत, चढाईची कारवाई काही मिनिटांवर. हे भ्रम आणि संकट यांतील अंतर आहे, आणि ते एकाच कार्यप्रवाहात बंद झाले.

ही घटना जबाबदारीचा प्रश्नही अधोरेखित करते, ज्यावर संस्था अजून तोडगा काढत आहेत. जेव्हा एआय-सहाय्यित मूल्यांकन कार्यवाहीच्या निर्णयात योगदान देते, तेव्हा जबाबदारी मॉडेलकडे हस्तांतरित होत नाही. पडताळणीची जबाबदारी त्याभोवतीच्या लोकांवर आणि प्रक्रियांवर राहते. त्या पडताळणीसाठी एकसमान मानक नसेल, तर जबाबदारी प्रत्यक्षात कोणालाही दिली जात नाही.

यानंतर उपस्थित होणारे व्यावहारिक प्रश्न

• एआय-आधारित गुप्तचर निष्कर्ष कारवायांवर प्रभाव टाकण्यापूर्वी त्याला कोण मंजुरी देते?
• मॉडेलचे अनुमान आणि पुष्टी झालेली वस्तुस्थिती यांत काय फरक आहे, आणि तो फरक विश्लेषकाला कसा दाखवला जातो?
• व्यावसायिक आधारावर तयार केलेली अंतर्गत साधने गुप्त गुप्तचर कामासाठी कशी प्रमाणित केली जातात?
• आत्मविश्वासू, प्रवाही आणि चुकीच्या निष्कर्षाला आव्हान देण्यासाठी विश्लेषकांना कोणते प्रशिक्षण तयार करते?

यापैकी कोणताही प्रश्न विचित्र नाही. स्रोत आणि पुष्टीवर अवलंबून असलेल्या कोणत्याही गुप्तचर प्रक्रियेच्या या सामान्य गरजा आहेत. अडचण ही आहे की जनरेटिव्ह साधने त्या प्रक्रियेतील अनेक टप्पे एकाच प्रवाही उत्तरात संकुचित करतात, आणि कोणी जाणीवपूर्वक शोध घेतल्याशिवाय हे संकुचन अदृश्य राहते.

वेळीच आलेला इशारा

ही घटना चढाई न होता संपली, त्यामुळे ती आपत्तीऐवजी इशारा ठरते. त्यामुळेच तिला जवळपासची घटना म्हणून बाजूला सारून पुढे जाणे सोपे होते. सीएनएनचा अहवाल या प्रवृत्तीविरुद्ध युक्तिवाद करतो: ही चूक निर्माण करणाऱ्या परिस्थिती — मिश्र डेटा स्रोत, व्यावसायिक दर्जाची साधने, स्वीकाराचा दबाव आणि अविचारी विश्वास — अजूनही कायम आहेत.

२०२६ च्या वसंत ऋतूत जे घडले तो असा प्रकारचा अपयश आहे जो एकदा पकडला जातो आणि नंतर, काहीही बदलले नाही तर, पुन्हा पकडला जात नाही. ही जवळपासची घटना पडताळणी मानकांसाठी वळणबिंदू ठरेल की तळटीप, हे आता घेतल्या जाणाऱ्या निर्णयांवर अवलंबून आहे — जेव्हा विमाने पुन्हा जमिनीवर आहेत आणि कोणतेही जहाज ताब्यात घेतलेले नाही.

हा लेख द डिकोडरच्या अहवालावर आधारित आहे. मूळ लेख वाचा.