शाळेवरील हल्ल्यानंतर US लक्ष्यीकरण प्रणालींवर चौकशी

AI युगातील लष्करी प्रक्रिया आणि जुना पायाभूत ढाचा

इराणमधील एका शाळेवर झालेल्या क्षेपणास्त्र हल्ल्यावरील अहवालामुळे, कृत्रिम बुद्धिमत्ता युद्ध-नियोजनात मोठी भूमिका घेत असताना US लष्कराच्या लक्ष्यीकरण प्रणाली सुरक्षितपणे विकसित होत आहेत का, हा प्रश्न अधिक तीव्र झाला आहे. उपलब्ध स्रोत मजकुरानुसार, तपासकर्त्यांना आढळले की त्या स्थळाला प्राथमिक शाळा म्हणून ओळखणारी एक महत्त्वाची नोंद कमांडरपर्यंत पोहोचलीच नाही, कारण संबंधित इंटेलिजन्स साधन अधिकृत लक्ष्यीकरण डेटाबेसशी जोडलेले नव्हते.

स्रोतामध्ये हे प्रकरण केवळ साधा सॉफ्टवेअर बग म्हणून मांडलेले नाही. ते अनेक स्तरांवरील अपयश म्हणून सादर केले आहे: जुनी प्रतिमा, वेगवेगळी इंटेलिजन्स प्रणाली, हाताने होणारी डेटा हाताळणी, आणि अजूनही अपूर्ण नोंदींवर अवलंबून असलेल्या निर्णय-साखळीत AI साधनांचा वेगवान परिचालन वापर. त्यामुळे निर्माण झालेला ताण दुर्लक्षित करणे कठीण आहे. AI जलद गतीने लक्ष्य सुचवू शकते, पण तुटलेला स्रोत डेटा किंवा परस्पर न जोडलेले डेटाबेस ती भरून काढू शकत नाही.

प्रकरणाच्या मध्यात हरवलेली नोंद

पुरविलेल्या साहित्याच्या संक्षेपानुसार, इराणच्या आग्नेयेकडील मिनाब शहरातील त्या स्थळाला पूर्वी US ने इराणी लष्करी नौदल सुविधा म्हणून वर्गीकृत केले होते. मात्र 2019 मध्ये, एका विश्लेषकाने असे बदल नोंदवले असल्याचे सांगितले जाते ज्यावरून ती इमारत आता प्राथमिक शाळा झाली असल्याचे दिसत होते. ही टीप डिजिटल इंटेलिजन्स साधनात नोंदवण्यात आली, पण ते साधन हल्ल्याच्या लक्ष्यांसाठी वापरल्या जाणाऱ्या अधिकृत लक्ष्यीकरण डेटाबेसशी जोडलेले नव्हते.

परिणामी, अद्ययावत माहिती कधीच त्या प्रणालीत पोहोचली नाही ज्यावर कमांडर अवलंबून होते. स्रोत मजकुरानुसार, त्या इमारतीचा अनेकदा आढावा घेण्यात आला, पण डेटाबेस दुरुस्त करण्यात आला नाही. त्याच सामग्रीत असेही सांगितले आहे की आढाव्यात वापरलेली प्रतिमा सात वर्षे जुनी होती. हे तपशील एकत्र पाहिल्यास, मूलभूत डेटा-शासन अपयश स्पष्ट होते: माहिती अस्तित्वात होती, पण ती ज्या प्रणालीत सर्वाधिक महत्त्वाची होती तिथे पोहोचेल याची प्रक्रियेने खात्री केली नाही.

त्याचे परिणाम विनाशकारी होते. स्रोत म्हणतो की फेब्रुवारी अखेरीस झालेल्या हल्ल्यात अंदाजे 120 मुले मारली गेली. तपासकर्त्यांनी आधीच US दलांना संभाव्यतः जबाबदार मानले होते, आणि नंतरच्या वार्तांकनात, पुरविलेल्या मजकुरात वर्णन केल्यानुसार, त्या निष्कर्षाला विशिष्ट तांत्रिक आणि प्रक्रियात्मक अपयशांशी जोडले गेले.

AIची भूमिका: संदर्भाची हमी नसताना प्रमाण

त्याच संघर्षादरम्यान US लष्कराने AI-सहाय्यित लक्ष्यीकरण मोठ्या प्रमाणावर वापरले होते, असे अहवाल सांगत असल्याने हे प्रकरण अत्यंत संवेदनशील क्षणी समोर आले आहे. स्रोत मजकुरात म्हटले आहे की Anthropic चे Claude मॉडेल Palantir च्या Maven Smart System मध्ये अंतर्भूत होते आणि पहिल्याच दिवशी सुमारे 1,000 लक्ष्य सुचवले. प्रारंभीच्या दिवसांत 3,000 हून अधिक लक्ष्यांवर प्रहार झाल्याचे आधीचे वार्तांकनही त्यात उद्धृत केले आहे.

ही आकडेवारी तांत्रिक प्रगततेचे मोजमाप कमी आणि गतीचे मोजमाप अधिक आहे. त्या प्रमाणात, खालील डेटा वातावरणातील कोणतीही कमजोरी अधिक धोकादायक ठरते. AI ट्रायाज, रँकिंग, आणि शिफारसी वेगाने करू शकते. पण system of record मध्ये कधीच अद्ययावत न झालेल्या नोंदी ती विश्वासार्हपणे दुरुस्त करू शकत नाही, किंवा एकमेकांशी संवाद न करणाऱ्या डेटाबेसमध्ये लपलेले विरोधाभास ती सोडवू शकत नाही.

धोरणात्मक समस्येचा अर्थ समजून घेण्यासाठी हा फरक अत्यावश्यक आहे. लष्करी AI वरील सार्वजनिक चर्चा अनेकदा एखाद्या मॉडेलला घातक लक्ष्य सुचवण्याची किंवा प्राधान्य देण्याची परवानगी द्यावी का, यावर केंद्रित असते. हे प्रकरण एक शांत पण तितकाच महत्त्वाचा मुद्दा दाखवते: काटेकोर देखरेखीखालील मॉडेलसुद्धा अपूर्ण, कालबाह्य, किंवा संरचनात्मकदृष्ट्या तुटलेल्या माहितीवर कार्य करत असेल तर वाईट परिणामांना हातभार लावू शकते.

जुन्या प्रणालींचा भार

पुरविलेल्या स्रोत मजकुरात MIDB नावाच्या एका केंद्रीय डेटाबेसचा उल्लेख आहे, जो 1980 च्या दशकात तयार करण्यात आला आणि अजूनही मोठ्या प्रमाणावर हाताने इनपुटवर अवलंबून आहे. MIDB ची जागा MARS नावाच्या स्वयंचलित प्रणालीने घ्यायची आहे, पण हा बदल अनेक वर्षे मागे पडलेला आहे. त्याच सामग्रीनुसार, Government Accountability Office ने 2020 मध्येच दीर्घकालीन कमतरता ओळखल्या होत्या.

ही रचना समस्या केवळ एक हरवलेली नोंद नसून त्यापेक्षा मोठी का आहे हे समजावते. एक लष्करी संस्था आपल्या कार्यप्रवाहातील काही भागांत प्रगत machine learning तैनात करू शकते, पण तरीही वेगळ्या युगासाठी बनवलेल्या मुख्य डेटा पायाभूत सुविधेवर अवलंबून राहू शकते. अशा वातावरणात, AI हे संस्थात्मक विखंडनाच्या वरची एक थर बनते, खऱ्या प्रणाली-पुनर्रचनेऐवजी.

जोखीम अशी की ऑपरेटरना ही प्रक्रिया प्रत्यक्षापेक्षा अधिक आधुनिक, एकात्मिक आणि विश्वासार्ह वाटू शकते. उच्च-प्रोफाइल कमांड प्लॅटफॉर्ममध्ये बसवलेले मॉडेल तांत्रिक सुसंगततेचा भास निर्माण करू शकते, जरी निर्णायक डेटा अजूनही नाजूक, अंशतः हाताने चालणाऱ्या पाइपलाइनमधून जात असेल.

मानवी पुनरावलोकन हा फक्त नारा नाही

प्राणघातक निर्णयांसाठी मानवी पुनरावलोकनाच्या देखरेखीची साधने अपुऱ्या निधीमुळे कमकुवत होती, असेही स्रोत मजकुरात नमूद केले आहे. हे महत्त्वाचे आहे, कारण AI धोरण चर्चांमध्ये “human in the loop” हे पुरेसे संरक्षण मानले जाते. प्रत्यक्षात, पुनरावलोकन करणाऱ्यांकडे वेळ, संदर्भ, आणि योग्य डेटाचा प्रवेश असेल तरच मानवी पुनरावलोकन प्रभावी ठरते. डेटाबेस जोडलेले नसतील, प्रतिमा जुन्या असतील, आणि कार्यप्रवाह गतीसाठी बांधलेले असतील, तर मानवी पुनरावलोकन अर्थपूर्ण नियंत्रणाऐवजी केवळ औपचारिक चेकपॉइंट बनू शकते.

हे प्रकरण दाखवते की मानवी निर्णय आणि प्रणाली रचना एकमेकांपासून वेगळे नाहीत. प्रणाली जे दाखवत नाही, ते पुनरावलोकनकर्ता पडताळू शकत नाही. आणि जोड न केलेल्या साधनात लपलेली शाळेची नोंद कमांडर शोधू शकत नाही. येथे वर्णन केलेले मुख्य अपयश म्हणजे मानवांची अनुपस्थिती नव्हे, तर अधिकृत लक्ष्यीकरण प्रक्रियेत मानवी ज्ञान पोहोचण्यासाठी विश्वासार्ह मार्गाचा अभाव.

या घटनेमुळे काय बदलते

सर्वात तत्काळ परिणाम म्हणजे AI वापरायचे की नाही या साध्या वादाऐवजी लष्करी डेटा एकत्रीकरणावर पुन्हा वाढलेली छाननी. पुरविलेल्या साहित्याचाही तोच निष्कर्ष सूचित होतो, कारण त्यात एकमेकांशी बोलत नसलेल्या प्रणालींवर भर दिला आहे. तिथे उद्धृत काही तज्ज्ञांना आशा आहे की अधिक AI आणि डिजिटल प्रणालींमधील चांगली जोड त्रुटी कमी करू शकेल. ते खरे असू शकते, पण केवळ एकत्रीकरणाला गृहित धरले नाही, तर प्राधान्य मानले गेले तरच.

संरक्षण क्षेत्रात AI कार्यान्वित करण्यासाठी धावणाऱ्या सरकारांसाठी आणखी खोल धडा आहे. सर्वात गंभीर अपयश frontier-model च्या वर्तनातून नव्हे, तर सामान्य संस्थात्मक दुर्लक्षातून उद्भवू शकतात: जुन्या डेटाबेस, उशिरा होणारे आधुनिकीकरण, अपूर्ण स्थलांतर योजना, आणि पडताळणीपेक्षा throughput ला बक्षीस देणारी प्रोत्साहने. AI या कमकुवतपणा अधिक मोठे करू शकते, कारण ते लक्ष्य नामनिर्देशन प्रणालीमधून जाण्याचा वेग वाढवते.

लष्करी नियोजक आणि धोरणकर्त्यांसाठी याचा अर्थ अस्वस्थ करणारा पण स्पष्ट आहे. AI-सहाय्यित लक्ष्यीकरण ही स्वतंत्र क्षमता नाही. ते त्याखालील डेटा पायाभूत सुविधेची शक्ती आणि अपयश दोन्ही वारशाने घेते. ती पायाभूत सुविधा क्षेत्रीय अद्यतने विश्वासार्हपणे स्वीकारू शकत नसेल, इंटेलिजन्स स्रोतांचे एकत्रीकरण करू शकत नसेल, आणि पुनरावलोकन चक्रांमध्ये बदल जतन करू शकत नसेल, तर अधिक स्वयंचलन फक्त चुकांकडे नेणारा मार्ग वेगवान करेल.

स्तरांवर स्तर लावून आधुनिकीकरणाबद्दलचा इशारा

पुरविलेल्या अहवालात प्रतिबिंबित झालेली शाळेवरील हल्ल्याची चौकशी एका मॉडेलवर आरोप करण्यापेक्षा, स्तरांवर स्तर लावून आधुनिकीकरणाबद्दलचा इशारा म्हणून वाचली जाते. नवीन AI साधने अजूनही जुन्या प्रणाली आणि हाताने चालणाऱ्या कार्यप्रवाहांवर अवलंबून असलेल्या प्रक्रियेत आणली गेली. परिणामी निर्विघ्न विस्तार नव्हे, तर गणनात्मक वेग आणि संस्थात्मक स्मृती यांच्यातील धोकादायक विसंगती निर्माण झाली.

ही विसंगती कदाचित या एकाच घटनेपलीकडे भविष्यातील चर्चांना आकार देईल. संरक्षण, आरोग्यसेवा, किंवा महत्त्वाची पायाभूत सुविधा काहीही असो, उच्च-धोका वातावरणात AI तैनात करणाऱ्या संस्थांसमोर तोच मूलभूत प्रश्न उभा राहतो: मॉडेल खरोखर त्याला पाठबळ देण्यासाठी तयार असलेल्या प्रणालीत जोडले जात आहे का? या प्रकरणात, स्रोत मजकुरात सादर केलेला पुरावा उत्तर नाही असेच सूचित करतो, आणि त्या दरीची किंमत नागरी जीवांनी मोजली गेली.

हा लेख The Decoder च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.