कृत्रिम बुद्धिमत्ता लष्करी प्रणालींमध्ये अधिक खोलवर समाविष्ट होत असताना स्वायत्त शस्त्रांचे नियमन करण्यासाठीची आंतरराष्ट्रीय मुत्सद्देगिरी अतिशय संथ आहे, असा इशारा International Committee of the Red Cross आणि मानवाधिकार संस्थांनी दिला आहे.
UN Convention on Certain Conventional Weapons अंतर्गत 120हून अधिक देशांच्या जिनेव्हातील आठवडाभराच्या बैठकीनंतर हा इशारा देण्यात आला. नवीन नियामक साधनावर सहमती न होताच बैठक संपली.
क्षमता आणि नियमांमधील वाढती दरी
स्वायत्त शस्त्रे म्हणजे थेट मानवी देखरेखीशिवाय, अनेकदा AI किंवा रोबोटिक्सच्या मदतीने काम करू शकणाऱ्या प्रणाली. जीवन-मृत्यूशी संबंधित निर्णयांवर त्यांचा प्रभाव पडू शकतो किंवा ते निर्णय त्या प्रणाली अंमलात आणू शकतात, म्हणून मानवतावादी संस्थांना त्यांचा विकास चिंताजनक वाटतो.
ICRCच्या आंतरराष्ट्रीय कायदा, चळवळ आणि भागीदारी विभागाच्या संचालक Dr Cordula Droege यांनी सांगितले की युद्धभूमींवर AIचा वापर सुरू झाला आहे आणि तो आधीच शस्त्रप्रणालींमध्ये समाविष्ट असू शकतो. तंत्रज्ञानाला अनियंत्रित सोडल्यास नंतर मर्यादा घालणे अधिक कठीण होईल, असा इशारा त्यांनी दिला.
ही चिंता दूरच्या किंवा काल्पनिक शस्त्रांच्या पिढीपुरती मर्यादित नाही. Gazaमध्ये इस्रायली लष्कराने लक्ष्य-सूची तयार करण्यासाठी AIचा वापर केल्याचा आणि युक्रेनविरुद्धच्या रशियाच्या युद्धात अर्ध-स्वायत्त ड्रोन वापरल्याचा उल्लेख मूळ मजकुरात आहे. काही ड्रोनमध्ये “last-mile” क्षमता आहे, ज्यात लक्ष्याच्या अंतिम टप्प्यात AI नियंत्रण स्वीकारते.
ही उदाहरणे वाद अधिक तातडीचा का झाला आहे, हे स्पष्ट करतात. AI लष्करी नियोजन, संवेदन आणि दिशानिर्देशनाला मदत करू शकते; पण त्याची वाढती भूमिका मानवी नियंत्रण, पूर्वानुमानक्षमता आणि जबाबदारीबाबत प्रश्न उपस्थित करते. तंत्रज्ञान सशस्त्र दलांमध्ये आणि खरेदी कार्यक्रमांत मोठ्या प्रमाणावर रुजण्यापूर्वी नियम तयार केले पाहिजेत, असे ICRCचे मत आहे.
सरकारांनी काय करावे अशी ICRCची अपेक्षा
ICRCच्या अध्यक्षा Mirjana Spoljaric Egger आणि UN secretary-general António Guterres यांनी स्वायत्त शस्त्रांसाठी स्पष्ट प्रतिबंध व मर्यादा ठरवणाऱ्या कायदेशीर बंधनकारक साधनाची मागणी केली आहे.
मानवांविरुद्ध वापरल्या जाणाऱ्या स्वायत्त शस्त्रांवर बंदी घालण्याचे आवाहन ICRCने विशेषतः केले आहे. शस्त्रप्रणालींचे वर्तन पूर्वानुमान करता येण्याजोगे असावे आणि त्यांचा वापर मर्यादित असावा, त्यात त्यांना लष्करी लक्ष्यांपुरते मर्यादित ठेवण्याचाही समावेश आहे.
या प्रस्तावांमध्ये काही व्यावहारिक प्रश्नांवर लक्ष केंद्रित केले आहे. व्यक्तींवर परिणाम करणाऱ्या स्वायत्त निर्णयांभोवती कर्मचाऱ्यांना लक्ष्य करणाऱ्या प्रणालींवरील बंदी स्पष्ट सीमा आखेल. पूर्वानुमानक्षमता आवश्यक करणारे नियम गुंतागुंतीच्या परिस्थितीत अनपेक्षितपणे वागणाऱ्या प्रणालींना मर्यादित करण्याचा प्रयत्न करतील.
मुत्सद्देगिरी सुरू, पण निर्णायक प्रगती नाही
जिनेव्हा परिषदेत समर्थकांना अपेक्षित असलेली तातडीची कृती झाली नाही. अहवालानुसार पुढील दोन वर्षांत नियामक साधनावर चर्चा करण्यास देश सहमत होऊ शकले नाहीत.
बंधनकारक नियमांच्या समर्थकांसाठी ही प्रक्रिया महत्त्वाची आहे, कारण तंत्रज्ञान रुजल्यावर तयार केलेली मानके अंमलात आणणे अधिक कठीण होऊ शकते. प्रणाली मोठ्या प्रमाणावर स्वीकारल्यानंतर त्यांच्यावर नियंत्रण ठेवणे अवघड होईल, हीच ICRCच्या इशाऱ्याची मध्यवर्ती चिंता आहे.
हा मुद्दा एका शस्त्रापलीकडे का जातो
एखादे यंत्र स्वतःहून शस्त्र चालवते की नाही, एवढाच धोरणात्मक वाद नाही. माहिती आणि लक्ष्य पर्याय तयार करण्यापासून दिशानिर्देशन व कारवाईपर्यंत लष्करी क्रियांच्या संपूर्ण साखळीत AI कसा आणला जातो, हा प्रश्न आहे.
या दिशेचा आत्ताच विचार करण्यासाठी ICRC आणि मानवाधिकार गट सरकारांवर दबाव आणत आहेत. अशा प्रणाली कोणत्या परिस्थितीत विकसित आणि वापरल्या जातील, हे आंतरराष्ट्रीय कायदा आणि राजकीय करारांनी ठरवावे, असा त्यांचा इशारा आहे.
व्यापक चिंता आपोआप समान कायदेशीर प्रतिसादात बदलत नाही, हे जिनेव्हा बैठकीने दाखवले. 120हून अधिक देश उपस्थित असूनही पुढील औपचारिक पावलावर सहमती झाली नाही.
पुढे काय पाहायचे
- बंधनकारक साधनाच्या समर्थनासह देश Convention on Certain Conventional Weapons प्रक्रियेत परततात का.
- मानवांविरुद्ध वापरल्या जाणाऱ्या स्वायत्त शस्त्रांवर सरकारे बंदीचे समर्थन करतात का.
- भविष्यातील प्रस्ताव अर्थपूर्ण मानवी नियंत्रण, पूर्वानुमानक्षमता आणि लक्ष्यांवरील मर्यादा कशा परिभाषित करतात.
- युद्धभूमीवरील AI-सक्षम प्रणालींचा वापर आंतरराष्ट्रीय नियमांसाठीचा दबाव वाढवतो का.
सध्या ICRCचा संदेश स्पष्ट आहे: मर्यादा ठरवण्याची संधी कमी होत आहे. स्वायत्त शस्त्रांच्या विकासाचा वेग पाहता विलंब करणे हेसुद्धा एक महत्त्वाचा धोरणात्मक निर्णय ठरत आहे, असे संस्था आणि तिचे सहकारी मानवाधिकार गट सांगतात.
हा लेख The Guardianच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.
Originally published on theguardian.com



