दोन संशोधक वॉशिंग्टन आणि बीजिंगसाठी एक आराखडा सादर करतात
अमेरिका आणि चीनमधील तज्ञ कृत्रिम बुद्धिमत्ता (AI) प्रणालींना आण्विक शस्त्रे तैनात करण्याबाबत स्वायत्त निर्णय घेण्यापासून रोखू इच्छितात, आणि त्यांनी आता विशिष्ट प्रस्ताव मांडले आहेत जे दोन्ही सरकारे स्वीकारतील अशी त्यांना आशा आहे. ब्रूकिंग्स इन्स्टिट्यूशनच्या मेलानी सिसन आणि फुडान विद्यापीठाच्या तियानजियाओ जियांग यांनी 24 सप्टेंबर रोजी राष्ट्राध्यक्ष ट्रम्प आणि राष्ट्राध्यक्ष शी जिनपिंग यांच्यातील नियोजित बैठकीपूर्वी या शिफारसी प्रकाशित केल्या — ही वेळ अशी निवडलेली दिसते की उच्चस्तरीय संवाद अजून नियोजित असतानाच धोरणकर्त्यांसमोर ठोस भाषा ठेवता यावी.
AI च्या लष्करी वापरांवर व्यापक स्थगितीची मागणी करण्याऐवजी, हे दोन संशोधक काही स्पष्टपणे परिभाषित लाल रेषांवर लक्ष केंद्रित करतात. ही मांडणी एका अप्रत्यक्ष निर्णयाचे प्रतिबिंब आहे: अमेरिकी आणि चिनी हितसंबंध सर्वात स्पष्टपणे जिथे एकत्र येतात, तीच क्षेत्रे अशी आहेत जिथे चुकीच्या गणनेचे परिणाम आवरणे सर्वात कठीण असेल.
प्रस्ताव ज्या लाल रेषा आखतील
या शिफारशींमध्ये अनेक प्रतिबंध स्पष्ट केले आहेत, प्रत्येक तंत्रज्ञानावर सर्वसाधारणपणे नाही तर विशिष्ट अपयशाच्या पद्धतीवर लक्ष्यित आहे.
प्रक्षेपणासाठी स्वतंत्र अधिकार नाही
पहिला आणि सर्वात परिणामकारक नियम प्रक्षेपण अधिकाराशी संबंधित आहे. या प्रस्तावांनुसार, कोणत्याही AI प्रणालीला स्वतःहून आण्विक शस्त्रे प्रक्षेपित करण्याची परवानगी दिली जाणार नाही. ही तरतूद असा कोणताही मार्ग बंद करेल ज्याद्वारे एखादा अल्गोरिदम, कितीही सक्षम असला तरी, मागे मानवी निर्णय नसताना हल्ला करण्याचे आदेश देऊ शकेल.
आण्विक कमांड प्रणाली वर्ज्य
दुसरी लाल रेषा AI ला आण्विक कमांड प्रणालींवर हल्ला करण्यासाठी वापरण्यास प्रतिबंध करते. कारण त्या प्रणाली एखाद्या राज्याच्या शोध, निर्णय आणि प्रतिकार करण्याच्या क्षमतेच्या केंद्रस्थानी असतात, त्यांच्यावरील स्वयंचलित कारवाया पहिल्या हल्ल्याची तयारी म्हणून समजल्या जाण्याचा असामान्यपणे उच्च धोका असतो. AI-सक्षम लक्ष्यीकरणातून त्यांना वगळण्याचा उद्देश हा विशिष्ट ट्रिगर काढून टाकणे आहे.
सायबर कारवायांवर मानवांचे एकमेव नियंत्रण राहील
तिसरी तरतू सायबरस्पेसशी संबंधित आहे. धोरणात्मक पायाभूत सुविधांवर निर्देशित AI-चालित सायबर हल्ल्यांवर मानवांचे एकमेव नियंत्रण राखणे आवश्यक असेल. सायबर कारवाया हे असे क्षेत्र आहे जिथे यंत्र-वेगाने कार्य करणे आधीच शक्य आहे, आणि जिथे स्वयंचलित साधनांच्या वेगामुळे प्रतिस्पर्ध्याची चाचणी करणे आणि त्याला अपंग करणे यातील रेषा अस्पष्ट होऊ शकते.
"मानवी नियंत्रण" म्हणजे नेमके काय यावर सहमती
या विशिष्ट बंदींच्या मुळाशी एक व्याख्यात्मक समस्या आहे. या प्रस्तावांमध्ये दोन्ही देशांनी "मानवी नियंत्रण" ची सामायिक व्याख्या मान्य करण्याचे आवाहन केले आहे. त्या सामायिक शब्दसंग्रहाशिवाय, प्रत्येक पक्ष दुसऱ्याला मान्य नसलेल्या मानकांत कार्यरत असतानाही अनुपालनाचा दावा करू शकेल — हेच असे अस्पष्टता आहे जी शस्त्र नियंत्रण करारांनी ऐतिहासिकदृष्ट्या दूर करण्यासाठी संघर्ष केला आहे.
आधीच झालेल्या करारावर आधारित
या शिफारसी नोव्हेंबर 2024 मध्ये बायडेन आणि शी यांच्यात झालेल्या सहमतीवर आधारित आहेत. त्या पूर्वीच्या वचनबद्धतेने सर्वोच्च स्तरावर राजकीय पाठिंबा निर्माण केला, परंतु काय बंदी आहे, अनुपालन कोण पडताळते, किंवा वाद कसे सोडवले जातात या कार्यात्मक प्रश्नांचे निराकरण केले नाही. नवीन प्रस्ताव हे हेतूच्या विधानाचे कार्यरत नियमपुस्तिकेच्या अधिक जवळच्या स्वरूपात रूपांतर करण्याचा प्रयत्न आहेत.
या प्रयत्नाला विद्यमान सहमतीचा विस्तार म्हणून मांडणे ही एक जाणीवपूर्वक मांडणी केलेली मुत्सद्दी निवड आहे. यामुळे दोन्ही सरकारांना या उपायांना सवलतीऐवजी सातत्य म्हणून सादर करता येते, जे तेव्हा महत्त्वाचे ठरते जेव्हा कोणत्याही बाजूचे देशांतर्गत प्रेक्षक कोणत्याही द्विपक्षीय सुरक्षा व्यवस्थेला स्थितीचा सौम्यता म्हणून वाचण्याकडे झुकलेले असतात.
AI घटनांभोवती तयार केलेली हॉटलाइन
जियांग यांनी AI घटनांसाठी एक समर्पित हॉटलाइन तयार करण्याचा प्रस्तावही मांडला आहे. यामागील तर्क सरळ आहे आणि त्यावर विचार करण्यासारखा आहे. समजा एक संरक्षात्मक AI प्रणाली संशयास्पद क्रियाकलाप म्हणून नोंदवलेल्या गोष्टीला स्वयंचलितपणे प्रतिसाद देते. दुसरा पक्ष, त्या प्रतिसादाचे संदर्भाशिवाय निरीक्षण करताना, तो हल्ल्याची सुरुवातीची चाल म्हणून वाचू शकतो, चुकीच्या संकेतावरील प्रतिक्रिया म्हणून नाही. सरकारांमधील थेट संपर्क रेषा एका पक्षाला परिस्थिती संवादाच्या उपयुक्त टप्प्याच्या पलीकडे वाढण्यापूर्वी घटना अपघाती होती हे स्पष्ट करू देईल.
परिणामी, हॉटलाइन एका मानवी संवादाने स्वयंचलित चक्र तोडण्यासाठी तयार केली आहे — स्वयंचलित प्रणाली ज्या हेतूने संकुचित करतात ती मंद, विचारपूर्वक निर्णयप्रक्रिया पुन्हा सुरू करणे.
काही विश्लेषकांना हॉटलाइन कल्पनेवर संशय का आहे
अशा माध्यमाची सर्वात जास्त गरज असते तेव्हा ते कार्य करेल याबद्दल सर्वांची खात्री नाही. जॉन्स हॉपकिन्स विद्यापीठाच्या कार्ला फ्रीमन या प्रकारच्या हॉटलाइन्स कार्य करतील का यावर प्रश्न उपस्थित करतात. त्या 2023 मधील हेर बलून संकटाकडे लक्ष वेधतात, जेव्हा अमेरिकेने कॉल केला तेव्हा चीनने उचलला नाही.
हे उदाहरण पडताळणी समस्येच्या मर्मावर आघात करते. हॉटलाइन तितकीच मौल्यवान असते जितकी खऱ्या संकटात दोन्ही पक्षांची ती उचलण्याची तयारी असते, आणि संकटाचे क्षण हेच असे असतात जेव्हा सरकारे अपरिचित माध्यमावर विश्वास ठेवण्यास सर्वात कमी झुकलेली असतात. आक्षेप असा नाही की संवाद अनावश्यक आहे, तर असा की संस्थात्मक यंत्रणा आपत्कालीन परिस्थिती त्यांना भारवाहक बनवण्याच्या खूप आधी तपासल्या आणि सामान्यीकृत केल्या पाहिजेत.
पाच वर्षांचे इशारे, बंधनकारक नियम नाहीत
हा धोक्याचा इशारा पहिल्यांदाच दिला जात नाही. कृत्रिम बुद्धिमत्तेवरील राष्ट्रीय सुरक्षा आयोगाने 2021 मध्येच आण्विक शस्त्रांवर मानवी नियंत्रण टिकवण्याचे आवाहन केले होते. पाच वर्षांहून अधिक काळानंतरही, बंधनकारक यंत्रणा अस्तित्वात नाहीत.
व्यापकपणे सामायिक निदान आणि कोणत्याही अंमलबजावणीयोग्य साधनाच्या अनुपस्थितीमधील ही दरी — हा नवीन प्रस्तावांना पार करावा लागणारा केंद्रीय अडथळा आहे. तज्ञांची सहमती व्यापक स्तरावर झाली आहे: यंत्रांनी आण्विक शस्त्रे वापरायची की नाही हे ठरवावे असे गंभीर मत क्वचितच कोणी मांडते. जे साध्य करणे कठीण ठरले आहे ते म्हणजे ती सहमती बंधनकारक, पडताळणीयोग्य आणि सरकार बदलांमध्ये टिकाऊ बनवणारे यंत्रण.
24 सप्टेंबरपूर्वीची संकुचित खिडकी
हे प्रस्ताव अशा क्षणी आले आहेत जेव्हा दोन्ही सरकारे भेटण्याची तयारी करत आहेत, ज्यामुळे या कल्पनांना थिंक टँक पेपरच्या पानांवरून शिखर परिषदेचा अजेंडा घडवणाऱ्या पूर्वतयारी संभाषणांमध्ये जाण्याची संधी मिळते. ते जातील का, आणि कोणत्याही लाल रेषा वाटाघाटी प्रक्रियेशी संपर्कात टिकतील का, हे संशोधकांच्या नियंत्रणाबाहेरील घटकांवर अवलंबून असेल.
या प्रस्तावांनी जे साध्य केले आहे ते म्हणजे प्रकरण ठोस केले आहे. लष्करी AI च्या धोक्यांबद्दलच्या सर्वसाधारण इशाऱ्यांऐवजी, ते विशिष्ट प्रतिबंध, एक व्याख्यात्मक कार्य आणि एक संकट संवाद माध्यम ओळखतात — अशी बाबींची यादी ज्यांची बहुधा चर्चा होऊ शकते, अंशतः स्वीकारली जाऊ शकते, किंवा पूर्णपणे नाकारली जाऊ शकते. जिथे दाव लागलेले मिनिटे आणि मैलांमध्ये मोजले जातात अशा धोरण क्षेत्रात, ती विशिष्टता स्वतःच एक योगदान आहे: ती एका अमूर्त चिंतेचे निर्णयकर्ते प्रत्यक्षात घेऊ शकतील अशा निर्णयांच्या यादीत रूपांतर करते.
हा लेख The Decoder च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.
Originally published on the-decoder.com
