दो शोधकर्ता वाशिंगटन और बीजिंग के लिए एक खाका प्रस्तुत करते हैं
अमेरिका और चीन के विशेषज्ञ चाहते हैं कि कृत्रिम बुद्धिमत्ता प्रणालियों को परमाणु हथियारों के इस्तेमाल संबंधी स्वायत्त निर्णय लेने से रोका जाए, और अब उन्होंने विशिष्ट प्रस्ताव पेश किए हैं जिन्हें वे दोनों सरकारों से अपनाने की उम्मीद करते हैं। ब्रुकिंग्स इंस्टीट्यूशन की मेलानी सिसन और फुडान विश्वविद्यालय की तियानजियाओ जियांग ने 24 सितंबर को राष्ट्रपति ट्रंप और राष्ट्रपति शी जिनपिंग के बीच नियोजित बैठक से पहले ये सिफारिशें प्रकाशित कीं — यह समय-चयन ऐसा प्रतीत होता है जिसका उद्देश्य उच्च स्तरीय संवाद अभी निर्धारित रहते हुए नीति-निर्माताओं के सामने ठोस भाषा रखना है।
AI के सैन्य उपयोगों पर व्यापक स्थगन की मांग करने के बजाय, दोनों शोधकर्ता कुछ स्पष्ट रूप से परिभाषित रेड लाइनों पर ध्यान केंद्रित करते हैं। यह ढांचा एक अंतर्निहित निर्णय को दर्शाता है: जिन क्षेत्रों में अमेरिकी और चीनी हित सबसे स्पष्ट रूप से मेल खाते हैं, वही क्षेत्र ऐसे भी हैं जहां गलत आकलन के परिणामों को नियंत्रित करना सबसे कठिन होगा।
प्रस्ताव जो रेड लाइनें खींचेंगे
सिफारिशों में कई निषेधों को स्पष्ट किया गया है, जिनमें से प्रत्येक का लक्ष्य सामान्य रूप से तकनीक के बजाय एक विशिष्ट विफलता स्थिति है।
प्रक्षेपण के लिए कोई स्वतंत्र अधिकार नहीं
पहला और सबसे महत्वपूर्ण नियम प्रक्षेपण अधिकार से संबंधित है। प्रस्तावों के तहत, किसी भी AI प्रणाली को अपने आप परमाणु हथियार दागने की अनुमति नहीं होगी। यह प्रावधान किसी भी ऐसे मार्ग को बंद कर देगा जिससे कोई एल्गोरिदम, चाहे कितना ही सक्षम हो, मानवीय निर्णय के बिना हमले का आदेश दे सके।
परमाणु कमांड प्रणालियां सीमा से बाहर
दूसरी रेड लाइन परमाणु कमांड प्रणालियों पर हमला करने के लिए AI के उपयोग को प्रतिबंधित करती है। चूंकि ये प्रणालियां किसी राज्य की पहचान, निर्णय और जवाबी कार्रवाई की क्षमता के केंद्र में होती हैं, इसलिए इनके विरुद्ध स्वचालित अभियानों में पहले हमले की तैयारी के रूप में व्याख्यायित होने का असामान्य रूप से उच्च जोखिम होता है। इन्हें AI-सक्षम लक्ष्यीकरण से बाहर रखने का उद्देश्य उस विशेष ट्रिगर को हटाना है।
साइबर अभियानों पर मानवों का एकमात्र नियंत्रण बना रहेगा
तीसरा प्रावधान साइबरस्पेस को संबोधित करता है। रणनीतिक बुनियादी ढांचे पर निर्देशित AI-संचालित साइबर हमलों पर मानवों का एकमात्र नियंत्रण बनाए रखना आवश्यक होगा। साइबर अभियान एक ऐसा क्षेत्र है जहां मशीन-गति की कार्रवाई पहले से ही संभव है, और जहां स्वचालित टूलिंग की गति से किसी प्रतिद्वंद्वी की जासूसी और उसे अपंग करने के बीच की रेखा धुंधली हो सकती है।
"मानव नियंत्रण" का वास्तव में क्या अर्थ है, इस पर सहमति
विशिष्ट प्रतिबंधों के नीचे एक परिभाषिक समस्या है। प्रस्तावों में दोनों देशों से "मानव नियंत्रण" की साझा परिभाषा पर सहमति बनाने का आह्वान किया गया है। उस साझा शब्दावली के बिना, प्रत्येक पक्ष अनुपालन का दावा कर सकता है जबकि ऐसे मानकों के तहत काम कर रहा हो जिन्हें दूसरा पक्ष मान्यता नहीं देता — ठीक इसी प्रकार की अस्पष्टता जिसे हथियार नियंत्रण समझौतों ने ऐतिहासिक रूप से दूर करने के लिए संघर्ष किया है।
पहले से हुए एक समझौते पर आधारित
ये सिफारिशें नवंबर 2024 में बिडेन और शी के बीच हुई एक समझ पर आधारित हैं। उस पूर्व प्रतिबद्धता ने शीर्ष स्तर पर राजनीतिक सहमति स्थापित की, लेकिन इसने यह तय नहीं किया कि क्या प्रतिबंधित है, अनुपालन कौन सत्यापित करता है, या विवाद कैसे सुलझाए जाते हैं। नए प्रस्ताव इरादे के बयान को एक कार्यशील नियम-पुस्तिका के अधिक निकट बनाने का प्रयास हैं।
इस प्रयास को मौजूदा समझ के विस्तार के रूप में प्रस्तुत करना एक जानबूझकर किया गया कूटनीतिक चुनाव है। यह दोनों सरकारों को इन उपायों को रियायत के बजाय निरंतरता के रूप में प्रस्तुत करने की अनुमति देता है, जो तब मायने रखता है जब किसी भी पक्ष के घरेलू दर्शक किसी भी द्विपक्षीय सुरक्षा व्यवस्था को स्थिति के कमजोर होने के रूप में पढ़ने की प्रवृत्ति रखते हों।
AI घटनाओं के इर्द-गिर्द बनी एक हॉटलाइन
जियांग AI घटनाओं के लिए एक समर्पित हॉटलाइन बनाने का भी प्रस्ताव करती हैं। तर्क सीधा है और इस पर विचार करना उचित है। मान लीजिए कि कोई रक्षात्मक AI प्रणाली स्वचालित रूप से उस गतिविधि पर प्रतिक्रिया देती है जिसे वह संदिग्ध के रूप में दर्ज करती है। दूसरा पक्ष, उस प्रतिक्रिया को संदर्भ के बिना देखते हुए, उसे गलत संकेत की प्रतिक्रिया के बजाय हमले की शुरुआती चाल के रूप में पढ़ सकता है। सरकारों के बीच एक सीधी लाइन एक पक्ष को यह स्पष्ट करने की अनुमति देगी कि घटना आकस्मिक थी, इससे पहले कि स्थिति उस बिंदु से आगे बढ़ जाए जहां स्पष्टीकरण अभी भी उपयोगी है।
व्यावहारिक रूप से, हॉटलाइन को एक मानवीय बातचीत के साथ स्वचालित लूप को तोड़ने के लिए डिज़ाइन किया गया है — उस धीमी, विचारशील निर्णय-प्रक्रिया को बहाल करना जिसे स्वचालित प्रणालियां संपीड़ित करने के लिए बनाई गई हैं।
कुछ विश्लेषक हॉटलाइन विचार पर संदेह क्यों करते हैं
सभी आश्वस्त नहीं हैं कि ऐसा चैनल तब काम करेगा जब इसकी सबसे अधिक आवश्यकता होगी। जॉन्स हॉपकिंस विश्वविद्यालय की कार्ला फ्रीमैन सवाल करती हैं कि इस प्रकार की हॉटलाइनें काम भी करेंगी या नहीं। वह 2023 के जासूसी गुब्बारे संकट की ओर इशारा करती हैं, जब अमेरिका ने कॉल किया तो चीन ने फोन नहीं उठाया।
यह उदाहरण सत्यापन समस्या के मूल को छूता है। एक हॉटलाइन उतनी ही मूल्यवान होती है जितनी वास्तविक संकट के दौरान दोनों पक्षों की उसे उठाने की इच्छा होती है, और संकट के क्षण ठीक वही होते हैं जब सरकारें किसी अपरिचित चैनल पर भरोसा करने के लिए सबसे कम इच्छुक होती हैं। आपत्ति यह नहीं है कि संचार अनावश्यक है, बल्कि यह है कि संस्थागत तंत्रों का अभ्यास और सामान्यीकरण आपातकाल से बहुत पहले किया जाना चाहिए।
पांच साल की चेतावनियां, कोई बाध्यकारी नियम नहीं
यह पहली बार नहीं है जब चेतावनी दी गई हो। नेशनल सिक्योरिटी कमीशन ऑन आर्टिफिशियल इंटेलिजेंस ने 2021 में परमाणु हथियारों पर मानव नियंत्रण बनाए रखने का आह्वान किया था। पांच साल से अधिक समय बाद भी, बाध्यकारी तंत्र अभी भी मौजूद नहीं हैं।
यह अंतराल — व्यापक रूप से साझा निदान और किसी भी प्रवर्तनीय साधन की अनुपस्थिति के बीच — वह केंद्रीय बाधा है जिसे नए प्रस्तावों को पार करना होगा। विशेषज्ञ सहमति व्यापक रूप से हासिल हो चुकी है: कुछ गंभीर आवाजें यह तर्क नहीं करतीं कि मशीनों को यह तय करना चाहिए कि परमाणु हथियारों का उपयोग किया जाए या नहीं। जो मुश्किल साबित हुआ है वह है उस सहमति को बाध्यकारी, सत्यापन योग्य और सरकारों के बदलावों में टिकाऊ बनाने की व्यवस्था।
24 सितंबर से पहले की संकरी खिड़की
ये प्रस्ताव ऐसे समय आए हैं जब दोनों सरकारें मिलने की तैयारी कर रही हैं, जिससे इन विचारों को थिंक टैंक के पन्नों से उन तैयारी संबंधी बातचीत तक पहुंचने का मौका मिलता है जो शिखर सम्मेलन का एजेंडा तय करती हैं। क्या वे ऐसा करेंगे, और क्या कोई भी रेड लाइन बातचीत की प्रक्रिया के संपर्क में बची रहेगी, यह उन कारकों पर निर्भर करेगा जो शोधकर्ताओं के नियंत्रण से काफी बाहर हैं।
प्रस्ताव जो हासिल करते हैं वह है मामले को ठोस बनाना। सैन्य AI के जोखिमों के बारे में सामान्य चेतावनियों के बजाय, वे विशिष्ट निषेध, एक परिभाषिक कार्य, और एक संकट संचार चैनल की पहचान करते हैं — ऐसी वस्तुओं का एक समूह जिन पर संभवतः चर्चा की जा सकती है, आंशिक रूप से अपनाया जा सकता है, या सीधे खारिज किया जा सकता है। नीति के ऐसे क्षेत्र में जहां दांव मिनटों और मीलों में मापा जाता है, यह विशिष्टता स्वयं एक योगदान है: यह एक अमूर्त चिंता को उन निर्णयों की सूची में बदल देती है जो नीति-निर्माता वास्तव में ले सकते हैं।
यह लेख The Decoder की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on the-decoder.com
