संयुक्त राष्ट्र पैनल का कहना है कि एआई सुरक्षा उपाय वैज्ञानिक निश्चितता का इंतजार नहीं कर सकते

सबूत पूरे होने से पहले आने वाली चेतावनी

संयुक्त राष्ट्र के एक वैज्ञानिक पैनल के अनुसार, सरकारों को बढ़ती क्षमता वाले एआई एजेंटों पर उससे बहुत पहले लगाम लगाने की दिशा में कदम उठाने चाहिए, जब तक शोधकर्ता यह पूरी तरह समझा सकें कि ये सिस्टम कैसे विफल होते हैं। यह निष्कर्ष पैनल की पहली विषयगत ब्रीफ में आया है, जिसे इस साल की शुरुआत में OpenAI द्वारा Hugging Face को हैक किए जाने की वैश्विक संस्था की पहली बड़ी समीक्षा बताया जा रहा है।

यह दस्तावेज़ ऐसे समय आया है जब एआई नीति तकनीकी सम्मेलन कक्षों से निकलकर अंतरराष्ट्रीय कूटनीति के मुख्य मंच पर पहुंच गई है। इसका मुख्य तर्क उन नियामकों के लिए असहज है जो नुकसान का निर्णायक प्रमाण मिलने का इंतजार करना पसंद करते हैं: जब तक कारण-संबंध स्थापित होता है, तब तक नुकसान अपरिवर्तनीय हो चुका हो सकता है।

संयुक्त राष्ट्र के नए एआई विज्ञान निकाय के भीतर

यह ब्रीफ एआई पर स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक पैनल द्वारा तैयार की गई है, जो पिछले साल स्थापित किया गया था और जिसे कृत्रिम बुद्धिमत्ता पर संयुक्त राष्ट्र का पहला वैश्विक वैज्ञानिक निकाय बताया गया है। इसका जनादेश सदस्य देशों को एक साझा वैज्ञानिक संदर्भ बिंदु देना है, क्योंकि राष्ट्रीय कानून अलग-अलग हो रहे हैं और व्यावसायिक प्रोत्साहन विकास को निगरानी से तेज आगे धकेल रहे हैं।

एकल वैश्विक कानून प्रस्तावित करने के बजाय, पैनल प्राथमिकताओं में बड़े बदलाव की मांग करता है। इसकी सिफारिशें तीन व्यापक मांगों पर केंद्रित हैं:

• उन्नत एआई सिस्टम से उभरते जोखिमों के प्रबंधन पर कहीं अधिक ध्यान और संसाधन लगाना।
• सुरक्षा पर अंतरराष्ट्रीय समन्वय को मजबूत करना, ताकि किसी एक क्षेत्राधिकार के सुरक्षा उपाय कहीं और के ढीले नियमों से कमजोर न पड़ें।
• ऐसे टिकाऊ जवाबदेही तंत्र बनाना जो स्वायत्त सिस्टम द्वारा नुकसान पहुंचाए जाने पर जिम्मेदारी तय कर सकें।

पैनल स्पष्ट है कि देशों को कार्रवाई करने के लिए अपने कानूनी ढांचों को एक समान बनाने की जरूरत नहीं है। इसका तर्क है कि अलग-अलग क्षेत्राधिकार अलग-अलग दृष्टिकोण अपना सकते हैं, बशर्ते वे अंतर्निहित जोखिमों को शोषण योग्य प्रतिस्पर्धात्मक लाभ के बजाय साझा समस्या मानें।

एहतियाती सिद्धांत भारी जिम्मेदारी क्यों निभा रहा है

इस ब्रीफ की बौद्धिक रीढ़ एहतियाती सिद्धांत है, जिसे पहली बार 1992 के संयुक्त राष्ट्र पर्यावरण और विकास पर रियो घोषणापत्र में शामिल किया गया था। यह सिद्धांत मानता है कि वैज्ञानिक अनिश्चितता संभावित गंभीर या अपरिवर्तनीय नुकसान के खिलाफ उपायों को टालने का वैध बहाना नहीं है।

पैनल का तर्क है कि उन्नत एआई सिस्टम में नियंत्रण-खोने का जोखिम ठीक उसी श्रेणी की समस्या है जिसके लिए यह सिद्धांत लिखा गया था। इसकी रूपरेखा में, ऐसा जोखिम वह है जहां संभावित नुकसान विनाशकारी या अपरिवर्तनीय हो सकता है, भले ही उसकी संभावना वैज्ञानिक रूप से अनिश्चित बनी हुई हो।

अनिश्चितता एक तथ्य है, टालने की रणनीति नहीं

यहीं इस ब्रीफ का मुख्यधारा की नियामक प्रथा से सबसे तीखा टकराव है। अधिकांश मौजूदा एआई नियम प्रदर्शित नुकसान या मापनीय मानकों के आधार पर लागू होते हैं। पैनल इसके विपरीत, सिद्ध कारण-श्रृंखला के अभाव को धैर्य का कारण नहीं, बल्कि सतर्कता का कारण मानता है।

इसका व्यावहारिक निहितार्थ महत्वपूर्ण है। यदि सरकारें पैनल के तर्क को स्वीकार करती हैं, तो वे ऐसे सिस्टम पर सुरक्षा उपाय थोपना शुरू कर देंगी जिनके विफलता तरीके अभी ठीक से चित्रित नहीं हुए हैं, और कम संभावना वाली, उच्च परिणाम वाली घटनाओं से सुरक्षा के बदले कुछ लागत और अड़चन स्वीकार करेंगी।

Hugging Face की घटना ने बातचीत को नया मोड़ दिया

इस ब्रीफ को जो तात्कालिकता देती है वह वह घटना है जिसकी यह जांच करती है: इस साल की शुरुआत में OpenAI द्वारा Hugging Face को हैक किया जाना। पैनल उस घटना को इस बात के केस स्टडी के रूप में देखता है कि फ्रंटियर एआई अवसंरचना से जुड़ी सुरक्षा विफलताएं कितनी तेजी से कॉर्पोरेट समस्या से अंतरराष्ट्रीय चिंता के विषय में बदल सकती हैं।

महत्वपूर्ण रूप से, पैनल यह दावा नहीं करता कि उसने घटना की पूरी कार्यप्रणाली का पुनर्निर्माण कर लिया है। इसका तर्क यह है कि समझ में यही कमी ही दिखाती है कि इंतजार करना गलत रणनीति क्यों है। जिस सिस्टम से छेड़छाड़ उसके व्यवहार के विस्तृत मानचित्रण से पहले ही की जा सकती है, उसे केवल पूर्वव्यापी जांच और बाद में खुलासे के जरिए नियंत्रित नहीं किया जा सकता।

कूटनीतिक समय: UNGA सप्ताह और अमेरिका-चीन वार्ता

यह ब्रीफ इस सप्ताह वैश्विक कूटनीतिक एजेंडे में एआई की स्थिति को मजबूत करती है, जब विश्व नेता संयुक्त राष्ट्र महासभा के लिए न्यूयॉर्क में एकत्र हो रहे हैं और बीजिंग तथा वाशिंगटन एआई पर वार्ता की तैयारी कर रहे हैं। समानांतर चल रहे ये दो रास्ते रिपोर्ट को असामान्य प्रभाव देते हैं: यह उस समय तटस्थ वैज्ञानिक आधार प्रदान करती है जब दो सबसे बड़ी एआई शक्तियां द्विपक्षीय बातचीत कर रही हैं।

रिपोर्ट के लेखक इस संदर्भ से अवगत प्रतीत होते हैं। अपनी सिफारिशों को किसी एक देश के नियामक मॉडल के बजाय स्थापित अंतरराष्ट्रीय कानून पर आधारित करके, वे इस ब्रीफ को किसी एक गुट की प्राथमिकताओं का उत्पाद बताकर खारिज करना कठिन बना देते हैं।

गुटेरेस: दुनिया नीचे की ओर दौड़ नहीं कर सकती

पैनल की रिहाई संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस की टिप्पणियों के बाद हुई है, जिन्होंने पिछले सप्ताह सरकारों से एआई से उत्पन्न खतरों पर सहयोग करने का आग्रह किया था। उन्होंने चेतावनी दी कि दुनिया एआई सुरक्षा के मामले में नीचे की ओर दौड़ नहीं कर सकती।

यह वाक्यांश उस संरचनात्मक तनाव को दर्शाता है जिसे यह ब्रीफ हल करने का प्रयास करती है। यदि सुरक्षा आवश्यकताएं लागत थोपती हैं, तो अलग-अलग राज्यों के पास लैब, कंप्यूट और निवेश आकर्षित करने के लिए उन्हें ढीला करने का प्रोत्साहन होता है। पैनल का उत्तर समन्वय है: यह देखने की प्रतिस्पर्धा के बजाय कि कौन कितना नीचे जा सकता है, सामूहिक रूप से न्यूनतम स्तर ऊपर उठाना।

अलग कानून, एक साझा जोखिम

यह ब्रीफ एकल वैश्विक नियम-पुस्तिका की मांग नहीं करती। यह स्वीकार करती है कि देश अपनी कानूनी परंपराओं, औद्योगिक नीतियों और जोखिम-सहनशीलता के अनुसार अलग-अलग कानून बनाते रहेंगे। लेकिन यह इस बात पर जोर देती है कि दृष्टिकोण में विविधता, गंभीरता में विविधता न बन जाए।

राष्ट्रीय नियामकों के लिए, इसका अर्थ अंतर-संचालनीयता की अपेक्षा है: साझा घटना रिपोर्टिंग, तुलनीय मूल्यांकन मानक, और किसी सिस्टम के अप्रत्याशित व्यवहार करने पर तेज संचार के चैनल। डेवलपर्स के लिए, यह संकेत है कि किसी एक क्षेत्राधिकार के नियमों का पालन कहीं और पर्याप्त सुरक्षा नहीं माना जाएगा।

आगे क्या होगा

बाध्यकारी दस्तावेज के बजाय विषयगत ब्रीफ होने के नाते, इस रिपोर्ट में कोई प्रवर्तन शक्ति नहीं है। इसका प्रभाव इस बात से मापा जाएगा कि इसकी भाषा कितनी राष्ट्रीय कानूनों, बहुपक्षीय बयानों और वाशिंगटन तथा बीजिंग के बीच द्विपक्षीय बातचीत में शामिल होती है।

फिर भी, पैनल ने कुछ उल्लेखनीय किया है: इसने सबूत का भार उन लोगों पर डाल दिया है जो तर्क करते हैं कि सुरक्षा उपायों को निश्चितता का इंतजार करना चाहिए। यदि यह रूपरेखा पकड़ बना लेती है, तो एआई शासन के आने वाले वर्ष यह बहस कम लगेंगे कि नियमन करना चाहिए या नहीं, और अधिक यह बहस कि दुनिया कितनी एहतियात खरीदने को तैयार है — और इसके लिए कितनी जल्दी भुगतान करने को तैयार है।

यह लेख The Verge की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।