Microsoft के CEO ने AI सुरक्षा के लिए पहले नियंत्रण की दृष्टि प्रस्तुत की
Microsoft के CEO सत्या नडेला ने कहा है कि उन्नत AI प्रणालियों को इस धारणा के साथ डिज़ाइन किया जाना चाहिए कि उनके साथ समझौता हो सकता है, और संचालन के दौरान किसी अधिकृत मानव के पास उन्हें रोकने या बंद करने की क्षमता होनी चाहिए।
X पर प्रकाशित एक विस्तृत पोस्ट में नडेला ने ऐसे भविष्य का वर्णन किया जिसमें AI को अपारदर्शी प्रणालियों के समूह के रूप में नहीं देखा जा सकता, जिनकी सिफारिशों और कार्रवाइयों को लोग बस स्वीकार या अस्वीकार कर दें। इसके बजाय, उन्होंने अधिक पारदर्शी प्रणालियों का आह्वान किया जिन्हें देखा और नियंत्रित किया जा सके तथा जो घटित घटनाओं के छेड़छाड़-रोधी, मानव-पठनीय प्रमाण छोड़ें।
उनकी टिप्पणियां अत्यधिक सक्षम मॉडलों पर चल रही चर्चा के केंद्र में संचालन नियंत्रण और ऑडिट योग्य उपयोगिता को रखती हैं। वे AI सुरक्षा को मॉडल के इच्छित व्यवहार पर भरोसा करने के प्रश्न से आगे बढ़ाकर ऐसे सिस्टम बनाने के प्रश्न के रूप में भी प्रस्तुत करती हैं जो उस भरोसे के गलत साबित होने पर भी प्रबंधनीय बने रहें।
शुरुआत से नियंत्रण
नडेला का सबसे सीधा प्रस्ताव यह है कि नियंत्रण को असाधारण सुरक्षा उपाय के बजाय एक आधारभूत आवश्यकता माना जाए। उन्होंने इस विचार की तुलना आपातकालीन ब्रेक से की: किसी अधिकृत व्यक्ति के पास कार्य के बीच में मॉडल को बाधित या बंद करने की क्षमता होनी चाहिए।
यह सिद्धांत तब सबसे महत्वपूर्ण हो जाता है जब मॉडलों का उपयोग लंबे समय तक चलने वाले या अधिक महत्वपूर्ण कार्यों के लिए किया जाता है। जो प्रणाली कार्रवाइयां कर सकती है, टूल्स का उपयोग कर सकती है या कई चरणों वाले कार्य को आगे बढ़ा सकती है, वह ऐसा जोखिम पैदा कर सकती है जिसे परिणाम सामने आने के बाद संबोधित करना अधिक कठिन हो। विराम या बंद करने की व्यवस्था का उद्देश्य कार्य जारी रहने के दौरान मानवीय हस्तक्षेप को बनाए रखना है।
नडेला ने यह भी कहा कि अधिक उन्नत प्रणालियों के लिए अधिक उन्नत नियंत्रण तकनीकों की आवश्यकता होगी और इन तकनीकों का मानकीकरण किया जाना चाहिए। बयान में किसी विशेष तकनीकी डिज़ाइन का उल्लेख नहीं है, लेकिन यह एक व्यापक अपेक्षा की ओर संकेत करता है: प्रत्येक मॉडल या तैनाती के लिए सुरक्षा नियंत्रणों को अलग-अलग तरीके से तैयार नहीं किया जाना चाहिए।
पारदर्शिता, प्रमाण और बाहरी जांच
Microsoft के नेता की सिफारिशें AI शासन से जुड़ी बहसों में पहले से प्रमुख विचारों से मेल खाती हैं। इनमें घटनाओं का समय पर खुलासा, स्वतंत्र ऑडिट, सत्यापन योग्य डेटा और तकनीकी नियंत्रण शामिल हैं।
साथ मिलकर, ये उपाय जवाबदेही की समस्या के अलग-अलग हिस्सों को संबोधित करते हैं। घटना का खुलासा उपयोगकर्ताओं, डेवलपर्स और नियामकों को विफलताओं के प्रति सचेत कर सकता है। स्वतंत्र ऑडिट AI डेवलपर्स द्वारा किए गए दावों की जांच कर सकते हैं। सत्यापन योग्य डेटा से प्रणाली के आउटपुट या कार्रवाइयों के आधार की जांच करना आसान हो सकता है। जब कोई प्रणाली अप्रत्याशित व्यवहार करे या उसका दुरुपयोग हो, तब नियंत्रण नुकसान को सीमित करने का एक तरीका प्रदान करता है।
छेड़छाड़-रोधी, मानव-पठनीय प्रमाण पर नडेला का जोर विशेष रूप से उल्लेखनीय है क्योंकि यह तकनीकी सुरक्षा उपायों को व्यावहारिक निगरानी से जोड़ता है। प्रमाण का केवल मौजूद होना पर्याप्त नहीं है; वह ऐसे रूप में उपलब्ध होना चाहिए जिसे लोग तब जांच सकें जब उन्हें यह निर्धारित करना हो कि किसी प्रणाली ने क्या किया और कोई निर्णय क्यों लिया गया।
स्वीकृति से नियंत्रण की ओर बदलाव
मूल तर्क यह है कि उन्नत AI को केवल इसलिए ब्लैक बॉक्स के रूप में स्वीकार नहीं किया जाना चाहिए क्योंकि वह उपयोगी हो सकता है। नडेला का दृष्टिकोण संकेत देता है कि उन प्रणालियों के लिए केवल विश्वसनीयता के दावे पर्याप्त नहीं हैं जो महत्वपूर्ण निर्णयों को प्रभावित कर सकती हैं या जटिल वातावरण में कार्य कर सकती हैं।
इसके बजाय, ध्यान मॉडल के आसपास की परिस्थितियों पर है: क्या उसका निरीक्षण किया जा सकता है, क्या उसकी गतिविधि का दस्तावेजीकरण किया जा सकता है, क्या बाहरी पक्ष उसका मूल्यांकन कर सकते हैं और क्या उपयुक्त अधिकार वाला व्यक्ति उसे रोक सकता है। यह दृष्टिकोण सक्षम मॉडल बनाने की चुनौती को समाप्त नहीं करता, लेकिन नियंत्रण सुविधाओं को तैनाती योग्य प्रणाली की परिभाषा का हिस्सा बना देता है।
नडेला ने बार-बार “super intelligence” की संभावना का उल्लेख किया, जो उनके हस्तक्षेप के उच्च-दांव वाले संदर्भ को दर्शाता है। हालांकि, उनकी ठोस सिफारिशें आज के शासन संबंधी विकल्पों से जुड़ी हैं: ऑडिट, रिपोर्टिंग, सत्यापन और मानवीय हस्तक्षेप की व्यवस्थाएं।
इस प्रस्ताव का अर्थ
यह प्रस्ताव पूर्ण तकनीकी या नियामकीय खाका प्रस्तुत नहीं करता। लेकिन यह AI डेवलपर्स और उसे तैनात करने वाले संगठनों से स्पष्ट आह्वान करता है कि किसी प्रणाली को काम पर लगाने से पहले ही उसके साथ समझौता, विफलता या दुरुपयोग की संभावना के लिए योजना बनाई जाए।
AI अपनाने वाले संगठनों के लिए व्यावहारिक निष्कर्ष सीधा है: आकलन करें कि प्रणालियों की निगरानी की जा सकती है या नहीं, गतिविधि को जांच योग्य तरीके से दर्ज किया जाता है या नहीं, हस्तक्षेप की अनुमति किसे है और क्या हस्तक्षेप इतनी जल्दी हो सकता है कि उसका महत्व बना रहे। जैसे-जैसे AI प्रणालियां अधिक सक्षम होती जाएंगी, ये प्रश्न सुरक्षा जांच-सूची से आगे बढ़कर उपयोग की मूलभूत शर्त बन सकते हैं।
यह लेख The Verge की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on theverge.com
