AI सुरक्षेबाबत नियंत्रणाला प्राधान्य देणारा दृष्टिकोन Microsoft CEO यांनी मांडला
प्रगत AI प्रणालींमध्ये तडजोड होऊ शकते, या गृहीतकावर त्यांची रचना केली पाहिजे, असे Microsoft चे CEO सत्या नडेला यांनी म्हटले आहे. त्या कार्यरत असताना पात्र मनुष्य त्यांना थांबवू किंवा बंद करू शकेल, अशी व्यवस्था असावी.
X वरील एका विस्तृत पोस्टमध्ये नडेला यांनी अशा भविष्याचे वर्णन केले, ज्यात AI कडे केवळ अपारदर्शक प्रणालींचा समूह म्हणून पाहता येणार नाही—ज्यांच्या शिफारसी आणि कृती लोक फक्त स्वीकारतात किंवा नाकारतात. त्याऐवजी, त्यांनी अधिक पारदर्शक प्रणालींची मागणी केली, ज्या निरीक्षण आणि नियंत्रणाखाली ठेवता येतील आणि घडलेल्या घटनांचा छेडछाड-प्रतिरोधक, मानवांना वाचता येणारा पुरावा ठेवतील.
अत्यंत सक्षम मॉडेल्सभोवती सुरू असलेल्या चर्चेच्या केंद्रस्थानी त्यांच्या वक्तव्यांनी कार्यकारी नियंत्रण आणि ऑडिटक्षमता आणली आहे. AI सुरक्षा ही मॉडेलच्या अपेक्षित वर्तनावर विश्वास ठेवण्याची बाब नसून, तो विश्वास चुकीचा ठरला तरी व्यवस्थापित करता येतील अशा प्रणाली तयार करण्याची बाब आहे, असेही त्यांनी मांडले.
सुरुवातीपासून नियंत्रण
नियंत्रणाला अपवादात्मक सुरक्षा उपाय न मानता मूलभूत आवश्यकता मानावी, हा नडेला यांचा सर्वात थेट प्रस्ताव आहे. त्यांनी या कल्पनेची तुलना आपत्कालीन ब्रेकशी केली: अधिकृत व्यक्तीला एखादे काम सुरू असतानाच मॉडेलमध्ये हस्तक्षेप करून ते थांबवता आले पाहिजे.
मॉडेल्सचा वापर दीर्घकाळ चालणाऱ्या किंवा अधिक परिणामकारक कामांसाठी केला जातो, तेव्हा हे तत्त्व सर्वाधिक महत्त्वाचे ठरते. कृती करू शकणारी, टूल्स वापरू शकणारी किंवा अनेक टप्प्यांचे काम पुढे नेऊ शकणारी प्रणाली, परिणाम घडून गेल्यानंतर हाताळणे कठीण ठरणारे धोके निर्माण करू शकते. काम सुरू असतानाच मानवी हस्तक्षेप कायम ठेवणे हा पॉज किंवा शटडाउन यंत्रणेचा उद्देश आहे.
अधिक प्रगत प्रणालींना अधिक प्रगत नियंत्रण तंत्रज्ञानाची गरज भासेल आणि या तंत्रज्ञानांचे मानकीकरण केले पाहिजे, असेही नडेला यांनी म्हटले. या विधानात कोणत्याही विशिष्ट तांत्रिक रचनेचा उल्लेख नाही; मात्र ते एका व्यापक अपेक्षेकडे निर्देश करते: प्रत्येक मॉडेल किंवा डिप्लॉयमेंटसाठी सुरक्षा नियंत्रण स्वतंत्रपणे तात्पुरत्या स्वरूपात तयार केली जाऊ नयेत.
पारदर्शकता, पुरावे आणि बाह्य छाननी
AI प्रशासनावरील चर्चेत आधीपासून महत्त्वाच्या ठरलेल्या कल्पनांशी Microsoft प्रमुखांच्या शिफारसी जुळतात. यामध्ये घटनांची वेळेवर माहिती देणे, स्वतंत्र ऑडिट, पडताळता येणारा डेटा आणि तांत्रिक नियंत्रण यांचा समावेश आहे.
एकत्रितपणे, हे उपाय उत्तरदायित्वाच्या समस्येच्या वेगवेगळ्या भागांना हाताळतात. घटनांची माहिती वापरकर्ते, विकसक आणि नियामकांना अपयशांबद्दल सावध करू शकते. स्वतंत्र ऑडिट AI विकसकांनी केलेल्या दाव्यांची चाचणी करू शकतात. पडताळता येणाऱ्या डेटामुळे प्रणालीच्या आउटपुट्स किंवा कृतींच्या आधाराची तपासणी करणे सोपे होऊ शकते. प्रणाली अनपेक्षितपणे वागली किंवा तिचा गैरवापर झाला, तर नुकसान मर्यादित करण्याचा मार्ग नियंत्रण उपलब्ध करून देते.
छेडछाड-प्रतिरोधक, मानवांना वाचता येणाऱ्या पुराव्यांवर नडेला यांनी दिलेला भर विशेष उल्लेखनीय आहे, कारण तो तांत्रिक सुरक्षा उपायांना व्यावहारिक देखरेखीशी जोडतो. पुरावा अस्तित्वात असणे पुरेसे नाही; प्रणालीने काय केले आणि निर्णय का घेण्यात आला हे ठरवण्यासाठी आवश्यक तेव्हा लोकांना तपासता येईल अशा स्वरूपात तो उपलब्ध असला पाहिजे.
स्वीकारण्यापासून नियंत्रणाकडे
प्रगत AI उपयुक्त ठरू शकते म्हणूनच त्याला ब्लॅक बॉक्स म्हणून स्वीकारता कामा नये, हा या युक्तिवादाचा गाभा आहे. महत्त्वाच्या निर्णयांवर प्रभाव टाकू शकणाऱ्या किंवा गुंतागुंतीच्या वातावरणात काम करू शकणाऱ्या प्रणालींसाठी केवळ विश्वासार्हतेचे दावे पुरेसे नाहीत, असे नडेला यांच्या मांडणीवरून दिसते.
त्याऐवजी, लक्ष मॉडेलभोवतीच्या परिस्थितींवर केंद्रित आहे: त्याचे निरीक्षण करता येते का, त्याच्या हालचालींचे दस्तऐवजीकरण करता येते का, बाह्य पक्ष त्याचे मूल्यांकन करू शकतात का आणि योग्य अधिकार असलेली व्यक्ती त्याला थांबवू शकते का. हा दृष्टिकोन सक्षम मॉडेल तयार करण्याचे आव्हान दूर करत नाही; मात्र नियंत्रणाच्या सुविधा डिप्लॉय करता येणाऱ्या प्रणालीच्या व्याख्येचा भाग बनवतो.
नडेला यांनी “super intelligence”च्या शक्यतेचा वारंवार उल्लेख केला, ज्यातून त्यांच्या हस्तक्षेपाचा उच्च-जोखमीचा संदर्भ दिसून येतो. मात्र, त्यांच्या ठोस शिफारसी सध्याच्या प्रशासनविषयक निर्णयांशी संबंधित आहेत: ऑडिट, अहवाल देणे, पडताळता येण्याची क्षमता आणि मानवी हस्तक्षेपाच्या यंत्रणा.
या प्रस्तावाचा अर्थ
हा प्रस्ताव पूर्ण तांत्रिक किंवा नियामक आराखडा नाही. मात्र प्रणाली कामासाठी वापरण्यापूर्वी तडजोड, अपयश किंवा गैरवापराची शक्यता लक्षात घेऊन नियोजन करण्याचे AI विकसक आणि वापरकर्त्यांना स्पष्ट आवाहन तो करतो.
AI स्वीकारणाऱ्या संस्थांसाठी याचा व्यावहारिक अर्थ स्पष्ट आहे: प्रणालींचे निरीक्षण करता येते का, कृती तपासता येईल अशा पद्धतीने नोंदवल्या जातात का, हस्तक्षेप करण्याची परवानगी कोणाला आहे आणि हस्तक्षेप परिणामकारक ठरेल इतक्या वेगाने करता येतो का, हे तपासले पाहिजे. AI प्रणाली अधिक सक्षम होत गेल्यावर हे प्रश्न सुरक्षा तपासणी यादीपलीकडे जाऊन वापराची मूलभूत अट बनू शकतात.
हा लेख The Vergeच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.
Originally published on theverge.com