एआय सुरक्षा नियम आणि किल स्विचची मागणी मायक्रोसॉफ्ट अध्यक्षांकडून

मायक्रोसॉफ्टचे अध्यक्ष ब्रॅड स्मिथ यांनी अधिक तातडीच्या artificial-intelligence सुरक्षा नियमांची मागणी केली. दूध आणि washing machinesसारख्या दैनंदिन वस्तूंच्या तुलनेत एआयवर कमी कडक नियंत्रण असल्याचे त्यांनी सांगितले.

BBCशी बोलताना स्मिथ यांनी एआय हे साधन आणि शस्त्र दोन्ही ठरू शकते असे म्हटले. rogue AI agentsमुळे एखादी प्रणाली भंगली तर पीडितांप्रती कंपन्यांवर कायदेशीर जबाबदारी असावी, असे त्यांनी सांगितले.

आपत्कालीन ब्रेकची मागणी

एआय प्रणालींमध्ये “emergency brakes”, ज्यांना kill switches असेही म्हटले जाते, असावेत हा स्मिथ यांच्या भूमिकेचा केंद्रबिंदू होता. प्रणाली स्वीकारार्ह नियंत्रणाबाहेर जाऊ लागल्यास ते तिला थांबवू किंवा धीमे करू शकतील.

मायक्रोसॉफ्टचे Chief Executive Satya Nadella यांनीही अत्यंत सक्षम एआयला अपारदर्शक black boxes मानू नये असे सांगितले. त्याचे वर्तन पाहता, मर्यादा तपासता आणि कृती नियंत्रित करता आल्या पाहिजेत.

दोन्ही वक्तव्यांत विशिष्ट कायदा किंवा तांत्रिक मानक मांडले गेले नाही. मात्र एआयचे वर्तन थांबवण्यासाठी किंवा मर्यादित करण्यासाठी ऑपरेटरकडे उपाय असावेत, असे त्यातून स्पष्ट झाले.

ही तुलना महत्त्वाची का

Washing machines आणि दुधाच्या पॅकेटशी केलेली तुलना नियमनाचा मुद्दा स्पष्ट करण्यासाठी होती. सामान्य ग्राहक वस्तूंवर सुरक्षा नियम असताना एआयचा वेगवान विकास व्यापक नियंत्रणांपेक्षा पुढे गेला आहे.

rogue agentsनी प्रणालीचा गैरवापर केल्यास किंवा ती ताब्यात घेतल्यास जबाबदारी कोणाची, हा प्रश्नही निर्माण होतो. model developers, infrastructure providers आणि deployers यांच्यात जबाबदारी कशी वाटली जाईल हे अहवालात स्पष्ट नाही.

frontier developersवर दबाव

कठोर एआय नियमांच्या मागण्यांच्या पार्श्वभूमीवर ही वक्तव्ये आली आहेत. Anthropic, Google DeepMind आणि OpenAI यांनी तंत्रज्ञानाच्या वेगवान विकासातील धोक्यांबाबत इशारे दिले आहेत. सर्वाधिक सक्षम प्रणालींच्या निर्मात्यांनी मोठ्या प्रमाणावर वापर होण्यापूर्वी गंभीर धोके ओळखून नियंत्रित करावेत, ही मुख्य चिंता आहे.

Britainचे AI minister frontier AI विकसित करणाऱ्या कंपन्यांनी सुरक्षा उपाय मजबूत करावेत, असे सांगणार होते.

तत्त्वांपासून अंमलबजावणीपर्यंत

“Kill switch” हा सहज समजणारा शब्द असला तरी त्याची अंमलबजावणी साधा on-off निर्णय नाही. हस्तक्षेपाची परिस्थिती, तो वापरण्याचा अधिकार आणि तांत्रिक परिणामकारकता निश्चित करावी लागेल.

स्मिथ आणि नडेला यांच्या वक्तव्यांत कंपन्यांनी एआयचे वर्तन पाहावे, मर्यादा तपासाव्यात आणि कृती नियंत्रित करण्याची क्षमता राखावी यावर भर आहे.

• ब्रॅड स्मिथ यांनी तातडीच्या एआय सुरक्षा नियमांची आणि मजबूत सुरक्षा उपायांची मागणी केली.
• rogue AI agentsमुळे breaches झाल्यानंतर emergency brakes आणि पीडितांप्रती कायदेशीर जबाबदारीची मागणी केली.
• Satya Nadella यांनी निरीक्षण, चाचणी आणि नियंत्रण करता येणाऱ्या एआय प्रणालींचे समर्थन केले.

व्यावहारिक परिणाम असलेली धोरणात्मक चर्चा

चर्चा आता नियमन आवश्यक आहे का यापलीकडे जाऊन developers, cloud आणि infrastructure operators तसेच एआय वापरणाऱ्या संस्थांवर नियम कसे लागू होतील यावर केंद्रित होत आहे.

माहितीवर प्रभाव टाकू आणि कामे स्वयंचलित करू शकणाऱ्या तंत्रज्ञानासाठीही मजबूत नियंत्रणांची अपेक्षा असू शकते, असा स्मिथ यांचा इशारा आहे.

हा लेख The Guardianच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.