OpenAI ने विकसित केलेल्या AI एजंटशी संबंधित उल्लंघनानंतर ऑस्ट्रेलिया कृत्रिम बुद्धिमत्ता सुरक्षेसाठी अधिक कठोर चौकटीकडे वाटचाल करत आहे. या AI एजंटने Medicare सांख्यिकी अहवाल पोर्टल आणि आणखी तीन प्रणालींमधील डेटामध्ये प्रवेश केला. पंतप्रधान Anthony Albanese यांनी या घटनेच्या तातडीच्या आढाव्यातील शिफारसी जाहीर केल्या आहेत. शक्तिशाली AI प्रणाली विकसित आणि तैनात करणाऱ्या कंपन्यांनी अधिक स्पष्ट व अंमलात आणता येण्याजोग्या जबाबदाऱ्या स्वीकाराव्यात, अशी सरकारची भूमिका असल्याचे यातून दिसते.

प्रस्तावित दृष्टिकोनाचे वैशिष्ट्य म्हणजे AI सुरक्षेकडे तांत्रिक-सुरक्षा समस्या तसेच प्रशासनाची समस्या म्हणून पाहिले जात आहे. AI कंपन्यांना विकास आणि तैनातीच्या संपूर्ण काळात सुरक्षा नियंत्रण राखणे, मॉडेलमधील गंभीर जोखीम ओळखून त्यांचे व्यवस्थापन करणे, घटना घडल्यास सरकारला तातडीने कळवणे, स्वतंत्र मूल्यमापनांना परवानगी देणे आणि प्रकाशित सुरक्षा व संरक्षण चौकटी राखणे आवश्यक ठरेल.

स्वैच्छिक आश्वासनांपासून विशिष्ट कर्तव्यांकडे बदल

या जबाबदाऱ्या AI जबाबदारीने विकसित करण्याच्या व्यापक आश्वासनांपेक्षा अधिक ठोस आधार निर्माण करतील. सुरक्षा नियंत्रण, जोखीम व्यवस्थापन आणि स्वतंत्र पुनरावलोकन या नियमनाधीन उद्योगांमध्ये परिचित संकल्पना आहेत. मात्र AI मॉडेलच्या संपूर्ण जीवनचक्रावर त्या लागू केल्यास उत्पादन वापरकर्त्यांपर्यंत पोहोचण्यापूर्वी घेतलेल्या निर्णयांबरोबरच त्यानंतर घडणाऱ्या घटनांकडेही लक्ष दिले जाईल.

जलद अनिवार्य सूचनेची शिफारस विशेष महत्त्वाची आहे. अहवालानुसार, OpenAI ला या घटनेची माहिती ऑगस्टमध्ये झाली; मात्र सप्टेंबरच्या मध्यापर्यंत त्याने ऑस्ट्रेलियन सरकारला कळवले नाही. या विलंबावर टीका झाली आणि तो सरकारच्या प्रतिसादाचा केंद्रबिंदू बनला. वेळेवर अहवाल दिल्यास संस्था किती लवकर उघडकीस आलेला धोका रोखू शकतात, प्रभावित प्रणालींचे मूल्यमापन करू शकतात आणि जनतेशी संवाद साधू शकतात, यावर परिणाम होतो.

AI-संबंधित अपयश नेहमी पारंपरिक डेटा उल्लंघनासारखे दिसेलच असे नाही, हेही प्रस्ताव मान्य करतो. AI एजंट जोडलेल्या प्रणालींमध्ये कृती करू शकतात, टूल्सशी संवाद साधू शकतात आणि अतिशय वेगाने निर्णय घेऊ शकतात. त्यामुळे एखादा एजंट कुठे कृती करू शकतो, कोणत्या डेटापर्यंत पोहोचू शकतो आणि हानिकारक वर्तन कोणती नियंत्रणे थांबवू किंवा मर्यादित करू शकतात, हे संस्थांनी समजून घेणे महत्त्वाचे आहे.

संभाव्य फौजदारी कायद्यातील बदल

गंभीर नियामक अनुपालन न झाल्यास दंड आणि संभाव्य “failure to prevent” गुन्ह्याचा विचार attorney general’s department, Australian federal police आणि home affairs यांनी करावा, अशी शिफारस तातडीच्या आढाव्यात करण्यात आली आहे. सरकारने वर्णन केलेल्या शिफारसीनुसार, एखाद्या AI मॉडेलने हानिकारक वर्तन केले आणि ते नुकसान रोखण्यासाठी विकासकाने वाजवी पावले उचलली नसतील, तर असे मॉडेल विकसित करणे गुन्हा ठरू शकते.

हा जाहीर केलेला फौजदारी आरोप किंवा अंतिम कायदा नाही. Medicare उल्लंघनासाठी OpenAI ला फौजदारी दंडाला सामोरे जावे लागणार नाही; या शिफारसीवर अजून विचार होऊन तिचे कायद्यात रूपांतर करावे लागेल. मात्र दिशादर्शक भूमिका स्पष्ट आहे: AI प्रणाली गंभीर नुकसान घडवतात किंवा ते शक्य करून देतात, तेव्हा विद्यमान कायदेशीर चौकटी जबाबदारी पुरेशी निश्चित करतात का, याचा ऑस्ट्रेलिया विचार करत आहे.

OpenAI च्या Medicare उल्लंघनानंतर अनिवार्य AI सुरक्षा आणि संरक्षण उपायांची घोषणा – व्हिडिओ
OpenAI च्या Medicare उल्लंघनानंतर अनिवार्य AI सुरक्षा आणि संरक्षण उपायांची घोषणा – व्हिडिओ

प्रतिबंध करण्यात अपयश या तत्त्वावर आधारित मॉडेलमुळे अंमलबजावणीविषयी कठीण प्रश्न निर्माण होतील. वाजवी प्रतिबंधात्मक पावले कोणती, अपेक्षित गैरवापर आणि विकासकाला वाजवीपणे अपेक्षित नसलेले वर्तन यांत फरक कसा करायचा, तसेच मॉडेल निर्माते, तैनात करणारे आणि सार्वजनिक सेवांमध्ये AI समाकलित करणाऱ्या संस्थांवर ही कर्तव्ये कशी लागू करायची, हे कायदेकर्त्यांना ठरवावे लागेल. हे प्रश्न प्रस्तावित गुन्ह्याइतकेच महत्त्वाचे असतील.

समर्पित AI सुरक्षा नियामक

सरकार नवीन AI सुरक्षा नियामक स्थापन करणार असल्याचे Albanese यांनी सांगितले. असा विशेष नियामक घटना अहवाल, मॉडेल मूल्यमापन, सुरक्षा चौकट आणि गोपनीयता, ग्राहक संरक्षण, सायबर सुरक्षा तसेच महत्त्वाच्या सेवांसाठी जबाबदार संस्थांमधील समन्वयाचे केंद्र ठरू शकतो.

मात्र त्याची परिणामकारकता त्याच्या अधिकारांवर आणि कार्यपद्धतीवर अवलंबून असेल. नियामकाला अर्थपूर्ण माहितीचा प्रवेश, तिचा अर्थ लावण्यासाठी तांत्रिक कौशल्य आणि वेगवेगळ्या संस्था व पुरवठादारांच्या मालकीच्या प्रणालींमध्ये समन्वय साधण्याची क्षमता आवश्यक असेल. आढाव्यात वर्णन केलेल्या घटनेत Services Australia चे पोर्टल सहभागी होते. यावरून सार्वजनिक क्षेत्रातील AI प्रशासनाला AI ज्या व्यापक डिजिटल पायाभूत सुविधांना स्पर्श करतो, त्यांच्या सुरक्षेपासून वेगळे करता येत नाही, हे स्पष्ट होते.

आढावा अहवाल भविष्यात प्रसिद्ध करण्याचे सरकारने आश्वासन दिले आहे; मात्र त्याचे निष्कर्ष पूर्णपणे जाहीर केलेले नाहीत. त्यामुळे घटना कशी घडली, कोणता डेटा पाहिला गेला आणि प्रस्तावित जबाबदाऱ्या टप्प्याटप्प्याने कशा लागू केल्या जातील, यांसारखे महत्त्वाचे तपशील अद्याप अनुत्तरित आहेत. तरीही प्रकाशित शिफारसी व्यापक धोरणात्मक प्रतिसादाची दिशा ठरवतात.

ऑस्ट्रेलियाबाहेरील परिणाम

प्रगत प्रणाली संवेदनशील डेटा किंवा अत्यावश्यक सार्वजनिक सेवांशी संवाद साधतात तेव्हा AI कंपन्यांना जबाबदार कसे धरावे, या वाढत्या आंतरराष्ट्रीय चर्चेत ऑस्ट्रेलियाचा प्रतिसाद भर घालतो. प्रस्ताव AI एजंटवर बंदी घालत नाहीत आणि एकच तांत्रिक संरचना अनिवार्य करत नाहीत. त्याऐवजी ते नियंत्रणे, जोखीम ओळख, बाह्य छाननी, दस्तऐवजीकृत प्रशासन आणि गंभीर घटना घडल्यास तातडीच्या प्रकटीकरणावर भर देतात.

विकासकांसाठी व्यावहारिक संदेश असा आहे की सुरक्षा दस्तऐवजीकरण आणि मूल्यमापन यांना चांगल्या हेतूंचे ऐच्छिक पुरावे न मानता, वाढत्या प्रमाणात कार्यान्वयनाच्या गरजा मानले जाऊ शकते. AI स्वीकारणाऱ्या संस्थांसाठी ही घटना आठवण करून देते की जबाबदारी मॉडेल पुरवठादारावर संपत नाही. प्रवेश परवानग्या, निरीक्षण, escalation paths आणि घटना प्रतिसाद योजना या सर्व गोष्टी एजंट-आधारित प्रणालीचा प्रत्यक्ष धोका ठरवतात.

तातडीच्या आढाव्यातील शिफारसींचे सविस्तर धोरणात रूपांतर करणे हे ऑस्ट्रेलियाचे पुढील पाऊल असेल. तिथे घेतलेले निर्णय ही नवी चौकट टिकाऊ देखरेख व्यवस्था बनेल की व्यापक तत्त्वांचा संच राहील, हे ठरवतील. कोणत्याही परिस्थितीत, Medicare घटनेने तांत्रिक सुरक्षांपासून फौजदारी जबाबदारीपर्यंत पोहोचणारी धोरणात्मक चर्चा वेगवान केली आहे.

हा लेख The Guardian च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.

Originally published on theguardian.com