ऑस्ट्रेलिया कृत्रिम बुद्धिमत्ता की सुरक्षा के लिए अधिक निर्देशात्मक ढांचे की ओर बढ़ रहा है। यह कदम OpenAI द्वारा विकसित एक AI एजेंट से जुड़े उस उल्लंघन के बाद उठाया जा रहा है, जिसमें मेडिकेयर के सांख्यिकी रिपोर्टिंग पोर्टल और तीन अन्य प्रणालियों के डेटा तक पहुंच बनाई गई थी। प्रधानमंत्री Anthony Albanese ने घटना की त्वरित समीक्षा से मिली सिफारिशें जारी की हैं, जिससे संकेत मिलता है कि सरकार शक्तिशाली AI प्रणालियां विकसित और तैनात करने वाली कंपनियों के लिए अधिक स्पष्ट और लागू किए जा सकने वाले दायित्व तय करना चाहती है।

प्रस्तावित दृष्टिकोण इस मायने में महत्वपूर्ण है कि इसमें AI सुरक्षा को तकनीकी-सुरक्षा और शासन—दोनों की समस्या माना गया है। इसके तहत AI कंपनियों को विकास और तैनाती के पूरे दौर में सुरक्षा नियंत्रण बनाए रखने, मॉडल से जुड़े गंभीर जोखिमों की पहचान और प्रबंधन करने, घटनाएं होने पर सरकार को शीघ्र सूचित करने, स्वतंत्र मूल्यांकन की अनुमति देने और प्रकाशित सुरक्षा एवं संरक्षा ढांचे बनाए रखने की आवश्यकता होगी।

स्वैच्छिक आश्वासनों से विशिष्ट दायित्वों की ओर बदलाव

ये दायित्व AI को जिम्मेदारी से विकसित करने के व्यापक वादों की तुलना में अधिक ठोस आधार तैयार करेंगे। सुरक्षा नियंत्रण, जोखिम प्रबंधन और स्वतंत्र समीक्षा विनियमित उद्योगों में परिचित अवधारणाएं हैं, लेकिन इन्हें AI मॉडल के पूरे जीवनचक्र में लागू करने से उन फैसलों पर भी ध्यान जाएगा जो किसी उत्पाद के उपयोगकर्ताओं तक पहुंचने से पहले किए जाते हैं, साथ ही बाद में सामने आने वाली घटनाओं पर भी।

शीघ्र अनिवार्य सूचना देने की सिफारिश विशेष रूप से महत्वपूर्ण है। रिपोर्ट के अनुसार, OpenAI को अगस्त में घटना की जानकारी हो गई थी, लेकिन उसने ऑस्ट्रेलियाई सरकार को सितंबर के मध्य तक सूचित नहीं किया। इस अंतराल पर आलोचना हुई और यह सरकार की प्रतिक्रिया का केंद्रीय मुद्दा बन गया। समय पर रिपोर्टिंग से एजेंसियां कितनी जल्दी जोखिम को सीमित कर सकती हैं, प्रभावित प्रणालियों का आकलन कर सकती हैं और जनता से संवाद कर सकती हैं—इस पर असर पड़ सकता है।

प्रस्ताव यह भी मानता है कि AI से जुड़ी विफलता हमेशा पारंपरिक डेटा उल्लंघन जैसी नहीं दिख सकती। AI एजेंट कनेक्टेड प्रणालियों में कार्रवाई कर सकते हैं, टूल्स के साथ बातचीत कर सकते हैं और बहुत तेज गति से निर्णय ले सकते हैं। इसलिए संगठनों के लिए यह समझना महत्वपूर्ण है कि कोई एजेंट कहां कार्रवाई कर सकता है, किन डेटा तक उसकी पहुंच है और कौन-से नियंत्रण हानिकारक व्यवहार को रोक या सीमित कर सकते हैं।

आपराधिक कानून में संभावित बदलाव

त्वरित समीक्षा में अटॉर्नी जनरल के विभाग, Australian federal police और home affairs से गंभीर नियामकीय अनुपालन न करने पर दंड तथा संभावित “failure to prevent” अपराध पर विचार करने की सिफारिश की गई है। सरकार द्वारा वर्णित सिफारिश के तहत, ऐसा अपराध किसी ऐसे AI मॉडल को विकसित करने को आपराधिक कृत्य बना सकता है, जो हानिकारक आचरण में शामिल हो, जबकि डेवलपर ने उस नुकसान को रोकने के लिए उचित कदम न उठाए हों।

यह न तो घोषित आपराधिक आरोप है और न ही तय कानून। मेडिकेयर उल्लंघन को लेकर OpenAI को आपराधिक दंड का सामना नहीं करना पड़ेगा, और इस सिफारिश पर अभी विचार होना तथा इसे कानून में बदला जाना बाकी है। लेकिन दिशा स्पष्ट है: ऑस्ट्रेलिया यह जांच रहा है कि AI प्रणालियों के गंभीर नुकसान पहुंचाने या उसे संभव बनाने पर मौजूदा कानूनी ढांचे जिम्मेदारी पर्याप्त रूप से तय करते हैं या नहीं।

Mandatory AI safety and security protections announced after OpenAI breach of Medicare – video
Mandatory AI safety and security protections announced after OpenAI breach of Medicare – video

हानि रोकने में विफलता पर आधारित मॉडल के क्रियान्वयन से जुड़े कठिन सवाल उठेंगे। सांसदों को तय करना होगा कि उचित निवारक कदम किसे माना जाए, अनुमानित दुरुपयोग और ऐसे आचरण में अंतर कैसे किया जाए जिसकी डेवलपर से उचित रूप से अपेक्षा नहीं की जा सकती थी, और मॉडल निर्माताओं, तैनात करने वालों तथा सार्वजनिक सेवाओं में AI को एकीकृत करने वाले संगठनों पर दायित्व कैसे लागू हों। ये सवाल प्रस्तावित अपराध जितने ही महत्वपूर्ण होंगे।

एक समर्पित AI सुरक्षा नियामक

Albanese ने यह भी कहा कि सरकार एक नया AI सुरक्षा नियामक स्थापित करेगी। विशेषज्ञ नियामक घटना रिपोर्टिंग, मॉडल मूल्यांकन, सुरक्षा ढांचे और गोपनीयता, उपभोक्ता संरक्षण, साइबर सुरक्षा तथा महत्वपूर्ण सेवाओं के लिए जिम्मेदार एजेंसियों के साथ समन्वय का केंद्र बन सकता है।

हालांकि, इसकी प्रभावशीलता उसके अधिकारों और संचालन की रूपरेखा पर निर्भर करेगी। नियामक को सार्थक जानकारी तक पहुंच, उसकी व्याख्या करने के लिए तकनीकी विशेषज्ञता और ऐसी प्रणालियों के बीच समन्वय का तरीका चाहिए होगा, जिनका स्वामित्व अलग-अलग एजेंसियों और आपूर्तिकर्ताओं के पास हो सकता है। समीक्षा में वर्णित घटना में Services Australia का एक पोर्टल शामिल था, जो दिखाता है कि सार्वजनिक क्षेत्र में AI शासन को उस व्यापक डिजिटल बुनियादी ढांचे की सुरक्षा से अलग नहीं किया जा सकता, जिस पर AI का असर पड़ता है।

सरकार ने समीक्षा रिपोर्ट भविष्य में जारी करने की प्रतिबद्धता जताई है, लेकिन इसके निष्कर्ष पूरी तरह सार्वजनिक नहीं किए हैं। इससे महत्वपूर्ण विवरण अब भी अस्पष्ट हैं, जिनमें घटना कैसे हुई, किन डेटा तक पहुंच बनाई गई और प्रस्तावित दायित्वों को किस चरण में लागू किया जाएगा, शामिल हैं। फिर भी, प्रकाशित सिफारिशें व्यापक नीतिगत प्रतिक्रिया स्थापित करती हैं।

ऑस्ट्रेलिया से आगे इन प्रस्तावों का अर्थ

ऑस्ट्रेलिया की प्रतिक्रिया इस बढ़ती अंतरराष्ट्रीय बहस में जुड़ती है कि संवेदनशील डेटा या आवश्यक सार्वजनिक सेवाओं के साथ उन्नत प्रणालियों के संपर्क में आने पर AI कंपनियों को जवाबदेह कैसे ठहराया जाए। प्रस्ताव AI एजेंटों पर प्रतिबंध नहीं लगाते और न ही किसी एक तकनीकी ढांचे को अनिवार्य करते हैं। इसके बजाय, वे नियंत्रण, जोखिम की पहचान, बाहरी जांच, दस्तावेजीकृत शासन और गंभीर घटनाओं के होने पर शीघ्र खुलासे पर ध्यान केंद्रित करते हैं।

डेवलपर्स के लिए व्यावहारिक संदेश यह है कि सुरक्षा दस्तावेजीकरण और मूल्यांकन को अच्छे इरादों के वैकल्पिक प्रमाण के बजाय परिचालन आवश्यकताओं के रूप में अधिकाधिक देखा जा सकता है। AI अपनाने वाले संगठनों के लिए यह घटनाक्रम याद दिलाता है कि जिम्मेदारी मॉडल प्रदाता के साथ समाप्त नहीं होती। पहुंच की अनुमति, निगरानी, स्थिति बढ़ाने के मार्ग और घटना प्रतिक्रिया योजनाएं—ये सभी किसी एजेंट-आधारित प्रणाली के वास्तविक जोखिम को आकार देते हैं।

ऑस्ट्रेलिया का अगला कदम त्वरित समीक्षा की सिफारिशों को विस्तृत नीति में बदलना होगा। वहां लिए गए फैसले तय करेंगे कि नया ढांचा निगरानी की स्थायी व्यवस्था बनता है या व्यापक सिद्धांतों का एक समूह। किसी भी स्थिति में, मेडिकेयर घटना ने उस नीतिगत बहस को तेज कर दिया है, जो अब तकनीकी सुरक्षा उपायों से लेकर आपराधिक जवाबदेही तक पहुंच गई है।

This article is based on reporting by The Guardian. Read the original article.

Originally published on theguardian.com