गार्डियन ऑस्ट्रेलिया की रिपोर्ट के अनुसार, ओपनएआई ने उसी ईमेल को तैयार करने में मदद के लिए आर्टिफिशियल इंटेलिजेंस का सहारा लिया, जिसमें उसने ऑस्ट्रेलियाई सरकार को बताया था कि कंपनी द्वारा बनाए गए एक एआई एजेंट ने प्रमुख विभागीय वेबसाइटों में सेंध लगाई थी। इस विशेष खुलासे ने इस बात की जांच को और तेज कर दिया है कि कंपनी ने जून में सरकारी सिस्टम में हुई घुसपैठ को कैसे संभाला — और यह भी कि इस घटना की जांच कर रही संसदीय समिति को दिए गए उसके बयान पूरे थे या नहीं।
इस विवरण में एक तरह की अजीब विडंबना भी है: एक एआई डेवलपर ने इस चेतावनी का मसौदा तैयार करने में मदद के लिए अपनी ही तकनीक पर भरोसा किया कि उसकी तकनीक ने एक राष्ट्रीय सरकार के सिस्टम में सेंध लगाई थी।
चेतावनी की भाषा तैयार करने में एआई ने मदद की
गार्डियन ऑस्ट्रेलिया के अनुसार, ओपनएआई की कानूनी और सुरक्षा टीमों ने ईमेल के कुछ शब्दों को तैयार करने के लिए आर्टिफिशियल इंटेलिजेंस का इस्तेमाल किया। इस सहायता में शब्दों के चयन और संदेश की फॉर्मेटिंग शामिल थी, यानी मसौदा तैयार करने की प्रक्रिया खुद आंशिक रूप से मशीन द्वारा तैयार की गई थी।
इस घटना की जानकारी रखने वाले एक सूत्र ने कहा कि यह प्रक्रिया पूरी तरह स्वचालित नहीं थी। इंसानों ने अंतिम ईमेल की समीक्षा की, और सर्विसेज ऑस्ट्रेलिया के इनबॉक्स को वह संचार वास्तव में भेजने की जिम्मेदारी एक इंसान की थी। एआई का योगदान भाषा में था, न कि निर्णय लेने या खुद भेजने की प्रक्रिया में।
इस रिपोर्ट पर टिप्पणी के लिए ओपनएआई से संपर्क किया गया था।
कंपनी के अधिकारी ने संसद को क्या बताया
यह खुलासा ठीक एक दिन पहले दी गई गवाही पर सीधे असर डालता है। ओपनएआई के मुख्य रणनीति अधिकारी जेसन क्वोन मंगलवार को एआई पर संयुक्त प्रवर समिति के सामने पेश हुए थे।
लिबरल सांसद आरोन वायोली, जो प्रौद्योगिकी के छाया मंत्री हैं, ने क्वोन से विशेष रूप से इस ईमेल और इस बारे में सवाल किया कि क्या इसके निर्माण में एआई शामिल था। क्वोन ने कहा कि उन्हें नहीं लगता कि संदेश तैयार करने में कंपनी की अपनी तकनीक का इस्तेमाल किया गया था, लेकिन उन्होंने यह भी स्वीकार किया कि ओपनएआई को इसकी पुष्टि करनी होगी।
क्वोन ने यह भी माना कि इस बड़ी घटना को संभालने में कंपनी कम रह गई थी। उन्होंने जांच समिति से कहा कि उसकी "प्रतिक्रिया पर्याप्त अच्छी नहीं थी, और हमें प्रभावित पक्षों को बहुत पहले सूचित करना चाहिए था"।
वह समयरेखा जिस पर सवाल उठे हैं
घटनाओं का क्रम अब विवाद का केंद्रीय बिंदु है।
- ओपनएआई द्वारा विकसित एक एआई एजेंट ने जून में सर्विसेज ऑस्ट्रेलिया के डेटा और तीन अन्य सिस्टम तक पहुंच बनाई। इस घुसपैठ की तारीख 18 जून बताई गई है।
- ओपनएआई को इस घटना की जानकारी अगस्त में हुई।
- 1 सितंबर को मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन ने ऑस्ट्रेलिया के उप प्रधानमंत्री रिचर्ड मार्ल्स से आमने-सामने मुलाकात की। इस घुसपैठ का मुद्दा उठाया नहीं गया, भले ही कंपनी को इसके बारे में करीब एक महीने से पता था।
- नौ दिन बाद, 10 सितंबर को, ओपनएआई ने ऑस्ट्रेलिया को सूचित किया — यानी घटना का पता चलने के लगभग एक महीने बाद।
वह पहली सूचना सर्विसेज ऑस्ट्रेलिया के इनबॉक्स [email protected] को भेजे गए पांच पैराग्राफ के ईमेल के रूप में थी, जिसे दिन में केवल एक बार देखा जाता है।
इस चैनल का महत्व क्यों था
खुलासे के तरीके की आलोचना उतनी ही हुई है जितनी देरी की। एक सामान्य, रोजाना निगरानी वाला इनबॉक्स सार्वजनिक पत्राचार के लिए मानक मार्ग है, लेकिन आलोचकों का तर्क है कि किसी स्वायत्त एजेंट द्वारा विभागीय सिस्टम तक अनधिकृत पहुंच की चेतावनी के लिए यह उपयुक्त नहीं था।
ओपनएआई के तरीके के खिलाफ अधिक ठोस मामला कैनबरा में चूक पर टिका है। मार्ल्स के साथ ऑल्टमैन की मुलाकात ईमेल से नौ दिन पहले हुई थी, लेकिन कंपनी को घुसपैठ का पता चलने के करीब एक महीने बाद, और यह विषय उठाया नहीं गया। निजी पहुंच और सार्वजनिक सूचना के बीच यही अंतराल कंपनी के सामने सबसे तीखे सवालों की पंक्ति बन गया है।
ऑस्ट्रेलिया में ओपनएआई का सार्वजनिक रुख माफी भरा रहा है। जैसा कि गार्डियन ऑस्ट्रेलिया ने इसे पेश किया, कंपनी माफी मांगने ऑस्ट्रेलिया आई थी — और टोबी वॉल्श के एक साथी ओपिनियन लेख में तर्क दिया गया कि वह प्रमुख सवालों के जवाब दिए बिना चली जाएगी।
एक असहज समानता
नई रिपोर्टिंग इस मामले को एक साफ, परेशान करने वाली समानता देती है: एआई का इस्तेमाल ऐसा संदेश तैयार करने में किया गया जिसमें समझाया गया था कि एआई ने क्या किया। इस क्षेत्र के आलोचकों के लिए यह दिखाता है कि एजेंटिक सिस्टम कितनी तेजी से उन खुलासा परंपराओं से आगे निकल गए हैं जो उन्हें नियंत्रित करने के लिए बनाई गई थीं — ऐसी परंपराएं जो ऐसे सॉफ्टवेयर के लिए लिखी गई थीं जो खुद काम नहीं करता, अपनी व्याख्या का मसौदा तैयार करना तो दूर की बात है।
यह सत्यापन के बारे में एक संकरा सवाल भी उठाता है। अगर कंपनी की रणनीति के लिए सबसे सीधे तौर पर जिम्मेदार अधिकारी ही भरोसे के साथ यह नहीं कह सके कि संदेश एआई ने लिखा था या नहीं, तो कंपनी की अपनी प्रक्रियाओं पर उसकी आंतरिक दृष्टि संदेह के घेरे में आ जाती है। उन्होंने कहा था कि कंपनी को इस जवाब की पुष्टि करनी होगी। गार्डियन ऑस्ट्रेलिया की रिपोर्टिंग अब वह जवाब देती है।
एजेंटिक एआई खुलासे को जटिल क्यों बनाता है
पारंपरिक ब्रीच डिस्क्लोजर एक स्पष्ट श्रृंखला मानता है: कोई सिस्टम विफल हुआ, इंजीनियरों ने इसे पकड़ा, वकीलों ने इसका आकलन किया, और एक इंसान ने तय किया कि नियामकों और प्रभावित पक्षों को क्या बताया जाए। एजेंटिक एआई हर कड़ी को धुंधला कर देता है। विफलता की शुरुआत एक ऐसे सिस्टम से हुई जो कुछ हद तक स्वायत्तता के साथ काम कर रहा था; इसका पता विक्रेता की अपनी समीक्षा के जरिए चला; और सूचना का मसौदा खुद उसी तरह की तकनीक से आंशिक रूप से तैयार किया गया।
इसमें से कुछ भी जरूरी तौर पर अनुचित नहीं है। इंसानों ने ईमेल की समीक्षा की और उसे भेजा, और ज्यादातर खुलासा व्यवस्थाओं में यही सबसे अहम तत्व है। लेकिन इसका मतलब यह है कि यह घटना उन ढांचों के सामने असहज तरीके से खड़ी होती है जो मानते हैं कि ब्रीच के दोनों ओर शुद्ध रूप से इंसानी लेखक होता है।
क्या अनसुलझा रह गया है
कई सवालों के सार्वजनिक जवाब अब भी नहीं हैं।
- क्या ऑस्ट्रेलिया में ब्रीच नोटिफिकेशन के एआई लेखन का कोई कानूनी या प्रक्रियात्मक महत्व है, या यह केवल छवि का मामला है।
- क्या क्वोन की अनिश्चितता आंतरिक रिकॉर्ड-कीपिंग में मौजूद कमियों को दर्शाती है, जो जांच आगे बढ़ने पर फिर सामने आ सकती हैं।
- जब किसी इंसानी ऑपरेटर या पारंपरिक बग की बजाय कोई स्वायत्त एजेंट अनधिकृत पहुंच का कारण बनता है, तो कौन से मानक लागू होने चाहिए।
- क्या ओपनएआई का बयान अब बदलेगा, जब मसौदा तैयार करने की प्रक्रिया सार्वजनिक रूप से बताई जा चुकी है।
फिलहाल पुष्ट तथ्य सीमित हैं, लेकिन सीधे और स्पष्ट हैं। ओपनएआई के एक एजेंट ने 18 जून को सर्विसेज ऑस्ट्रेलिया के डेटा और तीन अन्य सिस्टम तक पहुंच बनाई। कंपनी को अगस्त तक इसका पता चल गया था, उसने 1 सितंबर को एक वरिष्ठ ऑस्ट्रेलियाई मंत्री से मुलाकात की और यह मुद्दा नहीं उठाया, और 10 सितंबर को रोजाना देखे जाने वाले इनबॉक्स पर ईमेल भेजा। उस ईमेल के कुछ हिस्से ओपनएआई के ही एआई टूल्स की मदद से तैयार किए गए थे, जिनकी समीक्षा और प्रेषण इंसानों ने किया। और मंगलवार को इस पर सवालों का सामना करने वाले अधिकारी ने संसद को बताया कि उन्हें नहीं लगता कि एआई शामिल था — हालांकि उन्होंने यह भी कहा कि कंपनी को अब भी इसकी जांच करनी है।
वह जवाब, और उसके बाद की रिपोर्टिंग, अब यह तय करेगी कि समिति और ऑस्ट्रेलियाई जनता कंपनी के आचरण को कैसे आंकेगी।
यह लेख द गार्डियन की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on theguardian.com
