पारदर्शकतेसाठी तयार केलेली सार्वजनिक-नोंदींची प्रणाली नव्या AI-युगातील जोखमीला सामोरी गेली आहे
अमेरिकेच्या नॅशनल ट्रान्सपोर्टेशन सेफ्टी बोर्डने आपल्या तपासांशी संबंधित काही माहितीचे प्रकाशन थांबवले आहे, कारण लोकांनी सार्वजनिक नोंदींचा वापर करून असा कृत्रिम ऑडिओ तयार केला जो प्राणघातक अपघाताच्या शेवटच्या कॉकपिट क्षणांची पुन्हा रचना करतो असे वाटले. आधुनिक AI प्रणाली आवाज आणि ध्वनी पुनर्निर्मिती तपासकर्त्यांनी अपेक्षेपेक्षा कितीतरी सोपी करत असताना, अपघातांविषयी जनसमज वाढवण्यासाठी तयार केलेली साधने कशी पुन्हा वापरली जाऊ शकतात हे या पावलातून दिसते.
स्रोत साहित्याप्रमाणे, या प्रकरणात UPS flight 2976 समाविष्ट होते, ज्याचा 4 नोव्हेंबरला अपघात झाला आणि त्यात तीन क्रू सदस्य आणि जमिनीवरील 12 जणांचा मृत्यू झाला. अलीकडील सुनावणीत सादर केलेल्या लिखित दस्तऐवजांचा वापर करून कॉकपिट ऑडिओचे AI-निर्मित रूप तयार करून प्रसारित करण्यात आले, असे NTSB ने सांगितले. त्यामुळे सार्वजनिक डॉकेट प्रणालीमध्ये आणखी काय आहे जे पीडित, कुटुंबे किंवा क्रू यांना नवीन गोपनीयता हानी पोहोचवू शकते, याचा आढावा एजन्सीने सुरू केला.
एजन्सीने कारवाई का केली
फेडरल कायद्यानुसार, मृत्यूमुखी पडलेल्या विमान अपघातांच्या तपासादरम्यान NTSB कॉकपिट व्हॉईस रेकॉर्डिंग्ज सार्वजनिकपणे प्रसिद्ध करत नाही. त्याऐवजी, ते ट्रान्सक्रिप्ट्स आणि तांत्रिक दृश्यचित्रण यांसारखी इतर सामग्री उपलब्ध करून देते. या प्रकरणात, सार्वजनिक नोंदींमध्ये एक ट्रान्सक्रिप्ट आणि एक ऑडिओ स्पेक्ट्रोग्राम होता, जो ध्वनीची वारंवारता, कालावधी आणि ॲम्प्लिट्यूड यांसारखी वैशिष्ट्ये दर्शवतो.
त्या सामग्रीमुळे बाहेरील व्यक्तींना अपघातापूर्वीच्या कॉकपिट ऑडिओचे शेवटचे 30 सेकंद, पायलटांच्या आवाजांसह आणि पार्श्वभूमीतील ध्वनींसह, डिजिटलरीत्या पुन्हा तयार करण्याइतकी माहिती मिळाली. NTSB च्या एका विमान चाचणीशी जोडलेला दुसरा पुनर्निर्मित क्लिपही ऑनलाइन फिरला. एजन्सीच्या प्रतिसादावरून संरक्षित रेकॉर्डिंग आणि तांत्रिकदृष्ट्या वर्णनात्मक पर्याय यांच्यातील सीमा नाटकीयरित्या कमी झाल्याचे दिसते. मूळ ऑडिओ नसल्यामुळे एकेकाळी कमी जोखमीचे मानले गेलेले दस्तऐवज आता मूळसारखे पुरेसे वाटणारे काहीतरी तयार करण्यास आणि ऑनलाइन मोठ्या प्रमाणावर पसरविण्यासाठी पुरेसे ठरू शकतात.
पारदर्शकता आणि कृत्रिम माध्यम यांचा संघर्ष
वर्षानुवर्षे, NTSB चे सार्वजनिक-डॉकेट मॉडेल अपघात तपासाचा एक मूलभूत सिद्धांत दर्शवत आले आहे: स्वतंत्र परीक्षणामुळे विश्वास बळकट होतो. तपासकर्ते “आपले काम दाखवतात,” त्यामुळे बाहेरील तज्ञ, पत्रकार आणि जनता अधिकृत निष्कर्षांचा पाया तपासू शकतात. हे मॉडेल असे गृहित धरते की प्रसिद्ध केलेली सामग्री मुख्यतः पुनरावलोकन, वार्तांकन आणि तांत्रिक विश्लेषणासाठी वापरली जाईल.
AI ते गृहितक बदलते. आता एक ट्रान्सक्रिप्ट प्रशिक्षण इनपुट होऊ शकतो. एक स्पेक्ट्रोग्राम पुनर्निर्मितीसाठी प्रॉक्सी होऊ शकतो. एक स्थिर प्रतिमा किंवा तांत्रिक चार्ट भावनिक कृत्रिम माध्यमाचा आधार होऊ शकतो. प्रत्यक्षात, एकेकाळी जबाबदारीला पाठबळ देणारी तीच खुलेपणा आता दस्तऐवजीकरण, सिम्युलेशन आणि तमाशा यांच्यातील सीमारेषा धूसर करणाऱ्या व्हायरल सामग्रीलाही सक्षम करू शकते.
एजन्सीची कथित प्रतिक्रिया लक्षणीयरीत्या थेट होती: अधिकाऱ्यांनी सांगितले की डॉकेटमध्ये गोपनीयतेला धक्का पोहोचवू शकणारे आणखी काही आहे का, हे ते तपासत होते, कारण डिजिटल पुनर्निर्मितीची शक्यता त्यांना समजली होती. हे चौकट महत्त्वाचे आहे. हा फक्त कॉपीराइट किंवा बनावटपणाचा प्रश्न नाही. हा गोपनीयता, प्रतिष्ठा आणि पुरावा-व्यवस्थापनाचा प्रश्न आहे, विशेषतः जेव्हा दाखवले गेलेले लोक मृत असतात आणि सहमती देणे, आक्षेप घेणे किंवा नोंद दुरुस्त करणे शक्य नसते.
तपासकर्ते आणि नियामकांसाठी एक नवी धोरणात्मक चाचणी
NTSB ची ही स्थगिती तात्पुरती ठरू शकते, पण मूळ समस्या तशीच राहण्याची शक्यता आहे. अपघात तपासकर्ते, न्यायालये, वाहतूक संस्था आणि नोंद-संग्रहक यांना तोच प्रश्न भेडसावेल: एकेकाळी अनामिक किंवा अपूर्ण मानल्या गेलेल्या स्वरूपांतून जनरेटिव्ह प्रणाली संवेदनशील सामग्री रिव्हर्स-इंजिनिअर करू शकत असतील, तर कोणती माहिती प्रकाशित करणे सुरक्षित आहे?
हा आव्हान विमानवाहतुकीपलीकडे जातो. ट्रान्सक्रिप्ट्स, प्रतिमा, बायोमेट्रिक्स, वेव्हफॉर्मसदृश दृश्यचित्रण किंवा अतिवर्णनात्मक तांत्रिक नोंदी असलेला कोणताही सार्वजनिक संग्रह आता कृत्रिम पुनर्निर्मितीसाठी कच्चा माल पुरवू शकतो. संस्था काय प्रकाशित करतात, केव्हा प्रकाशित करतात किंवा जाहीर केलेल्या सामग्रीची निष्ठा किती असते, याचा नव्याने विचार करावा लागू शकतो, जेणेकरून खुलेपणा आणि आधुनिक गैरवापर यांच्यात समतोल राखता येईल.
प्रक्रियात्मक जोखीमही आहे. संस्था खूप व्यापक प्रतिसाद देतात, तर त्या वैध सार्वजनिक देखरेखीला धक्का पोहोचवू शकतात. खूप अरुंद प्रतिसाद दिल्यास, वेदनादायक घटनांच्या अधिक कृत्रिम पुनर्निर्मितींना प्रोत्साहन मिळू शकते. NTSB चे पाऊल त्या समतोलाचा फेरआढावा घेण्यासाठी वेळ मिळवण्याचा प्रयत्न दिसतो.
मोठा संकेत
तात्काळ कथा एका वाहतूक सुरक्षा एजन्सीबद्दल आणि एका अपघात तपासाबद्दल आहे. व्यापक कथा अशी की जनरेटिव्ह AI संस्थांना सार्वजनिक-नोंदी कायदा आणि प्रशासकीय प्रथांमध्ये दडलेल्या गृहितकांचा पुनर्विचार करण्यास भाग पाडत आहे. अनेक प्रणाली अशा काळात तयार झाल्या होत्या, जेव्हा दस्तऐवजापर्यंत पोहोचणे म्हणजे आपोआप एखाद्या व्यक्तीच्या आवाजाची विश्वासार्ह पुनर्निर्मिती करण्याची क्षमता नव्हती.
आता ते खरे नाही. NTSB प्रकरण दाखवते की एखादी एजन्सी सर्वात संवेदनशील मूळ फाइल रोखून ठेवते, तरीही आजूबाजूची सामग्री विश्वासार्ह कृत्रिम पर्याय तयार करण्यास परवानगी देऊ शकते. सरकारांसाठी हे अस्वस्थ करणारे शक्यताचित्र उभे राहते: जनरेटिव्हपूर्व युगासाठी तयार केलेले पारदर्शकता-सुरक्षा उपाय आता लोकांना अशा प्रकारे उघडे करू शकतात, ज्याची विधिमंडळे आणि एजन्सींनी कधीही योजना केली नव्हती.
NTSB मध्ये सुरू असलेला आढावा विमानवाहतुकीपलीकडे पाहिला जाईल. एजन्सीने आपली सार्वजनिक-प्रकाशन पद्धत अधिक कडक केली, तर इतरही तसाच मार्ग अवलंबू शकतात. नवीन संरक्षक अटींसह प्रवेश पुन्हा दिला, तर त्या अटी एक नमुना बनू शकतात. कोणत्याही परिस्थितीत, ही घटना कृत्रिम माध्यम सार्वजनिक माहितीसाठीच्या कार्यात्मक अर्थात कसा बदल घडवत आहे यामध्ये एक ठोस बदल अधोरेखित करते.
हा लेख Mashable च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.
Originally published on mashable.com
