Deepfake शील्ड विस्तारित करणे
YouTube ने आपल्या AI-चालित deepfake शोध क्षमता राजनीतिक व्यक्तिमत्वांसाठी विस्तारित करण्याची घोषणा केली आहे, हा एक कदम आहे जो असल्या सामग्रीपासून कृत्रिम माध्यम वेगळे करणे अधिकाधिक कठीण होत आहे. प्लॅटफॉर्म म्हणते की अपडेट केलेली प्रणाली स्वयंचलितपणे हेराफेरी केलेले व्हिडिओ ओळखू शकते आणि चिन्हांकित करू शकते जे राजकारणांना असे गोष्टी बोलत किंवा करत दर्शवितात ज्या त्यांनी वास्तविकपणे कधीही बोलल्या किंवा केल्या नाहीत.
विस्तार सार्वजनिक व्यक्तिमत्वांचे समानते वापरणार्या AI-व्युत्पन्न सामग्रीला ओळखण्यासाठी YouTube द्वारा तैनात केलेल्या विद्यमान साधनांवर आधारित आहे. प्लॅटफॉर्मने पूर्वी सेलिब्रिटी आणि निर्माताकडे लक्ष केंद्रित केले ज्यांच्या समानतेचा वापर संमतीशिवाय होत होता. राजकारणांना या क्षमता विस्तारित करणे असे स्वीकार करते की कृत्रिम माध्यम राजकीय क्षेत्रात विशिष्ट आणि संभाव्यतः अधिक धोकादायक धमकी देते.
शोध कसे कार्य करतो
YouTube चा deepfake शोध प्रणाली व्हिडिओ विश्लेषण करण्यासाठी अनेक AI मॉडेल्स एकत्रितपणे वापरते. प्रणाली चेहर्याची हालचाल, ओठांची समन्वय, ऑडिओ वैशिष्ट्ये आणि दृश्य कलाकृती परीक्षा करते जी वर्तमान पिढी AI व्हिडिओ साधनांची वैशिष्ट्य आहेत.
जेव्हा प्रणाली व्हिडिओ संभाव्य AI-व्युत्पन्न किंवा हेराफेरी केलेले असल्याचे ओळखते, तर संदर्भावर अवलंबून अनेक कार्ये करू शकते. ज्या व्हिडिओ स्पष्टपणे YouTube च्या धोकाजनक सरावांचे धोरण उल्लंघन करतात ते पूर्णपणे काढून टाकल्या जाऊ शकतात. इतरांना AI-व्युत्पन्न सामग्री असल्याचे लेबल मिळू शकते, दर्शकांना ते काय बघत आहेत याविषयी सूचित निर्णय घेण्यास अनुमती देतात.
कंपनीने म्हटले की त्याने ज्ञात deepfakes आणि प्रामाणिक राजकीय फुटेजच्या मोठ्या डेटासेटवर आपले मॉडेल्स प्रशिक्षित केले आहेत, परंतु आपल्या दृष्टिकोनाची विशिष्ट तांत्रिक तपशील प्रकट केली नाही. YouTube म्हटले आहे की तो तीव्र सुधारणा होत असलेल्या निर्माण तंत्रज्ञानाच्या गती ठेवण्यासाठी सतत आपल्या मॉडेल्सना अपडेट करत आहे, हा एक शस्त्र संघर्ष जो तीव्र होण्याची शक्यता आहे.
ट्रम्प प्रश्न
पूर्व राष्ट्रपति डोनाल्ड ट्रम्प विस्तारित शोधामध्ये समाविष्ट आहे की नाही या विषयावर दबाव दिला गेला तर YouTube चे कोणते थेट उत्तर नाही. कंपनीने म्हटले की त्याची प्रणाली विशिष्ट व्यक्तिमत्व नाव न करता सर्व राजकारणांचे संरक्षण करण्यासाठी डिजाइन केली आहे. या गैर-उत्तरास दोन्ही राजकीय समूहांकडून टीका झाली आहे.
ट्रम्प हा AI-व्युत्पन्न सामग्रीचा वारंवार लक्ष्य आहे, स्पष्टपणे व्यंगात्मक हेराफेरीपासून अधिक आश्वस्त deepfakes पर्यंत जे वास्तविक फुटेजसाठी गलतीने घेतले जाऊ शकतात. राजकीय नेते म्हणून आणि ऑनलाइन चर्चाचा वारंवार विषय म्हणून त्याची स्थिती deepfake निर्माताकरिता विशेषतः मूल्यवान लक्ष्य बनवते.
प्लॅटफॉर्मचे विशिष्ट व्यक्तिमत्व संरक्षण किंवा न संरक्षण करण्याबाबत अनिच्छा राजकीय पक्षपाताचे दिसणे टाळण्याची इच्छा प्रतिबिंबित करू शकते. कोणत्याही विशिष्ट राजकारणाचे संरक्षण किंवा न संरक्षण करण्याची स्पष्ट विधान YouTube राजकीय रुख घेत असल्याचे समजले जाऊ शकते, ज्यास कंपनीने सतत टाळण्याचा प्रयत्न केला आहे.
विस्तृत Deepfake धमकी
विस्तार अशा वेळी येतो जेव्हा AI-व्युत्पन्न राजकीय सामग्री द्रुत प्रसारित होत आहे. OpenAI, Google आणि विविध मुक्त-स्रोत प्रकल्पांचा व्हिडिओ निर्माण तंत्रज्ञान सुधारला आहे, ज्यामुळे किमान तांत्रिक कौशल्यासह आश्वस्त खोटे व्हिडिओ लक्षत: शून्य खर्चाने तयार करणे शक्य झाले आहे.
जगभरातील निर्वाचन चक्रांमध्ये, deepfakes चा वापर राजकारणांना दाहक विधान करताना, अविश्वसनीय उमेदवारांना समर्थन करताना किंवा लज्जास्पद वर्तन करताना दर्शवण्यासाठी केला गेला आहे. काही देशांमध्ये, व्हायरल deepfakes चे लोकमत प्रभावित केले गेले आहे ते नकली म्हणून ओळखले जाण्यापूर्वी, धमकीचे असमान स्वभाव प्रदर्शित केला आहे: deepfake मिनिटांमध्ये प्रसारित होऊ शकते तर मिथ्याफाळ दिवस घेते.
सोशल मीडिया प्लॅटफॉर्म राजकीय deepfakes चे प्राथमिक वितरण चॅनल आहेत, प्लॅटफॉर्म-स्तरीय शोध संरक्षणचा महत्वपूर्ण भाग बनवित आहेत. तथापि, शोध स्वाभाविकपणे प्रतिक्रियाशील आहे, नकली सामग्रीचे केवळ तयार केल्यानंतर आणि अपलोड केल्यानंतर ओळखणे. सर्वात परिष्कृत deepfakes पूर्णपणे शोध टाळू शकतात, विशेषतः निर्माण तंत्रज्ञान शोध क्षमतेपेक्षा वेगाने सुधारत असते.
नियामक दबाव
YouTube चे deepfake शोध विस्तार प्लॅटफॉर्मांवर AI-व्युत्पन्न चुकीचे माहिती संबोधन करण्यासाठी वाढत्या नियामक दबावाच्या पार्श्वभूमीवर येतो. यूरोपीय संघाचा AI कायदा कृत्रिम माध्यम लेबलिंगशी संबंधित तरतूद समाविष्ट करतो, आणि अनेक अमेरिकन राज्यांनी विशेषत: राजकीय deepfakes संबोधन करणारे कायदे पारित केले किंवा विचारात घेत आहेत.
संघीय स्तरावर, AI-व्युत्पन्न निर्वाचन हस्तक्षेपाबद्दल द्विपक्षीय चिंता अनेक विधायक प्रस्ताव तयार केले आहेत, परंतु कोणीही अद्याप कायद्यात रूपांतरित झाले नाहीत. व्यापक संघीय नियमनाची कमतरता मतलब प्लॅटफॉर्म deepfakes च्या त्यांच्या दृष्टिकोनास मोठ्याने आत्मनियमन करत आहेत, विविध स्तरांच्या कठोरता आणि पारदर्शकतेसह.
समीक्षकांना असा युक्तिवाद आहे की प्लॅटफॉर्मचे आत्मनियमन अपुरेसे आहे दिलेल्या दोषांचे समर्थन आहे. जेव्हा राजकीय नेता चे खरी deepfake सैद्धांतिकपणे निर्वाचन प्रभावित किंवा भू-राजकीय संकट निर्माण करू शकते, खाजगी कंपनीवर समस्या पोलिस करण्यावर अवलंबून असल्याने जवाबदारीचे अंतर तयार होते. YouTube चा शोध प्रणाली महत्वपूर्ण deepfake पकडण्यात अयशस्वी होते, नियामक संस्था प्लॅटफॉर्मला जवाबदार ठेवण्याचा अधिकार नाही.
पुढे काय येते
YouTube चे deepfake शोध विस्तार कृत्रिम माध्यम अधिक गंभीरपणे घेण्याच्या व्यापक उद्योग प्रवृत्तीचा भाग आहे. Google, ज्याचे YouTube मालक आहे, इतर प्लॅटफॉर्मच्या शोध साधने विकसित करत आहे आणि उद्योग-व्यापी मानदंडांसाठी सामग्रीची प्रामाणिकता आणि सत्यापनास योगदान दिले आहे.
Content Authenticity Initiative, Adobe, Microsoft आणि इतरांद्वारे समर्थित, डिजिटल सामग्रीमध्ये प्रामाणिकता मेटाडेटा एम्बेड करण्यासाठी तांत्रिक मानदंड विकसित करत आहे, असल्यतेचा साखळी तयार करत आहे जे व्हिडिओ प्रामाणिक आहे की नाही याचे सत्यापन करू शकते. हे मानदंड प्लॅटफॉर्म-स्तरीय शोधाचे पूरक करते केवळ खोटे ओळख्यावर अवलंबून न राहता प्रामाणिकतेचा सकारात्मक संकेत प्रदान करून.
तथापि, मूलभूत आव्हान अधिक राहते: AI निर्माण तंत्रज्ञान शोध आणि सत्यापन क्षमतेपेक्षा वेगाने प्रगती करत आहे. YouTube चे विस्तारित शोध अर्थपूर्ण कदम दर्शवित आहे, परंतु हा सतत शस्त्र संघर्षमध्ये एक कदम आहे जो कोणत्याही समतोलात सेट होण्याचे कोणते संकेत नाही.
हा लेख Gizmodo द्वारे रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.
