डीपफेक शील्ड का विस्तार
YouTube ने राजनीतिक व्यक्तियों को कवर करने के लिए अपनी AI-चालित डीपफेक पहचान क्षमताओं के विस्तार की घोषणा की है, एक कदम जो तब आता है जब AI-जेनरेट किए गए सिंथेटिक मीडिया तेजी से परिष्कृत हो रहे हैं और प्रामाणिक सामग्री से अलग करना मुश्किल हो रहा है। मंच कहता है कि अपडेट की गई प्रणाली स्वचालित रूप से हेराफेरी किए गए वीडियो की पहचान कर सकती है और फ्लैग कर सकती है जो राजनेताओं को ऐसी बातें कहते या करते हुए दिखाते हैं जो उन्होंने कभी वास्तव में नहीं कही या की हैं।
विस्तार मौजूदा उपकरणों पर निर्मित है जो YouTube ने सार्वजनिक व्यक्तियों की AI-जेनरेट की गई सामग्री का पता लगाने के लिए तैनात किए हैं। मंच ने पहले अपने पहचान प्रयासों को सेलिब्रिटीज और क्रिएटर्स पर केंद्रित किया था जिनकी समानताएं बिना सहमति के उपयोग की जा रही थीं। इन क्षमताओं को राजनेताओं तक विस्तारित करना इस बात की स्वीकृति है कि सिंथेटिक मीडिया राजनीतिक क्षेत्र में एक अलग और संभावित रूप से अधिक खतरनाक खतरा पेश करता है।
पहचान कैसे काम करती है
YouTube की डीपफेक पहचान प्रणाली कई AI मॉडल का उपयोग करती है जो सिंथेटिक उत्पादन या हेराफेरी के संकेतों के लिए वीडियो का विश्लेषण करने के लिए एक साथ काम करती है। प्रणाली चेहरे की गतिविधियों, होठों के समन्वय, ऑडियो विशेषताओं और दृश्य कलाकृतियों की जांच करती है जो वर्तमान पीढ़ी के AI वीडियो उपकरणों की विशेषता हैं।
जब सिस्टम एक वीडियो को संभावित रूप से AI-जेनरेट या हेराफेरी किए गए के रूप में पहचानता है, तो यह संदर्भ के आधार पर कई क्रियाएं कर सकता है। वीडियो जो स्पष्ट रूप से YouTube की भ्रामक प्रथाओं पर नीतियों का उल्लंघन करते हैं, पूरी तरह से हटाए जा सकते हैं। अन्य को लेबल प्राप्त हो सकते हैं जो इंगित करते हैं कि उनमें AI-जेनरेट की गई सामग्री है, जिससे दर्शकों को सूचित निर्णय लेने में मदद मिलती है।
कंपनी कहती है कि इसने अपने मॉडल को ज्ञात डीपफेक और प्रामाणिक राजनीतिक फुटेज के एक बड़े डेटासेट पर प्रशिक्षित किया है, हालांकि इसने अपने दृष्टिकोण के विशिष्ट तकनीकी विवरण का खुलासा नहीं किया है। YouTube ने यह भी कहा है कि यह तेजी से सुधार होने वाली तकनीक के साथ तालमेल रखने के लिए अपने मॉडल को लगातार अपडेट कर रहा है, एक हथियार दौड़ जो पहचान और निर्माण के बीच है जो तीव्र होने की संभावना है।
Trump का सवाल
जब पूछा गया कि क्या विस्तारित पहचान विशेष रूप से पूर्व राष्ट्रपति Donald Trump को कवर करती है, तो YouTube ने सीधे उत्तर देने से इनकार कर दिया। कंपनी ने कहा कि इसकी प्रणालियां सभी राजनीतिक व्यक्तियों की सुरक्षा के लिए डिज़ाइन की गई हैं, लेकिन विशिष्ट व्यक्तियों का नाम नहीं दिया गया है। इस गैर-उत्तर ने दोनों राजनीतिक पक्षों से आलोचना आकर्षित की है।
Trump AI-जेनरेट की गई सामग्री का एक लगातार लक्ष्य रहा है, स्पष्ट रूप से व्यंग्य हेराफेरी से लेकर अधिक विश्वसनीय डीपफेक तक जो प्रामाणिक फुटेज के साथ भ्रमित किए जा सकते हैं। एक प्रमुख राजनीतिक व्यक्ति और ऑनलाइन प्रवचन के एक लगातार विषय के रूप में उनकी स्थिति उन्हें डीपफेक निर्माताओं के लिए एक विशेष रूप से उच्च-मूल्य लक्ष्य बनाती है।
मंच के विशिष्ट व्यक्तियों को नाम देने में संकोच राजनीतिक पूर्वाग्रह की धारणा से बचने की इच्छा को प्रतिबिंबित कर सकता है। किसी विशेष राजनेता की सुरक्षा या गैर-सुरक्षा के बारे में कोई भी स्पष्ट बयान YouTube द्वारा राजनीतिक रुख लेने के रूप में व्याख्या किया जा सकता है, जिसे कंपनी ने एक तेजी से राजनीतिक रूप से मीडिया वातावरण में काम करने के बावजूद लगातार से बचने की कोशिश की है।
व्यापक डीपफेक खतरा
विस्तार एक समय पर आता है जब AI-जेनरेट की गई राजनीतिक सामग्री तेजी से फैल रही है। OpenAI, Google और विभिन्न ओपन-सोर्स परियोजनाओं सहित कंपनियों के वीडियो जेनरेशन मॉडल में प्रगति ने न्यूनतम तकनीकी विशेषज्ञता के साथ और लगभग शून्य लागत पर विश्वसनीय नकली वीडियो बनाना संभव बना दिया है।
विश्वव्यापी चुनाव चक्र के दौरान, डीपफेक्स का उपयोग राजनेताओं को सूजन बयान देते हुए, उन उम्मीदवारों को समर्थन देते हुए जिनका वे विरोध करते हैं, या घोटाले की व्यवहार में संलग्न होते हुए दिखाने के लिए किया गया है। कई देशों में, वायरल डीपफेक्स ने जनता की राय को प्रभावित किया है इससे पहले कि उन्हें नकली के रूप में पहचाना जाए, खतरे की असममित प्रकृति को प्रदर्शित करते हुए: एक डीपफेक मिनटों में फैल सकता है जबकि खंडन दिनों लगते हैं।
सामाजिक मीडिया मंच राजनीतिक डीपफेक्स के लिए प्राथमिक वितरण चैनल हैं, मंच-स्तरीय पहचान को एक महत्वपूर्ण रक्षा पंक्ति बनाते हैं। हालांकि, पहचान अंतर्निहित रूप से प्रतिक्रियाशील है, नकली सामग्री की पहचान केवल इसके बनाए जाने और अपलोड किए जाने के बाद करती है। सबसे परिष्कृत डीपफेक पूरी तरह से पहचान से बच सकते हैं, विशेष रूप से क्योंकि जेनरेशन तकनीक पहचान क्षमताओं की तुलना में तेजी से सुधार होती है।
नियामक दबाव
YouTube की डीपफेक पहचान का विस्तार AI-जेनरेट की गई गलत सूचना के संबोधन के लिए मंचों पर बढ़ते नियामक दबाव की पृष्ठभूमि में होता है। European Union का AI Act सिंथेटिक मीडिया लेबलिंग से संबंधित प्रावधान शामिल करता है, और कई U.S. राज्यों ने पारित किए हैं या कानूनों पर विचार कर रहे हैं जो विशेष रूप से राजनीतिक डीपफेक को संबोधित करते हैं।
संघीय स्तर पर, AI-जेनरेट चुनाव हस्तक्षेप के बारे में द्विदलीय चिंता ने कई विधायी प्रस्तावों का उत्पादन किया है, हालांकि कोई भी अभी तक कानून में लागू नहीं हुए हैं। व्यापक संघीय विनियमन की कमी का मतलब है कि मंच अपनी डीपफेक दृष्टिकोण को काफी हद तक आत्म-नियंत्रित कर रहे हैं, कठोरता और पारदर्शिता के विभिन्न स्तरों के साथ।
आलोचकों का तर्क है कि मंच आत्म-नियमन शामिल दांव को देखते हुए अपर्याप्त है। जब एक राजनीतिक नेता का एक विश्वसनीय डीपफेक सैद्धांतिक रूप से एक चुनाव को प्रभावित कर सकता है या एक भू-राजनीतिक संकट को हल कर सकता है, तो समस्या की गश्त के लिए निजी कंपनियों पर भरोसा करना जवाबदेहिता के अंतराल बनाता है। यदि YouTube की पहचान प्रणाली एक परिणामी डीपफेक को पकड़ने में विफल रहती है, तो कोई नियामक निकाय मंच को जवाबदेह नहीं बना सकता है।
आगे क्या आता है
YouTube की डीपफेक पहचान विस्तार सिंथेटिक मीडिया को अधिक गंभीरता से लेने की ओर एक व्यापक उद्योग प्रवृत्ति का हिस्सा है। Google, जो YouTube का मालिक है, अन्य मंचों के लिए पहचान उपकरण भी विकसित कर रहा है और सामग्री मूल और प्रामाणिकता के लिए उद्योग-व्यापी मानकों में योगदान दिया है।
Content Authenticity Initiative, Adobe, Microsoft और अन्य द्वारा समर्थित, डिजिटल सामग्री में मूल मेटाडेटा को एम्बेड करने के लिए तकनीकी मानक विकसित कर रहा है, एक कस्टडी श्रृंखला बना रहा है जो सत्यापित कर सकता है कि क्या कोई वीडियो प्रामाणिक है। ये मानक मंच-स्तरीय पहचान को पूरक करते हैं केवल नकलों को पहचानने पर भरोसा करने के बजाय प्रामाणिकता की सकारात्मक संकेत प्रदान करके।
हालांकि, मौलिक चुनौती बनी हुई है: AI जेनरेशन तकनीक पहचान और प्रामाणिकता क्षमताओं से तेजी से आगे बढ़ रही है। YouTube की विस्तारित पहचान एक महत्वपूर्ण कदम का प्रतिनिधित्व करती है, लेकिन यह एक चल रहे हथियार दौड़ में एक कदम है जो निकट भविष्य में संतुलन में बसने के कोई संकेत नहीं दिखा रहा है।
यह लेख Gizmodo द्वारा रिपोर्टिंग के आधार पर है। मूल लेख पढ़ें।
