YouTube ने AI likeness detection को creators और public figures से आगे बढ़ाया

YouTube अब अधिक लोगों को deepfakes पर नजर रखने की अनुमति दे रहा है

YouTube अपनी AI likeness detection program को YouTube account वाले 18 वर्ष या उससे अधिक आयु के सभी उपयोगकर्ताओं तक बढ़ा रहा है, जो गैर-सहमति synthetic media को संभालने के तरीके में एक बड़ा बदलाव है। यह सुविधा किसी व्यक्ति को selfie-style face scan जमा करने देती है ताकि YouTube प्लेटफ़ॉर्म पर मेल खाती likenesses की निगरानी कर सके और संभावित lookalikes मिलने पर उपयोगकर्ता को सूचित कर सके.

अब तक, इस tool का परीक्षण सीमित चरणों में हुआ था, पहले content creators से शुरू होकर government officials, politicians, journalists, और entertainment industry के सदस्यों तक विस्तार किया गया था। इसे सामान्य वयस्क उपयोगकर्ताओं के लिए खोलना program के पैमाने और अर्थ दोनों को बदल देता है। अब यह केवल अत्यधिक visible लोगों की सुरक्षा के रूप में नहीं देखा जाता; यह व्यापक जनता के लिए consumer-facing safety measure बन जाता है.

यह प्रणाली कैसे काम करती है

मुख्य कार्य सीधा है। उपयोगकर्ता एक facial scan देता है, YouTube संभावित matches खोजता है, और यदि उपयोगकर्ता को लगे कि किसी वीडियो में उनकी likeness का अनुचित उपयोग किया गया है, तो वे removal request कर सकते हैं। दिए गए रिपोर्ट के अनुसार, YouTube ने पहले कहा था कि removal requests की संख्या बहुत कम रही है, लेकिन यह विस्तारित rollout जांचेगा कि जब access कुछ ही उपयोगकर्ताओं तक सीमित नहीं रहेगा, तब क्या यह सच बना रहता है.

महत्वपूर्ण बात यह है कि detection अपने आप किसी वीडियो को नहीं हटाती। takedown requests की समीक्षा YouTube की privacy policy के तहत होती है, और कंपनी यह देखती है कि content कितना realistic है, क्या उसे AI-generated के रूप में label किया गया है, और क्या व्यक्ति की पहचान uniquely की जा सकती है। इससे प्रणाली automated surveillance और human moderation के बीच कहीं स्थित होती है, जहाँ identification और context दोनों final outcome को प्रभावित करते हैं.

नीति क्या कवर करती है और क्या नहीं

यह feature facial likeness पर केंद्रित है, voice या अन्य identifying traits पर नहीं। इसका अर्थ है कि यह synthetic-media समस्या के केवल एक हिस्से को संबोधित करता है। एक convincing AI impersonation face, voice, mannerisms, या contextual editing पर निर्भर हो सकती है, और YouTube का वर्तमान tool उन परतों में से एक के लिए बनाया गया है, पूरी समस्या के लिए नहीं.

नीति में parody और satire के लिए छूट भी शामिल हैं। ये अपवाद महत्वपूर्ण हैं क्योंकि platform privacy harms और speech concerns के बीच संतुलन बना रहा है, खासकर तब जब synthetic media का उपयोग commentary, entertainment, या political expression में होता है। व्यावहारिक चुनौती यह होगी कि क्या उपयोगकर्ता, creators, और reviewers स्पष्ट satire और ऐसे content के बीच लगातार फर्क कर पाएँगे जो भ्रमित करने के लिए पर्याप्त realistic हो.

उपयोगकर्ता opt out भी कर सकते हैं और YouTube से अपना डेटा हटवा सकते हैं। यह प्रावधान महत्वपूर्ण है क्योंकि facial monitoring tools अपने साथ privacy संबंधी प्रश्न भी लाते हैं। जो platform लोगों को deepfakes से बचाने का वादा करता है, उसे यह भी साबित करना होगा कि biometric-style inputs को सीमित और reversible तरीके से संभाला जाएगा.

यह विस्तार अभी क्यों मायने रखता है

यह कदम synthetic-media landscape में व्यापक बदलाव को दर्शाता है। realistic faces और videos बनाने वाले tools उपयोग में आसान होते जा रहे हैं, और platform पर दुरुपयोग बढ़ने से पहले व्यावहारिक सुरक्षा उपाय देने का दबाव बढ़ रहा है। likeness detection को सीमित program से आम वयस्क उपलब्धता तक ले जाकर YouTube यह संकेत दे रहा है कि identity misuse अब केवल एक niche creator समस्या नहीं रही.

यह governance का भी एक उल्लेखनीय निर्णय है। deepfakes पर कई बहसें नए कानूनों, watermarking standards, या election-specific protections पर केंद्रित होती हैं। YouTube का दृष्टिकोण अधिक operational है: उपयोगकर्ताओं को platform पर misuse की सक्रिय निगरानी करने दें और फिर disputes को मौजूदा privacy processes के माध्यम से आगे बढ़ाएँ। यह पूर्णतः नए regulatory framework से तेज़ी से लागू किया जा सकता है, भले ही यह अपूर्ण रहे.

आगे के कठिन प्रश्न

program की सफलता announcement से कम और इस बात से अधिक तय होगी कि system बड़े पैमाने पर कैसा प्रदर्शन करता है। गलत matches, छूटे हुए detections, असंगत removals, या अस्पष्ट review decisions trust को कमजोर कर सकते हैं। साथ ही, बहुत आक्रामक प्रणाली वैध या स्पष्ट रूप से labeled content को भी हटा सकती है.

फिर भी, यह विस्तार platform policy में एक महत्वपूर्ण बदलाव है। पहली बार, लगभग कोई भी adult YouTube user platform से अपने चेहरे के synthetic उपयोग की निगरानी करने में मदद मांग सकता है। ऐसे media environment में जहाँ realistic AI-generated imagery अब केवल celebrities या politicians तक सीमित नहीं है, access का यह विस्तार major platform द्वारा पेश किए गए अधिक consequential consumer protections में से एक बन सकता है.

This article is based on reporting by The Verge. Read the original article.