YouTube आता अधिक लोकांना deepfakes वर नजर ठेवू देत आहे
YouTube आपला AI likeness detection program YouTube account असलेल्या 18 वर्षे किंवा त्याहून अधिक वयाच्या सर्व वापरकर्त्यांसाठी वाढवत आहे, जो consent शिवाय तयार होणाऱ्या synthetic media ला platform कसे हाताळतो यामधील एक मोठा बदल आहे. हे feature एखाद्या व्यक्तीला selfie-style face scan सादर करण्याची परवानगी देते, जेणेकरून YouTube platform वर जुळणाऱ्या likenesses वर नजर ठेवू शकेल आणि संभाव्य lookalikes आढळल्यास वापरकर्त्याला alert करू शकेल.
आत्तापर्यंत, हे tool अधिक मर्यादित टप्प्यांवर तपासले गेले होते; content creators पासून सुरू होऊन government officials, politicians, journalists, आणि entertainment industry मधील सदस्यांपर्यंत ते वाढवले गेले. हे सामान्य adult वापरकर्त्यांसाठी खुले केल्याने program चा आकार आणि अर्थ दोन्ही बदलतात. आता ते फक्त अत्यंत दृश्य असलेल्या लोकांच्या संरक्षणासाठीचे साधन म्हणून पाहिले जात नाही; ते व्यापक जनतेसाठी consumer-facing safety measure बनते.
ही system कशी काम करते
मूळ कार्य सोपे आहे. वापरकर्ता facial scan देतो, YouTube संभाव्य matches शोधतो, आणि जर त्यांना वाटले की एखादा video त्यांच्या likeness चा चुकीचा वापर करतो, तर ते removal request करू शकतात. दिलेल्या रिपोर्टिंगनुसार, YouTube ने यापूर्वी म्हटले होते की removal requests ची संख्या खूपच कमी आहे, पण access लहान गटापुरता मर्यादित नसताना ती स्थिती तशीच राहते का हे हा विस्तारित rollout तपासेल.
महत्त्वाचे म्हणजे, detection मुळे video आपोआप हटत नाही. takedown requests ची review YouTube च्या privacy policy अंतर्गत केली जाते, आणि कंपनी content किती realistic आहे, तो AI-generated म्हणून label केला आहे का, आणि संबंधित व्यक्तीला uniquely ओळखता येते का, अशा बाबी विचारात घेते. त्यामुळे ही system automated surveillance आणि human moderation यांच्या मधोमध कुठेतरी उभी राहते, जिथे identification आणि context दोन्ही अंतिम निकालावर परिणाम करतात.
ही policy काय कव्हर करते आणि काय करत नाही
हे feature facial likeness वर केंद्रित आहे, voice किंवा इतर identifying traits वर नाही. म्हणजेच synthetic-media समस्येच्या फक्त एका भागावर ते उपाय करते. एक convincing AI impersonation face, voice, mannerisms, किंवा contextual editing यावर अवलंबून असू शकते, आणि YouTube चे सध्याचे tool त्या layers पैकी एका साठी तयार केले आहे, संपूर्ण stack साठी नाही.
Policy मध्ये parody आणि satire साठी सूटही आहेत. या अपवादांचे महत्त्व आहे कारण platform privacy harms आणि speech concerns यांच्यात समतोल राखत आहे, विशेषतः synthetic media commentary, entertainment, किंवा political expression मध्ये वापरले जात असेल तेव्हा. व्यावहारिक आव्हान हे असेल की वापरकर्ते, creators, आणि reviewers स्पष्ट satire आणि दिशाभूल करणाऱ्या पुरेश्या realistic content मध्ये सातत्याने फरक करू शकतील का.
वापरकर्ते opt out करून त्यांचा data YouTube कडून delete करून घेऊ शकतात. ही तरतूद महत्त्वाची आहे कारण facial monitoring tools स्वतःचे privacy प्रश्न निर्माण करतात. deepfakes पासून लोकांचे संरक्षण करण्याचे आश्वासन देणाऱ्या platform ला biometric-style inputs मर्यादित आणि reversibly हाताळले जातील, यावरही लोकांचा विश्वास संपादन करावा लागतो.
हा विस्तार आत्ताच का महत्त्वाचा आहे
हा बदल synthetic-media landscape मधील व्यापक परिवर्तन दर्शवतो. realistic faces आणि videos तयार करणारी tools वापरायला अधिक सोपी होत आहेत, आणि abuse वाढण्याआधीच व्यावहारिक safeguards देण्याचा दबाव platform वर आहे. likeness detection ला मर्यादित program मधून सामान्य adult availability पर्यंत नेऊन YouTube हे सूचित करत आहे की identity misuse आता केवळ niche creator समस्या राहिलेली नाही.
हे governance च्या दृष्टीनेही एक उल्लेखनीय पाऊल आहे. deepfakes संबंधी अनेक चर्चा नवीन laws, watermarking standards, किंवा election-specific protections भोवती फिरतात. YouTube चा approach अधिक operational आहे: वापरकर्त्यांना platform वर misuse साठी proactively monitor करू द्या आणि मग existing privacy processes मधून disputes पुढे नेऊ द्या. हे पूर्णपणे नव्या regulatory framework पेक्षा जलद तैनात होऊ शकते, जरी ते अपूर्ण राहिले तरी.
पुढची कठीण प्रश्नं
या program चे यश announcement पेक्षा system मोठ्या प्रमाणावर किती चांगले काम करते यावर अवलंबून असेल. false matches, missed detections, inconsistent removals, किंवा opaque review decisions trust कमी करू शकतात. त्याच वेळी, अतिशय आक्रमक system कायदेशीर किंवा स्पष्टपणे labeled content देखील काढून टाकू शकते.
तरीही, हा विस्तार platform policy मध्ये एक अर्थपूर्ण बदल दर्शवतो. पहिल्यांदाच, जवळपास कोणताही adult YouTube user त्यांच्या चेहऱ्याच्या synthetic वापरावर नजर ठेवण्यासाठी platform ची मदत मागू शकतो. realistic AI-generated imagery आता फक्त celebrities किंवा politicians पुरती मर्यादित नसलेल्या media वातावरणात, access चा हा विस्तार major platform ने दिलेल्या अधिक परिणामकारक consumer protections पैकी एक ठरू शकतो.
This article is based on reporting by The Verge. Read the original article.
Originally published on theverge.com
