YouTube ఇప్పుడు మరిన్ని మందిని deepfakesపై నిఘా పెట్టడానికి అనుమతిస్తోంది
YouTube తన AI likeness detection programను YouTube account ఉన్న 18 ఏళ్లు లేదా అంతకంటే ఎక్కువ వయస్సు ఉన్న అన్ని వినియోగదారులకు విస్తరిస్తోంది, ఇది consent లేకుండా సృష్టించిన synthetic mediaను ప్లాట్ఫారమ్ ఎలా నిర్వహిస్తుందనే విషయంలో ఒక ప్రధాన మార్పు. ఈ feature వ్యక్తి selfie-style face scanను సమర్పించడానికి అనుమతిస్తుంది, తద్వారా YouTube ప్లాట్ఫారమ్లో సరిపోలే likenessesను గమనించి, సంభావ్య lookalikesను కనుగొంటే వినియోగదారుడికి alert చేయగలదు.
ఇప్పటివరకు, ఈ toolను మరింత పరిమిత దశల్లో పరీక్షించారు; content creators నుండి మొదలై government officials, politicians, journalists, మరియు entertainment industry సభ్యుల వరకు విస్తరించింది. దీనిని సాధారణ adult వినియోగదారులకు తెరవడం program యొక్క పరిమాణం మరియు అర్థాన్ని మార్చుతుంది. ఇది ఇకపై ప్రధానంగా అత్యంత కనిపించే వ్యక్తుల రక్షణగా మాత్రమే చూడబడదు; ఇది విస్తృత ప్రజల కోసం consumer-facing safety measureగా మారుతుంది.
ఈ system ఎలా పనిచేస్తుంది
మూల function సూటిగా ఉంటుంది. ఒక వినియోగదారు facial scan ఇస్తాడు, YouTube సాధ్యమైన matchesను వెతుకుతుంది, ఆపై వీడియో తన likenessను అనుచితంగా ఉపయోగిస్తుందని వారు భావిస్తే removal request చేయవచ్చు. అందించిన reporting ప్రకారం, removal requests సంఖ్య చాలా తక్కువగా ఉందని YouTube గతంలో చెప్పింది, కానీ access చిన్న వినియోగదారుల సమూహానికి మాత్రమే పరిమితం కాకుండా విస్తరించిన తర్వాత కూడా అదే కొనసాగుతుందో లేదో ఈ rollout పరీక్షిస్తుంది.
ముఖ్యంగా, detection మాత్రమే వీడియోను ఆటోమేటిక్గా తొలగించదు. takedown requestsను YouTube privacy policy కింద review చేస్తారు, మరియు content ఎంత realisticగా ఉందో, అది AI-generated అని label చేశారో లేదో, వ్యక్తిని ప్రత్యేకంగా గుర్తించగలమో లేదో వంటి అంశాలను కంపెనీ పరిగణిస్తుంది. దీంతో ఈ system automated surveillance మరియు human moderation మధ్య ఎక్కడో నిలుస్తుంది, identification మరియు context రెండూ తుది ఫలితాన్ని ప్రభావితం చేస్తాయి.
ఈ policy ఏమి కవర్ చేస్తుంది, ఏమి కవర్ చేయదు
ఈ feature facial likenessపై దృష్టి పెడుతుంది, voice లేదా ఇతర identifying traitsపై కాదు. అంటే synthetic-media సమస్యలోని ఒక భాగానికే ఇది పరిష్కారం. నమ్మదగిన AI impersonation face, voice, mannerisms, లేదా contextual editing మీద ఆధారపడవచ్చు, మరియు YouTube యొక్క ప్రస్తుత tool ఆ పొరల్లో ఒకదాని కోసం మాత్రమే రూపొందించబడింది, మొత్తం stack కోసం కాదు.
ఈ policyలో parody మరియు satireకు సంబంధించిన మినహాయింపులు కూడా ఉన్నాయి. ఈ మినహాయింపులు ముఖ్యమైనవి, ఎందుకంటే platform privacy harms మరియు speech concerns మధ్య సమతుల్యతను పాటిస్తోంది, ముఖ్యంగా synthetic mediaను commentary, entertainment, లేదా political expressionలో ఉపయోగించినప్పుడు. వాస్తవ సమస్య ఏమిటంటే, వినియోగదారులు, creators, మరియు reviewers స్పష్టమైన satireను తప్పుదోవ పట్టించగల realistic content నుండి స్థిరంగా వేరు చేయగలరా అనేది.
వినియోగదారులు opt out అయ్యి తమ dataను YouTube తొలగించమని కోరవచ్చు. ఇది ముఖ్యమైన నిబంధన, ఎందుకంటే facial monitoring tools తమ own privacy ప్రశ్నలను తెస్తాయి. deepfakes నుండి ప్రజలను రక్షిస్తామని చెప్పే platform, biometric-style inputsను పరిమితంగా మరియు తిరిగి తీసుకోగలిగే విధంగా నిర్వహిస్తామని కూడా నమ్మించాలి.
ఈ విస్తరణ ఇప్పుడే ఎందుకు ముఖ్యమైనది
ఈ చర్య synthetic-media landscapeలో విస్తృత మార్పును ప్రతిబింబిస్తుంది. realistic faces మరియు videosను సృష్టించే tools ఉపయోగించడానికి మరింత సులభమవుతున్నాయి, మరియు దుర్వినియోగం పెద్ద స్థాయిలో పెరగకముందే practical safeguards అందించాలనే ఒత్తిడి platformలపై ఉంది. likeness detectionను పరిమిత program నుండి సాధారణ adult availabilityకు తరలించడం ద్వారా identity misuse ఇకపై niche creator సమస్య మాత్రమే కాదని YouTube సూచిస్తోంది.
ఇది ఒక గమనించదగిన governance నిర్ణయం కూడా. deepfakes చుట్టూ జరిగే అనేక చర్చలు కొత్త laws, watermarking standards, లేదా election-specific protectionsపై దృష్టి పెడతాయి. YouTube యొక్క approach మరింత operational: వినియోగదారులు ముందుగా misuse కోసం ప్లాట్ఫారమ్ను monitor చేయాలి, ఆపై disputesను ఉన్న privacy processes ద్వారా తీసుకెళ్లాలి. ఇది పూర్తిగా కొత్త regulatory framework కంటే వేగంగా అమలు కావచ్చు, అది అసంపూర్ణంగానే ఉన్నా సరే.
ముందున్న కఠిన ప్రశ్నలు
program విజయాన్ని announcement కంటే system పెద్ద స్థాయిలో ఎలా పనిచేస్తుందన్నది నిర్ణయిస్తుంది. false matches, missed detections, inconsistent removals, లేదా opaque review decisions అన్నీ trustను దెబ్బతీయగలవు. అదే సమయంలో, అతిగా aggressive system చట్టబద్ధమైన లేదా స్పష్టంగా labeled contentను కూడా తొలగించవచ్చు.
అయినా, ఈ విస్తరణ platform policyలో ఒక అర్థవంతమైన మార్పును సూచిస్తోంది. మొదటిసారి, దాదాపు ఏ adult YouTube user అయినా తమ ముఖం syntheticగా ఉపయోగించబడుతున్నదా అని monitor చేయడంలో platform సహాయం కోరవచ్చు. realistic AI-generated imagery ఇక celebrityలు లేదా politiciansకే పరిమితం కాని media వాతావరణంలో, accessను ఇలా విస్తరించడం ప్రధాన platform తీసుకువచ్చిన మరింత ప్రభావవంతమైన consumer protectionsలో ఒకటిగా మారవచ్చు.
This article is based on reporting by The Verge. Read the original article.
Originally published on theverge.com
