ரியல்-டைம் டீப்ஃபேக் ஸ்ட்ரீமிங் புதிய மாடரேஷன் மற்றும் அவதூறு அபாயத்தை உருவாக்குகிறது

டீப்ஃபேக் துஷ்பிரயோகம் திருத்தப்பட்ட கிளிப்புகளிலிருந்து நேரடி செயல்பாட்டுக்குத் நகர்கிறது

404 Media விவரித்ததாக கூறப்படும் ஒரு ஸ்ட்ரீமிங் சம்பவம், உருவாக்கும் ஊடக துஷ்பிரயோகத்தின் மேலும் ஆபத்தான கட்டத்தை காட்டுகிறது: நேரடி பார்வையாளர்களின் முன்னிலையில் ரியல்-டைம் போலி அடையாளம் ஏற்றல். வழங்கப்பட்ட மூல உரையின் படி, ஒரு ஸ்ட்ரீமர் Delulu எனப்படும் மென்பொருளைப் பயன்படுத்தி, graphic, சம்மதமில்லாத மற்றும் சாத்தியமாக அவதூறான அறிக்கைகளைச் செய்யும் போது தன்னை YouTube கிரியேட்டர் MrBeast போலக் காட்டினார். இந்த ஸ்ட்ரீம் Kick-இல் நடந்ததாக அறிக்கை கூறுகிறது; இது முக்கிய போட்டியாளர்களை விட மென்மையான மாடரேஷன் தரநிலைகளுக்காக அடிக்கடி விமர்சிக்கப்படும் ஒரு தளம்.

இந்த வழக்கின் முக்கியத்துவம் உள்ளடக்கத்தில் மட்டும் அல்ல, அதன் வடிவத்திலும் உள்ளது. தொடக்கத்தில் டீப்ஃபேக்குகள் பெரும்பாலும் பிந்தைய திருத்தப்பட்ட வீடியோக்களாகவே விவாதிக்கப்பட்டன. ரியல்-டைம் கருவிகள் ஆபத்து சுயவிவரத்தை மாற்றுகின்றன. அவை போலியாக நடிப்பதற்கான தொழில்நுட்ப தடையை குறைக்கின்றன, துஷ்பிரயோகம் நேரலையில் வெளிப்பட அனுமதிக்கின்றன, மேலும் ஒளிபரப்பு ஏற்கனவே பரவி கொண்டிருக்கும்போது மாடரேட்டர்கள் மாற்றத்தை அடையாளம் காண வேண்டியதால் தலையீட்டை கடினமாக்குகின்றன.

நேரடி அடையாளத் துஷ்பிரயோகம் ஒரு வேறு வகையான தளப் பிரச்சினை

பாரம்பரிய போலி வீடியோ வழக்கில், ஒரு தளம் இன்னும் விரைவாக பதிலளிக்கத் தவறலாம்; ஆனால் பரிசீலனையின் பொருள் ஒரு தனித்த ஊடகத் துண்டாக இருக்கும். நேரடி டீப்ஃபேக் சூழலில், மாடரேஷன் அமைப்புகள் நகரும் இலக்கை சமாளிக்க வேண்டும்: போலியாக்கப்பட்ட முகம், நேரடி செயல்திறன் மற்றும் உடனடி பார்வையாளர் பெருக்கம். இது தொந்தரவு, அடையாளத் திருட்டு, அவதூறு மற்றும் செயற்கை ஊடகக் கண்டறிதலை ஒன்றிணைக்கும் கலப்பு பிரச்சினையை உருவாக்குகிறது.

வழங்கப்பட்ட மூல உரை, இந்த மென்பொருள் ஸ்ட்ரீமர்களுக்காக சந்தைப்படுத்தப்படுவதாகவும், பயனர்களை ரியல்-டைமில் மற்ற أشخاص ஆக மாற்ற முடியும் என்றும் கூறுகிறது. இப்படியான நிலைப்பாட்டுடன் கூடிய கருவிகள் பரவலாக அணுகக்கூடியதாக மாறினால், பிரச்சினை ஒரு கிரியேட்டர் அல்லது ஒரு தளத்தைக் கடந்துவிடும். பிரபலங்கள், பத்திரிகையாளர்கள், நிர்வாகிகள், அரசியல்வாதிகள் மற்றும் பொதுமக்கள் கூட நேரடி சூழல்களில் குறிவைக்கப்படலாம்; தவறான அறிக்கைகள் உடனடியாக பரிச்சயமான முகங்களோடு இணைக்கப்படும்.

லைவ்ஸ்ட்ரீமிங்கில் இயல்பாகவே உண்மைத்தன்மை என்ற ஒரு ஊகம் உள்ளது என்பதால் இந்தப் பிரச்சினை மிகவும் கடுமையானது. திருத்தப்பட்ட கிளிப்புகள் கையாளப்படலாம் என்பதை பார்வையாளர்கள் புரிந்துகொள்ளலாம்; ஆனால் நேரடி வீடியோ, திரையில் உள்ள நபர் தோற்றமளிப்பது போலவே இருப்பார் என்ற வலுவான முன்எண்ணத்தை வரலாற்றாக வழங்கியுள்ளது. ரியல்-டைம் முக மாற்றம் அந்த ஊகத்தை நேரடியாகத் தாக்குகிறது.

கொள்கை, தயாரிப்பு மற்றும் சட்ட அமைப்புகள் அனைத்தும் பின்னோக்கி உள்ளன

தற்போதைய பாதுகாப்புகள் எவ்வளவு துண்டிக்கப்பட்டுள்ளன என்பதையும் இந்தச் சம்பவம் வெளிப்படுத்துகிறது. தள விதிகள் போலியாக நடிப்பதையோ தொந்தரவைவோ தடை செய்யலாம்; ஆனால் அமலாக்கம் பெரும்பாலும் முன்கூட்டிய கண்டறிதலை விட புகார்களைப் பொறுத்திருக்கும். செயற்கை ஊடக கருவிகள் தொடர்ந்து மேம்படுகின்றன, ஆனால் நம்பிக்கை மற்றும் பாதுகாப்பு அமைப்புகள் தளங்கள் முழுவதும் ஒற்றுமையற்றவையாகவே உள்ளன. மென்மையான மாடரேஷனுக்காக அறியப்பட்ட சேவை, அர்த்தமுள்ள மதிப்பீடு தொடங்குவதற்கு முன்பே சமூக மற்றும் புகழ் சேதம் ஏற்படக் கூடியதால், துஷ்பிரயோகத்திற்கான மிகவும் ஈர்க்கக்கூடிய இடமாக மாறலாம்.

சட்ட அம்சமும் உள்ளது. வழங்கப்பட்ட மூல உரை, உள்ளடக்கத்தை சாத்தியமான அவதூறாக நேரடியாக விவரிக்கிறது. இது உருவாக்கும் AI கருவிகளுக்கும், பொய்யான அறிக்கைகள், சேதம் மற்றும் அடையாளத் தவறான பயன்பாடு குறித்த ஏற்கனவே உள்ள கொள்கைகளுக்கும் இடையிலான அதிகரித்த மோதலைச் சுட்டிக்காட்டுகிறது. நேரடி செயற்கை போலி அடையாளம், குறிப்பாக கிளிப்புகள் சூழலை அகற்றப்பட்ட நிலையில் தளங்கள் முழுவதும் மீண்டும் பதிவேற்றப்பட்டால், சான்று தொடர்பான சவால்களையும் உருவாக்கலாம்.

பெரிய பண்பாட்டு பிரச்சினை என்னவென்றால், டீப்ஃபேக் தொழில்நுட்பம் இனி குறிப்பிட்ட சோதனைக்கே மட்டுப்படவில்லை. அது தொகுப்பாக்கப்பட்டு, பயனர் நட்பாகவும், கிரியேட்டர் பணிப்பாய்வுகளுடன் ஒத்துபோகவும் மாறுகிறது. மென்பொருள் பொழுதுபோக்கு மற்றும் பார்வையாளர் ஈடுபாடு சுற்றி விற்பனை செய்யப்படும் போது, ஆரம்பத்திலேயே பாதுகாப்பு வளையங்கள் உருவாக்கப்படாவிட்டால், துஷ்பிரயோகம் ஒரு எல்லைக்கோட்ட வழக்காக அல்ல, கணிக்கக்கூடிய தயாரிப்பு விளைவாக மாறுகிறது.

அதனால் இங்கு விவரிக்கப்பட்ட சம்பவம் சம்பந்தப்பட்ட நபர்களைத் தாண்டியும் முக்கியத்துவம் கொண்டது. AI-யால் உருவாக்கப்படும் அடையாளத் துஷ்பிரயோகம் ஸ்ட்ரீமிங் தளங்கள், கருவி வழங்குநர்கள் மற்றும் ஒழுங்குப்படுத்துநர்களுக்கு ஒரு நேரடி அமைப்பு-பிரச்சினையாக வளர்ந்து வருவதை இது காட்டுகிறது. உள்ளடக்க மாடரேஷனின் அடுத்த கட்டம் போலி ஊடகத்தை கண்டறிவதிலேயே அல்ல, வழக்கமான பங்கேற்பை இயலாததாக மாற்றாமல் ரியல்-டைமில் மனித அடையாளத்தைச் சரிபார்ப்பதிலும் சார்ந்திருக்கலாம்.

• ஒரு ஸ்ட்ரீமர் நேரடி ஒளிபரப்பின் போது MrBeast-ஐப் போல நடிப்பதற்காக ரியல்-டைம் டீப்ஃபேக் மென்பொருளைப் பயன்படுத்தியதாக கூறப்படுகிறது.
• இந்த வழக்கு, லைவ்ஸ்ட்ரீமிங் டீப்ஃபேக்குகள் மாடரேஷன் மற்றும் அவதூறு அபாயங்களை எவ்வாறு அதிகரிக்கின்றன என்பதைக் காட்டுகிறது.
• முகமாற்று கருவிகள் பயன்படுத்த எளிதாக மாறும்போது, தளங்கள் அடையாளத்தை உறுதிப்படுத்தவும் வேகமாக பதிலளிக்கவும் கூடுதல் அழுத்தத்தை எதிர்கொள்ளலாம்.

இந்தக் கட்டுரை 404 Media-வின் செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.