டீப்ஃபேக்குகளை கண்டறிய ஒரு ஹைபிரிட் அமைப்பை ஜெர்மன் ஆராய்ச்சியாளர்கள் வெளியிட்டனர்

போலியை அடையாளம் காண்பதை விட அதிகம் செய்யும் நோக்கில் Fraunhofer-ன் புதிய கண்டறிவி

ஜெர்மனியின் Fraunhofer Institute of Optronics, System Technologies, and Image Exploitation-இல் பணியாற்றும் ஆராய்ச்சியாளர்கள் RealorRender என்ற ஒரு அமைப்பை அறிமுகப்படுத்தியுள்ளனர். இது உண்மையான படங்களையும் AI-யால் உருவாக்கப்பட்ட டீப்ஃபேக்குகளையும் வேறுபடுத்த உதவ வடிவமைக்கப்பட்டுள்ளது. கண்ணால் பார்த்த உடனே மாற்றப்பட்ட படங்களை அடையாளம் காண்பது மக்களுக்கு நாளுக்கு நாள் கடினமாகி வரும், அதே சமயம் அவற்றை பெருமளவில் உருவாக்குவதும் எளிதாகி வரும் நிலையில் இந்த திட்டம் வெளிவந்துள்ளது. இதனால் அரசுகள், தளங்கள், மற்றும் பாதுகாப்பு குழுக்களுக்கு நம்பத்தகுந்த முறையில் உண்மையான சூழலில் செயல்படக்கூடிய கருவிகளை கண்டுபிடிக்க வேண்டிய அழுத்தம் அதிகரிக்கிறது.

மேம்பட்ட கண்டறிதலுக்கான காரணம் தெளிவானது. அறிவிப்பின் அடிப்படையிலுள்ள மூலப் பொருள் தொந்தரவு, குரூமிங், செக்ஸ்டோர்ஷன், அவமானப்படுத்தல், மோசடி மற்றும் பிற துஷ்பிரயோகங்கள் உள்ளிட்ட தீங்கு விளைவிக்கும் பயன்பாடுகள் வேகமாக அதிகரித்து வருவதை சுட்டிக்காட்டுகிறது. இது UK அரசின் அறிக்கைகள் மற்றும் 2023-ஆம் ஆண்டு பாலியல் டீப்ஃபேக்குகள் குறித்த விசாரணை தரவுகளையும் மேற்கோள் காட்டுகிறது; இதனால் இது கற்பனைக்குரியதோ, குறுகிய துறைக்கானதோ அல்ல என்பதும் தெளிவாகிறது. செயற்கை படங்கள் ஏற்கனவே நேரடி தனிப்பட்ட சேதத்தை உருவாக்கும் விதங்களில் பயன்படுத்தப்படுகின்றன, குறிப்பாக பெண்கள் மற்றும் சிறுமிகள் பாதிக்கப்படுகிறார்கள். அதே நேரத்தில், மின்னணு ஆதாரங்களின் மீதான நம்பிக்கையையும் பொதுவாகக் குலைக்கின்றன.

இந்த பரந்த நம்பிக்கை சிக்கல், ஒரே ஒரு துஷ்பிரயோக வகையை விடவும் முக்கியமானது. நம்ப வைக்கும் போலிகளை உருவாக்குவது எளிதாகும்போது, ஒவ்வொரு படத்தையும் கேள்விக்குட்படுத்த முடியும். ஒரு உண்மையான புகைப்படம் செயற்கையானது என்று நிராகரிக்கப்படலாம்; அதே நேரத்தில், ஒரு கற்பனைப்படம் யாராவது எதிர்த்து நிற்பதற்குமுன் பொதுக் கருத்தை வடிவமைக்கும் அளவுக்கு நீண்ட நேரம் பரவலாம். அந்த சூழலில், ஒரு கண்டறிதல் அமைப்பின் மதிப்பு அது ஒரு லேபிளை தருகிறதா என்பதிலேயே மட்டும் இல்லை; விசாரணையாளர்கள், மொடரேட்டர்கள், மற்றும் டெவலப்பர்கள் அது அந்த முடிவுக்கு ஏன் வந்தது என்பதைப் புரிந்துகொள்ள உதவுகிறதா என்பதும் முக்கியம்.

எளிய வகைப்படுத்துபவருக்கு பதிலாக ஒரு ஹைபிரிட் முறை

RealorRender-ன் முக்கிய வேறுபாடு, இது ஒரே ஒரு கண்டறிதல் யுக்தியை மட்டும் நம்புவதில்லை என்பதுதான். Fraunhofer IOSB-ன் படி, இந்த அமைப்பு டீப்-லேர்னிங் வகைப்படுத்தலையும், பரிசீலிக்கப்படும் படத்தை ஒரு ஜெனரேட்டிவ் மாடல் எவ்வளவு நன்றாக மீளமைக்க முடியும் என்பதைக் கொண்ட மதிப்பீட்டையும் இணைக்கிறது. நடைமுறையில், கண்டறிவி முதலில் ஒரு AI இமேஜ் ஜெனரேட்டரைப் பயன்படுத்தி படத்தை மீண்டும் உருவாக்க முயற்சிக்கிறது. பின்னர் மற்றொரு AI மாடலைப் பயன்படுத்தி முடிவை வகைப்படுத்தி மீளமைப்பு பிழையை கணக்கிடுகிறது; இதன் மூலம் மதிப்பிடப்பட்ட அடையாளத் துல்லியம் சதவீதமாக கிடைக்கிறது.

இந்த அணுகுமுறை இரண்டு காரணங்களால் குறிப்பிடத்தக்கது. முதலில், இது கண்டறிதலை ஒரு கருப்பு பெட்டி மாதிரியிலிருந்து வரும் ஒரே ஒரு ஆம்-அல்லது-இல்லை தீர்ப்பாக அல்லாமல், ஒரு ஹைபிரிட் பிரச்சினையாகக் கருதுகிறது. இரண்டாவது, இதன் முடிவை விளக்கும் வகையில் வடிவமைக்கப்பட்டுள்ளது; இதில் டீப்ஃபேக்குடன் பொருந்தும் சான்றுகள் கண்டறியப்பட்ட பகுதிகள் சிறப்பித்துக் காட்டப்படுகின்றன. இத்தகைய கருவிகளை deploy செய்யும் குழுக்களுக்கு, இந்த விளக்கத்தன்மை முழுமையான துல்லியத்தை விடவும் முக்கியமாக இருக்கலாம், ஏனெனில் அது தோல்வி முறைகளை ஆய்வு செய்து காலப்போக்கில் மாடலை செம்மைப்படுத்தும் வழியை அளிக்கிறது.

Fraunhofer-இன் மூத்த விஞ்ஞானி Andreas Specker மூல உரையில் பணிச்செலுத்தலை விவரித்தார்: படத்தை மீளமைத்தல், வகைப்படுத்தலை இயக்குதல், பின்னர் இறுதி கணக்கில் மீளமைப்பு பிழையைப் பயன்படுத்துதல். இந்த விளக்கம், ஜெனரேட்டிவ் மாடல் ஒரு படத்தை எவ்வாறு மீள உருவாக்கும் என்பதற்கும் மூலப் படத்தில் உண்மையில் இருப்பதற்கும் இடையிலான சுட்டிக்காட்டத்தக்க பொருந்தாத தன்மைகளை இந்த அமைப்பு தேடுகிறது என்பதைப் பரிந்துரைக்கிறது. அந்த பொருந்தாத தன்மை செயற்கை உருவாக்கத்துடன் ஒத்திருந்தால், கண்டறிவி படத்திற்கு அதற்கேற்ற மதிப்பை அளிக்க முடியும்.

டீப்ஃபேக் கண்டறிதலில் விளக்கத்தன்மை ஏன் முக்கியம்

AI பாதுகாப்பு கருவிகளில் விளக்கத்தன்மை மைய சவால்களில் ஒன்றாகியுள்ளது. பல கண்டறிவிகள் நம்பிக்கை மதிப்பை வழங்க முடியும்; ஆனால் அந்த மதிப்பு மட்டுமே ஒரு மனித மதிப்பாய்வாளருக்கு அடுத்ததாக என்ன செய்ய வேண்டும் என்பதை முடிவு செய்ய உதவாது. ஒரு அமைப்பு மாற்றியமைக்கப்பட்டதாகத் தோன்றும் குறிப்பிட்ட பகுதிகளை அடையாளப்படுத்த முடிந்தால், டெவலப்பர்கள் செயல்திறனை அதிக விளைவுடன் ஆய்வு செய்ய முடியும், மற்றும் பயனாளர்கள் முடிவில் அதிக நம்பிக்கை கொள்ளலாம். பத்திரிகை, சட்ட அமலாக்க உதவி, உள்ளடக்க மொடரேஷன், மற்றும் டிஜிட்டல் ஃபொரென்ஸிக்ஸ் போன்ற சூழல்களில் இது மிகவும் முக்கியம்; அங்கு தீர்மானங்கள் சட்டம் அல்லது புகழ் சார்ந்த விளைவுகளை ஏற்படுத்தலாம்.

இதற்கு ஒரு நடைமுறை நன்மையும் உண்டு. டீப்ஃபேக் உருவாக்க முறைமைகள் வேகமாக வளர்கின்றன, மேலும் கண்டறிவிகள் பெரும்பாலும் நேற்றைய கலைப்பொருட்களுக்கே குறுகிய முறையில் பயிற்சி அளிக்கப்பட்டிருக்கும்போது தோல்வியடைகின்றன. ஒரு வெளிப்படையான அமைப்பு, அனைத்துக் காரணங்களையும் ஒரே probability output-இல் மறைக்காமல், அது உண்மையில் பயன்படுத்தும் pattern-களை காட்டுவதன் மூலம் மாற்றத்தை எளிதாக்கலாம். RealorRender அத்தகைய திசையில்தான் நிலைநிறுத்தப்படுகிறது: வெறும் எச்சரிக்கை மட்டுமல்ல, அந்த எச்சரிக்கையின் அடிப்படை என்ன என்பதை விசாரிக்க உதவும் ஒரு கருவியாகவும்.

மூல உரை RealorRender டீப்ஃபேக் பிரச்சினையை முழுமையாகத் தீர்க்கிறது என்று கூறவில்லை; அந்த எச்சரிக்கை முக்கியமானது. கண்டறிதல் இன்னும் ஒரு ஆயுதப் போட்டியாகவே உள்ளது. சிறந்த ஜெனரேட்டர்கள் கண்டறிவிகளை மேம்படுத்த வைக்கின்றன, மேலும் வலுவான கண்டறிவிகள் செயற்கை பட கருவிகளை அடையாளப்படுத்தக்கூடிய தடயங்களை நீக்கத் தள்ளுகின்றன. அதே சமயம், விளக்கத்தன்மையை சேர்த்து, பல பகுப்பாய்வு முறைகளை இணைக்கும் கருவிகள், ஒரே ஒரு குறுகிய அடையாளத்தின் மீது கட்டமைக்கப்பட்ட அமைப்புகளை விட அதிக உறுதியானவையாக இருக்கலாம்.

தொழில்நுட்ப பணியுடன் இணைந்து கொள்கை அழுத்தமும் அதிகரிக்கிறது

இந்த அறிவிப்பு அதிகரிக்கும் கொள்கை நடவடிக்கைகளின் பின்னணியிலும் வெளிவந்துள்ளது. மூலத்தின் குறிப்புப்படி, UK அமைச்சர்கள் தொலைபேசிகளில் குழந்தைகள் நிர்வாண படங்களைப் பார்க்கும் வாய்ப்பைக் குறைக்கும் நடவடிக்கைகளை வாக்குறுதி அளித்துள்ளனர். இது பிரச்சினையின் அவசரத்தன்மையைச் சுட்டிக்காட்டுகிறது; ஆனால் கொள்கை நோக்கங்களுக்கும் தொழில்நுட்ப அமலாக்கத்திற்கும் இடையிலான இடைவெளியையும் வெளிப்படுத்துகிறது. தீங்கு விளைவிக்கும் உள்ளடக்கத்தை உருவாக்குவதற்கும் பகிர்வதற்கும் எதிரான விதிகளை நடைமுறைப்படுத்துவது கடினம், ஏனெனில் தளங்களும் நிறுவனங்களும் செயற்கை உள்ளடக்கத்தை விரைவாகவும் ஒரே மாதிரியாகவும் அடையாளப்படுத்தும் நம்பகமான வழி இல்லாமல் இருக்கிறது.

அதுதான் RealorRender போன்ற அமைப்புகள் ஆய்வகத்துக்கு வெளியேயும் முக்கியமாக மாறக்கூடிய இடம். செயல்படும் ஒரு கண்டறிவி தள மொடரேஷன், பள்ளி மற்றும் பணியிட பாதுகாப்பு அமைப்புகள், சட்ட அமலாக்க triage, மற்றும் ஃபொரென்ஸிக் பரிசீலனை வழித்தடங்களுக்கு ஆதரவளிக்க முடியும். மேலும் சந்தேகத்துக்கிடமான ஊடகங்களை கையாள்வதற்கான சிறந்த உள் தரநிலைகளை அமைக்கவும் உதவும்; குறிப்பாக ஒரு படம் போலியானதா என்பதே கேள்வி அல்ல, எந்த வகையான மாற்றம் நடந்திருக்கலாம் என்பதே கேள்வியாக இருக்கும்போது.

இருப்பினும், deploy செய்வதற்கான கேள்விகள் தொடர்கின்றன. மூல உரையில் benchmark ஒப்பீடுகள், செயல்பாட்டு வரம்புகள், அல்லது பெரிய அளவிலான field முடிவுகள் வழங்கப்படவில்லை. அந்த விவரங்கள் இல்லாமல், வெவ்வேறு image வகைகள், compression அளவுகள், editing pipelines, அல்லது புதிதாக உருவாகும் generation models-இல் RealorRender எவ்வளவு நன்றாக செயல்படுகிறது என்பதை மதிப்பிடுவது மிக விரைவாக இருக்கும். ஒரு நம்பிக்கையளிக்கும் research tool ஒரு நம்பகமான operational tool ஆக மாறுமா என்பதை பெரும்பாலும் இத்தகைய காரக்கள் தான் தீர்மானிக்கின்றன.

இந்த வளர்ச்சி எதைச் சுட்டிக்காட்டுகிறது

RealorRender-ன் ஆழமான முக்கியத்துவம், டீப்ஃபேக் கண்டறிதல் வகைப்படுத்தலுடன் reasoning aids-ஐ இணைக்கும் அமைப்புகளாக மாறிக் கொண்டிருக்கிறது என்பதாகும். இது பிரச்சினையைப் பற்றிய மேலும் முதிர்ந்த புரிதலை பிரதிபலிக்கிறது. செயற்கை ஊடகம் நிரம்பிய உலகில், மக்களுக்கு வெறும் எச்சரிக்கையை விட அதிகம் செய்யும் கருவிகள் தேவைப்படும். முடிவை விளக்க, ஆவணப்படுத்த, மற்றும் பாதுகாக்க உதவும் அமைப்புகள் தேவைப்படும்.

Fraunhofer IOSB-ன் வேலை, கண்டறிதலின் அடுத்த கட்டம் தொழில்நுட்பக் கடுமையும் மனிதருக்குப் புரியும் விளக்கத்தன்மையும் சேர்ந்ததாக இருக்கலாம் என்பதைத் தெரிவிக்கிறது. இந்த அணுகுமுறை கட்டுப்படுத்தப்பட்ட சூழலுக்கு வெளியேயும் உறுதியானதாக நிரூபிக்கப்பட்டால், தவறாக முடிவெடுப்பதற்கான சமூகச் செலவு வேகமாக உயர்ந்து வரும் இந்த காலத்தில், மாற்றப்பட்ட படங்களை எதிர்கொள்ளும் நிறுவனங்களின் பதிலை இது வலுப்படுத்தலாம்.

இந்த கட்டுரை New Atlas வழங்கிய செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.