ஹக்கிங் ஃபேஸ் டீப்ஃபேக் நுடிபை மாடல்களுக்கான கண்காணிப்பில்

திறந்த மாடல் ஹோஸ்டிங், வளர்ந்து வரும் டீப்ஃபேக் தவறான பயன்பாட்டு பிரச்சினையுடன் மோதுகிறது

ஹக்கிங் ஃபேஸ் செயற்கை நுண்ணறிவில், குறிப்பாக ஓபன்-சோர்ஸ் மற்றும் ஓபன்-வேட் மாடல்களுக்கு, மிக முக்கியமான விநியோக மையங்களில் ஒன்றாக வளர்ந்துள்ளது. ஆனால் The Verge மேற்கோள் காட்டிய புதிய அறிக்கை, இந்த தளம் சம்மதமில்லாத பாலியல் வடிவிலான டீப்ஃபேக்குகளுக்கான குறைந்த-தடையுள்ள வழியாகவும் மாறி வருவதாக வாதிடுகிறது; இதில் பெண்கள் மற்றும் குழந்தைகளை குறிவைக்கும் உள்ளடக்கம் அடங்கும். இந்த கண்டுபிடிப்பு, மாடல் களஞ்சியங்களை நடுநிலையான உட்கட்டமைப்பாகப் பார்க்கலாமா அல்லது முன்னறிவிக்கக்கூடிய தவறான பயன்பாட்டை கட்டுப்படுத்தும் பொறுப்பு கொண்ட செயலில் இருக்கும் காவலர்களாகப் பார்க்கலாமா என்ற பெரும் விவாதத்துக்கு அழுத்தம் சேர்க்கிறது.

யூரோப்பிய இலாபநோக்கற்ற அமைப்பு AI Forensics வெளியிட்ட அறிக்கையின் படி, ஹக்கிங் ஃபேஸில் சோதிக்கப்பட்ட முதல் ஒன்பது படத் திருத்த மாடல்களில் ஏழு, பெண்களை “அவிழ்க்க” நோக்கமுள்ள ப்ராம்ப்ட்களைக் கேள்வியின்றி பின்பற்றின. குழு, மாடல்களில் நேரடியான, எளிய கோரிக்கைகளையே பயன்படுத்தியதாகவும், சிக்கலான ஜெயில்பிரேக்கிங் நுட்பங்களை அல்லாமல் இருந்தும், அமைப்புகள் பல சமயங்களில் கோரிய வெளியீட்டை உருவாக்கியதாகக் கூறியது. இது முக்கியமானது, ஏனெனில் பிரச்சினை நுணுக்கமான தாக்குதலாளர்களுக்கு மட்டுமே கட்டுப்பட்டது அல்ல என்பதை இது காட்டுகிறது. ஒரு எளிய ப்ராம்ப்ட் வேலை செய்தால், தவறான பயன்பாட்டுக்கான தடையும் பொதுவான தவறான பயன்பாட்டுக்குத் தகுந்த அளவுக்கு குறைவாக இருக்கும்.

இந்த நடத்தை, பெரிய நிறுவனங்களின் முன்னணி நுகர்வோர் ஏஐ அமைப்புகளில் பொதுவாகக் காணப்படும் வலுவான பாதுகாப்புகளுடன் அறிக்கை ஒப்பிடுகிறது. The Verge குறிப்பிடுவதாவது, Google-ன் Gemini மற்றும் OpenAI-ன் ChatGPT போன்ற முக்கியத் தயாரிப்புகள் பொதுவாக உண்மையான நபர்களை அவிழ்க்க அல்லது பாலியல் வடிவிலான உள்ளடக்கமாக மாற்றும் ப்ராம்ப்ட்களை தடுத்து விடுகின்றன. இதற்கு மாறாக, சோதிக்கப்பட்ட ஹக்கிங் ஃபேஸ் மாடல்களில் இந்தப் பகுதியில் தள மட்ட பாதுகாப்புகள் பலவீனமாகவோ இல்லாததாகவோ தெரிந்தன.

AI Forensics சோதனையில் என்ன கிடைத்தது

இலாபநோக்கற்ற அமைப்பின் முடிவுகள் இரண்டு தொடர்புடைய கவலைகளைச் சுட்டிக்காட்டுகின்றன: மாடல் நடத்தை மற்றும் பயனர் தேவை. மாடல் பக்கத்தில், சோதிக்கப்பட்ட படத் திருத்த அமைப்புகள் படங்களில் இருந்து உடைகளை அகற்றும் நேரடி வழிமுறைகளைப் பின்பற்றத் தயாராக இருந்ததாகக் கூறப்படுகிறது. தேவைப் பக்கத்தில், AI Forensics ஹக்கிங் ஃபேஸில் “ஹனிப்பாட்” படத் திருத்த Spaces-களை அமைத்து, பயனர்கள் எந்த வகை ப்ராம்ப்ட்களை அனுப்புகிறார்கள் என்பதைப் பார்த்தது; அதே சமயம் அந்த Spaces அந்த கோரிக்கைகளை நிறைவேற்றாத வகையில் வடிவமைக்கப்பட்டிருந்தன.

ஏழு நாட்களில், அந்த ஹனிப்பாட்களுக்கு 1,000-க்கும் அதிகமான ப்ராம்ப்ட்களும் படங்களும் வந்ததாக அமைப்பு கூறுகிறது. அவற்றில் 73 சதவீதம் பாலியல் சார்ந்தவை. பாலியல் கோரிக்கைகளில் 83 சதவீதம் படத்தில் உள்ளவரை அவிழ்க்க முயன்றன, மேலும் அவற்றில் 95 சதவீத இலக்குகள் பெண்களாக இருந்தனர். The Verge மூலம் வழங்கப்பட்ட அறிக்கையின் படி, பாலியல் கோரிக்கைகளில் கிட்டத்தட்ட 7 சதவீதம் குழந்தைகளை குறிவைத்தன.

இந்த எண்ணிக்கைகள், முழு தளத்திலும் தவறான பயன்பாட்டின் மொத்த அளவை நிரூபிக்கவில்லை. ஆனால் இப்படிப்பட்ட திறன் கொண்ட கருவிகள் எளிதாகக் கிடைக்கும் போது பயனர் நோக்கம் எந்த திசையில் திரள்கிறது என்பதற்கான தெளிவான குறிகாட்டியை வழங்குகின்றன. இந்த முறை குறிப்பாக முக்கியமானது, ஏனெனில் தவறான பயன்பாடு ஓரங்கட்ட நிகழ்வு அல்ல என்பதைக் காட்டுகிறது. ஹனிப்பாட் Spaces-க்கு வந்த கோரிக்கைகள் ஒரே தீங்கான பயன்பாட்டைச் சுற்றியே திரண்டிருந்தன: சாதாரண புகைப்படங்களை சம்மதமின்றி பாலியல் வடிவிலான டீப்ஃபேக்காக மாற்றுவது.

இது மாடல் பிரச்சினை மட்டும் அல்ல, தளப் பிரச்சினை

அறிக்கையின் மிக முக்கியமான குற்றச்சாட்டு, சில திறந்த மாடல்களை தவறாகப் பயன்படுத்த முடியுமா என்பதல்ல. அது நீண்ட காலமாகவே புரிந்த விஷயம். மேலும் கூர்மையான விமர்சனம் என்னவென்றால், “தள மட்டத்தில் எந்த பாதுகாப்பும் செயல்படுத்தப்படவில்லை,” என்று The Verge மேற்கோள் காட்டுகிறது. நடைமுறையில், இது கவனத்தை தனிப்பட்ட மாடல் உருவாக்குநர்களிலிருந்து, பயனர்கள் மாடல்களை கண்டறிய, இயக்க, மற்றும் பகிர உதவும் ஹோஸ்டிங் அடுக்குக்கு மாற்றுகிறது.

ஹக்கிங் ஃபேஸ் ஏஐ சூழலில் தனித்துவமான இடம் வகிக்கிறது, ஏனெனில் அது களஞ்சியமும் செயல்பாட்டு சூழலும் ஆகும். மாடல்களை பதிவேற்றலாம், பெஞ்ச்மார்க் செய்யலாம், மேலும் பல சமயங்களில் Spaces என்று அழைக்கப்படும் உலாவி அடிப்படையிலான டெமோக்களில் நேரடியாக முயற்சி செய்யலாம். இந்த சேர்க்கை, சட்டபூர்வ ஆராய்ச்சி மற்றும் மேம்பாட்டுக்கான தடையை குறைக்கிறது; ஆனால் மாடரேஷன் மற்றும் அணுகல் கட்டுப்பாடுகள் பின்னால் சென்று விட்டால் தவறான பயன்பாட்டிற்கும் தடையை குறைக்கிறது.

எனவே இந்த அறிக்கை ஒரே நிறுவனத்தைத் தாண்டிச் செல்லக்கூடிய கொள்கை கேள்வியை எழுப்புகிறது: தவறான பயன்பாட்டு முறை தெளிவாக, மீண்டும் மீண்டும் நிகழக்கூடியதாக, சமூக ரீதியாக தீங்கானதாக இருக்கும் போது, உட்கட்டமைப்பு வழங்குநர்களுக்கு என்ன பொறுப்புகள் ஏற்படுகின்றன? பாலியல் டீப்ஃபேக்குகளில் இது குறிப்பாக கடுமையானது, ஏனெனில் சேதம் உடனடியாகவும் திருத்த முடியாததாகவும் இருக்கலாம். இவ்வகை உள்ளடக்கம் உருவாக்கப்பட்டு பரவியவுடன், அது பெயருக்கு சேதம் விளைவிக்கலாம், பாதிக்கப்பட்டவர்களை தொந்தரவுக்கு ஆளாக்கலாம், மற்றும் சிறார்களைக் கொண்ட வழிகளில் கடுமையான சட்ட மற்றும் நெறிமுறை விளைவுகளை உண்டாக்கலாம்.

இந்த கண்டுபிடிப்புகள் ஓபன்-மாடல் விவாதம் எப்படி மாறி வருகிறது என்பதையும் காட்டுகின்றன. முன்பு, வலுவான மாடல்களை வெளியிடுவது புதுமையை வேகப்படுத்துமா அல்லது ஆபத்தை அதிகரிக்குமா என்பதே மையமாக இருந்தது. இப்போது, கவலை அதிகமாக செயல்பாட்டு நிலைமையில் உள்ளது: திறந்த தன்மை பயனுள்ளதாக இருந்தாலும், வடிகட்டிகள், அகற்றல்கள், பயன்பாட்டு வரம்புகள், தவறான பயன்பாடு கண்டறிதல் எங்கு இருக்க வேண்டும்? மாடல் வெயிட்கள் பரவலாக கிடைத்தால், தள இடைமுகமே பாதுகாப்பு எதிர்பார்ப்புகள் அமுல்படுத்தப்படும் முக்கிய இடமாக மாறக்கூடும்.

இது இப்போது ஏன் முக்கியம்

நேரமும் கவனிக்கத்தக்கது, ஏனெனில் பல அதிகார எல்லைகளில் கட்டுப்பாட்டாளர்கள் மற்றும் சட்டமன்றத்தினர், அப்ஸ்ட்ராக்ட் ஏஐ பாதுகாப்பு விவாதங்களிலிருந்து விலகி, அடையாளமாற்றம், மோசடி, நெருக்கமான-படத் தவறான பயன்பாடு போன்ற குறிப்பிட்ட தீங்குகளுக்கு நகர்ந்து வருகின்றனர். The Verge இந்த பிரச்சினையை டீப்ஃபேக்குகள் மீது நடக்கும் பரந்த நடவடிக்கைக்கும், குழந்தைகள் தொடர்பான பாலியல் வடிவிலான உள்ளடக்கம் உருவாக்கும் பட அமைப்புகள் மீது சமீபத்திய கவனத்திற்கும் இணைத்தது. அந்த சூழலில், படத் திருத்த கருவிகளை ஹோஸ்ட் செய்யும் களஞ்சியங்கள் கொள்கை கவனத்திலிருந்து வெளியே இருக்கப் போவதில்லை.

ஏஐ துறைக்கு இந்த சம்பவம், நம்பிக்கை என்பது மாடல் திறனைப் போலவே இயல்புநிலைகளாலும் உருவாகிறது என்பதற்கான இன்னொரு நினைவூட்டல். ஒரு அமைப்பு எளிதில் அணுகக்கூடியதாகவும், நிஜமான பட மாற்றத்திற்கு ஏற்றவாறு அமைக்கப்பட்டிருந்தாலும், அதற்கு முன்நிலை அறிவு அளவிலான புத்திசாலித்தனம் தேவையில்லை. அந்த வகையில், AI Forensics விவரித்த தவறான பயன்பாட்டு வழி, எதிர்காலத்தின் ஊக ஆபத்தைக் காட்டிலும் இன்றைய தயாரிப்பு வடிவமைப்பு முடிவுகளுடன் அதிகமாக தொடர்புடையது.

ஓபன்-சோர்ஸ் சமூகத்துக்கும் புகழ் சார்ந்த ஒரு பரிமாணம் உள்ளது. பல ஆதரவாளர்கள், நியாயமான காரணங்களுடன், திறந்த அணுகல் வெளிப்படைத்தன்மை, சுயாதீன ஆய்வு, மற்றும் ஏஐ மேம்பாட்டில் விரிவான பங்கேற்பை ஆதரிக்கிறது என்று வாதிடுகிறார்கள். ஆனால் மிகவும் வெளிப்படையான தவறான பயன்பாட்டு நிகழ்வுகள், கடுமையாக கட்டுப்படுத்தப்பட்ட வணிக அமைப்புகளை விட திறந்த தளங்களில் எளிதாகச் செயல்படுவதாகத் தெரிந்தால், அந்த வாதங்கள் பலம் இழக்கின்றன. திறந்த ஏஐ ஆட்சி நம்பகத்தன்மை, திறந்த தன்மையும் நடைமுறைப்படுத்தக்கூடிய பாதுகாப்புகளும் இணைந்து வாழ முடியும் என்பதை நிரூபிப்பதில்தான் மேலும் சார்ந்திருக்கும்.

அடுத்து கவனிக்க வேண்டியது

• அறிக்கைக்குப் பதிலாக ஹக்கிங் ஃபேஸ் மாடல் ஹோஸ்டிங் அல்லது Space-நிலை மாடரேஷனில் மாற்றங்கள் செய்கிறதா.
• இலாபநோக்கற்ற அமைப்புகள், செய்தியாளர்கள், அல்லது கட்டுப்பாட்டாளர்கள் அதே எளிய ப்ராம்ப்ட் முறைகளைப் பயன்படுத்தி முடிவுகளை மீண்டும் பெறுகிறார்களா.
• தளங்கள் மாடல் கோப்புகளை ஹோஸ்ட் செய்வதையும், அபாயகரமான படத் திருத்த கருவிகளுக்கு உலாவி அடிப்படையிலான நுகர்வோர் அணுகலை வழங்குவதையும் வேறுபடுத்தத் தொடங்குகிறதா.
• கொள்கை உருவாக்குவோர் பாலியல் டீப்ஃபேக் உருவாக்கத்தை பயனர் தவறான பயன்பாட்டாக மட்டும் அல்ல, தள ஆளுகை பிரச்சினையாகவும் கருதுகிறார்களா.

உடனடி முடிவு நேரடியானது. The Verge விவரித்த அறிக்கை, இணையத்தில் மிகக் கண்கொள்ளா திறந்த ஏஐ உட்கட்டமைப்புகளில் சில, மிகக் குறைந்த முயற்சியுடன் சம்மதமில்லாத பாலியல் வடிவிலான டீப்ஃபேக்குகளை உருவாக்க பயன்படுத்தப்படலாம் என்று சொல்கிறது. இந்தக் கண்டுபிடிப்புகள் பரந்த ஆய்வில் நிலைத்தால், களஞ்சியங்கள் வெறும் செயலற்ற ஹோஸ்ட்கள் என்ற வாதத்தை நிலைநிறுத்துவது இன்னும் கடினமாகும்.

இந்தக் கட்டுரை The Verge-ன் செய்தி அறிக்கையை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.