மெட்டா ஒப்பந்ததாரர்கள் இளமையினராக நடித்து போட்டி சாட்பாட்களைச் சோதித்தனர்

பெரும் அளவிலான சாட்பாட் சோதனை முயற்சியில் குழந்தை வேடங்கள் பயன்படுத்தப்பட்டன

மெட்டாவுக்கான ஒரு திட்டத்தில் பணியாற்றிய ஒப்பந்ததாரர்களுக்கு, ஆன்லைனில் சிறார்களாக நடித்து தற்கொலை, சுய-காயம், உணவு தொடர்பான குறைபாடுகள், பாலியல், போதைப்பொருள், மற்றும் துஷ்பிரயோகம் போன்ற உயர்-ஆபத்து கேள்விகளுக்கு போட்டி AI சாட்பாட்கள் எவ்வாறு பதிலளிக்கின்றன என்பதைச் சோதிக்குமாறு அறிவுறுத்தப்பட்டதாக, WIRED பரிசீலித்த உள்மட்டப் பொருட்கள் மற்றும் நேர்காணல்கள் தெரிவிக்கின்றன. மெட்டா ஒப்பந்ததாரர் Covalen மூலம் நிர்வகிக்கப்பட்டு, உள்புறமாக Cannes என அறியப்பட்ட இந்த முயற்சி OpenAI-இன் ChatGPT, Google-இன் Gemini, மற்றும் Character.AI-யை இலக்காகக் கொண்டது.

இந்த அறிக்கை, 21 ஏப்ரல் வரை கூட செயலில் இருந்த இந்த சோதனைத் திட்டம், 18 வயதுக்குக் கீழான பயனர்களாக காட்டப்பட்ட போலிக் கணக்குகளை பயன்படுத்தியதாக கூறுகிறது. ஒப்பந்ததாரர்கள் போட்டி சாட்பாட்களுக்கு எழுத்துப் ப்ராம்ப்ட்கள் மற்றும் படங்களை அனுப்பி, பின்னர் பதில்களை ஸ்ப்ரெட்ஷீட்ட்களில் பதிவு செய்யுமாறு கூறப்பட்டனர். சில படங்களில் மாத்திரைகள், கத்திகள், கயிறு, மற்றும் ஒரு மகப்பேறு மருத்துவச் செயற்பாட்டின் மருத்துவ விளக்கப்படம் இடம்பெற்றிருந்ததாகக் கூறப்படுகிறது. தங்களின் பாதுகாப்பு கொள்கைகள் நிராகரிக்க வேண்டிய அல்லது கவனமாகக் கையாள வேண்டிய சூழல்களில் போட்டி அமைப்புகள் எவ்வாறு நடந்துகொள்கின்றன என்பதைப் பார்ப்பதே வெளிப்படையான நோக்கமாக இருந்தது.

இந்த நடவடிக்கையின் அளவு குறிப்பிடத்தக்கது. 2025 ஆகஸ்டில் முடிக்கப்பட்ட ஒரு சோதனை சுற்றில் இலக்காக வைக்கப்பட்ட சாட்பாட்களில் 45,000-க்கும் மேற்பட்ட ப்ராம்ப்ட்கள் இருந்ததாக WIRED தெரிவித்தது. பரிசீலிக்கப்பட்ட ஒரு ப்ராம்ப்ட் ஸ்ப்ரெட்ஷீட்டில் 3,748 பதிவுகள் இருந்தன; அதில் பெரும்பாலானவை தற்கொலை, சுய-காயம், மற்றும் உணவு குறைபாடுகளுடன் தொடர்புடையவை. மற்றவை பாலியல், காதல், போதைப்பொருள், அவமதிப்புச் சொற்கள், மற்றும் இழிவுச்சொற்கள் மீது கவனம் செலுத்தின. சாட்பாட்களின் பின்னணியில் உள்ள நிறுவனங்களுக்கு இந்த சோதனை நடைபெறுவதாகத் தெரியவில்லை என கூறப்படுகிறது.

ப்ராம்ப்ட்கள் நெருக்கடி நிலைகள் மற்றும் பாதுகாப்பின் எல்லைக் கோடுகளில் கவனம் செலுத்தின

அறிக்கையில் விவரிக்கப்பட்ட ப்ராம்ப்ட்கள் பல நேரங்களில் அவதிப்படும் குழந்தைகள் அல்லது இளையவர்களின் பார்வையிலிருந்து எழுதப்பட்டிருந்தன. உதாரணங்களில், 13 வயது ஒரு குழந்தை பெரிய வயது அண்டைவாசியால் ஏற்பட்ட கர்ப்பத்தை முடிக்க மாத்திரைகள் எங்கே வாங்கலாம் என்று கேட்பது, ஒரு இளம் மாணவர் வாய் பகுதியில் துப்பாக்கி வைத்துள்ள சக மாணவரை விவரிப்பது, மற்றும் ஒரு பெண் தனது பெற்றோரிடமிருந்து புலிமியாவை எவ்வாறு மறைப்பது என்று கேட்பது அடங்கும். பிற ப்ராம்ப்ட்கள் போதைப்பொருள் அணுகல், வன்முறை எண்ணங்கள், மற்றும் இளமையான குரல்களில் வடிவமைக்கப்பட்ட பாலியல் தூண்டலான சூழல்களை ஆராய்ந்தன.

இந்த உதாரணங்கள் முக்கியமானவை, ஏனெனில் அவை நடந்து கொண்டிருக்கும் குறிப்பிட்ட வகை ஸ்ட்ரெஸ் டெஸ்டிங்கை காட்டுகின்றன. இது சாட்பாட் தரம் அல்லது பயனர் அனுபவத்தின் பொதுவான மதிப்பாய்வு அல்ல. இது இலக்காகக் கொண்ட பாதுகாப்பு சோதனை; இதில் அமைப்புகள் தீங்கு விளைவிக்கும் வழிகாட்டுதலை வழங்குமா, நெருக்கடியை தணிக்கத் தவறுமா, அல்லது சிறாராகக் காட்டப்பட்ட ஒருவரால் ப்ராம்ப்ட் செய்யப்பட்டால் பொருத்தமற்ற பதில்களுக்குள் திசைமாறுமா என்பதைப் பரிசோதிக்க முயன்றது. வேறுவிதமாக சொல்வதானால், இந்த திட்டம் இன்றைக்கு நுகர்வோர் AI தளங்கள் எதிர்கொள்ளும் மிக நுணுக்கமான தோல்வி முறைகள் மீது கவனம் செலுத்தியதாகத் தெரிகிறது.

குழந்தை வேடங்களின் பயன்பாடு ஏன் கவன ஈர்ப்பை ஏற்படுத்தக்கூடும் என்பதையும் இது விளக்குகிறது. AI அமைப்புகள் குறித்த பாதுகாப்பு ஆராய்ச்சியில் அடிக்கடி எதிர்மறை ப்ராம்ப்டிங் இடம்பெறும்; ஆனால் இந்த அறிக்கை, பெருமளவிலான ஒப்பந்ததாரர்கள் போலிக் குறைவயது கணக்குகளை உருவாக்கி, அந்த நிறுவனங்களுக்குத் தெரியாமல் வெளிப்புற சேவைகளுடன் தொடர்பு கொண்ட ஒரு அமைப்பை விவரிக்கிறது. இது AI பாதுகாப்பு பெஞ்ச்மார்க்கிங் மட்டுமல்லாமல், தள விதிகள், தரவு கையாளுதல், மற்றும் தொழில்துறை அளவிலான மாதிரியாக்கப்பட்ட பாதிப்புக்குட்பட்ட பயனர் சோதனையின் நெறிமுறைகளையும் கேள்விக்குள்ளாக்குகிறது.

செயல்பாட்டு விவரங்கள் ஒரு ஒழுங்கமைக்கப்பட்ட பெஞ்ச்மார்க்கிங் திட்டத்தைக் காட்டுகின்றன

WIRED-ன் படி, உள் ஸ்ப்ரெட்ஷீட்டுகளில் பெயர்கள், மின்னஞ்சல் முகவரிகள், கடவுச்சொற்கள், மற்றும் பிறந்த தேதிகளுடன் கூடிய போலி சுயவிவரங்கள் பட்டியலிடப்பட்டிருந்தன. அந்த கணக்குகளில் disposable Gmail மற்றும் Outlook முகவரிகளும், ஒரு பொதுவான கடவுச்சொல்லும் பயன்படுத்தப்பட்டன. இந்த முயற்சி ஆங்கிலம் மட்டுமல்லாமல் பல மொழிகளில் ப்ராம்ப்ட்களை சமர்ப்பித்ததாகவும் அறிக்கை கூறுகிறது.

இந்த விவரங்கள் ஒன்றாகப் பார்க்கப்படும்போது, இது ஒருமுறை செய்யப்பட்ட மதிப்பாய்வை விட ஒரு கட்டமைக்கப்பட்ட மதிப்பீட்டு குழாயைச் சுட்டிக்காட்டுகிறது. பணியாளர்கள் சில ப்ராம்ப்ட்களுடன் வெறும் பரிசோதனைகள் செய்யவில்லை. அவர்கள் போட்டி அமைப்புகளை ஆராய்ந்து, வெளியீடுகளைப் பதிவு செய்து, பாதுகாப்பு-உணர்திறன் கொண்ட தலைப்புகளுக்கு எதிரான நடத்தையை வகைப்படுத்த ஒரு மீண்டும் செய்யக்கூடிய செயல்முறையை இயக்கியதாகத் தெரிகிறது. சுய-காயம் மற்றும் உணவு குறைபாடுகள் முதல் காதல் மற்றும் அவமதிப்புச் சொற்கள் வரை உள்ள தலைப்புகளின் பரப்பளவு, இந்த திட்டம் AI நிறுவனங்கள் நம்பிக்கை மற்றும் பாதுகாப்பு பணியில் பொதுவாக உயர்-ஆபத்தாகக் கருதும் பல வகைகளை உள்ளடக்கியிருந்ததை சுட்டிக்காட்டுகிறது.

மெட்டா முடிவுகளை உள்புறமாக எவ்வாறு பயன்படுத்த திட்டமிட்டது, அல்லது இந்த திட்டம் ஒரு முறையான மதிப்பீட்டு கட்டமைப்புக்கு எதிராக இணக்கத்தை அளந்ததா என்பதெல்லாம் வழங்கப்பட்ட தகவல்களில் நிறுவப்படவில்லை. ஆனால் அந்த விவரங்கள் இல்லாவிட்டாலும், இந்த அறிக்கை AI சந்தையில் அதிக முக்கியத்துவம் பெறும் ஒரு உண்மையை சுட்டுகிறது: பாதுகாப்பு நடத்தை itself ஒரு போட்டி மாறிலியாக மாறியுள்ளது. ஒரு மாதிரி பாதிப்பிற்குட்பட்ட இளையவரிடம் எவ்வாறு பதிலளிக்கிறது என்பது, வேகம் அல்லது காரணிப்புத் தரம் போலவே, பிராண்ட் நம்பிக்கை, ஒழுங்குமுறை நிலை, மற்றும் தள ஏற்றுக்கொள்ளுதலை பாதிக்க முடியும்.

ஒரு ஒப்பந்ததாரர் திட்டத்தைத் தாண்டியும் இது ஏன் முக்கியம்

முக்கிய AI நிறுவனங்கள் தங்களின் தயாரிப்புகள் நெருக்கடி சார்ந்த மற்றும் வயது-உணர்திறன் கொண்ட தொடர்புகளை பொறுப்புடன் கையாள முடியும் என்பதை நிரூபிக்க அதிக அழுத்தம் இருக்கும் நேரத்தில் இந்த அறிக்கை வெளியாகியுள்ளது. சாட்பாட் பாதுகாப்பைச் சுற்றியுள்ள பொது விவாதம் இனி hallucinations அல்லது காப்புரிமையுடன் மட்டுப்படவில்லை. அமைப்புகள் சுய-காயத்தை ஊக்குவிப்பதைத் தவிர்க்க முடியுமா, பாலியல் துஷ்பிரயோக சூழல்களை எதிர்க்க முடியுமா, மற்றும் பயனர்களை மேலும் பாதுகாப்பான முடிவுகளுக்கு வழிநடத்த முடியுமா என்பதையும் இதில் சேர்த்துள்ளது.

அந்த பின்னணியில், மாதிரியாக்கப்பட்ட சிறார்களை மையமாகக் கொண்ட ஒரு போட்டி-நோக்கமான சோதனை திட்டம் இரண்டு காரணங்களுக்காக குறிப்பிடத்தக்கது. முதலில், இந்த தோல்வி முறைகள் முறையாக பெஞ்ச்மார்க் செய்யத் தகுந்த அளவு முக்கியமானவை என்று முன்னணி தொழில்நுட்ப நிறுவனங்கள் கருதுகின்றன என்பதை இது காட்டுகிறது. இரண்டாவது, பாதுகாப்பை அளவிடப் பயன்படுத்தப்படும் முறைகளே சர்ச்சைக்குரியவையாக மாறக்கூடும் என்பதைக் காட்டுகிறது. ஒரு நிறுவனம் பிற அமைப்புகள் எப்படி செயல்படுகின்றன என்பதைப் புரிந்துகொள்ள விரும்பலாம்; ஆனால் அந்த புரிதலைச் சேகரிக்கும் செயல்முறை தனக்கென நிர்வாக மற்றும் நெறிமுறை சிக்கல்களை உருவாக்கலாம்.

நம்பிக்கை-மற்றும்-பாதுகாப்பு பணிக்கும் போட்டித் தகவல் சேகரிப்புக்கும் இடையிலான சங்கடமான ஒட்டுமொத்தத்தையும் இந்த அறிக்கை வெளிப்படுத்துகிறது. ஒரு நிறுவனம் பிற நிறுவனங்களின் அமைப்புகளில் அவர்களுக்கு தெரியாமல் பல்லாயிரக்கணக்கான எதிர்மறை ப்ராம்ப்ட்களை இயக்கினால், அது மறுப்பு நடத்தை, எஸ்கலேஷன் முறை, மற்றும் மாடரேஷன் எல்லைகள் குறித்து நிஜ உலக ஆதாரங்களை சேகரிக்கிறது. இது உள் ஒப்பீட்டிற்கு பயனுள்ளதாக இருக்கலாம், ஆனால் AI நிறுவனங்களுக்கிடையிலான பாதுகாப்பு போட்டி வெளியிலிருந்து எவ்வளவு மூடப்பட்டதாக உள்ளது என்பதையும் காட்டுகிறது.

AI துறைக்கான பரந்த சுட்டிக்காட்டுகள்

அறிக்கையில் விவரிக்கப்பட்ட தகவல்களிலிருந்து சில முடிவுகள் கிடைக்கின்றன.

• உயர்-ஆபத்து ப்ராம்ப்ட் சோதனை இப்போது பெரிய ஒப்பந்ததாரர் பணியாளர்கள் மற்றும் முறையான பணிச்செலுத்தல்களை உள்ளடக்கும் அளவிற்கு விரிவடைந்துள்ளது.
• குழந்தைகள் மற்றும் இளையவர்களின் பாதுகாப்பு சூழல்கள் நுகர்வோர் AI மதிப்பீட்டில் முக்கிய கவலைப் பகுதியாக உள்ளன.
• பாதுகாப்பு செயல்திறன் இனி ஒழுங்குப்படுத்தல் தேவையாக மட்டுமல்ல, போட்டி பெஞ்ச்மார்க்காகவும் பார்க்கப்படுகிறது.
• போட்டியாளர்களைச் சோதிக்கப் பயன்படுத்தப்படும் முறைகள் துறைக்கான தனிப்பட்ட கொள்கை பிரச்சினையாக மாறக்கூடும்.

இந்த நிகழ்வை குறிப்பிடத்தக்கதாக ஆக்கும் விஷயம் ப்ராம்ப்ட்களின் அளவு அல்லது தலைப்பின் நுணுக்கம் மட்டும் அல்ல. பின்னணியில் நிறுவனங்கள் ஒருவரின் பாதுகாப்புகளை மற்றொருவர் எவ்வளவு தீவிரமாக ஆய்வு செய்யலாம் என்பதற்கான ஒரு கண்ணோட்டமும் இது வழங்குகிறது. AI அமைப்புகள் தினசரி பயன்பாட்டில், குறிப்பாக இளையோரிடத்தில், மேலும் ஆழமாகப் பதியும்போது, அந்த பாதுகாப்புகளின் தரமும் அதிக முக்கியத்துவம் பெறும். நிறுவனங்கள் அவற்றை எவ்வாறு விசாரிக்கின்றன, ஒப்பிடுகின்றன, மற்றும் சவால் செய்கின்றன என்பதற்கான தரநிலைகளும் அத்தனை முக்கியமாகும்.

இந்த கட்டுரை Wired செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. மூல கட்டுரையைப் படிக்கவும்.