மூன்று AI பாதுகாப்பு ஆராய்ச்சியாளர்களை பணிநீக்கம் செய்ததில் OpenAI உறுதியாக நிற்கிறது

OpenAI பின்வாங்க மறுக்கிறது

AI பாதுகாப்பில் பணியாற்றிய மூன்று ஆராய்ச்சியாளர்களை பணிநீக்கம் செய்ததில் OpenAI உறுதியாக நிற்கிறது, நிறுவனம் frontier model ஆபத்தை எவ்வாறு அணுகுகிறது என்பது குறித்த கவலைகளை எழுப்பியதற்கான பழிவாங்கல் என்ற கருத்தை நிராகரிக்கிறது. The Verge-இன் செய்தியின்படி, வெள்ளிக்கிழமை X-இல் ஒரு அறிக்கையை வெளியிட்ட நிறுவனம், Jasmine Wang, Tomek Korbak மற்றும் Mikita Balesni ஆகியோர் "கணிசமான நம்பிக்கை மீறல்" என்று நிறுவனம் விவரித்ததைச் செய்ததாக உள் விசாரணை முடிவு செய்ததைத் தொடர்ந்து பணிநீக்கம் செய்யப்பட்டதை உறுதிப்படுத்தியது.

இந்தப் பொது அறிக்கை, நிறுவனத்திற்கும் அதன் மூன்று முன்னாள் ஊழியர்களுக்கும் இடையேயான அசாதாரணமான பொது தகராறுக்கு மத்தியில் வெளிவந்துள்ளது, இது AI ஆய்வகங்கள் தங்களின் மிகக் கடினமான பாதுகாப்பு சிக்கல்களில் பணிபுரியும் நபர்களுக்கு எவ்வளவு வெளிப்படைத்தன்மை கொடுக்க வேண்டும் என்ற பரந்த விவாதத்தில் விரைவாக ஒரு முக்கிய புள்ளியாக மாறியுள்ளது.

OpenAI கூறுவது என்ன

X-இல் தனது பதிவில், மூன்று ஆராய்ச்சியாளர்களும் "முக்கியமான தகவல்களைக் கையாள்வதில் தெளிவான கொள்கைகளை" மீறியதற்காக பணிநீக்கம் செய்யப்பட்டதாக OpenAI தெரிவித்தது. பாதுகாப்பு தத்துவம் குறித்த கருத்து வேறுபாடு அல்ல, மாறாக உள் விதிகள் குறித்த நேரடியான கேள்வி என்று நிறுவனம் இதை வரையறுத்தது.

நிறுவனம் அல்லது AI பாதுகாப்பு குறித்த அவர்களின் கவலைகளைப் பற்றி மூவரும் பேசியதற்கும் பணிநீக்கங்களுக்கும் தொடர்பு இருப்பதாகும் கருத்தை OpenAI நேரடியாக மறுத்தது. நிறுவனத்தின் செய்தியில் இது மையமானது: அமைப்புக்குள் பாதுகாக்கப்பட்ட ஆதரவுக்கும், கொள்கை மீறல் என்று அது கருதும் நடத்தைக்கும் இடையே தெளிவான கோட்டை வரைய ஆய்வகம் விரும்புகிறது.

ஆராய்ச்சியாளர்கள் வெளியிட்ட கடிதத்தில் "குறிப்பிடப்பட்டதைத் தாண்டிய" மீறல்களை தனது உள் விசாரணை கண்டறிந்ததாக நிறுவனம் கூறியது, ஆனால் விவரங்களை வழங்க மறுத்தது. இந்த விவரங்களின் பற்றாக்குறை, OpenAI கூறுவதற்கும் பொதுமக்கள் சுயாதீனமாக சரிபார்க்கக்கூடியதற்கும் இடையே கணிசமான இடைவெளியை விட்டுள்ளது.

ஆராய்ச்சியாளர்களின் திறந்த கடிதம்

வியாழக்கிழமை மூவரும் வெளியிட்ட ஒரு திறந்த கடிதத்திற்கு நேரடி பதிலாக நிறுவனத்தின் பதிவு அமைந்தது, அவர்களின் பணிநீக்கங்களுக்குப் பின்னணியில் உள்ள காரணங்கள் குறித்து அதிக வெளிப்படைத்தன்மையுடன் இருக்குமாறு OpenAI-ஐ வலியுறுத்தியது. அந்தக் கடிதத்திலும், அதனுடன் வந்த சமூக ஊடகப் பதிவுகளின் தொடரிலும், Wang, Korbak மற்றும் Balesni ஆகியோர் பாதுகாப்பு கவலைகளை எழுப்பியதற்காகவே தாங்கள் பணிநீக்கம் செய்யப்பட்டதாக நம்புவதாகக் கூறினர்.

தங்களின் நடத்தை பொருத்தமானது என்றும் அவர்கள் வலியுறுத்தினர், தாங்கள் "OpenAI-இன் பணிக்கு இணங்கவும், அந்தக் காலத்தின் பணி விதிமுறைகளுக்குள் இருந்தும் செயல்பட்டதாக" கூறினர். இது ஒரு தனிப்பட்ட சம்பவத்தைப் பற்றியது மட்டுமல்லாமல், செயல்முறை மற்றும் கலாச்சாரத்தைப் பற்றியதுமான ஒரு பாதுகாப்பு: அவர்கள் என்ன செய்தாலும், அமைப்பு செயல்பட்டு வந்த தரநிலைகளுக்குள் அது ஏற்றுக்கொள்ளத்தக்கது என்று அவர்கள் புரிந்துகொண்டார்கள் என்பதே இதன் உட்குறிப்பு.

இதன் விளைவு ஒரு முட்டுக்கட்டை நிலை, இதில் ஒவ்வொரு தரப்பும் ஒரே நிகழ்வுத் தொடரை அடிப்படையில் வேறுபட்ட சொற்களில் விவரிக்கிறது. OpenAI இதை ரகசியத்தன்மை மற்றும் நம்பிக்கையின் விஷயமாக வகைப்படுத்துகிறது. பணிநீக்கம் செய்யப்பட்ட ஆராய்ச்சியாளர்கள் இதை பாதுகாப்பு ஆதரவுக்கு தண்டனை விதிக்கப்பட்ட விஷயமாக வகைப்படுத்துகிறார்கள்.

"நம்பிக்கை மீறல்", பாதுகாப்பு தகராறு அல்ல

OpenAI வரையும் வேறுபாடு முக்கியமானது. பணிநீக்கங்கள் முக்கியமான தகவல் கொள்கைகளின் மீறல்களால் இயக்கப்பட்டிருந்தால், இந்த வழக்கு ஒரு வழக்கமான வேலைவாய்ப்பு மற்றும் ரகசியத்தன்மை தகராறு — எங்கும் உருவாக்கப்படும் மிக முக்கியமான தொழில்நுட்பங்களில் சிலவற்றை உள்ளடக்கியிருந்தாலும். ஆராய்ச்சியாளர்களின் பாதுகாப்பு கவலைகளின் உள்ளடக்கத்தால் அவை இயக்கப்பட்டிருந்தால், AI ஆய்வகங்கள் உள் விமர்சனத்தை எவ்வாறு நடத்துகின்றன என்பதற்கான தாக்கங்கள் மிகவும் பரந்ததாக இருக்கும்.

OpenAI அடிப்படை ஆதாரங்களை வெளியிடாததால், எந்த விளக்கத்தையும் வெளியிலிருந்து முழுமையாக உறுதிப்படுத்த முடியாது. கடிதத்தில் விவரிக்கப்பட்டதைத் தாண்டிய மீறல்களை விசாரணை கண்டறிந்ததாக நிறுவனம் வலியுறுத்துவது, ஒரு நியாயப்படுத்தலாகவும், மேலும் ஆய்வுக்கு எதிரான ஒரு கவசமாகவும் செயல்படுகிறது.

பாதுகாப்பு ஊழியர்கள் ஏன் உன்னிப்பாகக் கவனிக்கிறார்கள்

AI நிறுவனங்கள் உருவாக்கும் அமைப்புகளின் ஆபத்து விவரக்குறிப்பு குறித்த அதிகரித்த கவலைகளின் தருணத்தில் இந்தப் பணிநீக்கங்கள் அமைந்துள்ளன. கடந்த ஆண்டில் தொடர்ச்சியான உயர்மட்ட பாதுகாப்பு மீறல்களால் ஓரளவு இயக்கப்பட்டு, frontier அமைப்புகளின் பாதுகாப்பு குறித்த கவலைகள் ஊழியர்களிடையே வளர்ந்து வருகின்றன — அவற்றில் மிக முக்கியமாக, OpenAI-உடன் இணைக்கப்பட்ட Hugging Face தொடர்பான ஒரு மீறல் உள்ளிட்டவை.

அந்தச் சூழல் உள் உணர்வில் ஒரு தெளிவான மாற்றத்தை உருவாக்கியுள்ளது. பல ஊழியர்கள் இப்போது தங்கள் முதலாளிகளை மேம்பாட்டு வேகத்தைக் குறைக்கவும், சுய-மேம்படுத்தும் அமைப்புகளை உருவாக்குவதன் சாத்தியமான விளைவுகளுக்கு எதிரான பாதுகாப்புகளில் அதிகமாக முதலீடு செய்யவும் வலியுறுத்துகிறார்கள். பாதுகாப்புப் பணியில் நேரடிப் பொறுப்புள்ள ஆராய்ச்சியாளர்கள் பேசுவது ஆபத்தானது என்று முடிவு செய்யும்போது, மற்றவர்கள் எச்சரிக்கைகளை எழுப்பும் விருப்பமும் அதனுடன் அரிக்கப்படலாம்.

Frontier AI-க்கான பரந்த பணயங்கள்

பரந்த தொழில்துறைக்கு, இந்தச் சம்பவம், நியாயமான உள் எதிர்ப்புக்கும், நிறுவனங்கள் கண்காணிக்க உரிமை பெற்ற நடத்தைக்கும் இடையேயான எல்லை எங்கே அமைந்துள்ளது என்பது குறித்த அசௌகரியமான கேள்விகளை எழுப்புகிறது. AI ஆய்வகங்கள் நம்பிக்கையைச் சார்ந்துள்ளன — பொதுமக்களிடமிருந்தும், அவற்றின் பணியைச் சுற்றி வரும் ஒழுங்குமுறை அமைப்புகளிடமிருந்தும் — மற்றும் பாதுகாப்புக்கான அவற்றின் உறுதிமொழிகளின் நம்பகத்தன்மையையும் சார்ந்துள்ளன.

முதலாளி ரகசியத்தன்மையைக் குறிப்பிடும், முன்னாள் ஊழியர்கள் பாதுகாப்பு கவலைகளைக் குறிப்பிடும் ஒரு தகராறை, அறிக்கைகள் மட்டுமே கொண்டு தீர்க்க கடினம். இது உள் மறுஆய்வு செயல்முறைகளை ஆய்வு செய்ய அழைக்கிறது: அவற்றை யார் நடத்துகிறார்கள், அவை என்ன தரநிலைகளைப் பயன்படுத்துகின்றன, மற்றும் முடிவுகள் பாதிக்கப்பட்டவர்களுக்கு எவ்வாறு தெரிவிக்கப்படுகின்றன.

தீர்க்கப்படாதவை

• முக்கியமான தகவல் கொள்கைகளை மீறியதாகக் கூறப்படும் நடத்தையை OpenAI விவரிக்கவில்லை.
• பாதுகாப்பு கவலைகளை எழுப்பியதற்காகவே தாங்கள் பணிநீக்கம் செய்யப்பட்டதாகவும், தங்கள் நடத்தை அந்தக் காலத்தின் பணி விதிமுறைகளுக்கு இணங்கியதாகவும் மூன்று ஆராய்ச்சியாளர்களும் வலியுறுத்துகிறார்கள்.
• திறந்த கடிதத்தில் விவரிக்கப்பட்டவற்றைத் தாண்டிய மீறல்களை தனது விசாரணை கண்டறிந்ததாக நிறுவனம் கூறுகிறது, ஆனால் எந்த விவரங்களையும் வழங்கவில்லை.
• அடிப்படை ஆதாரங்களை மறுஆய்வு செய்ததாக எந்த மூன்றாம் தரப்பும் முன்வைக்கப்படவில்லை.

இரு தரப்பும் பொதுவில் தங்கள் நிலைப்பாடுகளை வைத்திருக்கும்போது, நடைமுறை விளைவு, உண்மைகளைப் பற்றி யார் சரி என்பதை விட, பரந்த AI சமூகம் இந்தச் சம்பவத்தை எவ்வாறு விளக்குகிறது என்பதைச் சார்ந்திருக்கலாம். frontier model மேம்பாடு குறித்து தங்கள் சந்தேகங்களை வெளிப்படுத்தலாமா என்று எடையிடும் ஆராய்ச்சியாளர்களுக்கு, இந்தப் பணிநீக்கங்கள் அனுப்பும் சமிக்ஞை, OpenAI மற்றும் அதன் சக ஆய்வகங்களில் உள் கலாச்சாரத்தை சிறிது காலத்திற்கு வடிவமைக்கக்கூடும்.

இந்தக் கட்டுரை The Verge-இன் செய்தியின் அடிப்படையில் அமைந்தது. மூலக் கட்டுரையைப் படிக்கவும்.