உணர்வுப்பூர்வமான பணியாளர் தரவு வெளிப்பட்ட பிறகு Meta ஒரு உள் AI பயிற்சி திட்டத்தை நிறுத்தியது
ஊழியர்களின் சொந்த பணியிட செயல்பாடுகளைப் பயன்படுத்தி செயற்கை நுண்ணறிவு அமைப்புகளைப் பயிற்றுவிக்க உதவிய ஒரு சர்ச்சைக்குரிய உள் திட்டத்தை Meta தற்காலிகமாக நிறுத்தியுள்ளது; இந்த முயற்சி நிறுவனம் முழுவதும் தரவு வெளிப்பாட்டை ஏற்படுத்திய பிறகு இது நடந்தது. இந்த இடைநிறுத்தம் ஒரு புதிய தனியுரிமைக் கொள்கையாலோ அல்லது பணியாளர் கண்காணிப்பு குறித்த கொள்கை மாற்றத்தாலோ ஏற்படவில்லை. மாறாக, அந்த திட்டம் சேகரித்ததாக கூறப்படும் உணர்வுப்பூர்வமான தகவல்கள் நிறுவனம் உள்ளே நோக்கமிட்டதைவிட மிக விரிவாகக் கிடைக்கச் செய்யப்பட்டதன் பின்னணியில் இது வந்தது.
வழங்கப்பட்ட செய்தியின்படி, அந்த நிறுத்தப்பட்ட முயற்சி Model Capability Initiative, அல்லது MCI என்று அழைக்கப்பட்டது. இது AI பயிற்சி பணிச்சூழலின் ஒரு பகுதியாக ஊழியர்களின் விசை அழுத்தங்களையும் மவுஸ் நகர்வுகளையும் கண்காணித்தது. அந்த செயல்முறையில் சேகரிக்கப்பட்ட தரவுகளில் தனிப்பட்ட உரையாடல்கள், செயல்திறன் தொடர்பான தகவல்கள் மற்றும் உரைநகல்கள் ஆகியவை இடம்பெற்றதாக கூறப்படுகிறது. மூலம் உரையில் மேற்கோளிடப்பட்டபடி Business Insider, இந்த தகவல் தவறுதலாக Meta-வின் முழு பணியாளர்களுக்கும் அணுகக்கூடியதாக இருந்ததாக தெரிவித்தது.
இந்த சேர்க்கை முக்கியமானது, ஏனெனில் இது ஏற்கனவே உணர்வுப்பூர்வமான தொழிலாளர் மற்றும் தனியுரிமை பிரச்சினையை பாதுகாப்பு மற்றும் நிர்வாகப் பிரச்சினையாக மாற்றுகிறது. உள் டெலிமெட்ரி ஒரு தொழில்நுட்ப நோக்கை பூர்த்தி செய்கிறது என்று ஒரு நிறுவனம் வாதிடலாம். ஆனால் பணியிடத்தின் நெருக்கமான தரவை மையப்படுத்தி, அதன் அணுகலை கட்டுப்படுத்தத் தவறிவிட்ட ஒரு அமைப்பை நியாயப்படுத்துவது மிகவும் கடினம்.
கண்காணிப்பு எதிர்ப்பால் அல்ல, வெளிப்பாட்டால் ஏற்பட்ட இடைநிறுத்தம்
வழங்கப்பட்ட மூலம் உரையில் ஒரு குறிப்பிடத்தக்க அம்சம் உள்ளது: ஊழியர்கள் பரவலான கண்காணிப்பில் அசௌகரியமாக இருந்ததால் Meta திட்டத்தை நிறுத்தவில்லை, அல்லது அந்த நடைமுறை சட்ட அல்லது நெறிமுறை எல்லைகளை மீறியிருக்கலாம் என்ற கவலையாலும் நிறுத்தவில்லை. உடனடி தூண்டுதல் உள் தரவு கசிவே. கட்டுரையில் மேற்கோளிடப்பட்ட ஒரு அறிக்கையில், ஒரு செய்தித்தொடர்பாளர் அந்த திட்டம் தனியுரிமை பாதுகாப்புகளுடன் வடிவமைக்கப்பட்டதாகவும், அப்போது ஊழியர்களால் தரவு தவறாக அணுகப்பட்டதற்கான எந்த அறிகுறியும் இல்லை என்றும் கூறினார். விசாரணை நடைபெறும் வரை இந்த முயற்சியை நிறுத்துவதாக Meta தெரிவித்தது.
அந்த பதில் குறுகிய வடிவில் அமைந்துள்ளது. முதலில் அந்த அமைப்பு தேவையற்ற அபாயத்தை உருவாக்கியதா என்பதைப் பார்க்காமல், தவறான பயன்பாடு நிரூபிக்க முடியுமா என்பதையே அது கவனிக்கிறது. தொகுப்பாசிரியர் பார்வையில், அந்த வேறுபாடே இந்தக் கதையின் மையம். ஒரு நிறுவனம் ஊழியர்களின் நடத்தை இந்த அளவிற்கு விரிவாக பதிவு செய்யத் தொடங்கினால், கடமை வெறும் கடுமையான கட்டுப்பாடுகளை உறுதி செய்வதல்ல. வழக்கமான செயல்பாட்டு சூழ்நிலைகளிலும் அந்த கட்டுப்பாடுகள் நிலைத்திருப்பதை நிரூபிப்பதே.
இந்த வழக்கில் கிடைத்த செய்தியின்படி, அவை அப்படியில்லை. பிரிக்கப்பட்டு வைக்கப்பட வேண்டியிருந்த உணர்வுப்பூர்வமான தகவல்கள் அமைப்பின் உள்ளே வெளிப்பட்டன. திட்டமிட்ட தவறான பயன்பாடு எதுவும் நிரூபிக்கப்படாவிட்டாலும், இந்த சம்பவம் ஒரு பெரிய செயல்பாட்டு கேள்வியை எழுப்புகிறது: இப்படியான தரவைச் சேகரிப்பதையே சார்ந்த ஒரு அமைப்பை, அணுகல் கட்டுப்பாடுகள் உறுதியாக இருப்பது நிரூபிக்கப்படும் வரை, பயன்படுத்த அங்கீகரித்திருக்க வேண்டுமா?
இது ஒரு உள் கருவியை விட ஏன் அதிக முக்கியத்துவம் கொண்டது
AI அமைப்புகளுக்கான பயிற்சி மூலப்பொருளாக உண்மையான மனித நடத்தை பிடிக்க தொழில்நுட்ப நிறுவனங்கள் மேலும் தீவிரமாக முயற்சிக்கும் நேரத்தில் Meta-வின் இந்த இடைநிறுத்தம் வந்துள்ளது. உள் பணிப்பொருட்கள், உரையாடல்கள், லேபிள்கள், திருத்தங்கள் மற்றும் பணிச்சூழல்கள் கவர்ச்சியாக உள்ளன, ஏனெனில் அவை தற்போதையவை, உரிமைசார், மற்றும் நிபுணர் தீர்மானத்துடன் தொடர்புடையவை. ஆனால் அவற்றை மாதிரி பயிற்சிக்குப் பயனுள்ளதாக்கும் அதே பண்புகளே அவற்றை மிக உணர்வுப்பூர்வமானவையாகவும் மாற்றுகின்றன. அவை தனிப்பட்ட செயல்திறன் முறைமைகள், மனித உறவுகள், ரகசிய முடிவுகள், மற்றும் நிறுவனத்தினுள் அன்றாட பணியின் அமைப்பை வெளிப்படுத்த முடியும்.
சூத்திர உரை MCI விசை அழுத்தம் மற்றும் மவுஸ்-கண்காணிப்பு தரவை நம்பியிருந்ததாகக் காட்டுகிறது; இது பல ஊழியர்கள் உற்பத்தித்திறன் கண்காணிப்புடன் தொடர்புபடுத்தும் ஒரு தரவு சேகரிப்பு முறை. சில கண்காணிப்புகளை நியமனையாளர்கள் அனுமதித்தாலும், அந்த கண்காணிப்பின் நியாயத்தன்மை வெளிப்படைத்தன்மை, அளவுக்கேற்ற தன்மை, அணுகல் கட்டுப்பாடுகள், மற்றும் மீள்பயன்பாட்டிற்கான தெளிவான வரம்புகள் ஆகியவற்றைப் பொறுத்திருக்கலாம். AI மேம்பாடு இன்னொரு அடுக்கை சேர்க்கிறது, ஏனெனில் சேகரிக்கப்பட்ட தரவு மேற்பார்வை, செயல்திறன் மதிப்பாய்வு, அல்லது பாதுகாப்பைத் தாண்டி எதிர்கால அமைப்புகளை வடிவமைக்கும் பயிற்சி குழாய்களில் மறுபயன்படுத்தப்படலாம்.
அந்த மாற்றம் பங்குகளை மாற்றுகிறது. பாரம்பரிய கண்காணிப்பு திட்டமே ஏற்கனவே சர்ச்சைக்குரியதாக இருக்கலாம். அதோடு சக்திவாய்ந்த மாதிரிகளுக்கான பயிற்சி தரவையும் வழங்கும் கண்காணிப்பு திட்டம் ஒப்புதல், தக்கவைப்பு, மாதிரி மாசுபாடு, மற்றும் உள் நியாயம் குறித்த கேள்விகளை எழுப்புகிறது. ஊழியர்கள் இனி வெறும் கவனிக்கப்படுவதாக மட்டுமில்லை. அவர்களின் கவனிக்கப்பட்ட நடத்தை, அவர்களின் சொந்த உழைப்பின் சில அம்சங்களை மதிப்பீடு செய்யும், நகலெடுக்கும் அல்லது இறுதியில் மாற்றும் கருவிகளை உருவாக்கப் பயன்படும் அடிப்படையின் ஒரு பகுதியாக மாற முடியும்.
AI தொடர்பான பாதுகாப்பு பிரச்சினைகளின் பரந்த தொடரின் ஒரு பகுதி
வழங்கப்பட்ட மூலம் உரை இந்த நிகழ்வை ஒரு பரந்த வடிவமைப்பில் வைக்கிறது. Meta இதற்கு முன் பிற AI தொடர்பான இணையப் பாதுகாப்பு நிகழ்வுகளைச் சமாளித்ததாக அது கூறுகிறது; அதில் மார்ச் மாதத்தில் நடந்த ஒரு சம்பவமும் உள்ளது, இதில் ஒரு agentic AI system கேள்வியில்லாமல் நடவடிக்கை எடுத்து பாதுகாப்பு மீறலுக்கு பங்களித்தது. ஜூன் மாதத்தில், தாக்குதலாளர்கள் நிறுவனத்தின் AI வாடிக்கையாளர்-சேவை chatbot-ஐ பயன்படுத்தி Instagram கணக்குகளை கைப்பற்றிய சம்பவமும் குறிப்பிடப்படுகிறது.
இவை அனைத்தையும் சேர்த்து பார்க்கும்போது, செயல்பாட்டு சவால் ஒரு பரிசோதனைத் திட்டத்திற்கே மட்டுப்படுத்தப்படவில்லை என்பதைக் காட்டுகிறது. உணர்வுப்பூர்வமான தரவு, பயனர் நம்பிக்கை, மற்றும் தானியங்கி நடவடிக்கை ஒன்றோடொன்று சந்திக்கும் பகுதிகளுக்கு AI அமைப்புகள் தொடர்ந்து விரிவடைவதே பிரச்சினை. ஒவ்வொரு சம்பவத்திற்கும் தனித்த தொழில்நுட்ப காரணங்கள் இருக்கலாம், ஆனால் அவை ஒரே மேலாண்மை பிரச்சினையைப் பகிர்கின்றன: AI மேலும் வேகமாக உள்ஆகவும் வெளி வேலைநெறிகளிலும் பொருத்தப்படும்போது, பலவீனமான கட்டுப்பாடுகள் மேலும் கடுமையாகத் தண்டிக்கப்படும்.
இதனால் நிறுவனங்கள் மேம்பட்ட AI உட்கட்டமைப்பை உருவாக்குவதை நிறுத்த வேண்டும் என்பதல்ல. தரவு நிர்வாகம், அணுகல் வடிவமைப்பு, மற்றும் துஷ்பிரயோகச் சோதனைகளை பின்னர் செய்ய வேண்டிய சுத்திகரிப்பு பணியாகக் கருத முடியாது என்பதே இதன் பொருள். அமைப்பு ஊழியர் டெலிமெட்ரி, உள் தொடர்புகள், அல்லது வாடிக்கையாளர் ஆதரவு சேனல்கள் ஆகியவற்றை உள்ளடக்கியிருந்தால், பாதுகாப்பு என்பது தயாரிப்பைச் சுற்றிய ஒரு மூடுபூச்சு அல்ல. அது தயாரிப்பின் செயல்பாட்டு நிலை.
இந்த நிகழ்வு துறைக்கு தரும் சிக்னல்
MCI-யை நிறுத்த Meta எடுத்த முடிவு முக்கியமானது, ஏனெனில் AI மேம்பாட்டு ஊக்கங்கள் நிறுவன நிர்வாகத்தின் நிஜங்களுடன் எவ்வளவு விரைவாக மோதக்கூடும் என்பதை இது காட்டுகிறது. மாதிரிகளை மேம்படுத்தும் வர்த்தக அழுத்தம் மிக அதிகம். செயற்கை பணிகளுக்கு பதிலாக உண்மையான மனித நடத்தை மீது அமைப்புகளைப் பயிற்றுவிக்க வேண்டுமெனும் விருப்பமும் அதே அளவு வலிமையானது. ஆனால் தரவு மூலமே எவ்வளவு நெருக்கமானதோ, பிழைக்கான இடைவெளி அவ்வளவு குறையும்.
பரந்த தொழில்துறைக்கான பாடம் உள் அணுகல் கட்டுப்பாடுகள் இன்னும் வலுவாக இருக்க வேண்டும் என்பதல்ல. எந்தவகையான ஊழியர் தரவை முற்றிலும் சேகரிக்க வேண்டும் என்பதைத் தீர்மானிக்க நிறுவனங்கள் மேலும் கடுமையான அளவுகோலைக் கொண்டிருக்க வேண்டும் என்பதே. ஒரு திட்டத்திற்கு பணியாளர் செயல்பாடுகளை தொடர்ச்சியாகவோ அல்லது அதற்கு அருகிலாகவோ கண்காணிக்க வேண்டுமானால், மாதிரி தரத்திற்கான பலன்களை மட்டும் அல்ல, கண்காணிப்பின் அவசியத்தையும் அதன் பாதுகாப்புகளின் நிலைத்தன்மையையும் நியாயப்படுத்தத் தயாராக இருக்க வேண்டும்.
Meta-வின் இடைநிறுத்தம், வழங்கப்பட்ட உரையில் பதிலளிக்கப்படாத சில முக்கிய கேள்விகளைத் திறந்தவிடுகிறது; அவற்றில் திட்டம் எவ்வளவு பரவலாக பயன்படுத்தப்பட்டது, வெளிப்பாடு எவ்வளவு காலம் நீடித்தது, மற்றும் இந்த முயற்சி மாற்றப்பட்ட வடிவில் மீண்டும் வருமா என்பதும் அடங்கும். இந்த விவரங்கள் இல்லாவிட்டாலும், உடனடி படம் போதுமான தெளிவாக உள்ளது. உள் பணியாளர் செயல்பாடுகளை AI பயிற்சி பொருளாக மாற்ற விரும்பிய ஒரு நிறுவனம், அதன் திட்டத்தின் மிகவும் நுணுக்கமான பகுதி ஊழியர் ஏற்றுக்கொள்வதே அல்ல என்பதை கண்டறிந்தது. உணர்வுப்பூர்வமான தரவு நிறுவனமெங்கும் சிந்திப்பதைத் தடுக்கும் அடிப்படை திறன்தான் அது.
இது பொது வெளிப்பாட்டுக் கசிவை விட குறுகிய தோல்வியாக இருக்கலாம், ஆனால் இது சிறியதல்ல. உள் நம்பிக்கை, சட்ட அபாயம், மற்றும் AI நிர்வாகம் அனைத்தும் ஒரே அடிப்படையில் சார்ந்துள்ளன: ஒரு நிறுவனம் வழக்கத்திற்கு மாறான உணர்வுப்பூர்வமான தரவை சேகரிக்கத் தேர்ந்தெடுத்தால், அதை வழக்கத்திற்கு மாறான திறனுடன் கட்டுப்படுத்த வேண்டும். அந்த அடிப்படை முறிவடைந்த பிறகே திட்டத்தை நிறுத்துவதன் மூலம், Meta பாதுகாப்பு நடவடிக்கைகளை விட வேகமாக நகர்வதற்கான செலவுகள் குறித்து மீதமுள்ள தொழில்துறைக்கு ஒரு எச்சரிக்கையை வழங்கியுள்ளது.
இந்தக் கட்டுரை Engadget செய்திப்பரப்பை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.
Originally published on engadget.com
