ஒரு OpenAI பாதுகாப்பு எழுத்தாளர் விலகிச் செல்கிறார்
பல ஆண்டுகளாக, OpenAI-ன் மிகப்பெரிய மாடல் வெளியீடுகளுடன் வந்த பாதுகாப்பு ஆவணங்களைத் தயாரிப்பதற்குப் பொறுப்பானவர்களில் ஒருவராக டேவிட் ராபின்சன் இருந்தார். அந்த அறிக்கைகள் ஆய்வகத்திற்கும் அதற்கு வெளியே உள்ள அனைவருக்கும் இடையே ஒரு பாலமாக இருக்க வேண்டும் — ஒரு புதிய அமைப்பு என்ன செய்ய முடியும், அதன் வரம்புகள் எங்கே உள்ளன, அது பயனர்களை அடைவதற்கு முன் என்ன பாதுகாப்புகள் உள்ளன என்பதற்கான எழுத்துப்பூர்வமான விளக்கம். இந்த வாரம், ராபின்சன் அந்தப் பதவியிலிருந்து விலகினார், அமைதியாக வெளியேறுவதற்குப் பதிலாக, The Atlantic-க்கான ஒரு தலையங்கத்தில் தனது வாதத்தை பொதுவெளியில் வெளியிட்டார்.
OpenAI-க்கு இன்னும் சில பக்கங்கள் உள் கொள்கை தேவை என்று அவர் கூறவில்லை. முன்னணி AI தொழில்துறையில் ஊடுருவியுள்ள கலாச்சாரம் அடிப்படையில் உடைந்துவிட்டது — அதைச் சரிசெய்ய, வழக்கமான வணிகத்தின் மீது புதிய விதிகள் அல்லது ஒழுங்குமுறை சரிபார்ப்புப் பட்டியல்களைப் பொருத்துவதை விட மிக ஆழமான ஒன்று தேவை என்று வாதிடுகிறார்.
ராபின்சன் விவரிக்கும் கலாச்சாரப் பிரச்சினை
ஒரு தலைமுறையாக சிலிகான் வேலியை வடிவமைத்த பழக்கங்களின் தொகுப்பை ராபின்சன் சுட்டிக்காட்டுகிறார்: அவர் வகைப்படுத்துவது போல் தீவிர நம்பிக்கை, இடைவிடாத ஸ்பிரிண்ட் சுழற்சி, ஒவ்வொரு புதிய மாடலையும் தெளிவற்ற முன்னேற்றமாகக் கருதும் தடையற்ற நம்பிக்கை. அந்தச் சூழலில், சாத்தியமான தீங்குகள் அளவிடப்பட்டு தணிக்கப்படுவதற்குப் பதிலாக புறக்கணிக்கப்படுகின்றன, குறைத்து மதிப்பிடப்படுகின்றன அல்லது இல்லை என்று கருதப்படுகின்றன.
அந்த வரையறை முக்கியமானது, ஏனெனில் அது விவாதத்தின் வடிவத்தை மாற்றுகிறது. பிரச்சினை ஒரு மோசமான முடிவு அல்லது ஒரு குறைவான வளங்களைக் கொண்ட குழு என்றால், இலக்கு வைத்த ஒரு தலையீடு போதுமானதாக இருக்கலாம். ஆனால் தொழில்துறையின் அடிப்படை மனப்போக்கே பிரச்சினை என்றால், அந்த நிறுவனங்கள் தங்கள் சொந்த தவறுக்கான வாய்ப்பைப் பற்றி எப்படி சிந்திக்கின்றன என்பதை மாற்றுவது தீர்வில் அடங்கும் — வெளிப்புற விதிப் புத்தகம் எதுவும் அதை வெறுமனே கட்டளையிட முடியாது.
ராபின்சனின் பரிந்துரை பணிவுடன் தொடங்குகிறது. AI நிறுவனங்கள் தாங்கள் வளர்ந்த உள்நோக்கு, வேகமாக நகர்ந்து விஷயங்களை உடைக்கும் உலகத்தைத் தாண்டி பார்க்க வேண்டும், மேலும் அவர்கள் முழுமையாக அகற்ற முடியாத ஆபத்தை நிர்வகிக்கக் கற்றுக்கொண்ட பல தசாப்தங்களைக் கழித்த துறைகளிடமிருந்து தீர்ப்பைக் கடன் வாங்க வேண்டும் என்று வாதிடுகிறார்.
அணு மின் நிலையங்கள், விமான நிலையங்கள், மற்றும் மிகைப்படுத்தலுக்கான வாதம்
ராபின்சனின் வாதத்தின் மிகவும் உறுதியான பகுதி, முன்னணி ஆய்வகங்கள் எவ்வாறு செயல்பட வேண்டும் என்பதற்கான அவரது ஒப்புமை. ஈடுபட்டுள்ள அபாயங்களின் அளவைக் கருத்தில் கொண்டு, அவை ஒரு வெளியீட்டு தேதியைத் துரத்தும் ஸ்டார்ட்அப்களைப் போல அல்லாமல், அணு மின் நிலையங்கள் அல்லது பரபரப்பான விமான நிலையங்களைப் போல இயங்க வேண்டும் என்று அவர் வாதிடுகிறார்.
அவை பேரழிவு தரக்கூடிய பாதகமான விளைவுகளைக் கையாள சமூகம் ஏற்கனவே நம்பும் நிறுவனங்கள். மனிதர்கள் தவறு செய்வார்கள் என்ற அனுமானத்தைச் சுற்றி அவை வடிவமைக்கப்பட்டுள்ளன, மேலும் அவ்வப்போது தவிர்க்க முடியாத ஒரு பிழை பேரழிவுக்கான கதவைத் திறக்காதபடி, அடுக்குகளாக மிகைப்படுத்தல் மற்றும் வேண்டுமென்றே நேரத்தை எடுத்துக்கொள்ளும் திட்டமிடல் ஆகியவற்றுடன் கட்டப்பட்டுள்ளன. எந்த ஒரு தனி இயக்குநரிடமிருந்தும் குறையற்ற செயல்திறன் இலக்கு அல்ல, மாறாக தவறுகள் மீளமுடியாத ஒன்றாக மாறுவதற்கு முன் அவற்றை உள்வாங்கும் ஒரு அமைப்பு.
AI மேம்பாட்டிற்கு மொழிபெயர்க்கும்போது, அந்த தர்க்கம் மெதுவான வெளியீட்டு சுழற்சிகள், பல சுயாதீன மதிப்பாய்வு வழிகள், மற்றும் தொழில்துறை தற்போது வெறும் வீணடிப்பாகக் கருதும் நேரத்தை செலவிடும் விருப்பத்தைக் குறிக்கிறது. மேலும் பாதுகாப்புப் பணி என்பது ஒரு கட்டுமானத்தின் முடிவில் தயாரிக்கப்படும் ஆவணம் அல்ல, மாறாக தொடக்கத்திலிருந்தே கட்டுமானம் நடத்தப்படும் விதத்தின் கட்டமைப்பு பண்பு என்பதையும் இது குறிக்கிறது.
விதிகள் மட்டும் ஏன் போதாது
பயிற்சி ஓட்டங்கள் எவ்வாறு கையாளப்படுகின்றன என்பதில் சில புதிய ஒழுங்குமுறைகளை விதிப்பதை விட இது ஆழமான பிரச்சினை என்பது ராபின்சனின் மையக் கூற்று. விதிகள் விளிம்புகளில் நடத்தையைக் கட்டுப்படுத்தலாம், ஆனால் அவை அரிதாகவே வேலை செய்பவர்களின் ஊக்குவிப்புகள் அல்லது சுய-உருவத்தை மாற்றுகின்றன. உலகத்தைக் காப்பாற்றுகிறோம் என்று நம்பும் ஒரு நிறுவனம், உராய்வு என்று கருதும் இணக்கத் தேவையால் பெரிதும் மெதுவாக்கப்பட வாய்ப்பில்லை.
அவர் விவரிப்பது, உண்மையில், உள்ளிருந்து தீர்க்கப்பட வேண்டிய ஒரு கலாச்சாரப் பிரச்சினை — தாங்கள் தவறாக இருக்கலாம் என்று சத்தமாகச் சொல்லத் தயாராக இருக்கும் தலைவர்களால், மேலும் அவ்வாறு சொல்வது தொழில் தற்கொலை அல்ல எனும் வகையில் கட்டமைக்கப்பட்ட நிறுவனங்களால்.
வளர்ந்து வரும் விலகல்களின் பட்டியல்
ராபின்சன், அடையாளம் காணக்கூடிய ஒரு முறையாக மாறியுள்ள ஒன்றில் சமீபத்திய நபர்: முக்கிய AI நிறுவனங்களை விட்டு வெளியேறி, தாங்கள் கண்டதைப் பற்றி பொதுவில் பேசும் ஆராய்ச்சியாளர்கள் மற்றும் பாதுகாப்பு ஊழியர்கள். தற்போதைய அலை, Anthropic-இலிருந்து விலகி, இந்த தசாப்தத்தின் இறுதிக்குள் AI நம்மை எல்லாம் கொல்லக்கூடும் என்று எச்சரித்த ஜேக்கப் காக்சனால் தொடங்கப்பட்டதாகத் தெரிகிறது.
மற்றவர்கள் பின்தொடர்ந்துள்ளனர்:
- ராபர்ட் ஓ'கல்லஹான், பிலால் சக்தாய், மற்றும் ஜோஷ் ஏங்கல்ஸ், அனைவரும் Google DeepMind-ஐ விட்டு வெளியேறினர்.
- ஜோ பென்டன், Anthropic-ஐ விட்டு வெளியேறினார்.
ஒவ்வொரு விலகலும், பாதுகாப்பு சிந்தனையுள்ளவர்களை ஆய்வகங்களிலிருந்து வெளியே தள்ளும் ஒரு அமைப்புசார்ந்த ஏதோ ஒன்று உள்ளது என்ற வாதத்திற்கு ஒரு தரவுப் புள்ளியைச் சேர்க்கிறது. பாதகமான ஆபத்தைப் பற்றி சிந்திக்க பணியமர்த்தப்பட்டவர்கள், உள்ளிருந்து அந்த வேலையை திறம்பட செய்ய முடியாது என்று தொடர்ந்து முடிவெடுக்கும்போது, அந்தக் கவலைகள் உள்நாட்டில் எவ்வளவு எடையைக் கொண்டுள்ளன என்பது பற்றிய தெளிவான கேள்விகளை எழுப்புகிறது.
நம்பிக்கையின்மை பிரச்சினை
இதற்கெல்லாம் ஒரு நியாயமான ஆட்சேபனை உள்ளது. ஒரு தொழில்நுட்பத்தை உருவாக்க உதவியவர்கள் திரும்பி அதைப் பற்றி எச்சரிக்கும்போது நம்பிக்கையின்மை எளிது — அவர்கள் இப்போது விவரிக்கும் நிலைமைக்கு பங்களித்தவர்கள், மேலும் அவர்களின் எச்சரிக்கைகள் அமைப்புகள் ஏற்கனவே பயன்பாட்டில் வந்த பிறகே வருகின்றன.
ஆனால் அந்த எதிர்வினை, எவ்வளவு புரிந்துகொள்ளக்கூடியதாக இருந்தாலும், அவர்கள் சொல்வதன் சாரத்தை செல்லாததாக்காது. உள் அறிவுதான் இந்தக் கணக்குகளை பயனுள்ளதாக்குகிறது. பாதுகாப்பு அறிக்கைகளை எழுதியவர்கள், மதிப்பீடுகளை நடத்தியவர்கள், வெளியீட்டு முடிவுகள் எடுக்கப்பட்ட அறைகளில் அமர்ந்தவர்கள் — அந்த முடிவுகள் உண்மையில் எவ்வாறு எடுக்கப்படுகின்றன என்பதை விவரிக்க வெளிப்புற வர்ணனையாளர்களை விட சிறந்த நிலையில் உள்ளனர்.
அடுத்த மாடல் வெளியீட்டிற்கு இதன் பொருள்
நடைமுறை பங்குகள் நேரடியானவை. ஒவ்வொரு முக்கிய மாடல் வெளியீடும் இப்போது பயனர்கள், நிறுவனங்கள் மற்றும் ஒழுங்குமுறை அமைப்புகளை உறுதிப்படுத்தும் நோக்கத்துடன் ஆவணங்களுடன் வருகிறது. அந்த ஆவணங்களை எழுதிய நபர், அதை உருவாக்கும் கலாச்சாரம் உடைந்துவிட்டது என்று முடிவெடுத்தால், முழு வெளிப்படுத்தல் பயிற்சியின் நம்பகத்தன்மை கேள்விக்குள்ளாகிறது.
ராபின்சனின் பதில் வேலையை கைவிடுவது அல்ல, மாறாக மிகவும் எச்சரிக்கையான அடித்தளத்தில் அதை மீண்டும் கட்டியெழுப்புவது — மனித பிழையை விளக்கிவிட வேண்டிய விதிவிலக்காக அல்லாமல், சுற்றி வடிவமைக்க வேண்டிய உறுதியான ஒன்றாகக் கருதும் ஒன்று. முன்னணி ஆய்வகங்கள் அந்த நிலைப்பாட்டை தாமாக மேற்கொள்கின்றனவா, அல்லது வெளிப்புற அழுத்தம் அதை கட்டாயப்படுத்திய பிறகுதான் மேற்கொள்கின்றனவா என்பதே இப்போது தொழில்துறையின் அடுத்த சுற்று வெளியீடுகள் மீது தொங்கும் மையக் கேள்வி.
இப்போதைக்கு, எச்சரிக்கைகள் கட்டமைப்பு மாற்றங்களை விட வேகமாகக் குவிந்துவருகின்றன. ராபின்சனின் பதவி விலகல், தொழில்நுட்பத்திற்கு மிக நெருக்கமானவர்கள் அது வெளியிடப்படும் வேகத்தில் மிகக் குறைவான வசதியைக் கொண்டுள்ளனர் என்பதற்கான சமீபத்திய சமிக்ஞையாகும்.
இந்தக் கட்டுரை The Verge-இன் செய்தி அறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.
Originally published on theverge.com