OpenAI மில்லினியம் சான்று சர்ச்சை AI ஆராய்ச்சியில் நம்பிக்கை குறித்த கடினமான கேள்விகளை எழுப்புகிறது

ஒரு AI ஆய்வகம் ஒரு மில்லினியம் பிரச்சனையை துரத்தும்போது

இந்த மோதல் ஒரு அசாதாரண கூற்றுடன் தொடங்கியது: ஒரு AI அமைப்பு Navier-Stokes சமன்பாடுகளுக்கான ஒரு சான்றை உருவாக்கியது, இது களிமண் கணித நிறுவனத்தின் ஏழு மில்லினியம் பிரச்சனைகளில் ஒன்றாகும், இது பல தசாப்தங்களாக கணிதவியலாளர்களை எதிர்த்து நிற்கும் சவாலாகும். இந்த நிகழ்வு AI-உதவி ஆராய்ச்சிக்கு ஒரு மைல்கல்லாக இருக்க வேண்டும். அதற்கு பதிலாக, சுயாதீன ஆராய்ச்சியாளர்களுக்கும், வழிமுறைகள் மற்றும் அவற்றை உருவாக்கப் பயன்படுத்தப்படும் தளங்கள் இரண்டையும் கட்டுப்படுத்தும் சக்திவாய்ந்த ஆய்வகங்களுக்கும் இடையே யோசனைகள் எவ்வாறு நகர்கின்றன என்பதைப் பற்றிய ஒரு எச்சரிக்கைக் கதையாக மாறியுள்ளது.

அனைத்து முக்கிய தரப்பினரும் இப்போது பொது அறிக்கைகளை வெளியிட்டுள்ளனர், மேலும் கணக்குகள் கூர்மையாக வேறுபடுகின்றன. மையத்தில் கணிதவியலாளர் டிரிஸ்டன் பக்மாஸ்டர் இருக்கிறார், அவர் லெவென்ட் அல்போஜுடன் தான் மேற்கொண்டு வந்த ஒரு ஆராய்ச்சி திட்டத்தைப் பற்றி அறிந்த பிறகு OpenAI முறைகேட்டில் ஈடுபட்டதாகக் கூறுகிறார். OpenAI மிகவும் கடுமையான குற்றச்சாட்டுகளை மறுக்கிறது, ஆனால் போட்டி ஆய்வகமான ஆந்த்ரோபிக் மாடல்கள் சாதித்ததாக வதந்திகள் காரணமாக அதன் செயல்கள் வடிவமைக்கப்பட்டன என்பதை ஒப்புக்கொள்கிறது.

அழுத்தம் மற்றும் கருத்துத் திருட்டு குற்றச்சாட்டுகள்

பக்மாஸ்டர் தனது விமர்சனத்தில் வழக்கத்திற்கு மாறாக வெளிப்படையாக இருக்கிறார். அவரும் அல்போஜும் OpenAI இன் Codex சூழலில் பதிவேற்றிய வரைவுகளிலிருந்து OpenAI பொருட்களை எடுத்தது, ஆராய்ச்சி செயல்பாட்டின் போது அவர் மீது அழுத்தம் கொடுத்தது, அல்போஜ் ஆந்த்ரோபிக்கில் பணிபுரிவதால் அவரை இணை ஆசிரியராக நீக்க முயற்சித்தது, மேலும் அவரது வாழ்க்கைக்கு விளைவுகள் ஏற்படுத்துவதாக அச்சுறுத்தியது என்று அவர் கூறுகிறார். பக்மாஸ்டரின் பார்வையில், இந்த நடத்தை முழுமையான கல்வி முறைகேடாகும்.

அழுத்தம் என்ற குற்றச்சாட்டை வெளியில் இருந்து சரிபார்க்க முடியாது. ஆவணப்படுத்தக்கூடியது என்னவென்றால், ஆந்த்ரோபிக் மாதிரிகள் ஒரு மில்லினியம் பிரச்சனையை தீர்த்ததாக OpenAI வதந்திகளைக் கேட்டது, மேலும் அதன் சொந்த ஒப்புதலின்படி, அதே இலக்கை நோக்கி அதன் வளங்களை சுட்டிக்காட்டியது. OpenAI CEO சாம் ஆல்ட்மேன் மற்றும் ஆராய்ச்சியாளர் செபாஸ்டியன் புபெக் கருத்துத் திருட்டை மறுக்கின்றனர். வதந்தி பரவிய பிறகு அவர்களின் குழு குறிப்பாக அந்த பிரச்சனைக்காக ஒரு மாதிரியை உருவாக்கியது என்பதை அவர்கள் ஒப்புக்கொள்கிறார்கள், ஆனால் நிறுவனத்தின் முடிவு பக்மாஸ்டர் மற்றும் அல்போஜிடமிருந்து எடுக்கப்பட்டது என்ற கூற்றை அவர்கள் நிராகரிக்கிறார்கள்.

ஒரே வேலையின் இரண்டு மிகவும் வேறுபட்ட பதிப்புகள்

கருத்து வேறுபாட்டின் தொழில்நுட்ப மையம் அசல் தன்மை ஆகும். அதன் தீர்வு கணிதவியலாளர்களின் பணியிலிருந்து கணிசமாக வேறுபடுகிறது என்று OpenAI பராமரிக்கிறது. பக்மாஸ்டர் மற்றும் அல்போஜ் உடன்படவில்லை. அவர்கள் இதே போன்ற ஒரு அணுகுமுறையை OpenAI இன் அமைப்புகளில் உள்ளிட்டதாகவும், அந்த உள்ளீடு பயிற்சி தரவுகளில் முடிந்திருக்கலாம் என்றும் சந்தேகிக்கிறார்கள். அப்படியானால், நிறுவனம் தனது போட்டியாளர்களை விட அதன் மேம்பாட்டுக் கருவிகளில் அந்த போட்டியாளர்கள் ஒப்படைத்த அதே யோசனைகளைப் பயன்படுத்தி வேகமாக முன்னேறியிருக்கலாம்.

அந்த சாத்தியம் ஒரு எளிய காரணத்திற்காக முக்கியமானது: ஆராய்ச்சியாளர்கள் பொதுவாக தங்கள் வெளியிடப்படாத படைப்புகளை ஒரு போட்டியாளருக்கு பயிற்சிக்காக சமர்ப்பிப்பதில்லை. ஆனால் AI ஆய்வகங்கள் குறியீட்டு உதவியாளர்கள் மற்றும் கிளவுட் தளங்களை வழங்கும்போது, பயனர்கள் தங்கள் மிகவும் நம்பிக்கைக்குரிய அறிவுசார் சொத்தை நேரடியாக நிறுவனத்தின் சொந்த மாதிரிகளை மேம்படுத்தக்கூடிய ஒரு அமைப்பில் செலுத்தலாம். ஒரு கருவியைப் பயன்படுத்துவதற்கும் ஆராய்ச்சியை அதற்கு ஒப்படைப்பதற்கும் இடையிலான எல்லையை கண்காணிப்பது கடினமாகிறது.

பயிற்சி தரவு கேள்விக்கு பதில் இல்லை

OpenAI ஊழியர்கள், இரண்டு ஆராய்ச்சியாளர்களும் தங்கள் உள்ளீடுகளை பயிற்சிக்கு பயன்படுத்த அனுமதிக்கும் விருப்பத்தை முடக்கியிருந்தால், நிறுவனம் சமர்ப்பிக்கப்பட்ட தீர்வுகளில் பயிற்சி பெற்ற வாய்ப்பு குறைவு என்று சுட்டிக்காட்டுகின்றனர். அவர்கள் அவ்வாறு செய்தார்களா என்பது பொதுவில் தெரியவில்லை. அறிவியல் கண்ணோட்டத்தில், அந்த நிச்சயமற்ற தன்மைதான் இந்த சர்ச்சையை ஆபத்தானதாக்குகிறது. இந்த வகையான ஒரு குற்றச்சாட்டை சுயாதீனமாக விசாரிக்க முடியாதபோது, ஆராய்ச்சியாளர்கள் தங்கள் பயிற்சி குழாயை வெளிப்புற ஆய்வுக்கு திறக்க சட்டப்பூர்வ கடமை இல்லாத ஒரு நிறுவனத்தின் வார்த்தையை நம்பியிருக்கிறார்கள்.

OpenAI ஆராய்ச்சியாளர் போயாஸ் பராக், மாதிரிக்கு வெளிப்புற உதவி தேவை என்ற கருத்தை பின்னுக்குத் தள்ளியுள்ளார். அவரது கூற்றுப்படி, மாதிரி ஒரு அறியப்பட்ட வாதத்தை மீண்டும் உருவாக்கவில்லை; அது கணிதவியலாளர்கள் செய்ததை விட வலுவான ஒரு கூற்றை நிரூபிப்பதன் மூலம் தொடங்கியது. வேறுவிதமாக பரிந்துரைப்பது, அவரது பார்வையில், யதார்த்தமான மதிப்பீட்டை விட சமாளிப்பதாகும். இருப்பினும் இந்த பாதுகாப்பு தோற்றம் பற்றிய ஆழமான கேள்வியை தீர்க்கவில்லை. இறுதியில் ஆராய்ச்சியாளர்களின் பணியை மீறிய ஒரு மாதிரி கூட அவர்களின் வரைவுகளால் பாதிக்கப்பட்டிருக்கலாம். அறிவியல் ஒருமைப்பாடு என்பது வெளியீடு நகலெடுக்கப்பட்டதா என்பதைப் பற்றி மட்டுமல்ல; அது அனுமதியின்றி ஒரு யோசனை எடுக்கப்பட்டதா என்பதைப் பற்றியும் சமமாகும்.

டெரன்ஸ் டாவோவின் எச்சரிக்கை

மிகவும் அமைதியான பதில்களில் ஒன்று கணிதவியலாளர் டெரன்ஸ் டாவோவிடமிருந்து வந்துள்ளது. இதுபோன்ற எதிர்கால நிகழ்வுகள் சுயாதீன கணிதவியலாளர்களை சாத்தியமற்ற நிலையில் விடக்கூடும் என்று அவர் எச்சரித்துள்ளார். ஒரு வதந்தி ஒரு பெரிய தொழில்நுட்ப நிறுவனத்தை அடையும் போது, அந்த நிறுவனம் சில நாட்களில் கணிசமான கம்ப்யூட் மற்றும் திறமையை அணிதிரட்ட முடியும். ஒரு சிறிய கல்வியாளர்கள் குழு அந்த வேகத்தை பொருத்த முடியாது, குறிப்பாக வதந்தி அவர்களின் சொந்த வெளியிடப்படாத வேலையை அடிப்படையாகக் கொண்டிருந்தால். இதன் விளைவாக, AI ஆய்வகங்கள் வழக்கமாக அசல் ஆராய்ச்சி திட்டங்களை முந்திக்கொள்ளலாம், ஏனெனில் அவை சிறந்த காதுகள் மற்றும் பெரிய இயந்திரங்களைக் கொண்டுள்ளன.

டாவோவின் எச்சரிக்கை உடனடி சர்ச்சைக்கு அப்பால் நீண்டுள்ளது. இது அறிவியலில் ஒரு வளர்ந்து வரும் சமச்சீரற்ற தன்மையை சுட்டிக்காட்டுகிறது: மிகவும் சக்திவாய்ந்த மாதிரிகளை உருவாக்கும் குழுக்கள் ஆரம்ப முடிவுகளைப் பற்றி கேட்க, அவற்றை பயிற்சி ஓட்டங்களில் ஒருங்கிணைக்க, முதலில் வெளியிட சிறந்த நிலையில் உள்ளன. கல்வி ஊக்கங்கள் முன்னுரிமை மற்றும் வெளிப்படைத்தன்மையைச் சுற்றி கட்டமைக்கப்பட்டுள்ளன, ஆனால் ஒரு போட்டியாளர் அனுமதியின்றி வெளியிடப்படாத தரவை உறிஞ்ச முடிந்தால் அந்த ஊக்கங்கள் அர்த்தமற்றவை.

திறந்த அறிவியலுக்கு இதன் பொருள் என்ன

Navier-Stokes சர்ச்சை எனவே இரண்டு நபர்களுக்கும் ஒரு ஆய்வகத்திற்கும் இடையிலான ஒரு தகராறு மட்டுமல்ல. இது AI மேம்பாட்டிற்கும் திறந்த ஆராய்ச்சிக்கும் இடையிலான உறவைப் பற்றிய அடிப்படை கேள்விகளை எழுப்புகிறது.

• ஆராய்ச்சியாளர்கள் தங்கள் வெளியிடப்படாத யோசனைகளை ஒரு நிறுவனத்தின் பயிற்சி தரவுகளில் இருந்து விலக்கி வைத்துக்கொண்டு AI குறியீட்டு தளங்களை பாதுகாப்பாக பயன்படுத்த முடியுமா? பெரும்பாலான பயனர்கள் அத்தகைய பாதுகாப்புகள் பயனுள்ளவை என்பதை சரிபார்க்க வழி இல்லை.
• AI ஆய்வகங்கள் மற்றொரு நிறுவனத்தின் ரகசிய அல்லது வதந்தி வேலையின் அடிப்படையில் தங்கள் ஆராய்ச்சி முயற்சிகளை திருப்பிவிட அனுமதிக்கப்பட வேண்டுமா, குறிப்பாக வதந்தி அவர்களின் சொந்த கருவிகளுக்குள் உருவாகும்போது?
• ஒரு இணை ஆசிரியர் போட்டி ஆய்வகத்தில் பணிபுரியும் போது, அந்த உண்மை ஆசிரியர் தன்மையை பாதிக்க வேண்டுமா? பக்மாஸ்டர், அந்த காரணத்திற்காக அல்போஜை காகிதத்தில் இருந்து அகற்ற OpenAI முயற்சித்ததாகக் கூறுகிறார், அதே நேரத்தில் நிறுவனம் முறைகேட்டை மறுக்கிறது ஆனால் அதன் ஆசிரியர் கொள்கையை தெளிவுபடுத்தவில்லை.
• கருத்துத் திருட்டு குற்றச்சாட்டு எழும்போது பயிற்சி தரவு மற்றும் மாதிரி எடைகளுக்கு யார் அணுகல் வேண்டும்? தற்போதைய சர்ச்சை தீர்வு வழிமுறைகள் வெளிப்புற தணிக்கையாளர்களுக்கு தெளிவான பாதையை வழங்கவில்லை.
• இளம் ஆராய்ச்சியாளர்கள் தங்கள் பணி ஒரு சக்திவாய்ந்த நடிகரால் சுரண்டப்படும் என்று அஞ்சினால், ஆரம்ப முடிவுகளைப் பகிர்ந்து கொள்ளும் துறையின் விருப்பத்திற்கு என்ன நடக்கும்?

இவை சுருக்கமான கவலைகள் அல்ல. இந்த சர்ச்சை AI நிறுவனங்கள் நடுநிலை அறிவியல் பங்காளர்களாக செயல்பட முடியும் என்ற நம்பிக்கையை ஏற்கனவே சேதப்படுத்தியுள்ளது. Navier-Stokes இல் ஆர்வம் இல்லாத ஆராய்ச்சியாளர்கள் கூட ஒரு AI ஆய்வகத்தால் இயக்கப்படும் ஒரு தளத்தில் ஒரு நம்பிக்கைக்குரிய லெம்மா அல்லது வெளியிடப்படாத முறையை பதிவேற்றுவதற்கு முன் நியாயமாக தயங்கக்கூடும்.

நம்பிக்கையை எடுத்துக்கொள்ள முடியாது

OpenAI மற்றும் அதன் பாதுகாவலர்கள் எந்த முறைகேடும் நடக்கவில்லை என்று சொல்வது சரியாக இருக்கலாம். கிடைக்கக்கூடிய சான்றுகள் முழுமையடையவில்லை, மேலும் ஒரு அப்பாவி தற்செயல் நிகழ்வின் சாத்தியம் உண்மையானது. ஆனால் இந்த நிகழ்வு பொறுப்பான AI ஆராய்ச்சி எப்படி இருக்க வேண்டும் என்பதற்கான தரத்தை உயர்த்தியுள்ளது. கணிதவியலாளர்களுக்கான கருவிகளை உருவாக்கும் ஒரு ஆய்வகம் அவர்களின் வேலையைப் பயன்படுத்த மாட்டேன் என்ற தெளிவற்ற வாக்குறுதியை நம்ப முடியாது. பயனர் பங்களிப்புகள் ஒப்புதல் இல்லாமல் எதிர்கால மாதிரிகளில் தோன்றாது என்பதை வெளிப்படையான தரவு கையாளுதல் கொள்கைகள் மற்றும் சுயாதீன தணிக்கை வழிமுறைகள் மூலம் நிரூபிக்க வேண்டும்.

பரந்த பாடம் என்னவென்றால், விஞ்ஞானிகளும் AI ஆய்வகங்களும் வெவ்வேறு தர்க்கங்களின் கீழ் செயல்படுகின்றன. கல்வியாளர்கள் அறிவை உருவாக்க பகிர்கிறார்கள்; நிறுவனங்கள் நன்மையை உருவாக்க பகிர்கின்றன. இரண்டு அமைப்புகளும் மோதும்போது, பலவீனமான பக்கம் பொதுவாக கார்ப்பரேட் சுவர்களுக்கு வெளியே இருக்கும் ஆராய்ச்சியாளர். Navier-Stokes சர்ச்சை அதைத் தூண்டிய கணித சாதனைக்காக மட்டுமல்ல, உருவாக்கும் AI யுகத்தில் திறந்த அறிவியலின் பாதிப்பு பற்றி அது வெளிப்படுத்தியதற்காகவும் நினைவுகூரப்படும். தெளிவான விதிமுறைகள் விரைவில் நிறுவப்படாவிட்டால், அடுத்த மில்லினியம் பிரச்சனை ஒரு பிளாக்போர்டில் ஒரு தனி கணிதவியலாளரால் அல்ல, ஆனால் கேள்வி வெளியிடப்படுவதற்கு முன்பே பதிலைக் கண்ட ஒரு கார்ப்பரேட் குழுவால் தீர்க்கப்படலாம்.

இந்த கட்டுரை The Decoder இன் அறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.