ஆல்ட்மேன், மஸ்க், ஹசாபிஸ் ஆகியோர் சுயாதீன AI மேற்பார்வைக்கான அமோடேயின் அழைப்புக்கு ஆதரவு

AI பாதுகாப்பு விவாதத்தில் எதிர்பாராத ஒரு ஒருமித்த போக்கு

செயற்கை நுண்ணறிவுத் துறையின் மிக முக்கியமான மூன்று நபர்கள் — OpenAI-யின் தலைமை நிர்வாகி சாம் ஆல்ட்மேன், எலான் மஸ்க், முன்னாள் DeepMind CEO டெமிஸ் ஹசாபிஸ் — ஆகியோர் Anthropic CEO டாரியோ அமோடே முன்வைத்த, AI ஆய்வகங்களுக்குள் சுயாதீன மேற்பார்வை வேண்டும் என்ற முன்மொழிவுக்கு குறைந்தபட்சம் பகுதி ஆதரவையாவது அளித்துள்ளனர். The Decoder வெளியிட்ட இந்த ஒத்திசைவு, ஆபத்து, காலக்கெடு, ஒழுங்குமுறை ஆகியவை குறித்து தலைவர்கள் பொதுவில் அடிக்கடி முரண்படும் ஒரு துறையில் குறிப்பிடத்தக்க தருணமாக அமைகிறது. இது AI வளர்ச்சியை மெதுவாக்குவது குறித்த முழுமையான ஒருமித்த கருத்தைக் குறிக்கவில்லை; ஆனால் வெளிப்புற அல்லது சுயாதீன மதிப்பீடு என்ற கருத்து பரவலான நிலைக்கு நெருங்கியிருப்பதை இது காட்டுகிறது.

மஸ்க்கின் நிலைப்பாடு மிகக் குறைவான ஆச்சரியத்தையே தருகிறது. பல ஆண்டுகளாக அவர் AI ஆபத்துகள் குறித்து எச்சரித்து வந்துள்ளார்; மேம்பட்ட அமைப்புகளை அடிக்கடி ஒரு இருப்பு சார்ந்த கவலையாகச் சித்தரித்துள்ளார். மாறாக, ஆல்ட்மேனும் ஹசாபிஸும் முன்னணி மாதிரிகளை விரைவாகப் பயன்பாட்டுக்குக் கொண்டுவருவதை நம்பியிருக்கும் நிறுவனங்களை வழிநடத்துகிறார்கள். சுயாதீன மேற்பார்வையை — பகுதியாக இருந்தாலும் — ஏற்க அவர்கள் காட்டும் தயார்நிலை, மேற்பார்வை தேவையா என்ற கேள்வியிலிருந்து அது எப்படி வடிவமைக்கப்பட வேண்டும், யார் அதை நடத்த வேண்டும் என்ற கேள்விக்கு விவாதம் நகர்ந்திருப்பதைக் குறிக்கிறது.

அமோடே முன்வைத்தது என்ன

அமோடேயின் முன்மொழிவு, AI ஆய்வகங்கள் தங்கள் சொந்த பாதுகாப்புக்குத் தாங்களே ஒரே தீர்ப்பாளர்களாக இருக்கக் கூடாது என்ற கொள்கையை மையமாகக் கொண்டது. இந்த அமைப்பில், சுயாதீன மதிப்பீடு என்பது வெளி நிபுணர்களுக்கு மாதிரிகள் மற்றும் பயிற்சி செயல்முறைகளுக்கான அணுகலை வழங்கி, பயன்பாட்டுக்கு முன் திறன்களையும் ஆபத்துகளையும் மதிப்பிட அனுமதிக்கும். ஆல்ட்மேனும் அமோடேயும் இந்த மையக் கருத்தில் உடன்படுகிறார்கள் எனத் தெரிவிக்கப்படுகிறது: AI ஆய்வகங்கள் சுயாதீனமாக மதிப்பிடப்பட வேண்டும். இந்த ஒத்திசைவு முக்கியமானது, ஏனெனில் இருவரும் முன்னணியில் போட்டியிடும் நிறுவனங்களை நடத்துகிறார்கள்; மேலும் இருவரும் முன்பு, சுய-ஒழுங்குமுறை என்பது தன் வீட்டுப்பாடத்தைத் தானே திருத்திக்கொள்வதற்குச் சமம் என்ற விமர்சனத்தை எதிர்கொண்டுள்ளனர்.

பகிரப்பட்ட கொள்கையாக சுயாதீன மதிப்பீடு

ஆல்ட்மேன், மஸ்க், ஹசாபிஸ் ஆகியோரின் ஆதரவு, ஒரு இடைநிறுத்தம் அல்லது உலகளாவிய வேக வரம்பு குறித்த முழுமையான ஒப்பந்தம் அல்ல. அதை ஒரு நிர்வாகக் கட்டமைப்புக்கான ஆதரவாகவே புரிந்துகொள்வது சிறந்தது: முன்னணி அமைப்புகளை சுயாதீனமாக ஆய்வு செய்வது. இந்த வேறுபாடு முக்கியமானது. ஒரு ஆய்வகம் வெளிப்புற மதிப்பீட்டை ஏற்றுக்கொண்டாலும், மதிப்பீடு அமைப்பு தொடர்வதற்குப் போதுமான பாதுகாப்பானது எனக் காட்டினால், விரைவான வளர்ச்சிக்காக வாதிடலாம். மாறாக, ஒரு விமர்சகர் கட்டாய மெதுவாக்கத்தை எதிர்த்தாலும் சுயாதீன மேற்பார்வையை ஆதரிக்கலாம்.

ஒப்பந்தம் ஏன் பகுதியளவே

ஆதரவின் பகுதி இயல்பு, அமலாக்கம் குறித்த கடுமையான முரண்பாடுகளுக்கு இடமளிக்கிறது. மதிப்பீட்டாளர்களை யார் நியமிப்பது? அவர்களுக்கு என்ன அணுகல் கிடைக்கும்? ஒரு ஆய்வகம் அவர்களின் கண்டுபிடிப்புகளை மறுத்தால் என்ன நடக்கும்? இந்தக் கேள்விகள் எதுவும் பகிரப்பட்ட கொள்கையால் தீர்க்கப்படவில்லை. AI ஆய்வகங்களுக்குள் சுயாதீன மேற்பார்வையின் தேவையில் தலைவர்கள் உடன்பட்டனர் என்று The Decoder குறிப்பிடுகிறது; ஆனால் நடைமுறை விவரங்கள் திறந்தே உள்ளன — அந்த விவரங்கள்தான் மேற்பார்வை அர்த்தமுள்ளதா அல்லது வெறும் அடையாளமா என்பதைத் தீர்மானிக்கும்.

OpenAI-யின் IPO நேரம் மற்றும் பாதுகாப்பு விளக்கம்

OpenAI இந்த ஆண்டு பொதுப் பங்கு வெளியீட்டுக்கு (IPO) செல்லாது என்று ஆல்ட்மேன் Fortune-இடம் தெரிவித்தார்; பாதுகாப்புக் கவலைகளைக் காரணமாகக் கூறினார். ஜூன் மாதத்திலேயே அந்த முடிவை உள் அளவில் தெரிவித்துவிட்டதாகவும் அவர் கூறியுள்ளார். இந்த நடவடிக்கையை, பாதுகாப்புக் கருத்தில் IPO-ஐ 2027-க்கு தள்ளிப்போடுவதாக அந்த வேட்பாளர் சுருக்கம் சித்தரிக்கிறது; அதே நேரத்தில் ஒரு மாற்று வாசிப்பையும் குறிப்பிடுகிறது: OpenAI-யின் நிதிநிலை இப்போது IPO-ஐ ஆதரிக்காமல் இருக்கலாம், குறிப்பாக Anthropic-உடன் ஒப்பிடும்போது. இரண்டு விளக்கங்களும் ஒரே நேரத்தில் உண்மையாக இருக்கலாம். ஒரு நிறுவனம் சாதகமற்ற சந்தை நிலைமைகளை எதிர்கொள்ளலாம்; அதே நேரத்தில் காத்திருப்பதற்கான காரணமாக பாதுகாப்பை வலியுறுத்தவும் தேர்வு செய்யலாம்.

தாமதத்தின் இரண்டு வாசிப்புகள்

பாதுகாப்பு விளக்கம் ஆல்ட்மேனின் சமீபத்திய பொது நிலைப்பாட்டுடன் பொருந்துகிறது. முன்னணி AI கடுமையான ஆபத்துகளைச் சுமந்தால், பொதுப் பட்டியலின் வெளிப்படுத்தல் கடமைகளையும் காலாண்டு அழுத்தங்களையும் ஏற்பது, வேண்டுமென்றே வகுக்கப்பட்ட பாதுகாப்பு உத்தியைச் சிக்கலாக்கலாம். நிதி விளக்கம் போட்டி நிலப்பரப்புடன் பொருந்துகிறது. Anthropic ஒரு ஒப்பீட்டு மையமாகக் குறிப்பிடப்பட்டுள்ளது; IPO என்பது இறுதியில் ஒரு தத்துவ முடிவு மட்டுமல்ல, ஒரு சந்தை முடிவும் கூட. எந்தக் காரணி காலக்கெடுவை இயக்குகிறது என்பதில் தெளிவு கேட்க முதலீட்டாளர்களும் ஒழுங்குமுறை அமைப்புகளும் வாய்ப்புள்ளது.

எப்படியிருந்தாலும், இந்தத் தாமதம் OpenAI-ஐ முக்கிய AI நிறுவனங்களிடையே தனித்துவமான ஒரு பிரிவில் வைத்திருக்கிறது: அதன் தலைமை, தனது மூலதனச் சந்தை முடிவுகளை பாதுகாப்புக் கவலைகளுடன் பொதுவில் இணைக்கும் ஒரு முன்னணி ஆய்வகம். அந்த இணைப்பு மேற்பார்வை விவாதத்துக்கு ஒரு உறுதியான கார்ப்பரேட் பரிமாணத்தை அளிக்கிறது. இது இனி சுருக்கமான கொள்கைகளைப் பற்றியது மட்டுமல்ல; ஒரு முன்னணி ஆய்வகம் தனது நிர்வாகத்தை, வெளிப்படுத்தலை, வெளிப்புற ஆய்வுக்கான கடமைகளை எப்படி அமைக்கிறது என்பதைப் பற்றியது.

எதிர்வாதம்: உண்மையான வேக வரம்பாக நிலைத்தன்மை

அமோடே முன்மொழிந்த வேக வரம்பின் அடிப்படைக் கருதுகோளை எல்லோரும் ஏற்கவில்லை. Google ஆய்வாளர் பெய்மான் மிலான்ஃபர் இதை எதிர்த்தார்; சுழற்சி சுய-மேம்பாடு (RSI) என்பது ஒரு அப்பாவித்தனமான அனுமானம் என்று வாதிட்டார், ஏனெனில் அதில் உள்ளூரும் பின்னூட்டச் சுற்றுகள் இயல்பாகவே நிலையற்றவை. அவரது பார்வையில், ஒரு அமைப்பு தன்னை மேம்படுத்த முயல முயல, அது ஆழமான குருட்டுப் புள்ளிகளுக்குள் விழுகிறது. நம்பகமான ஆதாரம், 벤்ச்மார்க்குகளிலிருந்து அல்ல, உண்மையான உலகத்திலிருந்தே வருகிறது என்று அவர் வாதிடுகிறார்.

வேக வரம்பு ஏன் தேவையற்றது என்று மிலான்ஃபர் கூறுகிறார்

மிலான்ஃபரின் வாதம் அவரை வேறு ஒரு முடிவுக்கு இட்டுச் செல்கிறது: சுய-மேம்பாடு இயல்பாகவே வரம்புக்குட்பட்டிருப்பதால், கட்டாய வேக வரம்பு தேவையில்லை. தங்களை நம்பகமாக மேம்படுத்திக்கொள்ளும் திறன் கொண்ட அமைப்புகள், தூய திறன்மைக் கண்ணோட்டத்தில் வீணாகத் தோன்றும் விளிம்புகளால் நிர்வகிக்கப்படும், தணிக்கப்படும், மெதுவாக்கப்படும், கட்டுப்படுத்தப்படும் என்று அவர் வாதிடுகிறார். அவரது வடிவமைப்பில், நிலைத்தன்மையே செயல்படும் வேக வரம்பாக இருக்கிறது. அது சரியெனில், கட்டுப்பாடற்ற சுழற்சி மேம்பாடு என்பது நெருங்கிவரும் உறுதியான ஒன்றாக இல்லாமல், பின்னூட்டச் சுற்றுகளின் உடையக்கூடிய தன்மையைப் புறக்கணிக்கும் ஒரு கோட்பாட்டு நிலைப்பாடாகவே இருக்கும்.

இது மேற்பார்வைக்கான அழைப்புகளை உயிர்ப்பிக்கும் ஆபத்து மாதிரிக்கு நேரடி சவாலாகும். பாதுகாப்பான வேகத்திற்கு அப்பால் ஆய்வகங்கள் முடுக்கிவிடக்கூடும், வெளிப்புற கட்டுப்பாடுகள் விதிக்கப்படாவிட்டால் என்று அமோடேயின் முன்மொழிவு கருதுகிறது. அடிப்படை இயக்கவியலே ஏற்கனவே தனது சொந்தக் கட்டுப்பாடுகளை விதிக்கிறது என்றும், 벤்ச்மார்க் சார்ந்த கதைகள் ஒரு அமைப்பு தனது திறன்களை எவ்வளவு எளிதாக தானாக மேம்படுத்திக்கொள்ள முடியும் என்பதை மிகைப்படுத்துகின்றன என்றும் மிலான்ஃபரின் பதில் கருதுகிறது. பாதுகாப்பு முக்கியமா என்பது குறித்த முரண்பாடு இது அல்ல; தொழில்நுட்பத்திற்கு உண்மையில் எந்த வகையான தலையீடு, ஏதேனும் தேவைப்படுகிறது என்பது குறித்ததே.

விவாதம் அடுத்து எங்கு செல்கிறது

இரு лагерிகளுக்கு இடையிலான பிளவு AI நிர்வாகம் எப்படி வளரும் என்பதை வடிவமைக்கும். சுயாதீன மேற்பார்வை ஒரு நிலையான எதிர்பார்ப்பாக மாறினால், ஆய்வகங்கள் தங்கள் வெளிப்புற மதிப்பீட்டாளர்களின் நம்பகத்தன்மையில் போட்டியிடலாம். நிலையற்ற தன்மை வாதம் வலுப்பெற்றால், மெதுவாக்கத்திற்கான அழைப்புகள், தங்கள் சொந்த வரம்புகளால் ஏற்கனவே கட்டுப்படுத்தப்பட்ட அமைப்புகளின் மீதான தேவையற்ற பிரேக்குகளாக மறுவரையறை செய்யப்படலாம்.

• AI ஆய்வகங்களுக்குள் சுயாதீன மேற்பார்வை வேண்டும் என்ற அமோடேயின் அழைப்பை ஆல்ட்மேன், மஸ்க், ஹசாபிஸ் ஆகியோர் தலா ஓரளவு ஆதரித்துள்ளனர்.
• AI ஆய்வகங்கள் சுயாதீனமாக மதிப்பிடப்பட வேண்டும் என்பதில் ஆல்ட்மேனும் அமோடேயும் உடன்படுகிறார்கள் எனத் தெரிவிக்கப்படுகிறது.
• பாதுகாப்புக் கவலைகளைக் காரணமாகக் கூறி, OpenAI இந்த ஆண்டு பொதுப் பங்கு வெளியீட்டுக்குச் செல்லாது என்று ஆல்ட்மேன் Fortune-இடம் தெரிவித்தார்; இந்த முடிவை ஜூன் மாதம் உள் அளவில் பகிர்ந்தார்.
• வேட்பாளர் சுருக்கம் ஒரு போட்டி நிதி வாசிப்பையும் சுட்டுகிறது: OpenAI-யின் எண்கள் இப்போது ஒரு IPO-ஐ ஆதரிக்காமல் இருக்கலாம், குறிப்பாக Anthropic-உடன் ஒப்பிடும்போது.
• சுய-மேம்படுத்தும் பின்னூட்டச் சுற்றுகள் நிலையற்றவை என்பதாலும், மேம்படுத்தல் ஆழமாகும்போது குருட்டுப் புள்ளிகள் ஆழமாகும் என்பதாலும், RSI ஒரு அப்பாவித்தனமான அனுமானம் என்று Google ஆய்வாளர் பெய்மான் மிலான்ஃபர் வாதிடுகிறார்.
• நம்பகமான ஆதாரம் 벤்ச்மார்க்குகளிலிருந்து அல்ல, உண்மையான உலகத்திலிருந்தே வருகிறது என்றும், நிலைத்தன்மையே செயல்படும் வேக வரம்பாக இருக்கிறது என்றும் மிலான்ஃபர் வாதிடுகிறார்.

இப்போதைக்கு, மிக முக்கியமான வளர்ச்சி, ஒரு காலத்தில் மேற்பார்வை முன்மொழிவுகளை நிராகரித்த தலைவர்களுக்கும், அவற்றை ஆதரித்தவர்களுக்கும் இடையிலான இடைவெளி குறைந்து வருவதாகவே இருக்கலாம். சுயாதீன மதிப்பீடு இனி ஒரு ஓரங்கட்டப்பட்ட கோரிக்கை அல்ல. இது OpenAI முதல் Anthropic வரை, மஸ்க்கின் நீண்டகால எச்சரிக்கைகள் முதல் ஹசாபிஸின் ஆய்வுப் பின்னணி வரை — முன்னணியின் பல்வேறு நபர்களும் குறைந்தபட்சம் பகுதியாக ஆதரிக்கக்கூடிய ஒரு நிலைப்பாடு. மீதமுள்ள கேள்விகள் நிறுவன வடிவமைப்பு, அமலாக்கம், மற்றும் ஒரு IPO-ஐ தாமதப்படுத்துவதற்கான பாதுகாப்புக் காரணம் ஒரு நீடித்த உத்தியா அல்லது ஒரு வசதியான கதையா என்பது குறித்தவை. வேக வரம்பு விவாதத்தில் எந்தப் பக்கம் வென்றாலும், அந்தக் கேள்விகள் தொழில்துறையை அதன் அடுத்த கட்டத்திற்கு பின்தொடரும்.

இந்தக் கட்டுரை The Decoder-இன் செய்தி அறிக்கையை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.