AGI கட்டுப்பாடு திறனிலிருந்து ஆளுமைக்கு நகரும் நிலையில் OpenAI ஐந்து வழிகாட்டும் கொள்கைகளை முன்வைக்கிறது

OpenAI, AGI-யை வெறும் தொழில்நுட்ப கேள்வியாக அல்ல, அரசியல் மற்றும் பொருளாதாரக் கேள்வியாகவும் அமைக்கிறது

chief executive Sam Altman-ன் புதிய principles statement மூலமாக OpenAI advanced artificial intelligence-ன் எதிர்காலம் குறித்து ஒரு விரிவான வாதத்தை முன்வைத்தது: தீர்மானிக்கும் விஷயம் performance மட்டும் அல்ல, governance, access, மற்றும் power-ன் பகிர்வு என்பதே.

அதன் mission artificial general intelligence மனிதகுலம் முழுவதற்கும் பயனளிக்க வேண்டும் என்பதையே உறுதி செய்வதுதான் என நிறுவனம் கூறுகிறது. புதிய post-இல் Altman ஐந்து கொள்கைகளை முன்வைக்கிறார்; அவை OpenAI-யின் பணிக்குத் திசைநாடிகள் என நிறுவனம் சொல்கிறது. வெளியிடப்பட்ட உரை குறிப்பாக democratization, empowerment, மற்றும் universal prosperity மீது கவனம் செலுத்துகிறது.

இந்த அறிக்கை ஒரு values document ஆகவும் positioning move ஆகவும் ஒரே நேரத்தில் படிக்கப்படுகிறது. AI systems மேலும் திறமையாகவும் பொதுவாழ்வில் ஆழமாகவும் இணைந்துவரும் நிலையில், labs-கள் தாம் எவ்வாறு உருவாக்குகின்றன என்பதைத்தான் அல்ல, அந்த systems ஆதரிக்க வேண்டிய சமூக ஒழுங்கு எத்தகையதாக இருக்க வேண்டும் என்பதையும் விளக்க வேண்டிய அழுத்தம் அதிகரிக்கிறது.

பட்டியலின் உச்சியில் democratization

post-இல் முதல் கொள்கை democratization. superintelligence சில நிறுவனங்களின் கைகளில் power-ஐ மேலும் மையப்படுத்தும் எதிர்காலத்தைத் தடுப்பதே தனது நோக்கம் என்று OpenAI கூறுகிறது. அதற்கு பதிலாக, capability-யை decentralize செய்யப்பட்ட வகையில் பரவச் செய்வதையும், AI குறித்த முக்கிய முடிவுகள் AI labs மட்டும் அல்ல, democratic processes மற்றும் egalitarian principles வழியாக எடுக்கப்பட வேண்டும் என்பதையும் வலியுறுத்துகிறது.

இந்த framing முக்கியமானது, ஏனெனில் இது தற்போதைய AI சுழற்சியின் முக்கிய முரண்பாடுகளில் ஒன்றில் OpenAI-யை நிறுத்துகிறது. மிக மேம்பட்ட models-க்கு அபார compute, talent, மற்றும் capital தேவை. அந்த உண்மைகள் வளர்ச்சியை இயல்பாகவே சில நிறுவனங்களிடம் குவிக்கின்றன. OpenAI-ன் அறிக்கை அந்த ஆபத்தை நேரடியாக ஏற்றுக்கொண்டு, broad access-க்கு broad participation in decision-making இணைந்து வர வேண்டும் என்ற அரசியல் கொள்கையால் பதிலளிக்க முயல்கிறது.

இந்த மொழி aspirational ஆகவும் உள்ளது, strategic ஆகவும் உள்ளது. frontier systems உருவாக்கும் ஒரு நிறுவனம், future-ஐ frontier companies மட்டும் தீர்மானிக்கக் கூடாது என்று வெளிப்படையாக வாதிடுகிறது.

Empowerment-ஐ product test ஆக முன்வைக்கிறது

இரண்டாவது கொள்கை empowerment. AI மக்களுக்கு இலக்குகளை அடைய, மேலும் கற்றுக்கொள்ள, தங்கள் கனவுகளைப் பின்பற்ற, மற்றும் மேலும் நிறைவான வாழ்க்கை வாழ உதவும் என்று OpenAI நம்புகிறது; இதன் பலன் சமூகத்திற்கும் பரவலாக கிடைக்கும் என அது கூறுகிறது. அந்த வாக்குறுதியை நனவாக்க, increasingly valuable tasks-ஐ பயனர்கள் செய்து முடிக்க உதவும் products தேவை என்று நிறுவனம் வாதிடுகிறது.

இந்த பகுதி philosophy-யை product utility-யுடன் மிக நெருக்கமாக இணைப்பதற்காக குறிப்பிடத்தக்கது. OpenAI empowerment-ஐ ஒரு abstract moral benefit ஆக விவரிக்கவில்லை. அது அதை operational terms-இல் வரையறுக்கிறது: இந்த systems-இன் மூலம் users நம்பகமாக meaningful work செய்யக்கூடியதாக இருக்க வேண்டும்.

post autonomy-யையும் வலியுறுத்துகிறது. உலகம் பல்வகையானது, மக்களின் தேவைகளும் வேறுபடுகின்றன என்று அது சொல்கிறது. deployment-ஐ minimize harm செய்யும் வகையில் நிர்வகிக்கும்போது, பயனர்கள் அதன் services-ஐ எப்படி பயன்படுத்துவது என்பதில் broad latitude பெற வேண்டும் என OpenAI வாதிடுகிறது.

இந்த இணைப்பு AI policy-யில் பழக்கமான சமநிலையை காட்டுகிறது. நிறுவனம் user freedom மற்றும் capability-ஐ விரிவாக்க விரும்புகிறது; அதே சமயம் risk இன்னும் uncertain அல்லது significant என்று அது கருதும் இடங்களில் restrictions-ஐ வைத்திருக்க விரும்புகிறது. Altman, uncertainty உள்ள சூழ்நிலைகளில் caution பக்கம் சாய்ந்தும், கூடுதல் evidence ஆதரிக்கும் போது மட்டுமே constraints-ஐ தளர்த்தியுமாக இருக்கலாம் என்று எழுதுகிறார்.

Universal prosperity வாதத்தை software-ஐத் தாண்டி விரிவாக்குகிறது

கிடைக்கும் உரையில் குறிப்பிடப்பட்ட மூன்றாவது கொள்கை universal prosperity. அனைவருக்கும் சிறந்த வாழ்க்கை அமைய வேண்டும் என்ற எதிர்காலத்தை OpenAI விரும்புகிறது, மேலும் substantial compute power உடைய easy-to-use AI systems-ஐ அனைவரின் கைகளிலும் வைப்பது, value உருவாக்கும் புதிய வழிகளை மக்கள் கண்டறிய உதவும் என்று அது வாதிடுகிறது.

இந்தப் புள்ளி உரையாடலை consumer tools மற்றும் enterprise productivity-இலிருந்து economics-ஐ நோக்கி விரிவாக்குகிறது. advanced AI-ஐ opportunity, wealth creation, மற்றும் social mobility-க்கு தாக்கம் கொண்ட ஒரு general-purpose system ஆக OpenAI பார்க்கிறது என்பதை இது உணர்த்துகிறது; வெறும் புதிய software category ஆக அல்ல.

இங்கே கிடைக்கும் குறைந்த உரை பகுதியில்கூட, வாதத்தின் அமைப்பு தெளிவாக உள்ளது. நிறுவனம் AI-ஐ individual agency-யை பெரிதும் விரிவாக்கக்கூடிய சக்தியாகக் காட்டுகிறது; ஆனால் access விரிவாக இருக்கவும், infrastructure-ஐ own செய்பவர்களிடமே பலன்கள் சுருங்கி நிற்காமல் இருக்கவும் வேண்டும்.

அதிகரிக்கும் scrutiny-க்கு பதிலாக

இந்த principles post, அரசுகள், researchers, labor groups, creators, மற்றும் civil society ஆகியவற்றிடம் இருந்து AI நிறுவனங்கள் அதிகரிக்கும் கேள்விகளை எதிர்கொள்ளும் நேரத்தில் வருகிறது. இக்கேள்விகள் model safety அல்லது benchmark performance-க்கு மட்டும் கட்டுப்பட்டவை அல்ல. சந்தை குவிப்பு, public accountability, social impact, மற்றும் பரவலான civic consequences கொண்ட technologies-க்கு private actors de facto விதிகளை அமைப்பதன் நியாயத்தையும் உள்ளடக்குகின்றன.

தொழில்நுட்பத்தின் upside மிகப் பெரியதாக இருக்கலாம், ஆனால் முடிவு உறுதியானது அல்ல என்று ஒப்புக்கொண்டு OpenAI பதிலளிக்கிறது. எதிர்காலம் முழுக்க நல்லதுமல்ல, முழுக்க கெட்டதுமல்ல என்றும், இப்போது எடுக்கப்படும் முடிவுகள் நல்லதைக் கூடுதல் அளவில் அதிகரிக்க முடியும் என்றும் post கூறுகிறது. இது ஒரு pragmatic formulation. அது simple inevitability-யையும் simple catastrophe-யையும் இரண்டையும் நிராகரித்து, இதை governance challenge ஆக மாற்றுகிறது.

அதே நேரத்தில், இந்த அறிக்கை எந்த பெரிய AI நிறுவனத்துக்கும் தீர்க்க கடினமான ஒரு tension-ஐ வெளிப்படுத்துகிறது. decentralization-ஐ ஆதரிப்பதாக அறிவிப்பது, scarce compute மற்றும் பெரிய capital requirements கொண்ட துறையில் அதை structure-அளவில் அடைவதைவிட எளிது. அதேபோல் democratic input-ஐ வலியுறுத்துவது, அந்த authority-யை எந்த institutions exercise செய்ய வேண்டும், அதை எப்படி செய்ய வேண்டும் என்று விளக்குவதைக் காட்டிலும் எளிது.

இந்த அறிக்கை ஏன் முக்கியம்

Principles documents policy disputes-ஐ முடிவுக்கு கொண்டு வருவதில்லை. ஆனால் அவை நிறுவனங்கள் எதற்காக accountable ஆக விரும்புகின்றன, பொதுமக்கள் தங்கள் பங்கைக் כיצד புரிந்துகொள்ள வேண்டும் என அவை எதை விரும்புகின்றன என்பதைக் காட்டுகின்றன. இங்கு OpenAI, தனது self-conception சக்திவாய்ந்த models உருவாக்குவதைத் தாண்டியது என்று வாசகர்களுக்குச் சொல்கிறது. advanced AI சமூகத்தை அடையும் நிபந்தனைகளை வடிவமைக்கும் ஒன்றாகக் காணப்பட வேண்டும் என்பதே அதன் விருப்பம்.

அதனால், post பொதுவாக இருந்தாலும் முக்கியமானது. நிறுவனம் மூன்று தொடர்புடைய வாதங்களை public-ஆக முன்வைக்கிறது: AI பரவலாக பகிரப்பட வேண்டும், அது மனித திறனை அதிகரிக்க வேண்டும், மேலும் அது பரவலாக பகிரப்பட்ட prosperity-ஐ ஆதரிக்க வேண்டும். இவை இனி OpenAI-யின் products, restrictions, partnerships, மற்றும் political choices மூலம் மதிப்பிடப்படும்.

AGI debate முதிர்ச்சியடையும் நிலையில், இத்தகைய statements தொழில் கதையின் பெரும் பகுதியாக மாற வாய்ப்புள்ளது. இன்னும் headlines-ஐ capability இயக்குகிறது. ஆனால் control, access, மற்றும் legitimacy தான் அந்த capability-யை முன்னேற்றமாக மக்கள் பார்க்கிறார்களா என்பதை increasingly தீர்மானிக்கின்றன.

இந்தக் கட்டுரை OpenAI reporting-ஐ அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.