Anthropic முன்னணி AI வேகத்தை குறைக்கலாம் என சொல்கிறது, ஆனால் முழுமையான கோரிக்கையை நிறுத்துகிறது

Anthropic கைக்கழுத்தை இழுக்கிறது, ஆனால் முழுவதுமாக அல்ல

செயல்படுத்துவது சாத்தியமாக இருந்தால், frontier AI வளர்ச்சியின் வேகத்தை அர்த்தமுள்ள வகையில் குறைப்பது புத்திசாலித்தனமாக இருக்கலாம் என்று வாதிட்டு, Anthropic மீண்டும் அந்த விவாதத்தைத் தூண்டியுள்ளது. Gizmodo விவரித்த ஒரு நிறுவனம் வெளியிட்ட blog post-இல், அந்த ஆய்வகம் தனது உள் தரவுகளை சுட்டிக்காட்டி, மனிதர் loop-இல் இல்லாமல் AI அமைப்புகள் தங்கள் திறன்களைத் தாங்களே மேம்படுத்திக் கொள்கிற “recursive self-improvement” என்ற கட்டத்தை மேம்பட்ட systems நெருங்கக்கூடும் என்று எச்சரித்தது.

முக்கிய செய்தி கவனத்தை ஈர்க்கும் அளவுக்கு தெளிவாக இருந்தது: self-improving AI கொண்ட உலகம் அறிவியல், சுகாதாரம் மற்றும் பிற துறைகளில் பெரிய நன்மைகளை உருவாக்கலாம், ஆனால் அதே நேரத்தில் அந்த systems மீது மனிதர்கள் கட்டுப்பாட்டை இழக்கும் அபாயத்தையும் அதிகரிக்கலாம். அதேசமயம், pause-க்கு நேரடி செயல்பாட்டு கோரிக்கையை Anthropic வெளியிடவில்லை. மூலத்தின் குறிப்புப்படி, அதன் மொழி பல நிபந்தனைகளுடன் இருந்தது.

நிபந்தனையாக வடிவமைக்கப்பட்ட எச்சரிக்கை

AI முன்னேற்றத்தை மந்தப்படுத்தும் எண்ணத்தை, நிறுவனம் Cold War காலத்தின் disarmament மற்றும் non-proliferation முயற்சிகளுடன் ஒப்பிட்டது; அதிக சக்தி கொண்ட systems-ன் விளைவுகளை சமாளிக்க வளர்ச்சிக்கான வரம்புகள் சமூகங்களுக்கு உதவக்கூடும் என்று அது சுட்டிக்காட்டியது. ஆனால் அதன் வார்த்தைகள் தெளிவான action call-ஆக மாறவில்லை. வளர்ச்சியைச் செயல்திறனுடன் மந்தப்படுத்தி கூடுதல் நேரத்தை வாங்குவது சாத்தியமானால், அது நிச்சயமாக நல்லது என்று எழுத்தாளர்கள் குறிப்பிட்டனர்.

அந்த phrasing முக்கியமானது. இது Anthropic-ஐ கட்டுப்பாட்டைப் பற்றி பேசத் தயாரான ஒரு lab-ஆக நிலைநிறுத்துகிறது, ஆனால் தன்னிடமோ போட்டியாளர்களிடமோ வேலை நிறுத்த வேண்டும் என்ற எளிய, உடனடியாக சோதிக்கக்கூடிய கோரிக்கையைத் தவிர்க்கிறது. Gizmodo-வின் விளக்கம் என்னவென்றால், நிறுவனம் முழுமையான pause campaign-க்கு உறுதி அளிப்பதைவிட, ஒரு பரிந்துரையையே முன்வைக்கிறது.

நேரத்தின் முக்கியத்துவம்

இந்த அறிக்கையை பரந்த வணிகச் சூழலில் கட்டுரை வைக்கிறது. Anthropic மிகுந்த எதிர்பார்ப்புடன் இருக்கும் IPO-வுக்குத் தயாராகிறது என்று விவரிக்கப்படுகிறது; இது safety-first அடையாளமும் வருங்கால பங்குதாரர்களின் எதிர்பார்ப்புகளும் இடையே தெளிவான பதற்றத்தை உருவாக்குகிறது. நிறுவனம் தொடங்கியதிலிருந்து, Anthropic தன்னை AI ஆபத்தை தீவிரமாக எடுத்துக்கொள்கிற, தேவையானால் போட்டியாளர்களைவிட அதிக எச்சரிக்கையுடன் நகரத் தயாரான ஒரு நிறுவனமாக வேறுபடுத்த முயன்றுள்ளது.

அந்த நிலைப்பாடு அதன் பொதுப் படிமத்தை உருவாக்க உதவியுள்ளது. ஆனால் public-market மாற்றம் வளர்ச்சி, போட்டி நிலைமை, மற்றும் model முன்னேற்றம் ஆகியவற்றில் அழுத்தத்தை அதிகரிக்கும். அந்தப் பின்னணியில், வளர்ச்சியை மந்தப்படுத்த வேண்டும் என்ற hedged call-ஐ இரண்டு விதமாகப் படிக்கலாம்: ஒரு, system capabilities பற்றிய substantive warning; மற்றொன்று, இன்னும் போட்டியிட வேண்டிய நிறுவனத்திடமிருந்து வரும் கவனமாக அளவிட்ட பொது அறிக்கை.

Recursive self-improvement என்ற எல்லை

மூலத்தில் Anthropic-ன் அடிப்படை தொழில்நுட்ப ஆதாரம் விரிவாக வழங்கப்படவில்லை; எனவே நிறுவனத்தின் கூற்றின் முக்கியத்துவம் அது அந்தக் கூற்றை முன்வைக்கிறது என்பதில்தான் உள்ளது. Recursive self-improvement நீண்ட காலமாக AI risk விவாதங்களில் ஒரு threshold scenario-வாக கருதப்படுகிறது, ஏனெனில் அது சாதாரண மனித வேகம் அல்லது oversight இன்றி systems தங்களின் செயல்திறனைத் தாங்களே மேம்படுத்திக் கொள்ளும் ஒரு feedback loop-ஐக் குறிக்கிறது.

அந்த நிலையை நோக்கிய பகுதியளவான நகர்வே கூட governance-க்கு முக்கியமானதாக இருக்கும். ஒழுங்குபடுத்திகள், labs, மற்றும் வாடிக்கையாளர்கள் evaluation, control, deployment boundaries, மற்றும் international coordination குறித்து கேள்விகளை எதிர்கொள்ள வேண்டியிருக்கும். சாதாரண நிறுவனங்கள் எதிர்பார்ப்பதைவிட governance challenge விரைவாக வந்துவிடலாம் என்பதே Anthropic-ன் வாதம்.

2023 pause விவாதத்தின் ஒலிப்பாதை

இந்த post 2023-இல் பெரிதும் பேசப்பட்ட வாதங்களையும் மீண்டும் நினைவூட்டுகிறது; அப்போது Future of Life Institute மிக சக்திவாய்ந்த புதிய models-ன் training-க்கு ஆறு மாத pause கோரி open letter ஒன்றை பரப்பியது. அந்தக் கடிதம் AI ஆபத்தை பொதுமக்கள் விவாதத்தின் மையத்திற்கு கொண்டு வர உதவியது, ஆனால் அது கட்டுப்படுத்தும் policy-ஆக மாறவில்லை. அதன் signatories-இல் ஒருவரான Elon Musk, விரைவில் தனது சொந்த போட்டி AI startup-ஐத் தொடங்கினார் என்று மூலத்தில் குறிப்பிடப்படுகிறது.

Anthropic-ன் தலையீடு தொனியில் வேறுபட்டது. நேரடி கூட்டு கோரிக்கையை விட, அரசியல் அல்லது நடைமுறை ரீதியாக அடைய கடினமான சூழல்களிலும் மந்தப்படுத்துவது பயனுள்ளதாக இருக்கும் என்று அது சைகை காட்டுகிறது. இதனால் அந்த அறிக்கையை retorically ஏற்றுக்கொள்வது எளிதாகவும், செயல்படுத்துவது கடினமாகவும் மாறுகிறது.

அறிக்கை உண்மையில் என்ன மாற்றுகிறது

உடனடி விளைவு எந்தக் கொள்கை மாற்றமும் அல்ல. வழங்கப்பட்ட தகவலில் Anthropic அல்லது பரந்த தொழில் உண்மையில் வளர்ச்சியை நிறுத்துகிறார்கள் என்பதற்கான சான்று இல்லை. நடைமுறை தாக்கம் வாதத்தின் நிலைமட்டில்தான் உள்ளது. ஒரு முக்கிய AI lab மீண்டும் பொதுவாக race dynamics பாதுகாப்பான governance-க்கு பொருந்தாமல் இருக்கலாம் என்று கூறுகிறது.

இது முக்கியம்; ஏனெனில் அந்த மூலத்தில் Anthropic, எச்சரிக்கையுடன் மிகவும் தொடர்புடைய பெரிய labs-இல் ஒன்றாகக் காட்டப்படுகிறது. அத்தகைய நிறுவனம் மந்தப்படுத்துதல் விரும்பத்தக்கது என்று சொன்னால், மிகக் கடுமையான எச்சரிக்கைகள் வெளிப்புற விமர்சகர்களிடமிருந்து மட்டும் வரவில்லை என்பதைக் காழ்த்துகிறது. அவை தொழில்துறையின் உள்ளேயுள்ள பங்கேற்பாளர்களிடமிருந்தும் வருகின்றன.

• சாத்தியமெனில் மேம்பட்ட AI வளர்ச்சியை மந்தப்படுத்துவது பயனளிக்கலாம் என்று Anthropic கூறுகிறது.
• நிறுவனம் recursive self-improvement குறித்த கவலைகளை முன்வைக்கிறது.
• உடனடி pause-க்கான நேரடி கோரிக்கையாக இல்லாமல், அதன் மொழி குறிப்பிடத்தக்க வகையில் conditional-ஆக உள்ளது.
• இந்த அறிக்கை போட்டி, பாதுகாப்பு, மற்றும் சாத்தியமான IPO குறித்த பரந்த கேள்விகளின் நடுவில் வருகிறது.

இதனால், தகவல் முழுமையற்றதென்ற காரணத்தினாலேயே முக்கியமான ஒரு செய்தி உருவாகிறது. Anthropic போட்டியை நிறுத்துமாறு கூறவில்லை. சந்தை தற்போது வழங்குவதைவிட கடுமையான வரம்புகள் இந்தப் போட்டிக்கு தேவைப்படலாம் என்ற காரணங்களை அது தொழில்துறைக்கு நினைவூட்டுகிறது.

இந்தக் கட்டுரை Gizmodo அறிக்கையை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.