Anthropic தடை அறிக்கை AI பாதுகாப்பு, ஏற்றுமதி மற்றும் அரசியல் ஆகியவற்றை மோதல் பாதையில் நிறுத்துகிறது

Anthropic-க்கு எதிரானதாக கூறப்படும் வெள்ளை மாளிகை நகர்வு AI கொள்கை மோதலை விரிவுபடுத்தியுள்ளது

புதிய ஒரு அறிக்கை Anthropic-ன் கட்டுப்படுத்தப்பட்ட AI மாதிரிகளைச் சுற்றியுள்ள விவாதத்திற்கு ஒரு கூர்மையான புதிய அடுக்கை சேர்க்கிறது. The Verge தொகுத்த செய்தியின்படி, Amazon-ன் சைபர் பாதுகாப்பு ஆய்வும், Amazon CEO Andy Jassy மற்றும் வெள்ளை மாளிகை இடையிலான உரையாடல்களும், வெளிநாட்டு குடிமக்கள் Anthropic-ன் Fable 5 மற்றும் Mythos 5 மாதிரிகளை அணுக முடியாத வகையில் கட்டாயப்படுத்திய ஒரு ஏற்றுமதி கட்டுப்பாட்டு உத்தரவு உருவாக வழிவகுத்ததாக கூறப்படுகிறது.

இது துல்லியமானதாக இருந்தால், இந்த நிகழ்வு ஒரு குறுகிய தொழில்நுட்ப பாதுகாப்பு விவாதமாகத் தோன்றியிருக்கக் கூடியதை விட பரந்த ஒன்றாக மாற்றுகிறது: AI பாதுகாப்பு குறித்த கோரிக்கைகள், ஏற்றுமதி-கட்டுப்பாட்டு அதிகாரம், போட்டி நிலைபாடு, மற்றும் நவீன AI பணியாளர்களின் உலகளாவிய அமைப்பு ஆகியவற்றின் மோதல்.

Fable 5, கேள்விகள் மூலம் தூண்டப்பட்டபோது, சைபர் தாக்குதல்களில் பயன்படுத்தக்கூடிய தகவல்களை வழங்கச் செய்ததாக Amazon வாதிட்டதாக அறிக்கை கூறுகிறது. Jassy அந்த கண்டுபிடிப்புகளை அரசு அதிகாரிகளுடன் பகிர்ந்த சிறிது நேரத்திலேயே, நிர்வாகம் மாதிரிகளுக்கு வெளிநாட்டு குடிமக்கள் அணுகுவதைத் தடுக்க நகர்ந்ததாக கூறப்படுகிறது.

அதுவே இந்த நிகழ்வை குறிப்பிடத்தக்கதாக மாற்ற போதுமானதாக இருக்கும். ஆனால் அதன் விளைவுகள் அதைவிட ஆழமானவை; காரணம் Anthropic-ன் சொந்த ஆய்வாளர்களில் பலர் வெளிநாட்டில் பிறந்தவர்கள், எனவே அறிக்கையில் விவரிக்கப்பட்ட உத்தரவின் கீழ் அவர்கள் நிறுவனத்தின் தயாரிப்பை அணுகுவதில் தடைசெய்யப்பட்டனர்.

பாதுகாப்பு கவலைதானா, அல்லது வகைத் தவறா?

இது ஒரு jailbreak என அரசு விவரித்ததை Anthropic மறுத்துள்ளது. அறிக்கையின்படி, GPT 5.5 உட்பட பொதுவாக கிடைக்கக்கூடிய பிற மாதிரிகளைப் பயன்படுத்தியும் அதே பலவீனங்களில் பலவற்றைக் கண்டுபிடிக்க முடியும் என்று நிறுவனம் வாதிட்டதாக கூறப்படுகிறது. சில பாதுகாப்பு ஆய்வாளர்களும் அந்த விளக்கத்துடன் இணைந்ததாக கூறப்படுகிறது.

அந்த முரண்பாடு முக்கியமானது; ஏனெனில் AI ஏற்றுமதி கட்டுப்பாடுகள், சாதாரண தவறான பயன்பாட்டு அபாயம் மற்றும் உண்மையில் அபூர்வமான திறன் ஆகியவற்றுக்கு இடையில் அரசு கோடு எங்கே வரைகிறது என்பதையே பெரிதும் சார்ந்திருக்கின்றன. ஒரு மாதிரி தனித்துவமான முறையில் ஆபத்தானதாக இருந்தால், கட்டுப்படுத்தும் தலையீடு ஒரு துல்லியமான தேசிய பாதுகாப்பு கொள்கையாக வடிவமைக்கலாம். அதே நடத்தை பொது மாதிரிகளிலேயே பரவலாக மீள உருவாக்கக்கூடியதாக இருந்தால், அந்த கொள்கை துல்லியமான கட்டுப்பாட்டைவிட தேர்ந்தெடுக்கப்பட்ட அமலாக்கமாகவே தோன்றத் தொடங்குகிறது.

நிர்வாகமும் Anthropic-உம் கொண்ட உறவு இந்த முடிவை பாதித்திருக்கக்கூடும் என்று சுட்டிக்காட்டும் கருத்துகளையும் அறிக்கை மேற்கோள் காட்டுகிறது. அந்தக் கோரிக்கை விளக்கத்தின் அடிப்படையிலானதாகவே இருந்தாலும், கட்டுப்படுத்துநர்கள் இப்போது சந்திக்கும் பிரச்சினையை இது வெளிப்படுத்துகிறது: முன்நிலை AI-யில், பாதுகாப்பு தீர்மானங்களை அரசியல், புவியியல் அரசியல், மற்றும் தொழில்துறை போட்டியிலிருந்து பிரிப்பது கடினம்.

பணியாளர் பிரச்சினையை இனி புறக்கணிக்க முடியாது

இந்த உத்தரவின் மிகத் தெளிவான விளைவுகளில் ஒன்று AI ஆராய்ச்சியின் அமைப்பை அது வெளிப்படுத்துவது. வெளிநாட்டு குடிமக்களுக்கான அணுகலை நிறுத்துவது, இந்தத் துறையில் சாதாரணமான பணியாளர் விவகாரம் அல்ல. முன்னணி AI ஆய்வகங்கள் சர்வதேச அளவில் ஆட்சேர்ப்பு செய்யப்பட்ட அணிகளால் உருவாக்கப்படுகின்றன. வெளிப்புற அபாயத்தை குறைக்க உருவாக்கப்பட்ட விதி விரைவாக உள்ளக செயல்பாட்டு நெருக்கடியாக மாறலாம்.

அறிக்கையில் கூறப்பட்ட Anthropic நிகழ்வு அந்த பதற்றத்தைத் தெளிவாகக் காட்டுகிறது. ஒரு நிறுவனம் அமெரிக்காவில் தலைமையகம் கொண்டிருந்தாலும், அமெரிக்காவில் பிறக்காத ஆய்வாளர்களைப் பெரிதும் நம்பி இருக்கலாம். அந்த ஊழியர்கள் தாங்கள் உருவாக்க உதவிய அமைப்புகளையே அணுக முடியாவிட்டால், அந்தக் கொள்கை வெறும் ஏற்றுமதியை மட்டும் கட்டுப்படுத்தவில்லை. அது வளர்ச்சி திறனை அதனுடைய மூலத்தில் இருந்து பாதிக்கிறது.

அது புதிய கொள்கை சிக்கலை உருவாக்குகிறது. மேம்பட்ட மாதிரிகளுக்கு அரசுகள் அதிகக் கட்டுப்பாட்டை விரும்பலாம், குறிப்பாக அந்த அமைப்புகள் சைபர் தாக்குதல்களுக்கு அல்லது பிற தீங்கு விளைவிக்கும் செயல்களுக்கு உதவக்கூடும் என்று அவர்கள் நம்பினால். ஆனால் அணுகலை தேசியத்தால் மிகவும் கடுமையாக வரையறுக்கும் அளவிற்கு, அந்தத் துறையைத் தாங்கும் பணியாளர் மாதிரியை அவர்கள் ஸ்திரமற்றதாக மாற்றும் அபாயமும் அதிகரிக்கிறது.

Amazon-ன் பங்கு போட்டி தொடர்பான கேள்விகளை எழுப்புகிறது

Amazon-ன் கூறப்படும் பங்கு இன்னொரு அடுக்கைச் சேர்க்கிறது. AI, cloud உட்கட்டமைப்பு, மற்றும் model deployment ஆகியவற்றில் தன்னுடைய மூலதன நலன்களைக் கொண்ட ஒரு பெரிய தொழில்நுட்ப நிறுவனம் பாதுகாப்பு கவலைகளை எழுப்பும்போது, ஒழுங்குபடுத்துநர்கள் அந்த எச்சரிக்கையின் தொழில்நுட்ப உள்ளடக்கத்தை மட்டும் அல்லாமல் அதனைச் சுற்றியுள்ள பரந்த சந்தை சூழலையும் மதிப்பாய்வு செய்ய வேண்டியுள்ளது.

அதன் பொருள் அந்த எச்சரிக்கை தவறு என்றல்ல. அதன் பொருள், AI நிர்வாகத்தில் நம்பகத்தன்மையின் அரசியல் இப்போது ஒரு பகுதியாகியுள்ளது. உண்மையான பாதுகாப்பு கவலை வணிக நலன் கொண்ட ஒருவரிடமிருந்து வரலாம், மேலும் அரசு அதற்கு பதிலளிக்கும் விதம் பாதுகாப்பைப் போலவே போட்டியையும் மறுவடிவமைக்கலாம்.

இதன் விளைவாக, மாதிரி மதிப்பீடுகள், red-team முடிவுகள், மற்றும் அணுகல் கட்டுப்பாடுகள் பல நோக்கங்களுக்காக ஒரே நேரத்தில் பயன்படுத்தப்படும் கொள்கை சூழல் உருவாகிறது. அவை, அவற்றைப் பயன்படுத்தும் நபரும் அரசு பதிலும் எப்படி அமைகின்றன என்பதற்கேற்ப, பாதுகாப்பு கருவிகள், ஒழுங்குமுறை கருவிகள், மற்றும் போட்டி நெம்புகோல்கள் அனைத்துமாக இருக்க முடியும்.

இந்த நிகழ்வு முன்நிலை AI-க்கு என்ன சுட்டிக்காட்டுகிறது

அறிக்கையில் கூறப்பட்ட உத்தரவு, முன்நிலை மாதிரி நிர்வாகம் தன்னார்வ பாதுகாப்பு மொழியில் இருந்து கடுமையான அரச அதிகாரத்துக்கு எவ்வளவு வேகமாக நகர்கிறது என்பதை காட்டுகிறது. பல ஆண்டுகளாக, மேம்பட்ட AI குறித்த பொதுக் கட்டமைப்பு தணிக்கைகள், system cards, கொள்கை முன்மொழிவுகள், மற்றும் சுய-சுமத்தப்பட்ட வெளியீட்டு வரம்புகள் என்பவற்றைச் சுற்றியே அமைந்திருந்தது. ஏற்றுமதி கட்டுப்பாடுகள் வேறுபட்ட பிரிவு. அவை கட்டாயப்படுத்தும், உடனடியாக அமலாக்கப்படும், மற்றும் யார் ஒரு மாதிரியைப் பயன்படுத்த முடியும் என்பதை ஒரே இரவில் மாற்றக்கூடியவை.

அந்த மாற்றம் முக்கியமானது. முன்நிலை மாதிரிகளை தேசியத்தைக் கொண்ட அணுகல் கட்டுப்பாடுகள் தேவைப்படக்கூடிய சொத்துகளாக அரசுகள் கருதத் தொடங்கியவுடன், துறை இன்னும் அதிகத் திட்டமிட்ட கட்டத்தில் நுழைகிறது. மாதிரி திறன் இனி ஒரு தயாரிப்பு பிரச்சினை அல்லது ஆராய்ச்சி பிரச்சினை மட்டும் அல்ல. அது தேசியக் கட்டுப்பாட்டின் விஷயமாக மாறுகிறது.

Anthropic வழக்கும் தலையீட்டுக்கான தூண்டுதல் வெளியுலகத்தில் நிகழும் பேரழிவான தவறான பயன்பாடாக இருக்க வேண்டிய அவசியமில்லை என்பதையும் சுட்டிக்காட்டுகிறது. அறிக்கையிடப்பட்ட prompting-ஆதாரமான கண்டுபிடிப்புகளும், அரசின் உள்கவனமும் ஒரு பெரிய அணுகல் கட்டுப்பாட்டை உருவாக்க போதுமானதாக இருந்தன. இது எதிர்கால நடவடிக்கைக்கான அடித்தளத்தை குறைக்கிறது, அல்லது குறைந்தது அதை இன்னும் தெளிவாகப் புரியவைக்கிறது.

அடுத்த மோதல் தரநிலைகளைச் சுற்றியே இருக்கும்

இன்னும் தீரப்படாத மிக முக்கியமான கேள்வி இந்த உத்தரவு மட்டுமல்ல. அடுத்ததாக எந்த தரநிலை வரும் என்பதே. ஒரு நிறுவனத்தின் மாதிரி, prompting மூலம் தாக்குதலுடன் தொடர்புடைய தகவல்களை வழங்குகிறது என்று கூறப்பட்டதால் கட்டுப்படுத்தப்படலாம் என்றால், எந்த அளவுகோல் ஏற்றுக்கொள்ள முடியாத அபாயத்தை வரையறுக்கிறது என்பதை labs அறிய விரும்பும். அந்த அளவுகோல் நிறுவனங்களுக்கிடையே ஒரே மாதிரியாக அமல்படுத்தப்படுகிறதா என்பதையும் அவர்கள் அறிய விரும்புவார்கள்.

தெளிவான தரநிலை இல்லையெனில், ஒவ்வொரு பெரிய பாதுகாப்பு கோரிக்கையும் அரசியல் மோதலாக மாறும் அபாயம் உள்ளது. அதாவது, ஒரே தரநிலை இருந்தால், துறை இன்னும் கணிக்கத்தக்கதாகவும், ஆனால் மேலும் கடுமையாகக் கட்டுப்படுத்தப்பட்ட வெளியீட்டு முறையை எதிர்கொள்ளலாம்.

எப்படியிருந்தாலும், அறிக்கையிடப்பட்ட வெள்ளை மாளிகை நகர்வு நிலப்பரப்பைத் தெளிவாக்கியுள்ளது. முன்நிலை AI கொள்கை இனி மாதிரிகள் என்ன செய்ய முடியும் என்பதைக் குறித்தது மட்டும் அல்ல. யார் அவற்றைப் பயன்படுத்தலாம், எந்த ஆதாரத்தின் அடிப்படையில், மற்றும் எந்தப் புவியியல் அரசியல் விளைவுகளுடன் என்பதை யார் தீர்மானிக்கிறார்கள் என்பதையும் குறித்தது.

இந்தக் கட்டுரை The Verge வெளியிட்ட செய்தியை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.