Anthropic, US உத்தரவுக்குப் பிறகு Fable 5 மற்றும் Mythos 5-ஐ நிறுத்தியது

அரசு உத்தரவுக்குப் பிறகு Anthropic இரண்டு புதிய AI மாதிரிகளை ஆஃப்லைனில் எடுத்தது

Engadget மேற்கோள் காட்டிய நிறுவனத்தின் பொது விளக்கத்தின் படி, ஜூன் 12, வெள்ளிக்கிழமை ஒரு அமெரிக்க அரசு உத்தரவைப் பெற்ற பிறகு Anthropic தனது சமீபத்தில் அறிமுகப்படுத்தப்பட்ட Fable 5 மற்றும் Mythos 5 மாதிரிகளுக்கான வாடிக்கையாளர் அணுகலை நிறுத்தியுள்ளது. இந்த நடவடிக்கை அந்த இரண்டு மாதிரிகளின் அனைத்து வாடிக்கையாளர்களையும் பாதிக்கிறது, ஆனால் Anthropic-இன் மீதமுள்ள மாதிரி வரிசையும் அதன் Claude chatbot-மும் கிடைக்கின்றன.

இந்த உத்தரவு, அவர்கள் அமெரிக்காவுக்குள் இருந்தாலும் வெளியே இருந்தாலும், மேலும் அவர்கள் Anthropic-இல் பணிபுரிந்தாலும் கூட, வெளிநாட்டு நாட்டினருக்கான அணுகலைத் தடுக்க வேண்டும் என்று நிறுவனம் கூறியது. Anthropic இந்த தலையீட்டை தேசிய பாதுகாப்பு கவலைகளுடன் இணைத்தது, ஆனால் அவை குறித்து அரசு விரிவாக விளக்கவில்லை என்றும் கூறியது.

இதனால் வேகமாக நகரும் AI சந்தையில் ஒரு விசித்திரமும் முக்கியமும் ஆன முன்னேற்றம் உருவாகிறது: ஒரு முக்கிய வணிக மாதிரி வெளியீடு சில நாட்களுக்குள் தேசிய பாதுகாப்பு உத்தரவால் தடைபடுவது, அதே நேரத்தில் நிறுவனம் அதை ஏற்றுக்கொள்வதுடன், திரும்பப்பெற்றதற்கான அடிப்படையுடன் உடன்படாததையும் சுட்டிக்காட்டுகிறது.

எந்த காரணம் செயல்பாட்டைத் தூண்டியது என்று Anthropic கூறியது

Fable 5-ஐ jailbreak செய்வதற்கான ஒரு முறையை அரசு கேட்டதற்குப் பிறகு நடவடிக்கை எடுத்ததாக Anthropic நம்புவதாக கூறியது. நிறுவனத்தின் விளக்கத்தில், அதிகாரிகள் பெயர் குறிப்பிடப்படாத ஒரு அமைப்பு பகிர்ந்த ஒரே சாத்தியமான குறுகிய, universal அல்லாத jailbreak குறித்த வாய்மொழி ஆதாரத்தை வழங்கினர். மேலும் விவரங்களை 24 மணி நேரத்திற்குள் வழங்குவதாக Anthropic கூறியது.

இந்த வேறுபாடு முக்கியமானது. எந்த மாதிரி வழங்குநரும் jailbreak முயற்சிகளுக்கு எதிராக முழுமையான எதிர்ப்பை உறுதி செய்ய முடியாது, மேலும் ஒவ்வொரு மாதிரியும் அதற்கே பிரத்யேகமாக வடிவமைக்கப்பட்ட தாக்குதல்களுக்கு ஆளாகும் என்று Anthropic வாதிட்டது. Fable 5-க்கான தனது உத்தி jailbreak-களை குறுகியவையாக அல்லது உருவாக்கச் செலவானவையாக மாற்றுவதாகவும், வெற்றிகரமான முயற்சிகளை கண்டறிந்து நிறுத்த கண்காணிப்பை நம்புவதாகவும் அது கூறியது.

இந்த framing, நிறுவனத்தின் பார்வையில் இந்த பிரச்சினை தனிப்பட்ட முறையில் ஆபத்தான தோல்விக்கான சான்றாக அல்ல, அடுக்குவடிவ பாதுகாப்புகள் மூலம் நிர்வகிக்க வேண்டிய தெரிந்த பாதுகாப்பு சிக்கலாகக் கருதப்படுவதை சுட்டிக்காட்டுகிறது. இருந்தாலும், உடனடி நடைமுறை விளைவாக பாதிக்கப்பட்ட மாதிரிகளுக்கான முழுமையான அணுகல் நிறுத்தப்பட்டது.

Fable 5 மற்றும் Mythos 5 ஏன் முக்கியம்

Anthropic Fable-ஐ ஜூன் 9 அன்று மட்டுமே அறிமுகப்படுத்தியிருந்ததால் இந்த உத்தரவு ஒரு நுணுக்கமான தருணத்தில் வந்துள்ளது. Fable, Mythos-இன் பல திறன்களை பரந்த பொது மக்களுக்கு கொண்டு சேர்க்கும் வழியாக நிறுவனம் நிலைநிறுத்தியது. இதற்கு மாறாக, Mythos Project Glasswing பங்குதாரர்களுக்காக ஒதுக்கப்பட்டிருந்தது மற்றும் Anthropic-இன் state-of-the-art cybersecurity model என்று விவரிக்கப்பட்டது.

Fable-இன் திறன்கள் அதன் முந்தைய எந்த மாதிரியையும் விட அதிகம் என்று Anthropic மேலும் கூறியது. Engadget மேற்கோள் காட்டிய நிறுவன சோதனைகளில், Fable Pokemon FireRed-ஐ வென்றது, ஆனால் Claude முன்பு Pokemon Red-ஐ வெல்ல முடியவில்லை. வெளிப்படையில் இந்த ஒப்பீடு விளையாட்டுத்தனமாகத் தோன்றினாலும், Fable திறனில் குறிப்பிடத்தக்க முன்னேற்றத்தை பிரதிநிதித்துவப்படுத்தியது என்பதற்கான சான்றாக அது முன்வைக்கப்பட்டது.

வேறு வார்த்தைகளில் சொன்னால், இது ஒரு ஓரங்கட்ட தயாரிப்பு புதுப்பிப்பு அல்ல. இது Anthropic-இன் மிக முன்னேற்றமான பணிகளுடன் இணைக்கப்பட்ட ஒரு புதிய flagship-தர வெளியீடு. வெளியீட்டுக்குப் பிறகு இவ்வளவு விரைவில் அதைத் திரும்பப் பெறுவது பாதுகாப்பு மதிப்பாய்வை மட்டுமல்ல, frontier அமைப்புகள் புதிய அபாயங்களை உருவாக்குகின்றன என்று கருதப்படும் போது அரசுகள் எப்படி தலையிடலாம் என்பதையும் கேள்விக்குள்ளாக்குகிறது.

AI நிர்வாகத்திற்கான ஒரு சோதனை வழக்கு

Anthropic அதிகப்படியான கண்காணிப்பின் தேவையைப் பற்றி அதிகம் பேசிய பெரிய AI நிறுவனங்களில் ஒன்றாக உள்ளது. அந்த உத்தரவுக்கான அதன் பதில் அந்த நிலைப்பாட்டை பிரதிபலிக்கிறது, ஆனால் முக்கியமான ஒரு குறிப்பு உடன். பாதுகாப்பற்ற deployment-களைத் தடுக்க அரசுக்கு அதிகாரம் இருக்க வேண்டும் என்று நிறுவனம் நம்புவதாக கூறியது, ஆனால் அது வெளிப்படையான, நியாயமான, தெளிவான, மற்றும் தொழில்நுட்ப உண்மைகளில் அடிப்படையுடைய சட்டப்படி செயல்முறை வழியாக மட்டுமே இருக்க வேண்டும்.

Anthropic ஒரே நேரத்தில் உத்தரவைக் கடைப்பிடிப்பதோடு, அது செயல்படுத்தப்பட்ட விதத்தையும் சவால் செய்கிறது என்பதால் இது ஒரு குறிப்பிடத்தக்க பொது நிலைப்பாடு. மூல உரையின் அடிப்படையில், நிறுவனத்தின் எதிர்ப்பு oversight என்ற கருத்திற்கே அல்ல. அது, Anthropic கூறுவதுபோல், இப்படிப்பட்ட முடிவுகளை நிர்வகிக்க வேண்டிய தெளிவான செயல்முறை கட்டமைப்பு இன்றி, சாத்தியமான jailbreak குறித்து வாய்மொழி சான்றுகளால் தூண்டப்பட்ட recall process-க்கு எதிரானது.

எனவே இந்த நிகழ்வு ஒரு நிறுவனம் மற்றும் ஒரு மாதிரி குடும்பத்தைக் கடந்தது. இது முன்னேற்ற AI அமைப்புகளுக்கான unresolved policy கேள்வியை வெளிச்சத்துக்கு கொண்டுவருகிறது: எப்போது ஒரு அறிக்கையிடப்பட்ட exploit அவசர தலையீட்டை நியாயப்படுத்துகிறது, மேலும் அரசுகள் shutdown-ஐ கட்டாயப்படுத்துவதற்கு முன் எந்த சான்று தரநிலை தேவைப்பட வேண்டும்?

அடுத்து என்ன

இப்போதைக்கு, Anthropic வாடிக்கையாளர்களுக்கு ஒரு குறுகிய ஆனால் முக்கியமான இடையூறு உள்ளது. Fable 5 மற்றும் Mythos 5 கிடைக்கவில்லை, ஆனால் மற்ற மாதிரிகளும் Claude-மும் பாதிக்கப்படவில்லை. இது செயல்பாட்டு பாதிப்பை வரையறுக்கிறது, ஆனால் குறியீட்டு முக்கியத்துவம் பெரியது. ஒரு அரசு உத்தரவு நேரடியாக புதிதாக அறிமுகமான frontier மாதிரியின் deployment-க்கு சென்றுள்ளது, மேலும் ஒரு முன்னணி AI உருவாக்குநர் உடனடியாக அணுகலைத் திருப்ப வேண்டியுள்ளது.

கிடைக்கக்கூடிய அறிக்கைகளின் அடிப்படையில் பல கேள்விகள் இன்னும் பதிலில்லாமல் உள்ளன:

• அதிகாரிகள் எந்த குறிப்பிட்ட தேசிய பாதுகாப்பு கவலையை அடையாளம் கண்டனர்.
• கூறப்படும் jailbreak நடைமுறையில் எவ்வளவு பரவலாக செயல்பட்டது.
• நிறுத்தம் தற்காலிகமா அல்லது நீண்ட rollback-ஆக மாறுமா.
• Exploits மற்றும் அதன் பாதுகாப்புகள் குறித்து Anthropic எதிர்காலத்தில் என்ன வெளிப்படுத்தும்.

இந்த விவரங்கள் இது ஒரு முன்னெச்சரிக்கை இடைநிறுத்தமாக நினைவுகூரப்படுமா அல்லது வணிக AI வெளியீடுகளில் நேரடி அரசு தலையீட்டிற்கான ஆரம்ப வார்ப்புருவாக நினைவுகூரப்படுமா என்பதைத் தீர்மானிக்கும். எப்படியிருந்தாலும், தொழில்துறைக்கான செய்தி இப்போது தெளிவாக உள்ளது: frontier மாதிரி வெளியீடுகள் இனி தொழில்நுட்பத் தயார்நிலையும் சந்தை நேரத்தையும் மட்டும் சார்ந்தவை அல்ல. அவை தேசிய பாதுகாப்பு அதிகாரிகளால் நேரடியாகவும் real time-இல் தடுக்கப்படலாம்.

அது AI deployment-இன் மையத்தை மாற்றுகிறது. வழங்குநர்கள் இன்னும் செயல்திறன் மற்றும் பாதுகாப்பில் போட்டியிடலாம், ஆனால் இப்போது அவர்கள் செயல்படும் சூழலில் ஒரு அறிக்கையிடப்பட்ட பாதிப்பு internal mitigation மட்டும் அல்ல, external enforcement-ஐயும் தூண்டலாம். Fable 5 மற்றும் Mythos 5-ஐ Anthropic நிறுத்தியது, AI போட்டியின் அடுத்த கட்டம் model capability-யைப் போலவே governance mechanisms-ஆலும் வடிவமைக்கப்படும் என்பதற்கான ஆரம்ப அறிகுறியாகும்.

இந்தக் கட்டுரை Engadget-இன் செய்திகளின் அடிப்படையில் உள்ளது. மூலக் கட்டுரையைப் படிக்கவும்.