ஒரு கட்டுப்படுத்தப்பட்ட AI அமைப்பு அரசாங்கத்தின் மிக உணர்வுப்பூர்வமான பயனர்களில் ஒருவரை அடைந்திருக்கலாம்
நேஷனல் செக்யூரிட்டி ஏஜென்சி (NSA) Mythos Preview-ஐ பயன்படுத்தி வருவதாக கூறப்படுகிறது. இது Anthropic புதிதாக அறிவித்த AI மாடல்; சைபர் பாதுகாப்பு பணிகளுக்காக வடிவமைக்கப்பட்டது, ஆனால் நிறுவனம் இதை பொது வெளியீட்டில் இருந்து விலக்கியுள்ளது. வழங்கப்பட்ட அறிக்கையின் படி, Mythos தாக்குதல்மிகு சைபர் தாக்குதல்களுக்கு மிகவும் திறன் வாய்ந்தது என்பதால் அதை விரிவாக வெளியிட முடியாது என்று Anthropic இந்த மாத தொடக்கத்தில் தெரிவித்தது, மேலும் அணுகல் சுமார் 40 அமைப்புகளுக்கு மட்டுமே கட்டுப்படுத்தப்பட்டது. NSA வெளிப்படையாக கூறப்படாத பெறுநர்களில் ஒன்றாகத் தெரிகிறது.
இது உண்மையாக இருந்தால், முன்நிலை AI கொள்கையில் இப்போது உருவாகி வரும் சிக்கலான கட்டத்தை இந்த ஏற்பாடு காட்டுகிறது. அரசுகள், குறிப்பாக சைபர் பாதுகாப்பில், பாதுகாப்பு மற்றும் செயல்பாட்டு பணிகளுக்காக மேம்பட்ட மாடல்களை விரும்புகின்றன. அதே நேரத்தில், அவ்வமைப்புகளே தாக்குதல் நோக்கங்களுக்கும் பயன்படுத்தக்கூடிய கருவிகளை deploy செய்வதன் அபாயங்களையும் எதிர்கொள்கின்றன. Mythos-ஐ NSA பயன்படுத்துகிறது என்ற அறிக்கை, அந்த பதற்றத்தை மிகத் தெளிவாக முன்வைக்கிறது.
Mythos-ஐ NSA எவ்வாறு பயன்படுத்துகிறது என்று அறிக்கை சொல்கிறது
Mythos-ஐ NSA முக்கியமாக சுரண்டக்கூடிய பாதிப்புகள் உள்ள சூழல்களை ஸ்கேன் செய்ய பயன்படுத்துகிறது என்று அந்த கட்டுரை கூறுகிறது. இது AI deploy பற்றிய பரந்த மார்க்கெட்டிங் மொழியைவிட குறுகியதும், தெளிவானதும் ஆன விளக்கம். இதன் பொருள் நடைமுறையான பயன்பாடு: எதிரிகள் கண்டுபிடிப்பதற்கு முன் பலவீனங்களை வெளிக்கொணர, சக்திவாய்ந்த மாடலை டிஜிட்டல் அடிப்படைக் கட்டமைப்பின் மீது செலுத்துவது.
பாதிப்பு கண்டுபிடித்தல் பாதுகாப்புக்கும் தாக்குதலுக்கும் இடையிலான எல்லையில் இருப்பதால் இது முக்கியம். பாதுகாவலர்களுக்கு குறைகளை அடையாளம் காண உதவும் ஒரு அமைப்பு, இயல்பாகவே தாக்குதலாளர் பயன்படுத்தக்கூடிய பாதைகளையும் வெளிப்படுத்தலாம். அறிக்கையில் விவரிக்கப்பட்ட Anthropic-இன் நிலைப்பாடு இந்த இரட்டை-பயன்பாட்டு பிரச்சினையை ஏற்றுக்கொள்கிறது போல தெரிகிறது. நிறுவனம் Mythos-ஐ சைபர் பாதுகாப்பு பணிகளுக்காக உருவாக்கப்பட்ட frontier model-ஆக அறிவித்தது, ஆனால் தாக்குதல் திறன் குறித்த கவலையால் பொது வெளியீட்டில் இருந்து விலக்கி வைத்தது.
அந்த விளக்கம் NSA-வின் வெளிப்படுத்தப்பட்ட அணுகலை குறிப்பாக கவனிக்கத்தக்கதாக மாற்றுகிறது. இது நுகர்வோர் வெளியீடு அல்லது எண்டர்பிரைஸ் பீட்டா போல அல்ல; மிகத் தேர்ந்தெடுக்கப்பட்ட அமைப்புகளுக்கான கட்டுப்படுத்தப்பட்ட deploy போலத் தெரிகிறது. வழங்கப்பட்ட உரையின் படி, U.K.’s AI Security Institute-மும் அணுகலை உறுதிப்படுத்தியுள்ளது. இத்தகவல்கள் ஒன்றாகப் பார்க்கும்போது, மிக உயர்ந்த திறன் கொண்ட அமைப்புகள் முதலில் மாநில அல்லது மாநிலத்துக்கு அருகிலான அமைப்புகளுடன் பகிரப்பட்டு, பின்னர் திறந்த வணிக சந்தையில் சேர்க்கப்படலாம் என்ற ஒரு நடைமுறையை சுட்டிக்காட்டுகின்றன.
அமெரிக்க அரசாங்கத்துக்குள் உள்ள ஒரு முரண்பாடு
இந்த அறிக்கையின் மிக முக்கியமான அம்சம் Anthropic தொழில்நுட்பத்தை NSA பயன்படுத்துகிறது என்பதல்ல. Anthropic, பாதுகாப்புத் துறையுடன் முரண்பாட்டில் இருக்கும் அதே நேரத்தில் இந்த deploy நடக்கிறது என்று கூறப்படுவதுதான். சில வாரங்களுக்கு முன்பு, வழங்கப்பட்ட உரையின் படி, நிறுவனம் ஒரு மாடலின் முழுத் திறன்களுக்கு கட்டுப்பாடற்ற அணுகலை வழங்க மறுத்ததால் Pentagon Anthropic-ஐ “supply-chain risk” என்று அழைத்தது.
இது கூட்டாட்சி அரசாங்கத்தின் கணிசமான இரு-திரை காட்சியை உருவாக்குகிறது. தேசிய பாதுகாப்பு அமைப்பின் ஒரு பகுதி Anthropic-இன் கட்டுப்படுத்தப்பட்ட சைபர் மாடலிலிருந்து மதிப்பைப் பெறுகிறது என்று கூறப்படுகிறது. மற்றொரு பகுதி, நிறுவனத்தை ஒரு விரிந்த கொள்முதல் மற்றும் கட்டுப்பாட்டு மோதலில் அபாயமாகக் கருதியுள்ளது. கூட்டாட்சி AI சந்தையை கவனிக்கும் எவருக்கும் இது ஒரு முக்கிய சிக்னல். வாஷிங்டன் ஒரே நிலைப்பாடு கொண்ட ஒரே வாங்குபவர் போல நடந்து கொள்ளவில்லை. பணிக்கூறு, அணுகல் தேவைகள், மற்றும் நிறுவன முன்னுரிமைகளின் அடிப்படையில், ஏஜென்சிகள் மேம்பட்ட AI அமைப்புகளை வேறுபட்ட வகையில் மதிப்பீடு செய்கின்றன.
அறிக்கை மேலும் அரசியல் ரீதியாக உணர்வுப்பூர்வமான ஒரு விவரத்தைச் சேர்க்கிறது: பெரிய அளவிலான உள்நாட்டு கண்காணிப்பு மற்றும் தன்னாட்சி ஆயுத மேம்பாட்டிற்கு Claude-ஐ வழங்க Anthropic மறுத்தபோது Pentagon-ுடன் ஏற்பட்ட மோதலே இந்த சர்ச்சையைத் தொடங்கியது. இவை தற்போதைய generative AI-யின் இராணுவ மற்றும் உளவுத்துறை பயன்பாடுகள் குறித்த விவாதத்தில் மிகவும் கடினமான எல்லைகளில் சில. வழங்கப்பட்ட அறிக்கைக்கு அப்பால் கூடுதல் உறுதிப்படுத்தல் இல்லாவிட்டாலும், அதன் அர்த்தம் தெளிவாக உள்ளது: அணுகல் பேச்சுவார்த்தைகள் இனி தொழில்நுட்ப ஒருங்கிணைப்பு அல்லது விலை நிர்ணயம் பற்றியவை மட்டுமல்ல. நிறுவனங்கள் தங்கள் மாடல்கள் எங்கு பயன்படுத்தப்பட வேண்டும், எங்கு கூடாது என்ற வாதங்களாக அவை மாறிக் கொண்டிருக்கின்றன.
இது ஒரு நிறுவனம் அல்லது ஒரு மாடலை விட ஏன் முக்கியம்
Mythos-ஐ NSA பயன்படுத்துகிறது என்ற அறிக்கை, AI துறை அடுத்த கட்டத்தில் எவ்வாறு வளரலாம் என்பதைக் காட்டுகிறது. மிகப் பெரிய மூலோபாயக் கேள்வி இனி அரசுகள் frontier models-ஐ பயன்படுத்துமா என்பதல்ல. அணுகல் எவ்வாறு பிரிக்கப்படும், யாருக்கு முன்னுரிமை பெறும் பயன்பாடு கிடைக்கும், மற்றும் அந்த deploy-களை எந்த நிபந்தனைகள் வழிநடத்தும் என்பதே கேள்வி.
இங்கே விவரிக்கப்படும் Anthropic-இன் அணுகுமுறை பரவலான வெளியீட்டுக்குப் பதிலாக தேர்ந்தெடுக்கப்பட்ட விநியோகத்தையே சார்ந்திருப்பதாகத் தெரிகிறது. இதனால் மிகவும் திறன் வாய்ந்த அமைப்பு எவ்வாறு சோதிக்கப்படுகிறது, யார் அதை இயக்கலாம் என்பதை நிறுவனம் அதிகமாகக் கட்டுப்படுத்த முடியும். மிகவும் முக்கியமான deploy-கள் அங்கீகரிக்கப்பட்ட அமைப்புகளின் சிறிய வட்டத்துக்குள் நடைபெறுவதால், பொது கண்காணிப்பும் குறையலாம்.
அமெரிக்க அரசாங்கத்திற்குப் பொறுத்தவரை, இந்த நிகழ்வு ஒரு கட்டமைப்புச் சிக்கலை வெளிப்படுத்துகிறது. ஏஜென்சிகள் சைபர் பாதுகாப்பு மற்றும் தேசிய பாதுகாப்புப் பணிகளுக்காக மேம்பட்ட AI-யை விரும்புகின்றன, ஆனால் மாடல் வழங்குநர்கள் ஒவ்வொரு ஏஜென்சியின் ஆசைகளுக்கும் பொருந்தாத பயன்பாட்டு வரம்புகளை வலியுறுத்தலாம். இதனால் சில ஏஜென்சிகள் குறுகிய, பணிக்கூறு-சார்ந்த ஏற்பாடுகள் மூலம் அணுகலைப் பெறும், மற்றவை கட்டுப்பாடு, வெளிப்படைத்தன்மை, அல்லது அனுமதிக்கப்பட்ட பயன்பாடு குறித்த மோதல்களில் சிக்கிக் கொள்கின்றன என்ற துண்டிக்கப்பட்ட அமைப்பு உருவாகலாம்.
மேலும், மிகக் கடுமையாக கட்டுப்படுத்தப்பட்ட frontier AI மாடல்கள் உண்மையான செயல்பாட்டு பயன்பாட்டைப் பெறும் முதல் துறைகளில் ஒன்று சைபர் பாதுகாப்பாக மாறலாம் என்பதையும் இது சுட்டிக்காட்டுகிறது. அறிக்கையில் விவரிக்கப்பட்ட பயன்பாட்டு நிலை தெளிவானது, அவசரமானது, மற்றும் கொள்கை வகுப்பாளர்களுக்கு புரிந்துகொள்ளக்கூடியது: தன்னாட்சி அல்லது பொதுவான நுண்ணறிவு ஆதரவு போன்ற விரிவான இலக்குகளைவிட சுரண்டக்கூடிய பாதிப்புகளை ஸ்கேன் செய்வதை நியாயப்படுத்துவது எளிது. அதனால் வழங்குநர்கள் பரவலாக வெளியிடுவதற்கு மிக அபாயகரமானவை என்று கருதும் அமைப்புகளுக்குச் சைபர் பாதுகாப்பு ஒரு ஈர்க்கும் சோதனைத் தளமாகிறது.
இன்னும் உறுதிப்படுத்தப்படாதவை
கதையின் முக்கியமான பகுதிகள் இன்னும் அறிக்கையிடப்பட்ட நிலையில் உள்ளன; பொது ஆவணப்படுத்தப்பட்ட அரசாங்க கொள்கையாக அல்ல. NSA பயன்பாட்டை Axios அறிக்கை செய்ததாக TechCrunch கூறுகிறது. மேலும் TechCrunch, NSA-விடம் கருத்துக்காக தொடர்பு கொண்டதாகவும், Anthropic கருத்து தெரிவிக்க மறுத்ததாகவும் கூறுகிறது. இதன் பொருள், வழங்கப்பட்ட தகவலின் அடிப்படையில், அந்த ஏற்பாடு, அதன் விதிமுறைகள், அல்லது அதன் வரம்பு குறித்து இரு அமைப்புகளிடமிருந்தும் நேரடி அதிகாரப்பூர்வ உறுதிப்படுத்தல் இல்லை.
மேற்பார்வை பற்றியும் இன்னும் கேள்விகள் விடுபட்டுள்ளன. Mythos அணுகல் எவ்வாறு ஆடிட் செய்யப்படுகிறது, எந்த தொழில்நுட்ப பாதுகாப்புகள் அதன் பயன்பாட்டை நிர்வகிக்கின்றன, அல்லது NSA-வின் பயன்பாடு சோதனை, உள் பகுப்பாய்வு, அல்லது செயல்பாட்டு deploy ஆகியவற்றுக்கு மட்டுமே வரம்பிடப்பட்டதா என்பதை வழங்கப்பட்ட உரை நிரூபிக்கவில்லை. இவ்வறியாமைகள் முக்கியம்; ஏனெனில் அவை இது ஒரு பரிசோதனை பைலட்டா அல்லது மேலும் நிலையான கொள்முதல் பாதையின் பகுதியாக உள்ளதா என்பதை தீர்மானிக்கின்றன.
விரிவான சிக்னல்
இந்த எச்சரிக்கைகளுடன் கூட, இது சாதாரண தொழில் செய்தி அல்ல. frontier AI ஆராய்ச்சியிலிருந்து தேசிய பாதுகாப்பு பயன்பாட்டுக்கு செல்லும் கோடு எவ்வளவு வேகமாக நகர்கிறது என்பதற்கான ஒரு குறிகாட்டி இது. பொது வெளியீட்டுக்கு மிகவும் திறன் வாய்ந்தது என்று கூறப்படும் ஒரு மாடல், உலகின் மிகவும் நுட்பமான உளவுத்துறை அமைப்புகளில் ஒன்றின் கைகளில் ஏற்கனவே இருக்கலாம். அதே நேரத்தில், அதே நிறுவனம் குடிமக்கள் சுதந்திரம் மற்றும் ஆயுத தொடர்புடைய காரணங்களின் அடிப்படையில் அரசாங்க அணுகலின் பிற வடிவங்களை எதிர்த்து வருவதாக கூறப்படுகிறது.
அதுவே உண்மையான கதை. AI கொள்கை விவாதம் இனி மேம்பட்ட அமைப்புகள் சக்திவாய்ந்தவையா அல்லது ஆபத்தானவையா என்பதையே பற்றியது அல்ல. யாருக்கு முதலில் அணுகல் கிடைக்கிறது, யாருக்கு மறுக்கப்படுகிறது, மற்றும் கொள்முதல் அழுத்தத்தின் மூலம் எந்த நிறுவனங்கள் விதிகளை வடிவமைக்க முடியும் என்பதுதான். அறிக்கை சரியாக இருந்தால், Mythos அந்த புதிய ஒழுங்கு உருவாகும் தொடக்க உதாரணங்களில் ஒன்றாகும்.
முக்கிய அம்சங்கள்
- TechCrunch கூறுவதன்படி, Anthropic-இன் கட்டுப்படுத்தப்பட்ட Mythos Preview மாடலை NSA பயன்படுத்துகிறது என்று தெரிவிக்கப்படுகிறது.
- Anthropic அதை பொது வெளியீட்டுக்கு மிகக் கூடிய திறன் கொண்டதாக கருதியதால், Mythos சுமார் 40 அமைப்புகளுக்கு மட்டுமே கட்டுப்படுத்தப்பட்டதாக வழங்கப்பட்ட அறிக்கை கூறுகிறது.
- NSA அந்த மாடலை முக்கியமாக டிஜிட்டல் சூழல்களில் சுரண்டக்கூடிய பலவீனங்களை ஸ்கேன் செய்ய பயன்படுத்துகிறது என்று தெரிவிக்கப்படுகிறது.
- இந்த deploy, அணுகல் மற்றும் அனுமதிக்கப்பட்ட பயன்பாடு குறித்து Anthropic-உடன் நடந்து வரும் Pentagon சர்ச்சையுடன் இணைந்து காணப்படுகிறது.
இந்த கட்டுரை TechCrunch-இன் செய்தியிடலை அடிப்படையாகக் கொண்டது. மூல கட்டுரையைப் படிக்கவும்.
Originally published on techcrunch.com
