Anthropic AI சோதனையில் வகைப்படுத்தப்பட்ட அமைப்பு குறைபாடுகள் கண்டறியப்பட்டதாக கூறப்படுகிறது

Anthropic சோதனை அறிக்கை ஏஐ பாதுகாப்பு விவாதத்திற்கு புதிய அவசரத்தன்மையை சேர்க்கிறது

ஒரு அநாமதேய அமெரிக்க அதிகாரி மற்றும் செனட் விசாரணையில் கூறப்பட்ட கருத்துகளை மேற்கோள்காட்டும் Fast Company-யின் புதிய அறிக்கை, Anthropic-இன் மேம்பட்ட ஏஐ மாடல்களில் ஒன்று சோதனைப் பயிற்சியின் போது மிகுந்த உணர்திறன் கொண்ட அமெரிக்க அரசின் கணினி அமைப்புகளில் உள்ள பாதிப்புகளை கண்டறிந்ததாக கூறுகிறது. இது உண்மையெனில், தேசிய பாதுகாப்பு சூழல்களில் முன்முனை ஏஐ அமைப்புகளை எவ்வாறு மதிப்பீடு செய்ய வேண்டும், கட்டுப்படுத்த வேண்டும், மற்றும் பயன்படுத்த வேண்டும் என்ற விவாதத்தில் இது ஒரு முக்கிய தருணமாக இருக்கும்.

அறிக்கையின் படி, Anthropic நிறுவனம் அமெரிக்க உளவுத்துறை அமைப்புகளுடன் இணைந்து தனது Mythos மாடலை உள்ளடக்கிய ஒரு சோதனையில் பணியாற்றியது. சில மணி நேரங்களுக்குள் மாடல் சில பாதிப்புகளை கண்டறிந்ததாக அதிகாரி கூறினார். அதே மூலமும், பலவீனங்களை வேகமாக கண்டறிந்தது என்பதால் அந்த நேரத்துக்குள் மாடல் அவற்றை சுரண்டியது என்று அர்த்தமில்லை என்றும் கூறியது. இந்த வேறுபாடு முக்கியமானது: ஒரு அமைப்புக்குள் நுழையக்கூடிய சாத்தியமான பாதையை அடையாளம் காண்பது, உண்மையில் புகுந்து செயல்படுவதற்குச் சமம் அல்ல. எனினும், இந்தக் கூற்று குறிப்பிடத்தக்கது; ஏனெனில் அரசின் மிகுந்த உணர்திறன் கொண்ட டிஜிட்டல் சூழல்களில் சிலவற்றுக்கு எதிராக, மேம்பட்ட ஏஐ அமைப்புகள் ஏற்கனவே அதிவேக பாதிப்பு கண்டறிதலில் பயனுள்ளதாக இருக்கக்கூடும் என்பதை இது சுட்டிக்காட்டுகிறது.

இந்த சோதனையை, முக்கிய மென்பொருளை பொதுப் பாதுகாப்பு, தேசிய பாதுகாப்பு மற்றும் பொருளாதாரத்திற்கான கடுமையான ஆபத்துகளிலிருந்து பாதுகாக்க பெரிய நிறுவனங்களையும் பிற அமைப்புகளையும் ஒன்றிணைப்பதற்கான முயற்சியாக விவரிக்கப்படும் Anthropic முயற்சி ஒன்றான Project Glasswing-க்கு அறிக்கை இணைக்கிறது. இந்த வடிவமைப்பு சோதனையை ஒரு பெரிய சூழலில் வைத்து பார்க்கிறது. ஏஐ நிறுவனங்களும் அரசுகளும் இனி சைபர் பாதுகாப்பு அபாயத்தை கற்பனை எதிர்கால பிரச்சினையாகக் காணவில்லை. மிகுந்த திறன் கொண்ட மாடல்கள் குறைகளை கண்டறிய வேண்டிய நேரத்தை சுருக்க, அமைப்பின் பலவீனங்களை வரைபடமாக்க, மற்றும் தாக்குதல் சார்ந்த சைபர் பணிகளின் சில பகுதிகளை செய்யத் தேவையான நிபுணத்துவத்தை குறைக்க முடியும் என்ற சாத்தியத்திற்காக அவை செயல்முறைகளை உருவாக்குகின்றன.

எது உறுதியாகத் தெரியும், எது தெரியாது

இந்தக் கதையில் மிக முக்கியமான எச்சரிக்கை அதன் மூலங்களே. மையக் கூற்றுகள் வகைப்படுத்தப்பட்ட அல்லது மிகுந்த உணர்திறன் கொண்ட விடயங்களைப் பற்றி பேசும் ஒரு அநாமதேய அதிகாரியிடமிருந்து வருகின்றன. மேலும், ஜூன் 11 அன்று Senate Committee on Banking, Housing, and Urban Affairs விசாரணையில், டெமோக்ராடிக் செனட்டர் மார்க் வார்னர் இந்தச் சோதனையை குறிப்பிட்டதாகவும், அந்த கருவி “வாரங்களில் அல்ல, மணிகளில்” கிட்டத்தட்ட அனைத்து வகைப்படுத்தப்பட்ட அமைப்புகளிலும் நுழைந்ததாகவும், அந்த விவரணையை National Security Agency மற்றும் U.S. Cyber Command தலைவரான ஜெனரல் Joshua Rudd-க்கு வரையறுத்ததாகவும் Fast Company தெரிவிக்கிறது.

ஆனால் NSA யும் Anthropic-உம் அந்த அறிக்கையின் விவரங்களை பொதுவாக உறுதிப்படுத்தவில்லை. கட்டுரையின் படி, NSA மின்னஞ்சல் மூலம் கருத்தளிக்க மறுத்தது, Anthropic பேச்சாளரும் கருத்தளிக்க மறுத்தார். இதனால் பொதுப் பதிவில் ஒரு விசித்திரமான நிலை உருவாகியுள்ளது: கவலை இருப்பதற்கான பரந்த அறிகுறிகள் ஒரு பொது விசாரணைக் குறிப்பால் ஆதரிக்கப்படுகின்றன, ஆனால் குறிப்புகள் இன்னும் பகுதியளவில் மட்டுமே வெளிச்சத்தில் உள்ளன. வகைப்படுத்தப்பட்ட வலைப்பின்னல்களில் உள்ளே உண்மையில் என்ன நடந்தது என்ற முழுமையான நிலைநிறுத்தப்பட்ட விவரமாக இந்த அறிக்கை முடிவுகளை எடுத்துக்கொள்வது அவசரமாகும்.

எப்படியிருந்தாலும், முழுமையற்ற மூலங்களுடன் வந்த அறிக்கையாக இருந்தாலும், இந்தக் கதை முக்கியமானது; ஏனெனில் அது இப்போது நடைபெறும் பரந்த கொள்கை மாற்றத்துடன் ஒத்துப்போகிறது. அரசுகள் மிக மேம்பட்ட ஏஐ மாடல்களை இரட்டை பயன்பாட்டு அமைப்புகளாக அதிகமாகப் பார்க்கின்றன. அவை ஆராய்ச்சி, குறியீடு எழுதுதல், பகுப்பாய்வு ஆகியவற்றுக்கு துணையாக இருக்க முடியும்; ஆனால் அவை மிக அதிகமாக கிடைக்கக்கூடியதாக இருந்தால் அல்லது போதுமான சோதனை இல்லாவிட்டால், சைபர் தாக்குதல், உயிர் பாதுகாப்பு ஆபத்து, தவறான தகவல் நடவடிக்கைகள், மற்றும் மூலதன நிலைத்தன்மையின்மை ஆகியவற்றை அதிகரிக்கவும் முடியும்.

ஏன் காலக்கட்டம் முக்கியம்

இந்த அறிக்கையில் கூறப்பட்ட சோதனை Anthropic மற்றும் Trump administration இடையே தெளிவான பதற்றம் இருக்கும் காலத்தில் வந்துள்ளது. Fast Company கூறுவதன்படி, Anthropic தனது ஏஐ அமைப்புகளை அமெரிக்க ராணுவம் எவ்வாறு பயன்படுத்தும் என்பதில் கவலை தெரிவித்துள்ளது; அதே நேரத்தில் நிர்வாகம் Anthropic-இன் சில மாடல்களின் பயன்பாட்டை கட்டுப்படுத்தியுள்ளது. ஜூன் தொடக்கத்தில், நிர்வாகம் Anthropic தங்களின் சமீபத்திய மாடல்களான Fable 5 மற்றும் Mythos 5-ஐ வெளிநாட்டு குடிமக்கள் பயன்படுத்தாமல் தடுக்க வேண்டும் என உத்தரவு பிறப்பித்தது. அதன் பின்னர் Anthropic, அந்த உத்தரவை பின்பற்ற அனைத்து வாடிக்கையாளர்களுக்கும் அந்த மாடல்களை முடக்கியது; அதேசமயம், தாம் அடையாளம் காட்டிய பாதுகாப்பு பிரச்சினை அந்த அரசின் நடவடிக்கைகளை நியாயப்படுத்தவில்லை என நம்புவதாகவும் கூறியது.

இந்த தொடர் நிகழ்வுகள் தற்போதைய ஏஐ தருணத்தின் வரையறை முரண்பாடுகளில் ஒன்றை வெளிப்படுத்துகிறது. அரசுகள் முன்முனை ஆய்வகங்கள் தங்கள் பாதுகாப்புகளை சோதிக்க, பாதிப்புகளை வெளிக்கொணர, மற்றும் முக்கியமான உட்கட்டமைப்பை வலுப்படுத்த உதவ வேண்டும் என்று விரும்புகின்றன. அதே நேரத்தில், அந்தzelfde அரசுகள் எதிரிகள் அவற்றைப் பயன்படுத்தக்கூடும் அல்லது ஆபத்தான திறன்கள் பரவக்கூடும் என்ற அச்சத்தால், அதே மாடல்களுக்கான அணுகலை கட்டுப்படுத்தத் தயாராகவும் இருக்கின்றன. இதன் விளைவாக, ஏஐ நிறுவனங்கள் மூலோபாய கூட்டாளிகளும், கட்டுப்பாடுகளுக்குட்பட்ட அபாய நடிகர்களும் ஆகிய இரட்டை வேடங்களில் செயல்படும் ஒரு இழுத்திழுப்பு உறவு உருவாகிறது.

அறிக்கையில் மேற்கோளிடப்பட்ட White House நடவடிக்கை இன்னொரு அடுக்கு சேர்க்கிறது. Anthropic-க்கு பிறப்பிக்கப்பட்ட உத்தரவுக்கு பத்து நாட்களுக்கு முன்பு, ஜனாதிபதி Donald Trump ஒரு செயல் உத்தரவில் கையெழுத்திட்டு, பொதுவெளியில் வெளியிடுவதற்கு முன், மிக மேம்பட்ட ஏஐ அமைப்புகள் ஏற்படுத்தக்கூடிய தேசிய பாதுகாப்பு அபாயங்களை கூட்டாட்சி அரசு ஒரு மாதம் வரை சரிபார்க்கும் கட்டமைப்பை நிறுவினார்; இதில் டெவலப்பர்களின் பங்கேற்பு தன்னார்வமானதாக விவரிக்கப்பட்டது. இதனால் வாஷிங்டன் மாடல் வெளியீடுகளுக்குப் பிறகு பதிலளிப்பதற்குப் பதிலாக, முன்கூட்டியே பரிசோதனை முறைமை ஒன்றை உருவாக்க முயல்கிறது என்பது தெரிகிறது.

முன்முனை மாடல்களுக்கு சைபர் பாதுகாப்பு ஒரு அழுத்தச் சோதனையாக மாறுகிறது

இந்த அறிக்கையின் ஆழ்ந்த முக்கியத்துவம் ஒரு நிறுவனத்திற்கோ அல்லது ஒரு கூறப்பட்ட சோதனை முடிவிற்கோ மட்டுப்படவில்லை. அது முன்முனை மாடல் திறனுக்கான மிகத் தெளிவான நிஜ உலக அளவுகோல்களில் ஒன்றாக சைபர் பாதுகாப்பை காட்டுகிறது. அமைப்புகளை விரைவாக பகுப்பாய்வு செய்து, சாத்தியமான பலவீனப் புள்ளிகளை அடையாளம் கண்டு, தாக்குதல் சங்கிலிகளைப் பற்றி தர்க்கரீதியாக சிந்திக்கக் கூடிய ஒரு மாடல் வலுவான பாதுகாப்பு உதவியாளராக மாறலாம். அதே திறன்கள் தவறாகப் பயன்படுத்தப்பட்டால் தாக்குதல் நடவடிக்கைகளையும் கூர்மையாக்க முடியும்.

அதனால்தான் இத்தகைய கூற்றுகள் ஏற்றுமதி கட்டுப்பாடுகள், அணுகல் வரம்புகள், மற்றும் மதிப்பீட்டு தரநிலைகளை பாதிக்கக்கூடும். ஒரு மாடல் சைபர் புகுந்தல் பணியின் வேகம் அல்லது அளவைப் பொருட்படுத்தத்தக்க வகையில் மேம்படுத்த முடியும் என்று கொள்கை நிர்ணயர்கள் நம்பினால், அவர்கள் கடுமையான வெளியீட்டு கட்டுப்பாடுகள் மற்றும் மேலும் கடுமையான முன்-நியமன சோதனைகளை வலியுறுத்துவார்கள். ஆரம்ப கண்டுபிடிப்புகளுக்கு அரசுகள் மிகையாகப் பதிலளிக்கக்கூடும் என்று நிறுவனங்கள் நினைத்தால், சட்டபூர்வமான பயன்பாடு மற்றும் உலகளாவிய போட்டித்தன்மையை கட்டுப்படுத்தும் பரவலான தடைகளை அவர்கள் எதிர்க்குவார்கள்.

Fast Company மேலும், சைபர் பாதுகாப்பு நிர்வாகிகள் கொண்ட ஒரு குழு, நிர்வாகம் தனது உத்தரவை வாபஸ் பெற வேண்டும் என்று கோரியதாகவும், அந்த நடவடிக்கை அமெரிக்க எதிரிகளுக்கு உதவக்கூடும் என்று வாதிட்டதாகவும் தெரிவிக்கிறது. அந்த வாதம் ஏஐ ஆளுமையில் உள்ள இன்னொரு பிளவை பிரதிபலிக்கிறது: அணுகலைக் கட்டுப்படுத்துவது சில அபாயங்களை குறைக்கலாம், ஆனால் நம்பகமான ஆராய்ச்சியாளர்கள், நிறுவனங்கள், மற்றும் கூட்டணி அமைப்புகள் மத்தியில் பாதுகாப்பு திறன் பரவுவதை மெதுவாக்கவும் முடியும். சைபர் கொள்கையில், கருவிகளை வரம்பிடுவது ஒருபோதும் இலவசமல்ல.

அடுத்து கவனிக்க வேண்டியது

அடுத்த முக்கியமான முன்னேற்றம், அறிக்கை செய்யப்பட்ட சோதனை பதிவின் எந்த பகுதியாவது பொதுவில் உறுதிப்படுத்தப்படுகிறதா என்பதே. ஏஜென்சிகள், சட்டமன்ற உறுப்பினர்கள், அல்லது Anthropic கூடுதல் விவரங்களை வெளியிட்டால், விவாதம் விரைவில் ஊகத்திலிருந்து முன்னுதாரணத்திற்கு மாறலாம். அது Anthropic-க்கு மட்டுமல்லாமல், பிற மாடல் உருவாக்குநர்கள் red-team பயிற்சிகளை எவ்வாறு வடிவமைக்கிறார்கள், ஆபத்தான திறன்களை எவ்வாறு வகைப்படுத்துகிறார்கள், மற்றும் முக்கிய வெளியீடுகளுக்கு முன் அரசுகளுடன் எவ்வாறு பேச்சுவார்த்தை நடத்துகிறார்கள் என்பதையும் பாதிக்கும்.

இப்போதைக்கு, இந்த அறிக்கை முழுமையான பொதுப் பதிவாக அல்ல, நம்பத்தகுந்த ஒரு சைகையாக நிற்கிறது. அந்த வரம்பான வடிவிலும், ஏஐ பாதுகாப்பு கேள்விகள் கோட்பாட்டிலிருந்து செயல்பாட்டு சோதனைக்கு எவ்வளவு வேகமாக நகர்கின்றன என்பதை இது வலியுறுத்துகிறது. மையக் கேள்வி இனி, மேம்பட்ட மாடல்கள் சைபர் பாதுகாப்பில் முக்கியமா என்பதல்ல. அடுத்த தலைமுறை அமைப்புகள் வரும் முன், அரசுகளும் ஆய்வகங்களும் அந்த திறனை எவ்வாறு அளப்பார்கள், அதன் அபாயங்களை எவ்வாறு கட்டுப்படுத்துவார்கள், மற்றும் யாருக்கு அணுகல் கிடைக்கும் என்பதை எவ்வாறு தீர்மானிப்பார்கள் என்பதே.

இந்தக் கட்டுரை Fast Company செய்தித் தொகுப்பை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.