Mythos-க்கு தொடர்பான தகவலறிந்த அணுகலை Anthropic விசாரிக்கிறது
தேர்ந்தெடுக்கப்பட்ட விற்பனையாளர்களுக்கே கிடைக்குமாறு நிறுவனம் வழங்கியிருந்த Claude Mythos Preview எனும் சைபர் பாதுகாப்பு மையப்படுத்தப்பட்ட AI கருவியை, அங்கீகாரம் இல்லாத பயனாளர்களின் ஒரு குழு அணுகியதாக வந்த செய்தியை Anthropic விசாரித்து வருகிறது. மூன்றாம் தரப்பு விற்பனையாளர் சூழல் வழியாக இந்த அணுகல் ஏற்பட்டதாக வரும் குற்றச்சாட்டுகளை நிறுவனம் TechCrunch-க்கு தெரிவித்தபோது, Anthropic-இன் சொந்த அமைப்புகள் பாதிக்கப்பட்டதாக இதுவரை எந்த ஆதாரமும் கிடைக்கவில்லை என்றும் கூறியது.
இந்த செய்தி முக்கியமானது; ஏனெனில் Mythos ஒரு பொதுமக்கள் பயன்பாட்டு சாட்பாட் அல்ல. Anthropic இதை ஒரு நிறுவன பாதுகாப்பு கருவியாக விவரித்துள்ளது, தவறான கைகளில் சென்றால் அது தாக்குதல்முக ஹாக்கிங்கிற்காக மறுபயன்படுத்தப்படக்கூடிய அளவுக்கு திறன் கொண்டது. அதனால்தான் இந்த கருவியின் கட்டுப்படுத்தப்பட்ட வெளியீடு முக்கியம்: அணுகல் கட்டுப்பாடுகள் என்பது வெறும் வணிகப் பொதி தீர்மானம் அல்ல, பாதுகாப்பு மாதிரியின் ஒரு பகுதியாகும்.
அணுகல் எப்படி பெறப்பட்டதாக கூறப்படுகிறது
மூலப் பொருளின்படி, தனியார் ஆன்லைன் மன்றத்தின் உறுப்பினர்கள் மூன்றாம் தரப்பு விற்பனையாளர் வழியாக Mythos-க்கு அணுகல் பெற்றதாக Bloomberg செய்தி வெளியிட்டது. இதில் ஈடுபட்டவர்களின் பெயர்கள் பொதுவாக வெளிப்படுத்தப்படவில்லை. அறிக்கையில் குறிப்பிடப்பட்ட ஒருவரைப் பற்றி, அவர் Anthropic-க்கு தொடர்புடைய மூன்றாம் தரப்பு ஒப்பந்ததாரருக்காக வேலை செய்ததாக கூறப்பட்டு, அந்தக் குழு தங்களது முயற்சியின் ஒரு பகுதியாக அந்த நபரின் அணுகலை பயன்படுத்தியதாக தெரிவிக்கப்பட்டது.
மேலும், Anthropic-இன் பிற மாதிரிகளுக்கான முந்தைய பெயரிடல் அல்லது இருப்பிட முறைகளின் அடிப்படையில், அந்த மாதிரியின் ஆன்லைன் இருப்பிடத்தை அந்தக் குழு நுட்பமாக கணித்ததாகவும் குற்றச்சாட்டு எழுந்துள்ளது. Bloomberg-க்கு அந்த கருவியின் ஸ்கிரீன்ஷாட்களும் நேரடி டெமோவும் காட்டப்பட்டதாக கூறப்படுகிறது. Mythos பொதுவாக அறிவிக்கப்பட்ட அதே நாளில் அந்தக் குழு அதை அணுகியதாகவும், அதன் பின்னரும் அதை அடிக்கடி பயன்படுத்தியதாகவும் சொல்லப்படுகிறது.
இந்தச் சம்பவம் ஏன் முக்கியம்
AI நிறுவனங்களுக்கு, இந்தச் சம்பவம் ஒரு பழக்கமான பிரச்சினையை மேலும் கூர்மையான வடிவில் காட்டுகிறது: ஒரு மாதிரியின் மையம் பாதுகாக்கப்பட்டிருந்தாலும், அதைச் சுற்றியுள்ள விரிவான சூழலின் மூலம் அது வெளிப்படக்கூடும். விற்பனையாளர் சூழல்கள், ஒப்பந்ததாரர்கள், முன்னோட்டத் திட்டங்கள் மற்றும் ஆரம்ப கூட்டாளர் triển khaiகள் ஆகியவை அணுகல் சான்றுகள் மற்றும் வழித்தட விவரங்கள் கசிவதற்கோ தவறாகப் பயன்படுத்தப்படுவதற்கோ வாய்ப்புள்ள இடங்களின் எண்ணிக்கையை அதிகரிக்கின்றன.
Anthropic-இன் தற்போதைய நிலைப்பாடு, அறிக்கையில் கூறப்பட்ட குற்றச்சாட்டை விட குறுகியதாக உள்ளது. நிறுவனம் தனது அமைப்புகள் சமரசம் செய்யப்பட்டதாகச் சொல்லவில்லை. அது மூன்றாம் தரப்பு விற்பனையாளர் சூழல் தொடர்பான ஒரு அறிக்கையை விசாரித்து வருவதாகவும், அந்தச் செயல்பாடு Anthropic அமைப்புகளை பாதித்ததாகக் காட்டும் ஆதாரம் எதுவும் காணவில்லை என்றும் கூறுகிறது. அந்த வேறுபாடு முக்கியமானது; ஆனால் அது செயல்பாட்டு அபாயத்தை நீக்காது. கட்டுப்படுத்தப்பட்ட AI அமைப்புகளுக்கு, ஒரு கூட்டாளர் வழியாக ஏற்படும் அங்கீகாரமற்ற பயன்பாடு கூட கட்டுப்படுத்தப்பட்ட வெளியீட்டின் நோக்கத்தை பாதிக்கக்கூடும்.
அறிக்கையின்படி, Mythos என்பது Apple-ஐ உள்ளடக்கிய தேர்ந்தெடுக்கப்பட்ட விற்பனையாளர்கள் குழுவிற்கு Project Glasswing எனப்படும் முயற்சியின் ஒரு பகுதியாக வெளியிடப்பட்டது. இந்தக் கட்டுப்படுத்தப்பட்ட வெளியீடு, தீய நோக்கமுள்ளவர்கள் கருவியைப் பயன்படுத்தும் வாய்ப்பை குறைப்பதற்காகத் திட்டமிடப்பட்டது. அறிவிப்பு வெளியான உடனேயே ஒரு தனியார் குழு விற்பனையாளர் சேனல் மூலம் அணுகல் பெற்றிருந்தால், முன்னோட்டத் திட்டங்கள் எப்படி கண்காணிக்கப்படுகின்றன, அணுகல் எந்த அளவுக்கு கட்டுப்படுத்தப்படுகிறது, சந்தேகத்திற்குரிய பயன்பாடு எவ்வளவு விரைவாக கண்டறியப்படுகிறது என்பதுபற்றி கேள்விகள் எழுகின்றன.
AI பாதுகாப்பின் பரந்த சவால்
இந்த அறிக்கை, வெளியிடப்படாத AI அமைப்புகளைச் சுற்றியுள்ள கலாச்சாரப் பிரச்சினையையும் சுட்டிக்காட்டுகிறது. மூலப் பொருள், வெளியிடப்படாத AI மாதிரிகள் பற்றிய தகவல்களைத் தேடும் உறுப்பினர்களைக் கொண்ட ஒரு Discord சேனலை விவரிக்கிறது. அறிக்கையில் குறிப்பிடப்பட்ட நபர், அந்தக் குழு சேதம் செய்யும் நோக்கத்தை விட புதிய மாதிரிகளை முயற்சி செய்வதில் ஆர்வம் கொண்டதாக வர்ணித்தார். அந்த விளக்கம் சரியாக இருந்தாலும், ஒரு சைபர் பாதுகாப்பு கருவியில் அங்கீகாரமற்ற சோதனை செய்வது, சாதாரண சாட்பாட் பற்றிய ஆர்வத்தை விட அதிக அபாயம் கொண்ட சூழலை உருவாக்குகிறது.
நிறுவன AI பாதுகாப்பு தயாரிப்புகள், அச்சுறுத்தல்களை பகுப்பாய்வு செய்யவும், விசாரணையை தானியக்கமாக்கவும், பாதுகாப்பாளர்களுக்கு உதவவும் போதுமான அளவு பயனுள்ளதாக இருக்க வேண்டும். அதே திறன்கள், கண்காணிப்பு அல்லது சுரண்டலுக்காக திருப்பப்பட்டால் ஆபத்தானவையாக மாறலாம். இந்த முரண்பாடுதான் வெளியீட்டு ஒழுக்கத்தை தயாரிப்பு பாதுகாப்பின் மையமாக்குகிறது. மேலும், முன்னோட்டங்களில் பங்கேற்கும் விற்பனையாளர்கள் பாதுகாப்பு எல்லையின் ஒரு பகுதியாக மாறுகிறார்கள் என்பதையும் இது குறிக்கிறது.
Anthropic-க்கு உடனடி பணி, என்ன நடந்தது, எந்தவொரு அணுகல் பாதையும் இன்னும் திறந்திருப்பதா, மூன்றாம் தரப்பு சூழல்களைச் சுற்றிய கட்டுப்பாடுகள் போதுமானவையா என்பதைக் கண்டறிவதே. பரந்த தொழில்துறைக்கோ, முன்நிலை AI நிர்வாகம் வழக்கமான செயல்பாட்டு விவரங்களின் மீது निर्भरப்படுகின்றது என்பதற்கான எச்சரிக்கையாக இந்த நிகழ்வு அமைகிறது: சான்றுகள், ஒப்பந்ததாரர்கள், விற்பனையாளர் அனுமதிகள், பதிவு குறிப்புகள் மற்றும் உள் பெயரிடல் நடைமுறைகள்.
இந்த சம்பவம் இதுவரை Anthropic-இன் சொந்த அமைப்புகளில் ஏற்பட்ட மீறலாக விவரிக்கப்படவில்லை. இருந்தாலும், Mythos-க்கு ஏற்பட்டதாக கூறப்படும் அணுகல், கட்டுப்படுத்தப்பட்ட AI கருவிகளின் இருப்பு தெரிந்தவுடனேயே அவை எவ்வளவு விரைவாக இலக்காக மாறுகின்றன என்பதை காட்டுகிறது.
இந்தக் கட்டுரை TechCrunch வெளியிட்ட செய்தியை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.
Originally published on techcrunch.com
