AI மாதிரிகளுக்கான வகைப்படுத்தப்பட்ட பயிற்சி சூழ்நிலை
பென்டகன் செயற்கை நுண்ணறிவு நிறுவனங்கள் - Anthropic உட்பட மற்றும் சாத்தியமாக பிற எல்லை AI ஆய்வகங்கள் - வகைப்படுத்தப்பட்ட ராணுவ தரவுகளில் தங்களின் மாதிரிகளின் தனிப்பயன் பதிப்புகளைப் பயிற்றுவிக்க பாதுகாப்பான, வகைப்படுத்தப்பட்ட சூழ்நிலைகளை நிறுவ திட்டமிடுகிறது என்பதை MIT தொழில்நுட்ப மீளோசனை கண்டறிந்துள்ளது. இந்த முயற்சி வணிக செயற்கை நுண்ணறிவை தேசிய பாதுகாப்பு செயல்பாடுகளில் ஒருங்கிணைப்பதில் ஒரு பெரிய ஏற்றத்தைக் குறிக்கிறது, AI மாதிரிகள் வகைப்படுத்தப்பட்ட பொருள் பற்றிய கேள்விகளுக்கு பதிலளிக்கிற தற்போதைய ஏற்பாட்டைத் தாண்டி, வகைப்படுத்தப்பட்ட பொருள் மாதிரிகளை வடிவமைக்கும் நிலைக்கு முன்னேறுகிறது.
தற்போது, Claude போன்ற AI மாதிரிகள் புலனாய்வு பகுப்பாய்வு உள்ளிட்ட பணிகளில் உதவுவதற்காக வகைப்படுத்தப்பட்ட அமைப்புகளில் பயன்படுத்தப்படுகின்றன, மேலும் பல அறிக்கைகளின்படி, தொடர்ந்து நடமாடும் செயல்பாடுகளில் লக்ష்য தேர்வு. ஆனால் இந்த வரிசைப்படுத்தல்களில், AI அமைப்புகள் வகைப்படுத்தப்பட்ட உள்ளீடுகளில் இயங்கும் நிலையான வணிக மாதிரிகள் - அவை வகைப்படுத்தப்பட்ட தரவுகளின் மீது பயிற்சி பெறவில்லை அல்லது அவை கொண்டு பயிற்சி பெறவில்லை. வேறுபாடு பாதுகாப்பு দৃष்டிகோணத்திலிருந்து மகத்தாக முக்கியமாகும்.
வகைப்படுத்தப்பட்ட தரவுகளில் பயிற்சி என்ன பொருள்
வகைப்படுத்தப்பட்ட தரவுகளில் ஒரு மாதிரியைப் பயிற்றுவிப்பது அந்த தகவலை மாதிரির எடைகளில் - ஒரு மாதிரி தெரிந்த மற்றும் அது எவ்வாறு பகுத்தறிய கணிதத் தாளங்களில் - உட்பொதிக்கிறது. வகைப்படுத்தப்பட்ட தரவுகளின் மீது பயிற்சி பெற்ற மாதிரி ஒரு குறிப்பிட்ட கேள்விக்கான சூழலாக வகைப்படுத்தப்பட்ட தகவல் செயல்படுத்தும் மாதிரியைத் தவிர வேறுபட்டது, இது அதன் அடிப்படை கட்டமைப்பில் புலனாய்வு முறைகள், பகுப்பாய்வு கட்டமைப்புகள் மற்றும் சாத்தியமாக குறிப்பிட்ட உணர்திறன் தகவலைக் கொள்ளும்.
பாதுகாப்பு விளைவுகள் கணிசமாக உள்ளன. வகைப்படுத்தப்பட்ட தகவல் மாதிரி எடையில் உட்பொதிக்கப்பட்டால், அதை வெளிகொண்டுவர அসாধாரணமாக கடினமாகிறது. வகைப்படுத்தப்பட்ட ஆவணங்களைக் கையாளுவதற்கான நிலையான நடைமுறைகள் - அணுக உரிமைகள், தணிக்கை சுவடுகள், அறிந்திருக்க வேண்டிய நெறிமுறைகள் - இயந்திர கற்றல் மாதிரி தாளங்களுக்கு சுத்தமாக வரைபடம் செய்வதில்லை. வகைப்படுத்தப்பட்ட தரவுகளில் பயிற்சி பெற்ற மாதிரி ஒரு புதிய வகையான பாதுகாப்பு கலைப்பொருளைப் பிரதிநிதித்துவப்படுத்துகிறது, அதை நிர்வகிப்பதற்கு நிலவும் கட்டமைப்புகள் வடிவமைக்கப்படவில்லை.
பாதுகாப்பு அதிகாரிகள் இந்த ஆபத்துகளை ஒப்புக் கொண்டாலும், ராணுவ-குறிப்பிட்ட AI மாதிரிகளின் திறன் நன்மைகள் - ডোமேன்-குறிப்பிட்ட சொல்லகராதி, செயல்பாட்டு பாதுகாப்பு நெறிமுறைகள் மற்றும் வகைப்படுத்தப்பட்ட பகுப்பாய்வு কட்டமைப்புகளை புரிந்துகொள்ள பயிற்சி - பொருத்தமான பாதுகாப்பு கட்டமைப்புகளை வளர்த்துக் கொள்ளுதல் முதலீட்டை நியாயப்படுத்துகிறது என்று வாதிடுகின்றனர்.
Anthropic ன் சிக்கலான நிலை
Anthropic ஐ பாதுகாப்புத் துறையுடனான உறவு점점 மோசமாகிவிட்டுள்ளது. நிறுவனம் தனது AI இன் இராணுவ பயன்பாடுகளைப் பற்றிய கடுமையான கொள்கைகளை பகிரங்கமாக உறுதிப்படுத்தியுள்ளது, மற்றும் அறிக்கைகள் அமெரிக்க அதिकாריகள் Anthropic ஐ போர் செயல்பாட்டு அமைப்புகளுடன் நம்பக்கூடியதாக இருக்க முடியுமா என்று கேள்வி எழுப்பினர். வகைப்படுத்தப்பட்ட பயிற்சி திட்டம் Anthropic - மற்றும் சாத்தியமாக பிற பங்கேற்கும் AI நிறுவனங்கள் - ஒரு முன்னோடி நிலையில் வைக்கும்: பாதுகாப்பு அனுமதி கொண்ட கார்பொரேட் ஊழியர்கள் வகைப்படுத்தப்பட்ட சூழ்நிலைகளில் பயிற்சி மாதிரிகளில் கூடினர், அறிவாண்மை அவர்கள் கூட பேச அனுமதி இல்லாமல் இருக்கக்கூடும் அவர்களின் சொந்த அமைப்புகளுக்குள்.
OpenAI இன் நன்மையும் போட்டி ஒரு பூப்பியலாய்
OpenAI பென்டகன் தேவைகளுக்கு பொருந்தக்க போட்டியாளிகளை விட வேகமாக சென்றதாகத் தোன்றுகிறது. நிறுவனத்தின் பாதுகாப்புத் துறையுடனான சமரசம் - அதன் மாதிரிகளுக்குப் பொருந்தக்கூடிய இராணுவ பயன்பாட்டுக்கான சில கட்டுப்பாடுகளை தளர்ந்தாக பொருந்த - வகைப்படுத்தப்பட்ட ஒப்பந்தங்களுக்கான வரம்பிடப்பட்ட நிலையை தோட்டம் செய்துள்ளது. $50 பில்லியன் அமेசான்-OpenAI ஒப்பந்தம், அளவிடப்பட்ட ராணுவ AI பரিசயத்திற்கான கணினி உள்கட்டமைப்பை வழங்குகிறது, தேசிய பாதுகாப்பு பயன்பாடுகளுக்கான முதன்மை வணிক AI விற்பனையாளராக OpenAI இன் நிலையை আরও உறுதி செய்கிறது.
பென்டகனின் வகைப்படுத்தப்பட்ட பயிற்சி முயற்சி, அது திட்டமிட்ட முறையில் தொடரும் இருந்தால், வணிக AI நிறுவனங்கள் மற்றும் அமெரிக்க பாதுகாப்பு நிறுவனத்தின் உறவுகளின் পরবর்తி கட்ட வரையறுக்கும் - AI பாதுகாப்பு গবেषணை, AI ল்যாப்ஸ் மத்தியில் போட்டி இயக்கவியல் மற்றும் சர்வதேச AI ஆளுமை কাঠமைகளில் விளைவுகள் கொண்டு. அது வணிக AI கட்டமைப்புகளில் அரசு ரகசியங்களை உட்பொதிப்பது பற்றி எழுப்புகிறது, வெளிப்படையாக முன்கதையில் தெரியாது பாதுகாப்பு துறை அல்லது தொழில்நுட்ப தொழிலியின் வரலாற்றில்.
இந்த கட்டுரை MIT தொழில்நுட்ப மீளோசனையின் அறிக்கையின் அடிப்படையில் உள்ளது. தொடர்புடைய கட்டுரையைப் படிக்கவும்.
Originally published on technologyreview.com
