தூரமான விளைவுகளைக் கொண்ட ஒப்பந்தம்
OpenAI US பாதுகாப்பு துறையை அதன் AI அமைப்புகளை வகைப்படுத்தப்பட்ட இராணுவ சூழல்களில் பயன்படுத்த அனுமதிக்கும் வரலாற்று ஒப்பந்தத்தை அடைந்தவுடன் இரண்டு வாரங்களுக்கு மேல் கழிந்துவிட்டது. இந்த ஒப்பந்தம் AI ஆராய்ச்சியாளர்கள், ஆயுத கட்டுப்பாட்டு நிபுணர்கள் மற்றும் குடிமக்கள் உரிமை வக்திலகளிடம் கணிசமான கவனத்தையும் குறிப்பிடத்தக்க கவலையையும் ஏற்படுத்தியுள்ளது. US படைகள் Iran-க்கு எதிரான இராணுவ செயல்பாடுகளில் செயலில் ஈடுபட்டுள்ளன — Kharg Island-ல் தாக்குதல் உட்பட — இந்த நேரம் பெரும்பாலான மக்களின் எதிர்பார்ப்பை விட ஒப்பந்தத்தின் விளைவுகளை மேலும் உடனடியாக்குகிறது.
இந்த ஒப்பந்தத்தின் அடிப்படை அளவுருக்கள் தெரிந்துள்ளன: OpenAI இராணுவம் அதன் மாதிரிகள் பயன்படுத்தி தன்னிச்சையான ஆயுதங்களை உருவாக்குவதை அனுமதிக்கவில்லை என Sam Altman பகிரங்கமாக கூறினார், மேலும் இந்த ஏற்பாடு உள்நாட்டு கண்காணிப்பு பயன்பாடுகளைத் தடுக்கிறது என்று கூறினார். ஆனால் ஒப்பந்தத்தின் உண்மையான நிபந்தனைகளை ஆய்வு செய்வது அனைத்து கட்டுப்பாடுகளும் Pentagon தாமே நிறுவுவதன் மூலமாக நிறைவேற்றப்படுகிறது என்பதை வெளிப்படுத்துகிறது — இந்த வழிகாட்டுதல்கள் சர்வதேச தரங்களுடன் ஒப்பிடும் போது மிகவும் இளைப்பாறிய வகையாக உள்ளன.
Pentagon தன்னிச்சையான ஆயுத வழிகாட்டுதல்கள் உண்மையில் என்ன சொல்கின்றன
பாதுகாப்பு துறையின் தன்னிச்சையான ஆயுத அமைப்புகள் பற்றிய கட்டளை கொலை முடிவுகளுக்கு பொருத்தமான மட்டத்திலான மனித판断 பராமரிக்க வேண்டும் என்று கோரியுள்ளது. இந்த மொழிக்கு விமர்சகர்கள் தொடர்ந்து குறிப்பிட்டுள்ளனர் அது என்ன பொருத்தமாக உள்ளது என்பதை குறிப்பிடவில்லை, மனித அங்கீகாரம் ஒவ்வொரு தாக்குதலை தனியாக அங்கீகரிக்க தேவையில்லை, மேலும் அர்ধ-தன்னிச்சையான அமைப்புகளை வெளிப்படையாக அனுமதிக்கிறது அதில் மனிதர் இலக்கு வகைகள் அல்லது தாக்குதல் அளவுருக்கள் முன்கூட்டியே அங்கீகரிக்கிறார்கள் ஆனால் ஒவ்வொரு குறிப்பிட்ட ஈடுபாட்டை அங்கீகரிக்கவில்லை.
இது OpenAI-யின் பொது கூற்று — நாம் இராணுவம் தன்னிச்சையான ஆயுதங்களை உருவாக்க அனுமதிக்க மாட்டோம் — மற்றும் ஒப்பந்தம் உண்மையில் அனுமதிக்கிறது என்பதற்கு இடையே ஒரு குறிப்பிடத்தக்க இடைவெளி உருவாக்குகிறது. Pentagon-ஐ தாமே தரங்களின் கீழ், ஒரு AI அமைப்பு செல்சென்சர் தரவை செயல்படுத்தி, இலக்குகளை அடையாளம் கணைந்து, தாக்குதல்களை செயல்படுத்த முடியும் மற்றும் உடனடিய மனிதர் அனுமதி இல்லாமல் செயல்படும் போதும் ஒப்பந்தம் கட்டுப்பாடுகளை மீறாக இருக்க முடியும். OpenAI-யின் மாதிரிகள் அத்தகைய அமைப்புடன் ஒருங்கிணைக்க முடியுமா என்பது பகிரங்கமாக தெரியவில்லை.
Iran சோதனை நிலைக்கு
Iran-ஐ கொண்ட நடந்துகொண்டிருக்கும் மோதல் இந்த கேள்விகளை விளக்கம் அல்ல கொட்டை பதிலாக கொட்டையாக செய்கிறது. US Central Command Persian Gulf பகுதியில் தாக்குதல் செயல்பாடுகளை நடத்திக்கொண்டிருக்கிறது, Iranian கடல் எதிர் மிரட்டல்களுக்கு பதிலை ஒருங்கிணைத்து, சிக்கலான போர்க்களத்தில் நுண்ணறிவு சேகரணை நிரூபணை செய்கிறது. இந்த செயல்பாடுகள் ஒவ்வொன்றும் AI பயன்பாட்டின் வகைகளை உள்ளடக்கியுள்ளது அதில் OpenAI-யின் மாதிரிகள் ஒருங்கிணைக்கப்பட்டிருக்க முடியும்.
நுண்ணறிவு பக்கத்தில், பெரிய மொழி மாதிரிகள் பல ஆதாரங்களிலிருந்து தகவல்களை விரைவாக தொகுக்க, வெளிநாட்டு மொழி கோரிக்கைகளை மொழிபெயர்த்து, கட்டமைக்கப்பட்ட தரவில் மாதிரிகளை அடையாளம் கணைக்கூடும் — இவை அனைத்தும் இராணுவ நுண்ணறிவு பகுப்பாய்வுக்கு சம்பந்தப்பட்ட பணிகள். இந்த பயன்பாடுகள் வாணிய வணிக AI-யின் முக்கிய இராணுவ பயன்பாடுகள் என விரிவாக புரிந்து கொள்ளப்பட்டுள்ளன மற்றும் தன்னிச்சையான குறிக்கோள்கள் சிறிய தராதர கவலைகளை தோய்க்குபடுத்துகின்றன.
பெரிய கவலை சாயியான பயன்பாடுகளுடன் வந்திருந்தாலும் இலக்கு அடையாளம் அல்லது போர் சேதம் மூல்यांकனில், அதில் AI அமைப்புகள் படம் அல்லது signals அறிவு செயல்படுத்த முடியும் இராணுவ சম்பத்திகளை அடையாளம் கணைய, இயங்கத்தை தடம் பயலு, அல்லது தாக்குதல் விளைவுகளை மூल्यांकन செய்ய. இவை பெரிய பகுதிகள் தீர்மான ஆதரவையும் தன்னிச்சையான அமைப்பையும் சேர்க்கிறது — மற்றும் OpenAI-யின் குறிப்பிட்ட ஒப்பந்த மொழி ஒரு கொடுக்கப்பட்ட பயன்பாடு அனுமதிக்கப்படுகிறதா என்பதை தீர்மாணிக்கும்.
கண்காணிப்பு கட்டுப்பாடு மற்றும் அதன் வரம்புகள்
Altman-ஐ கூற்றை OpenAI-யின் தொழில்நுட்பம் உள்நாட்டு கண்காணிப்புக்கு பயன்படுத்தப்பட இல்லை என்பது இது தெரிந்ததை விட சிக்கலாக உள்ளது. கட்டுப்பாடு விளக்கியபடி விதிக்கப்பட்ட உள்நாட்டு கண்காணிப்பை — US குடிமக்கள் தரவை சேகரணை மற்றும் பகுப்பாய்வு — ஆனால் வெளிநாட்டு நுண்ணறிவு சேகரணைக்கு முன்தர் கொள்ளவில்லை. இராணுவ செயல்பாடுகள் சூழல்களில், எதிரி இராணுவ கோரிக்கைகளின் கண்காணிப்பு, நீர்ஜாতி இயங்கத்தின் தடம், மற்றும் Iranian ஆட்சி கருத்துக்கள் கண்காணிப்பு அனைத்தும் வெளிநாட்டு நுண்ணறிவு சேகரணை என்று தெளிவாக தெளிவாக்க முடியும் மற்றும் உள்நாட்டு கண்காணிப்பு கட்டுப்பாட்டுக்கு விதிக்கப்பட்டிருந்தாலும் தொக்க வில்லை.
உள்நாட்டு கண்காணிப்பு கவலைக்கு முக்கியம் பெறும் குடிமக்கள் உரிமை வக்திலங்கள் இராணுவ தளபெறும் மிக பெறும் வெளிநாட்டு நுண்ணறிவு பயன்பாடுகளை மிதமாக தொக்க. இரண்டும் பொது கூற்றுகளை கூட OpenAI-யின் பொது கட்டம் முழுவதாக இராணுவ பயன்பாடுகளின் தொலைக்கோளை பெறவில்லை என்ற உசாத்திருந்தாலும் குறிப்பிட்ட கட்டுப்பாடுகளையும் பெற்றிருக்கிறது.
OpenAI-யின் அभिप्रेरणα என்ன அறிக அறிகை பெற்றிருந்தாலும் தোன்றுகிறது
OpenAI வணிக AI வளர்ச்சி மற்றும் இராணுவ பயன்பாட்டுக்கிடையிலான நிরசப்பு வழிதே வழு தொழில்நுட்பம் நிறுவனம் முதல் அல்ல. Google 2018-ல் அதன் Project Maven ஒப்பந்தம் மீது குறிப்பிடத்தக்க உள் எதிர்ப்பு எதிர்கொண்டிருந்தது, அங்கத்துக்க அஇ பொதிய அம்பை மறுக்கிறது. Microsoft மற்றும் Amazon சில உள் மதிப்பீட்டைக்கூட பாதுகாப்பு ஒப்பந்த விரிவாக முறைப் தொடர்க்கொண்டுள்ளனர்.
OpenAI-யின் வகைப்படுத்தப்பட்ட இராணுவ சந்தையில் நுழை முடிவு அரசாங்க AI ஒப்பந்த போட்டிபொறுபொறு மற்றும் நிறுவனத்தின் நீண்ட கால நிலை முக்கியமாக இருக்கிறது எனுப தொலைக்கோன்தை, விशेषतუ Anthropic, Google DeepMind, மற்றும் பாதுகாப்பு-மстобыиი AI நிறுவனங்களான Scale AI மற்றும் Palantir-ஐ போட்டிபோடுவதுக்க். Pentagon-ஐ AI பாঠ்ப்பு விரிவாக வளர்ச்சிபெற்றுவருந்தது, மற்றும் நிறுவனம் ஆரம்பத்திலேயே நம்பிக்கையான அரசாங்க AI கூட்டாளி என தொட்டளிய நீண்ட கால நன்மைபெறவும்.
இந்த கட்டுரை MIT Technology Review அறிக்கையின் அடிப்படையில் தயாரிக்கப்பட்டுள்ளது. மூல கட்டுரை படிக்கவும்.
Originally published on technologyreview.com
