பள்ளி மீது தாக்குதல் நடந்ததைத் தொடர்ந்து US இலக்கு அமைப்புகள் கவன ஆய்வில்

AI கால இராணுவ செயல்முறை மற்றும் பழமையான உட்கட்டமைப்பு

இரானில் ஒரு பள்ளியை தாக்கிய ஏவுகணைத் தாக்குதல் குறித்த ஒரு அறிக்கை, செயற்கை நுண்ணறிவு போர் திட்டமிடலில் அதிக பங்கு வகிக்கத் தொடங்கியுள்ள நிலையில் US இராணுவத்தின் இலக்கு அமைப்பு முறைகள் பாதுகாப்பாக வளர்ந்து வருகிறதா என்ற கேள்விகளை மேலும் தீவிரப்படுத்தியுள்ளது. வழங்கப்பட்ட மூல உரையின்படி, அந்த இடம் ஒரு தொடக்கப்பள்ளி என்று அடையாளப்படுத்திய ஒரு முக்கிய குறிப்பு, தொடர்புடைய நுண்ணறிவு கருவி அதிகாரப்பூர்வ இலக்கு தரவுத்தளத்துடன் இணைக்கப்படாததால் தளபதிகளுக்கு எட்டவில்லை என்று விசாரணையாளர்கள் கண்டறிந்தனர்.

மூலத்தில் இந்த வழக்கு ஒரு எளிய மென்பொருள் பிழையாக மட்டும் வர்ணிக்கப்படவில்லை. இது பல அடுக்குகளில் ஏற்பட்ட முறிவாகக் காட்டப்படுகிறது: பழைய படங்கள், தனித்தனி நுண்ணறிவு அமைப்புகள், கைமுறை தரவு கையாளல், மற்றும் இன்னும் முழுமையற்ற பதிவுகளை நம்பியிருக்கும் முடிவெடுப்பு சங்கிலியில் AI கருவிகளின் விரைவான செயல்பாட்டு பயன்பாடு. இதனால் உருவாகும் அழுத்தம் கவனிக்காமல் இருக்க முடியாது. AI வேகமாக இலக்குகளை பரிந்துரைக்க முடிந்தாலும், உடைந்த மூலத் தரவு அல்லது ஒன்றோடொன்று இணைக்கப்படாத தரவுத்தளங்களை அது ஈடுசெய்ய முடியாது.

வழக்கின் மையத்தில் தவறவிடப்பட்ட குறிப்பு

வழங்கப்பட்ட பொருளில் சுருக்கமாகக் கூறப்பட்ட கணக்கு, தென்கிழக்கு ஈரானின் மினாப் நகரிலுள்ள அந்த இடம் முன்பு US ஆல் ஈரானிய இராணுவ கடற்படை வசதியாக வகைப்படுத்தப்பட்டிருந்தது எனக் கூறுகிறது. ஆனால் 2019 இல், ஒரு ஆய்வாளர் அந்த கட்டிடம் ஒரு தொடக்கப்பள்ளியாக மாறியிருந்ததை காட்டும் மாற்றங்களை குறித்ததாக தெரிவிக்கப்படுகிறது. அந்த குறிப்பு ஒரு டிஜிட்டல் நுண்ணறிவு கருவியில் பதிவு செய்யப்பட்டது, ஆனால் அந்த கருவி தாக்குதல் இலக்குகளை உருவாக்க பயன்படுத்தப்படும் அதிகாரப்பூர்வ இலக்கு தரவுத்தளத்துடன் இணைக்கப்படவில்லை.

இதன் விளைவாக, புதுப்பிக்கப்பட்ட தகவல் தளபதிகள் நம்பியிருந்த அமைப்பில் ஒருபோதும் சேரவில்லை. மூல உரையின்படி, அந்த கட்டிடம் பலமுறை மறுபரிசீலிக்கப்பட்டது, ஆனால் தரவுத்தளம் திருத்தப்படவில்லை. அதே பொருள், அந்த மதிப்பீட்டில் பயன்படுத்தப்பட்ட படங்கள் ஏழு ஆண்டுகள் பழையவை என்று கூறுகிறது. இத்தகவல்களை ஒன்றாகப் பார்க்கும்போது, அடிப்படை தரவு-ஆட்சி தோல்வி தெளிவாகிறது: தகவல் இருந்தது, ஆனால் அது மிக முக்கியமான அமைப்புக்குள் செல்ல முடியும் என்பதை செயல்முறை உறுதி செய்யவில்லை.

இதன் விளைவுகள் பேரழிவானவை. அந்த தாக்குதலில் சுமார் 120 குழந்தைகள் உயிரிழந்ததாக மூலத்தில் கூறப்படுகிறது. விசாரணையாளர்கள் ஏற்கெனவே US படைகள் பொறுப்பாக இருக்கலாம் என்று கருதியிருந்தனர், மேலும் வழங்கப்பட்ட உரையில் விவரிக்கப்பட்ட பின்னர் செய்தியறிக்கைகள் அந்த முடிவை குறிப்பிட்ட தொழில்நுட்ப மற்றும் நடைமுறை தோல்விகளுடன் இணைத்தன.

AIயின் பங்கு: உறுதியான சூழல் இல்லாத அளவாக்கம்

அதே மோதலில் US இராணுவம் AI உதவியுடன் இலக்கு தேர்வை பெரிய அளவில் பயன்படுத்தியதாக தெரிவிக்கப்பட்டுள்ளதால், இந்த வழக்கு மிகவும் உணர்வுள்ள தருணத்தில் வருகிறது. Anthropic இன் Claude மாடல் Palantir இன் Maven Smart System இல் உட்பொதிக்கப்பட்டிருந்தது என்றும், முதல் நாளில் சுமார் 1,000 இலக்குகளை பரிந்துரைத்தது என்றும் மூல உரை கூறுகிறது. ஆரம்ப நாட்களில் 3,000 க்கும் அதிகமான இலக்குகள் தாக்கப்பட்டதாக முந்தைய அறிக்கையையும் அது மேற்கோளிடுகிறது.

இந்த எண்ணிக்கைகள் தொழில்நுட்ப நுட்பத்தை அளவிடுவதற்குக் காட்டிலும் செயல்தாளத்தை அளவிடுவதற்கே அதிக முக்கியத்துவம் உடையவை. அந்த அளவில், அடிப்படை தரவு சூழலின் எந்தவொரு பலவீனமும் மேலும் ஆபத்தானதாகிறது. AI முன்னுரிமை நிர்ணயம், வரிசை அமைத்தல், பரிந்துரை ஆகியவற்றை வேகப்படுத்த முடியும். ஆனால் அது system of record இல் ஒருபோதும் புதுப்பிக்கப்படாத பதிவுகளை நம்பகமாக சரிசெய்யவும், ஒன்றோடொன்று தொடர்பு இல்லாத தரவுத்தளங்களில் மறைந்துள்ள முரண்பாடுகளை தீர்க்கவும் முடியாது.

அந்த வேறுபாட்டை புரிந்துகொள்வது கொள்கை சிக்கலை விளக்குவதற்கு அவசியம். இராணுவ AI குறித்த பொது விவாதங்கள் பெரும்பாலும் ஒரு மாடல் உயிர்க்கொல்லி இலக்குகளை பரிந்துரைக்க அல்லது முன்னுரிமை தர அனுமதிக்கப்பட வேண்டுமா என்பதையே மையமாகக் கொண்டுள்ளன. இந்த வழக்கு அமைதியான ஆனால் அதேபோல் முக்கியமான ஒரு பிரச்சினையை சுட்டிக்காட்டுகிறது: கடுமையான மேற்பார்வையுடன் இயங்கும் மாடல் கூட, அது முழுமையற்ற, பழைய, அல்லது கட்டமைப்பில் துண்டிக்கப்பட்ட தகவல்களில் செயல்பட்டால், தவறான விளைவுகளில் பங்காற்ற முடியும்.

பழைய அமைப்புகளின் சுமை

வழங்கப்பட்ட மூல உரை MIDB எனப்படும் ஒரு மைய தரவுத்தளத்தை அடையாளப்படுத்துகிறது; இது 1980களில் உருவாக்கப்பட்டது மற்றும் இன்னும் பெருமளவில் கைமுறை உள்ளீட்டையே சார்ந்துள்ளது. MIDB, MARS எனப்படும் தானியங்கி அமைப்பால் மாற்றப்பட வேண்டும் என்று கூறப்படுகிறது, ஆனால் அந்த மாற்றம் பல ஆண்டுகள் பின்னடைந்துள்ளது. அதே பொருளின் படி, Government Accountability Office 2020 இல் நீண்டநாள் குறைபாடுகளை ஏற்கனவே சுட்டிக்காட்டியிருந்தது.

இந்த கட்டமைப்பு, பிரச்சினை ஒரு தவறவிடப்பட்ட குறிப்பை விட பெரியதென்பதை விளக்குகிறது. ஒரு இராணுவ அமைப்பு தனது பணப்பாய்முறையின் சில பகுதிகளில் மேம்பட்ட machine learning ஐ பயன்படுத்தி, அதே சமயம் வேறு காலத்திற்காக வடிவமைக்கப்பட்ட மைய தரவு அடித்தளத்தை சார்ந்திருக்கலாம். அத்தகைய சூழலில், AI ஒரு உண்மையான அமைப்பு மறுதொடக்கம் என்பதற்குப் பதிலாக நிறுவனத் துண்டிப்பின் மேல் ஒரு மேலடுக்கு ஆகிறது.

இதன் ஆபத்து, செயல்பாட்டாளர்கள் இந்த செயல்முறையை உண்மையை விட அதிகமாக நவீனமானது, ஒருங்கிணைந்தது, மற்றும் நம்பகமானது எனக் கருதக்கூடும் என்பதாகும். ஒரு உயர்மட்ட கட்டளை தளத்தில் உட்பொதிக்கப்பட்ட மாடல், முக்கியமான தரவு இன்னும் நொறுங்கக்கூடிய, பகுதியளவில் கைமுறை குழாய்கள் வழியாகச் செல்லும்போதும், தொழில்நுட்ப ஒருமைப்பாட்டின் தோற்றத்தை உருவாக்க முடியும்.

மனித மதிப்பாய்வு ஒரு கோஷம் அல்ல

உயிர்க்கொல்லி முடிவுகளுக்கான மனித மதிப்பாய்வை கண்காணிக்கும் முறைகள் போதிய நிதியில்லாமல் இருந்தன என்றும் மூல உரை குறிப்பிடுகிறது. AI கொள்கை விவாதங்களில் “human in the loop” போதுமான பாதுகாப்பாகப் பார்க்கப்படும் காரணத்தால் இது முக்கியம். நடைமுறையில், மதிப்பாய்வாளர்களுக்கு நேரம், சூழல், மற்றும் சரியான தரவுகளுக்கான அணுகல் இருந்தால்தான் மனித மதிப்பாய்வு செயல்படும். தரவுத்தளங்கள் இணைக்கப்படாமல், படங்கள் பழையதாகவும், வேலைநடப்புகள் வேகத்துக்காக அமைக்கப்பட்டிருந்தாலும், மனித மதிப்பாய்வு பொருள் கொண்ட கட்டுப்பாட்டைவிட வெறும் முறையான சோதனைப் புள்ளியாக மட்டுமே மாறிவிடும்.

இந்த வழக்கு மனித தீர்ப்பு அமைப்பு வடிவமைப்பிலிருந்து பிரிக்க முடியாதது என்பதை வலியுறுத்துகிறது. அமைப்பு காட்டாததை ஒரு மதிப்பாய்வாளர் சரிபார்க்க முடியாது. இணைக்கப்படாத கருவியில் மறைந்திருக்கும் பள்ளி வகைப்பாட்டை ஒரு தளபதி கண்டுபிடிக்கவும் முடியாது. இங்கே விவரிக்கப்பட்ட மையத் தோல்வி மனிதர்களின் இல்லாமை அல்ல; அதிகாரப்பூர்வ இலக்கு செயல்முறைக்கு மனித அறிவு செல்லக்கூடிய நம்பகமான பாதை இல்லாமையே.

இந்தச் சம்பவம் என்ன மாற்றுகிறது

மிக உடனடி விளைவு, AI பயன்படுத்தலாமா வேண்டாமா என்ற எளிய விவாதத்தை விட, இராணுவத் தரவு ஒருங்கிணைப்பை பற்றிய மீள்பார்வை அதிகரிப்பாக இருக்கும். வழங்கப்பட்ட பொருளே அதையே சுட்டிக்காட்டுகிறது, ஏனெனில் ஒருவருக்கொருவர் பேசாத அமைப்புகளுக்கு அது முக்கியத்துவம் அளிக்கிறது. அங்கு மேற்கோளிடப்பட்ட சில நிபுணர்கள், மேலும் AI மற்றும் டிஜிட்டல் அமைப்புகளுக்கு இடையிலான சிறந்த இணைப்புகள் பிழைகளை குறைக்க உதவும் என்று நம்புகின்றனர். அது உண்மையாக இருக்கலாம், ஆனால் ஒருங்கிணைப்பு ஒரு முன்நிபந்தனை என்று அல்ல, முன்னுரிமை என்று கருதப்பட்டால்தான்.

பாதுகாப்பு துறையில் AI-ஐ செயல்பாட்டுக்கு கொண்டுவருவதற்காக விரைந்து செயற்படும் அரசுகளுக்கு இன்னும் ஆழமான பாடமும் உள்ளது. மிக முக்கியமான தோல்விகள் frontier-model நடத்தை காரணமாக அல்ல, மாறாக சாதாரண நிறுவன அலட்சியம் காரணமாக உருவாகலாம்: பழைய தரவுத்தளங்கள், தாமதமான நவீனமயமாக்கல், முழுமையற்ற மாற்றுத் திட்டங்கள், மற்றும் சரிபார்ப்பை விட throughput ஐ ஊக்குவிக்கும் உந்துதல்கள். AI இவ்வளவு பலவீனங்களை மேலும் பெரிதாக்க முடியும், ஏனெனில் அது இலக்கு நாமினேஷன்கள் அமைப்பில் செல்லும் வேகத்தை அதிகரிக்கிறது.

இராணுவ திட்டமிடுபவர்கள் மற்றும் கொள்கை நிர்ணயிப்பவர்களுக்கு இதன் பொருள் சங்கடமானதானாலும் தெளிவானது. AI உதவியுடன் இலக்கு தேர்வு செய்வது தனித்திறன் கொண்ட ஒரு திறன் அல்ல. அது அடிப்படையிலுள்ள தரவு உட்கட்டமைப்பின் வலிமைகளையும் தோல்விகளையும் மரபாக ஏற்கிறது. அந்த உட்கட்டமைப்பு களப் புதுப்பிப்புகளை நம்பகமாக ஏற்றுக்கொள்ளவும், நுண்ணறிவு ஆதாரங்களை ஒருங்கிணைக்கவும், மதிப்பாய்வு சுற்றங்களில் மாற்றங்களை பாதுகாக்கவும் முடியாவிட்டால், அதிக தானியக்கம் பிழை நோக்கி செல்லும் பாதையை மட்டும் வேகப்படுத்தும்.

அடுக்கு முறையில் நவீனப்படுத்தலுக்கான எச்சரிக்கை

வழங்கப்பட்ட அறிக்கையில் பிரதிபலிக்கப்படும் பள்ளி தாக்குதல் விசாரணை, ஒரு மாடலின் மீது குற்றச்சாட்டு போன்று அல்ல; அடுக்கு முறையில் நவீனப்படுத்துவதற்கான எச்சரிக்கையாகவே படிக்கப்படுகிறது. புதிய AI கருவிகள் இன்னும் பழைய அமைப்புகளும் கைமுறை பணிநடப்புகளும் சார்ந்திருந்த ஒரு செயல்முறைக்குள் கொண்டு வரப்பட்டன. அதன் விளைவு தடையற்ற மேம்பாடு அல்ல; கணக்கியல் வேகமும் நிறுவன நினைவாற்றலும் இடையே ஏற்பட்ட ஆபத்தான பொருந்தாமை.

இந்த பொருந்தாமை, இந்த ஒரே சம்பவத்தைத் தாண்டி வரும் எதிர்கால விவாதங்களை வடிவமைக்கக்கூடும். பாதுகாப்பு, சுகாதாரம், அல்லது முக்கிய உட்கட்டமைப்பு எதுவாக இருந்தாலும், உயர்ந்த ஆபத்து சூழல்களில் AI-ஐப் பயன்படுத்தும் நிறுவனங்கள் அடிப்படை ஒரே கேள்வியை எதிர்கொள்கின்றன: அந்த மாடல் உண்மையில் அதை ஆதரிக்கத் தயாரான அமைப்பில் சேர்க்கப்படுகிறதா? இவ்வழக்கில், மூல உரையில் முன்வைக்கப்பட்ட ஆதாரங்கள் இல்லை என்பதையே காட்டுகின்றன, மற்றும் அந்த இடைவெளியின் விலை பொதுமக்களின் உயிர்களால் அளக்கப்பட்டது.

இந்த கட்டுரை The Decoder இன் செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.