2026 வசந்த காலத்தில், ஒரு AI சாட்பாட் ஒரு சீனக் கப்பலின் சரக்கை அணு ஆயுதங்களுக்கான பாகங்கள் என தவறாக அடையாளம் கண்டதால், அமெரிக்க ராணுவம் அந்தக் கப்பலில் ஏறும் நிலைக்கு சில நிமிடங்கள் முன்பு வந்தது. ஆயுதம் தாங்கிய வீரர்கள் தயார் நிலையில் இருந்தனர், விமானங்கள் ஏற்கனவே வானில் இருந்தன, அப்போது யாரோ ஒருவர் அந்தப் பிழையைக் கண்டுபிடித்தார் என்று CNN இன் தனிச்சிறப்பு அறிக்கை தெரிவிக்கிறது.
இந்த அருகாமைத் தவறு ஒரு ஆய்வகத்திலோ, போர் விளையாட்டிலோ, அல்லது சிவப்பு-அணி பயிற்சியிலோ நடக்கவில்லை. இது ஒரு உண்மையான உளவுத்துறை பணிப்பாய்வுக்குள் நிகழ்ந்தது, தரவுகளை விளக்குவதற்கு உதவி தேடி ஒரு ஆய்வாளர் பயன்படுத்திய கருவியால் இயக்கப்பட்டது — மேலும் ஒரு இயந்திரத்தின் தவறை ஒரு சர்வதேச சம்பவமாக மாற்றுவதற்கு ஒரே ஒரு பிடிப்பு மட்டுமே தேவைப்பட்டது.
ஒரு சாட்பாட் வணிகச் சரக்கை எவ்வாறு அணு அச்சுறுத்தலாக மாற்றியது
அந்த ஆய்வாளர் அமெரிக்க சிறப்பு நடவடிக்கைகள் கமாண்டின் கீழ் பணியாற்றினார். CNN இன் அறிக்கையின்படி, கேள்விக்குரிய கருவி திறந்த மூல உளவுத்துறையை அரசாங்க அமைப்புகளுக்குள் வைக்கப்பட்டுள்ள இரகசிய சமிக்ஞை உளவுத்துறையுடன் இணைத்தது — இந்தக் கலவை சாட்பாட்டின் வெளியீட்டிற்கு ஒரு முடிக்கப்பட்ட, அதிகாரப்பூர்வ மதிப்பீட்டின் தன்மையை அளித்தது.
அது உருவாக்கியது ஒரு தவறான அடையாளமாகும். அந்தச் சரக்கு அணு பொருள் அல்ல. ஆனால் அந்தப் பிழை உளவுத்துறை போலத் தோற்றமளிக்கும் வடிவில் வந்தது: மூலாதாரங்களுடன், தொகுக்கப்பட்டு, ஒரு முடிவெடுக்கும் நபருக்காகத் தொகுக்கப்பட்டது. வீரர்கள் எச்சரிக்கப்பட்டனர், விமானங்கள் அவசரமாக அனுப்பப்பட்டன, மேலும் அடிப்படைக் கூற்று தவறானது என ஒரு மனிதர் உணரும் முன் ஒரு கப்பலேறும் நடவடிக்கை நிறைவேற்றப்படும் நிலைக்கு நெருங்கியது.
இந்தச் சம்பவம், ஒரு உருவாக்கும் அமைப்பு தனக்கு நம்பகமான முறையில் பிரிக்க வழியில்லாத வகைகளை — பொது அறிக்கைகள், இரகசிய சமிக்ஞைகள், மற்றும் ஊகம் — கலக்கும்போது என்ன நடக்கிறது என்பதற்கு ஒரு பாடநூல் எடுத்துக்காட்டு. வெளியீடு சீராகப் படிக்கப்படுகிறது, ஏனெனில் இந்த அமைப்புகள் சீரான தன்மைக்காகவே உகந்ததாக்கப்பட்டுள்ளன. உலகைப் பற்றிய துல்லியம் முற்றிலும் வேறுபட்ட பிரச்சினை.
அந்தத் தவறு ஏன் மிகவும் நம்பவைக்கக்கூடியதாக இருந்தது
CNN இன் கூற்றின் அடிப்படையில், பல காரணிகள் இந்தப் பிழையை மேலும் மோசமாக்கியதாகத் தெரிகிறது:
- கலந்த மூலாதாரம். சாட்பாட் திறந்த மூலப் பொருட்களை அரசாங்கக் கையிருப்பில் உள்ள இரகசிய சமிக்ஞை உளவுத்துறையுடன் இணைத்தது, ஆய்வாளர்கள் தனித்துவமாக வைத்திருக்கப் பயிற்சி பெற்ற வரிகளை மங்கச் செய்தது.
- நம்பிக்கையான வழங்கல். தவறான கொடி ஒரு திறந்த கேள்வியாக அல்லாமல் ஒரு தீர்மானமாகத் தொகுக்கப்பட்டது, எதுவும் நிச்சயமற்றது என்பதற்கான எந்தத் தெளிவான அறிகுறியையும் விட்டுச் செல்லவில்லை.
- வேக அழுத்தம். பகுப்பாய்வை விரைவுபடுத்தும் ஒரு கருவி, அது உருவாக்கும் எந்த முடிவை நோக்கியும் — சரியானதோ இல்லையோ — இயக்கத்தை விரைவுபடுத்துகிறது.
- வரையறுக்கப்பட்ட சரிபார்ப்பு. AI-உருவாக்கிய உளவுத்துறை நடவடிக்கைகளுக்குள் செல்வதற்கு முன் அதைச் சரிபார்க்க ராணுவம் முழுவதும் ஒரே மாதிரியான தரநிலைகள் இல்லை என்று கூறப்படுகிறது.
சரிபார்ப்பு அடித்தளம் இல்லாத ஒரு ஏற்பு முயற்சி
இந்தச் சம்பவம் அமெரிக்க ராணுவம் முழுவதும் AI பயன்பாட்டை விரிவாக்குவதற்கான ஒரு வேண்டுமென்றே முயற்சியின் நடுவில் விழுகிறது. பாதுகாப்பு செயலாளர் பீட் ஹெக்செத், AI ஏற்பை பாதுகாப்பு பணிப்பாய்வுகளுக்குள் ஆழமாகத் தள்ளுவதை நோக்கமாகக் கொண்ட ஒரு முடுக்கம் உத்தியை முன்னெடுத்து வருகிறார். லட்சியம் நேரடியானது: விரைவான பகுப்பாய்வு, அதிக தரவு செயலாக்கம், குறுகிய முடிவெடுக்கும் சுழற்சிகள்.
CNN இன் அறிக்கை குறிப்பிடுவது என்னவென்றால், பாதுகாப்பு வேலிகள் வெளியீட்டுடன் ஒத்துப்போகவில்லை. பயன்பாட்டில் உள்ள உள் அமைப்புகள் பெரும்பாலும் வணிக தயாரிப்புகளின் "லிப்ஸ்டிக்" பதிப்புகள் என்று ஆதாரங்கள் விவரித்தன — இரகசிய உளவுத்துறை பணிக்கும் அதன் சரிபார்ப்புத் தேவைகளுக்கும் அடிப்படையிலிருந்து வடிவமைக்கப்பட்ட அமைப்புகளுக்குப் பதிலாக அரசாங்க வண்ணம் பூசப்பட்ட வணிகக் கருவிகள்.
அதே ஆதாரங்கள் கருவிகள் எவ்வாறு நடத்தப்படுகின்றன என்பதில் ஒரு பிளவைச் சுட்டிக்காட்டின. இளைய ஆய்வாளர்கள், AI வெளியீடுகளைக் கேள்வி கேட்காமல் நம்புவார்கள் என்று அவர்கள் கூறினர் — இது ஒரு தேடுபொறி இணைப்புகளைத் திருப்பித் தரும்போது ஒரு நியாயமான பழக்கம், ஆனால் முடிக்கப்பட்ட உளவுத்துறை போலப் படிக்கும் முடிவுகளை அது திருப்பித் தரும்போது ஒரு ஆபத்தான பழக்கம்.
உண்மையான ஆபத்து அன்றாடமானதாக இருக்கலாம், அதிவுலகமானதாக அல்ல
இந்த அருகாமைக் கப்பலேற்றம், AI ஆபத்து பொதுவில் விவாதிக்கப்படும் விதத்திற்கு எதிரானது. மிக உரத்த வாதங்கள் மனிதக் கட்டுப்பாட்டிலிருந்து தப்பிக்கும் மீள்-அறிவாற்றல் அமைப்புகளைப் பற்றியதாக இருக்கும். இந்த வழக்கு மிகவும் சாதாரணமான ஒன்றைப் பற்றியது: ஒரு குறைபாடுள்ள கருவி, நேர அழுத்தத்தின் கீழ், அதன் வார்த்தையை நம்பும் மக்களால், பதிலைச் சரிபார்க்க ஒரே மாதிரியான விதிகள் இல்லாத ஒரு நிறுவனத்திற்குள் பயன்படுத்தப்படுகிறது.
ஒரு ஆதாரம் இந்த இயக்கவியலை நேரடியாகச் சுருக்கமாகக் கூறியது, AI "ஒரு மோசமான யோசனைக்கு விரைவாகச் செல்ல உங்களை அனுமதிக்கிறது" என்று CNN இடம் கூறியது. அந்த வாக்கியம் குறிப்பிட்ட ஆபத்தைப் பிடிக்கிறது. தொழில்நுட்பம் தீங்கிழைக்கும் அல்லது உணர்வுள்ளதாக இருக்க வேண்டியதில்லை ஆபத்தானதாக இருக்க. அது ஒரு தவறான முடிவை அடைவதை எளிதாக்க வேண்டும், பரப்புவதை எளிதாக்க வேண்டும், மற்றும் அதன் மேல் நடவடிக்கை எடுப்பதை எளிதாக்க வேண்டும்.
விமர்சனமற்ற அல்லது தீய நம்பிக்கையுள்ள இயக்குபவர்களின் கைகளில் உள்ள அலட்சியமான அமைப்புகளைப் பற்றி பல ஆண்டுகளாக எச்சரித்து வந்த ஆதரவாளர்களுக்கு இப்போது ஒரு உறுதியான எடுத்துக்காட்டு உள்ளது. அவர்கள் விவரித்த காட்சி — கடவுள் போன்ற இயந்திரங்கள் அல்ல, அலட்சியமானவை — துல்லியமாக நடந்ததாகத் தெரிகிறது.
உளவுத்துறை பணியில் AI பற்றி இந்த அருகாமைத் தவறு என்ன வெளிப்படுத்துகிறது
மிகவும் அசௌகரியமான விவரம் என்னவென்றால், பிழை கண்டறியப்படுவதற்கு முன் எவ்வளவு தூரம் பயணித்தது. ஒரு தவறான கொடி ஒரு அரட்டை சாளரத்திற்குள் தங்கவில்லை. அது ஒரு ராணுவ நிலையாக மாறியது: துருப்புக்கள் தயார், விமானங்கள் வானில், ஒரு கப்பலேற்ற நடவடிக்கை சில நிமிடங்கள் தூரத்தில். அது ஒரு மாயத்தோற்றத்திற்கும் ஒரு நெருக்கடிக்கும் இடையிலான தூரம், மேலும் அது ஒரே ஒரு பணிப்பாய்வுக்குள் மூடப்பட்டது.
இந்தச் சம்பவம் நிறுவனங்கள் இன்னும் தீர்த்து வரும் ஒரு பொறுப்புக்கூறல் கேள்வியையும் எடுத்துக்காட்டுகிறது. ஒரு AI-உதவி மதிப்பீடு ஒரு செயல்பாட்டு முடிவுக்கு பங்களிக்கும்போது, பொறுப்பு மாதிரிக்கு மாற்றப்படாது. சரிபார்ப்புக் கடமை அதைச் சுற்றியுள்ள மக்களிடமும் செயல்முறைகளிடமும் இருக்கும். அந்தச் சரிபார்ப்புக்கு ஒரே மாதிரியான தரநிலை இல்லை என்றால், கடமை திறம்பட ஒதுக்கப்படாமல் இருக்கும்.
பின்வரும் நடைமுறைக் கேள்விகள்
- ஒரு AI-பெறப்பட்ட உளவுத்துறை கண்டுபிடிப்பு நடவடிக்கைகளைப் பாதிக்கும் முன் அதை யார் அங்கீகரிக்கிறார்கள்?
- ஒரு மாதிரியின் ஊகத்தை உறுதிப்படுத்தப்பட்ட உண்மையிலிருந்து எது வேறுபடுத்துகிறது, அந்த வேறுபாடு ஆய்வாளருக்கு எவ்வாறு காட்டப்படுகிறது?
- வணிகத்திலிருந்து பெறப்பட்ட உள் கருவிகள் இரகசிய உளவுத்துறை பணிக்காக எவ்வாறு சரிபார்க்கப்படுகின்றன?
- நம்பிக்கையான, சீரான, மற்றும் தவறான வெளியீட்டை சவால் செய்ய ஆய்வாளர்களை எந்தப் பயிற்சி தயார் செய்கிறது?
இந்தக் கேள்விகள் எதுவும் அரிதானவை அல்ல. மூலாதாரம் மற்றும் உறுதிப்படுத்தலை நம்பியிருக்கும் எந்த உளவுத்துறை செயல்முறையின் சாதாரண தேவைகள் அவை. சிக்கல் என்னவென்றால், உருவாக்கும் கருவிகள் அந்தச் செயல்முறையின் பல படிகளை ஒரே சீரான பதிலாகச் சுருக்குகின்றன, மேலும் யாராவது வேண்டுமென்றே அதைத் தேடினால் தவிர அந்தச் சுருக்கம் கண்ணுக்குத் தெரியாது.
சரியான நேரத்தில் வந்த ஒரு எச்சரிக்கை
இந்தச் சம்பவம் ஒரு கப்பலேற்றம் இல்லாமல் முடிந்தது, இது அதை ஒரு பேரழிவாக அல்லாமல் ஒரு எச்சரிக்கையாக மாற்றுகிறது. இது அதை ஒரு அருகாமை அழைப்பாகக் கோப்பில் வைத்துவிட்டு தொடர்வதை எளிதாக்குகிறது. CNN இன் அறிக்கை அந்தப் பிரதிபலிப்புக்கு எதிராக வாதிடுகிறது: பிழையை உருவாக்கிய நிலைமைகள் — கலந்த தரவு மூலாதாரங்கள், வணிக தர கருவிகள், ஏற்பு அழுத்தம், மற்றும் விமர்சனமற்ற நம்பிக்கை — இன்னும் அப்படியே உள்ளன.
2026 வசந்த காலத்தில் நடந்தது ஒருமுறை கண்டறியப்பட்டு, எதுவும் மாறவில்லை என்றால், மீண்டும் கண்டறியப்படாத ஒரு வகை தோல்வி. இந்த அருகாமைத் தவறு சரிபார்ப்புத் தரநிலைகளுக்கு ஒரு திருப்புமுனையாக மாறுகிறதா அல்லது ஒரு அடிக்குறிப்பாக மாறுகிறதா என்பது இப்போது எடுக்கப்படும் முடிவுகளைப் பொறுத்தது, விமானங்கள் தரையில் திரும்பியிருக்கும் மற்றும் எந்தக் கப்பலும் ஏறப்படாத நிலையில்.
இந்தக் கட்டுரை The Decoder இன் அறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.
Originally published on the-decoder.com