முகவர் AI தன்னாட்சியில் காணாமல் போன இணைப்புகள்: நம்பிக்கையே உண்மையான தடையாக இருப்பது ஏன்

தவறுகள் நோயாளிகளில் அளவிடப்படும் இடத்தில் முகவர் AI வருகிறது

மருத்துவ செயற்கை நுண்ணறிவு பாரம்பரியமாக ஒரு கண்டறியும் சோதனை போலவே மதிப்பிடப்பட்டு வந்துள்ளது. ஒரு மாதிரி ஒரு தரவுத்தொகுப்பில் பயிற்சி பெறுகிறது, தனித்து வைக்கப்பட்ட மாதிரியில் மருத்துவர்களுடன் ஒப்பிடப்பட்டு, உணர்திறன், தனித்துவம் அல்லது சரியான தன்மையின் வேறு சில அளவீடுகளில் மதிப்பிடப்படுகிறது. அந்த முழு அணுகுமுறையும் ஒரு அனுமானத்தின் மீது தங்கியுள்ளது: மாதிரி ஒரு வெளியீட்டை உருவாக்குகிறது, மனிதன் அதை விளக்குகிறான்.

முகவர் AI அந்த அனுமானத்தை உடைக்கிறது. இந்த அமைப்புகள் பல படிநிலைகளில் இலக்குகளைத் தொடரும் வகையில் கட்டமைக்கப்பட்டுள்ளன — பதிவுகளை மீட்டெடுத்தல், சோதனைகளை ஆர்டர் செய்தல், ஆவணங்களை வரைதல், பின்தொடர்வுகளைத் திட்டமிடுதல், மற்றும் புதிய தகவல்கள் வரும்போது திட்டத்தைத் திருத்துதல். 2026 அக்டோபர் 2 அன்று Nature Medicine-இல் வெளியிடப்பட்ட "The missing links in agentic AI autonomy" என்ற கட்டுரை, இது உருவாக்கும் இடைவெளியைக் குறிவைக்கிறது. அதன் பொருள் மாதிரியின் துல்லியம் அல்ல, நம்பிக்கை: குறிப்பாக, தன்னாட்சி அமைப்புகள் பராமரிப்பில் அர்த்தமுள்ள வகையில் பங்கேற்க அனுமதிக்கப்படுவதற்கு முன் இருக்க வேண்டிய செயல்பாட்டு மற்றும் முடிவெடுக்கும் நம்பிக்கை.

இந்த கட்டமைப்பு, துறை வழக்கமாக AI பாதுகாப்பு பற்றி வாதிடும் விதத்திலிருந்து வேண்டுமென்றே விலகுகிறது. பெரும்பாலான விவாதங்கள் நம்பிக்கையை செயல்திறனின் பின்விளைவாகக் கருதுகின்றன — சிறந்த மாதிரியை உருவாக்குங்கள், நம்பிக்கை பின்தொடரும். இந்தக் கட்டுரை உறவு எதிர் திசையிலும் செல்கிறது என்று பரிந்துரைக்கிறது: நம்பிக்கையை அளவிடக்கூடியதாகவும் ஈட்டக்கூடியதாகவும் ஆக்கும் கட்டமைப்புகள் இல்லாமல், சிறந்த மாதிரிகள்கூட பாதுகாப்பாக ஒப்படைக்க முடியாது.

ஒன்றல்ல, இரண்டு வகையான நம்பிக்கை

கட்டுரையின் மிகப் பயனுள்ள நடவடிக்கை நம்பிக்கையை இரண்டு வகைகளாகப் பிரிப்பதாகும். இந்த வேறுபாடு முக்கியமானது, ஏனெனில் இரண்டும் மிகவும் வேறுபட்ட வழிகளில் தோல்வியடைகின்றன, மேலும் அவற்றை ஒன்றாகக் கலப்பது உண்மையான பிரச்சினைகள் எங்கே உள்ளன என்பதை மறைக்கிறது.

செயல்பாட்டு நம்பிக்கை

செயல்பாட்டு நம்பிக்கை என்பது ஒரு அமைப்பு தான் கூறுவதைச் செய்கிறதா, நம்பகமான முறையில், அது உண்மையில் பயன்படுத்தப்படும் சூழலில் என்பதைப் பற்றியது. அது சரியான தரவு மூலங்களை அடைய முடியுமா? ஒரு பதிவு காணாமல் போகும்போது, ஒரு வினவல் நேரம் முடிவடையும்போது, அல்லது ஒரு இடைமுகம் மாறும்போது அது நேர்த்தியாகத் தோல்வியடைகிறதா? மேற்பார்வை செய்யும் மனிதன் பார்க்கக்கூடிய வழிகளில் அது தரம் தாழ்கிறதா, அல்லது அமைதியாக நம்பிக்கையூட்டும் முட்டாள்தனத்தை உருவாக்குகிறதா? இவை பொறியியல் கேள்விகள் போலத் தோன்றுகின்றன, ஆனால் மருத்துவ அமைப்பில் அவை மருத்துவ எடையைக் கொண்டுள்ளன. ஒரு ஆய்வக முடிவை அமைதியாக இழக்கும் அமைப்பு வெறும் பிழையானது அல்ல; அது சாத்தியமான தீங்கு.

முடிவெடுக்கும் நம்பிக்கை

முடிவெடுக்கும் நம்பிக்கை மிகவும் குறுகியது மற்றும் நிறுவுவது கடினம். இது ஒரு அமைப்பு எடுக்கும் தீர்ப்புகள் — எந்த நடவடிக்கையை எடுக்க வேண்டும், எந்த வரிசையில், மற்றும் முக்கியமாக, எப்போது நிறுத்த வேண்டும் — நம்பிக்கைக்குரியவையா என்பதைப் பற்றியது. ஒரு அமைப்பு செயல்பாட்டில் குறையற்றதாக இருக்கலாம், ஆனால் ஒரு மருத்துவர் நேரடியாக நிராகரிக்கும் முடிவுகளை எடுக்கலாம். மாறாக, நடுங்கும் குழாய்களைக் கொண்ட ஒரு அமைப்பு எதுவும் உடையாத ஒரு குறுகிய சாளரத்திற்குள் நன்றாகச் சிந்திக்கலாம். தற்போதைய உரையாடலின் பெரும்பகுதி செய்வது போல, இவற்றை ஒரே மாறியாகக் கருதுவது, ஒன்றைச் சரிசெய்வது மற்றொன்றுக்கு எதுவும் செய்யாது என்பதை மறைக்கிறது.

தன்னாட்சி ஆபத்து கணக்கீட்டை ஏன் மாற்றுகிறது

ஒரு வழக்கமான மருத்துவ AI கருவி ஒரு பணிப்பாய்வுக்குள் அமர்ந்து காத்திருக்கிறது. அது ஒரு கேள்விக்கு பதிலளிக்கிறது, பதில் மதிப்பாய்வு செய்யப்படுகிறது. முகவர் அமைப்புகள் வேறுவிதமாகச் செய்கின்றன: அவை ஒரு இழையைப் பிடித்திருக்கின்றன. அவை இடைநிலைத் தேர்வுகளைச் செய்கின்றன, அவற்றில் சில விளைவுகளைக் கொண்டவை, மேலும் அந்தத் தேர்வுகள் பெருகுகின்றன. பெயரளவில் பொறுப்பில் உள்ள நபர் இறுதியில் சுருக்கத்தை மட்டுமே பார்க்கலாம்.

அந்தப் பெருக்கமே நம்பிக்கை கேள்வியை தத்துவார்த்தமாக அல்லாமல் அவசரமாக ஆக்குகிறது. ஒரு சோதனைச் சாவடி இல்லாமல் ஒரு அமைப்பு எடுக்கும் ஒவ்வொரு கூடுதல் படியும், ஒரு பிழை நுழையக்கூடிய இடங்களின் எண்ணிக்கையையும், அதைப் பெற்றுக்கொள்ளும் பின்னடைவு முடிவுகளின் எண்ணிக்கையையும் பெருக்குகிறது. ஒரு ஒற்றை முன்னறிவிப்புக்கு வேலை செய்யும் மனித மேற்பார்வை, ஒரு மதியம் முழுவதும் எடுக்கப்படும் பத்து நடவடிக்கைகளின் சங்கிலிக்கு தானாகவே அளவிடப்படாது.

முகவர் அமைப்புகள் மிக எளிதாக வெளிப்படுத்தும் தோல்வி முறைகளை — அதிக நம்பிக்கை, நம்பத்தகுந்ததாகத் தோன்றும் கற்பனை, மற்றும் தங்கள் சொந்த திறமையின் எல்லையை அடையாளம் காண்பதில் உள்ள சிரமம் — இந்தத் துறை வழக்கத்திற்கு மாறாக மன்னிக்காததால், சுகாதாரம் இதை மேலும் கூர்மைப்படுத்துகிறது. ஒரு மேற்கோளைக் கற்பனை செய்யும் சாட்பாட் சங்கடமானது. ஒரு மருந்து தொடர்பைக் கற்பனை செய்து அதன் அடிப்படையில் செயல்படும் அமைப்பு முற்றிலும் வேறு விஷயம்.

காணாமல் போன இணைப்புகள்

கட்டுரையின் வாதம் தன்னாட்சிக்கு திறன் மட்டுமல்ல, அதற்கு மேலானது தேவை என்றால், அடுத்த இயல்பான கேள்வி என்ன உண்மையில் இல்லை என்பதுதான். கட்டுரை உள்ளடக்கிய பகுதி முழுவதும் பல இடைவெளிகள் மீண்டும் மீண்டும் தோன்றுகின்றன.

• பணிக்குப் பொருந்தும் மதிப்பீடு. நிலையான அளவுகோல்கள் ஒற்றை பதில்களை அளவிடுகின்றன, முடிவுகளின் வரிசைகளை அல்ல. ஒரு முகவரின் திட்டம் நியாயமானதா என்பதை மதிப்பிடுவதற்கு முதிர்ந்த நடைமுறை இல்லை, அதன் இறுதி வெளியீடு ஒரு குறிப்புடன் பொருந்தியதா என்பதை மட்டுமே.
• பகுத்தறிவின் தணிக்கைத்திறன். ஒரு அமைப்பு ஒரு நடவடிக்கையை எடுக்கும்போது, அது ஏன் அவ்வாறு செய்தது என்பதற்கான பதிவு பெரும்பாலும் மெல்லியதாகவோ அல்லது பின்னர் மறுகட்டமைக்கப்பட்டதாகவோ இருக்கும். நம்பகமான தடயங்கள் இல்லாமல், மேற்பார்வை நாடகமாகிவிடும்.
• தெளிவாக வரையறுக்கப்பட்ட ஏற்றம். முகவர் அமைப்புகளுக்கு தெளிவான, நம்பகமான புள்ளிகள் தேவை, அங்கு அவை கட்டுப்பாட்டை மனிதனிடம் திருப்பித் தருகின்றன. அதிகப்படியான கைமாற்றங்கள் அமைப்பை பயனற்றதாக்குகின்றன; மிகக் குறைவானவை அதை ஆபத்தானதாக்குகின்றன, மேலும் சரியான வரம்பு சூழலைப் பொறுத்தது.
• தன்னாட்சியை எதிர்பார்க்கும் நிர்வாகம். சாதனங்கள் மற்றும் கண்டறிதல்களைச் சுற்றி கட்டப்பட்ட ஒழுங்குமுறை கட்டமைப்புகள், ஒவ்வொரு பயன்பாட்டுச் சூழலுடனும் நடத்தை மாறும் அமைப்புகளுக்கு சுத்தமாகப் பொருந்தாது.
• பகிரப்பட்ட வரையறைகள். செயல்பாட்டு நம்பிக்கை மற்றும் முடிவெடுக்கும் நம்பிக்கை என்ன என்பதற்கான ஒப்புக்கொள்ளப்பட்ட சொற்களஞ்சியம் இல்லாமல், நிறுவனங்கள் குறிப்புகளை ஒப்பிட முடியாது, மேலும் ஒவ்வொரு பயன்பாட்டும் தனித்தனியாக அதன் சொந்த தரங்களை மீண்டும் கண்டுபிடிக்கிறது.

ஈட்டப்பட்ட தன்னாட்சி உண்மையில் எப்படி இருக்கும்

கட்டுரையின் மறைமுகமான பரிந்துரை என்னவென்றால், தன்னாட்சி படிப்படியாக வழங்கப்பட வேண்டும் மற்றும் சான்றளிக்கப்பட வேண்டும், அளவுகோல் மதிப்பெண்களிலிருந்து அனுமானிக்கப்படக்கூடாது. இது மிகவும் கோரும் நிறுவன பழக்கங்களின் தொகுப்பைக் குறிக்கிறது.

• குறுகிய, மீளக்கூடிய நடவடிக்கைகளுடன் தொடங்கி, சான்றுகள் குவியும்போது மட்டுமே நோக்கத்தை விரிவாக்கும் பயன்பாடுகள்.
• இயக்க நேரம் மற்றும் தாமதத்தை மட்டுமல்ல, காலப்போக்கில் முடிவு தரத்தைக் கண்காணிக்கும் கண்காணிப்பு.
• தெளிவான பொறுப்புணர்வு: ஒரு தானியங்கி நடவடிக்கை தீங்கு விளைவிக்கும்போது பொறுப்பேற்கும் பெயரிடப்பட்ட மனிதர் அல்லது குழு.
• ஒரு சுயாதீன மதிப்பாய்வாளர் என்ன நடந்தது, ஏன் என்பதை மறுகட்டமைக்கக்கூடிய அளவுக்குக் கடுமையான ஆவணப்படுத்தல்.

இதில் எதுவும் கவர்ச்சிகரமானதல்ல. இது ஒரு திறமையான அமைப்பை நம்பகமானதாக மாற்றும் இணைப்புத் திசு, மேலும் அடிப்படை மாதிரி ஆர்வத்தை உருவாக்கும் அளவுக்கு ஈர்க்கக்கூடியதாக இருக்கும்போது தவிர்க்கப்படும் அடுக்கு இதுவே.

அசௌகரியமான முடிவு

Nature Medicine கட்டுரையின் மிகச் சவாலான தாக்கம் என்னவென்றால், முகவர் AI தன்னாட்சியில் காணாமல் போன இணைப்புகள் தொழில்நுட்பமானவை அல்ல. சிறந்த மாதிரிகள் செயல்பாட்டு நம்பிக்கையை அடைவதை எளிதாக்கும் — வேகமான, நம்பகமான, குறைந்த உடையக்கூடிய. ஆனால் முடிவெடுக்கும் நம்பிக்கை எந்தக் கட்டமைப்பும் தீர்க்காத கேள்விகளைச் சார்ந்துள்ளது: யார் பொறுப்பேற்கிறார்கள், ஏற்றுக்கொள்ளக்கூடிய ஆபத்து என்ன, எவ்வளவு மேற்பார்வை போதும், மற்றும் யார் முடிவு செய்யலாம்.

இவை நிறுவன மற்றும் மருத்துவ கேள்விகள், மேலும் மனித பயிற்சியாளர்களுக்கு இவற்றுக்குப் பதிலளிப்பதில் சுகாதாரம் பல தசாப்தங்களின் கடினமாக ஈட்டப்பட்ட அனுபவத்தைக் கொண்டுள்ளது. முன்னோக்கிய வேலை என்னவென்றால், வெறுமனே பதிலளிப்பதற்குப் பதிலாக செயல்படும் அமைப்புகளுக்கு அந்த அனுபவத்தை விரிவுபடுத்துவதாகும். அது நடக்கும் வரை, மருத்துவத்தில் பெரும்பாலான முகவர் AI பற்றிய நேர்மையான விவரணை தன்னாட்சி அல்ல. அது மேற்பார்வையற்றது, இது முற்றிலும் வேறு விஷயம்.

இந்தக் கட்டுரை Nature Medicine-இன் செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.