தோல் நோய் கண்டறிதல் ஆய்வில் explainable AI உதவியும் சேதமும் செய்கிறது

Explainable AI எல்லோரையும் ஒரே விதமாக பாதிக்கவில்லை

Nature Medicine இதழில் வெளியான ஒரு புதிய ஆய்வு, explainable AI தோல் மருத்துவ நோயறிதல் ஆதரவை மேம்படுத்த முடியும் என தெரிவிக்கிறது; ஆனால் அதன் பயன்கள் அதை யார் பயன்படுத்துகிறார்கள், AI-யின் பதில் எப்போது காட்டப்படுகிறது என்பதிலேயே பெரிதும் சார்ந்துள்ளன. 623 சாதாரண நபர்களும் 153 முதன்மை பராமரிப்பு மருத்துவர்களும் பங்கேற்ற இரண்டு பெரிய பரிசோதனைகளில், நியாயக் கட்டுப்பாடுகளுடன் அமைக்கப்பட்ட AI மாதிரியின் உதவி மொத்த நோயறிதல் துல்லியத்தை உயர்த்தி, தோல் நிறங்களுக்கிடையிலான செயல்திறன் வேறுபாடுகளை குறைத்தது. ஆனால் அந்த அமைப்பின் மேல் கட்டப்பட்ட விளக்க அடுக்கு, நிபுணர்கள் அல்லாதவர்களுக்கும் மருத்துவர்களுக்கும் முற்றிலும் வேறுபட்ட விளைவுகளை ஏற்படுத்தியது.

இந்த ஆய்வின் மைய முடிவு explainable AI-க்கு ஒரு எளிய ஆதரவு அல்ல; அதன் சமச்சீர் இல்லாத தாக்கம் குறித்த எச்சரிக்கை. சாதாரண பயனர்கள் automation bias-க்கு அதிகம் உட்பட்டனர்: AI நோயறிதல் சரியாக இருந்தபோது, அவர்களின் செயல்திறன் மேம்பட்டது; அமைப்பு தவறாக இருந்தபோது, அவர்களின் செயல்திறன் குறைந்தது. அதற்கு மாறாக, முதன்மை பராமரிப்பு மருத்துவர்கள் அதிக உறுதியுடன் இருந்தனர். AI நோயறிதல் சரியா தவறா என்பதற்குப் பொருட்டல்லாமல் அவர்கள் பயனடைந்தனர், எனவே அனுபவம் விளக்கங்கள் எவ்வாறு பொருளாக்கப்பட்டன மற்றும் எவ்வாறு மதிப்பிடப்பட்டன என்பதை மாற்றியது என்று ஆய்வு கூறுகிறது.

மருத்துவ AI இப்போது ஒரே நேரத்தில் இரண்டு மிகவும் வேறுபட்ட பார்வையாளர்களை நோக்கி செல்கிறது என்பதால் இந்த கண்டுபிடிப்பு முக்கியமானது. ஒன்று, தொழில்முறை சூழலில் மென்பொருளைப் பயன்படுத்தும் மருத்துவர்கள். மற்றொன்று, AI-ஆதாரமான அறிகுறி சரிபார்ப்பிகள், படம் விளக்கிகள், மற்றும் பெரிய மொழி மாதிரி இடைமுகங்களை நேரடியாக எதிர்கொள்ளும் பொதுமக்கள். இந்த இரண்டு சூழல்களையும் ஒன்றுக்கொன்று மாற்றாகக் கருதக் கூடாது என்று இந்த ஆய்வு சுட்டிக்காட்டுகிறது.

நியாயக் கட்டுப்பாடுகளுடன் அமைக்கப்பட்ட மாதிரி அடிப்படை செயல்திறனை மேம்படுத்தியது

தோல் நிறங்களுக்கிடையே செயல்திறனை சமநிலைப்படுத்தும் நோக்கில் நியாயக் கட்டுப்பாடுகளுடன் பயிற்றுவிக்கப்பட்ட ஒரு தோல் மருத்துவ AI அமைப்பைச் சுற்றியே ஆராய்ச்சியாளர்கள் இந்த பரிசோதனைகளை அமைத்தனர். இந்த வடிவமைப்பு தேர்வு, மருத்துவ இமேஜிங் AI-யில் தொடர்ந்து காணப்படும் முக்கியமான கவலைகளில் ஒன்றைத் தீர்த்தது: பயிற்சி தரவு அல்லது மேம்படுத்தும் செயல்முறை சில மக்களை குறைவாக பிரதிநிதித்துவப்படுத்தினால், அமைப்புகள் மக்கள் தொகை குழுக்களுக்கிடையே சமமற்ற முறையில் செயல்படலாம்.

ஆய்வு சுருக்கத்தின் படி, நியாயக் கட்டுப்பாடுகளுடன் அமைக்கப்பட்ட மாதிரி, சாதாரண பயனர்கள் மற்றும் முதன்மை பராமரிப்பு மருத்துவர்கள் இருவருக்கும் இறுதி நோயறிதல் துல்லியத்தை மேம்படுத்தியது. அது தோல் நிறம் தொடர்பான செயல்திறன் வேறுபாடுகளையும் குறைத்தது. இது ஒரு முக்கியமான அடிப்படை முடிவு; ஏனெனில் இது மாதிரி வடிவமைப்பு தேர்வுகள் சராசரி செயல்திறனையே அல்ல, பயனர்கள் மற்றும் வழக்குகளுக்கு இடையே உதவி எவ்வாறு பகிரப்படுகிறது என்பதிலான சமத்துவத்தையும் பாதிக்க முடியும் என்பதை காட்டுகிறது.

நடைமுறையில், மாதிரி வெறும் மூல கணிப்புகளை வழங்கவில்லை. அது மனித-AI முடிவு பணிப்பாய்வின் ஒரு பகுதியாக இருந்தது; அங்கு பயனர்கள் AI வெளியீடுகளையும், சில நிலைகளில், பன்முக பெரிய மொழி மாதிரி விளக்கங்களையும் பார்த்தனர். எனவே AI எவ்வளவு துல்லியமானது என்பதையும், அதன் விளக்கம் மனித தீர்ப்பை எவ்வாறு மாற்றியது என்பதையும் ஆராய்ச்சியாளர்கள் ஆய்வு செய்ய முடிந்தது.

விளக்கங்கள் சாதாரண பயனர்களுக்கான ஆபத்தை அதிகரித்தன

Explainable AI பெரும்பாலும் கருப்பு-பெட்டி முடிவு எடுப்பதற்கான ஒரு தீர்வாக முன்வைக்கப்படுகிறது. ஒரு அமைப்பு ஏன் ஒரு பதிலை அளித்தது என்பதைப் பயனர்கள் பார்க்க முடிந்தால், அவர்கள் அதைப் பொருத்தமான முறையில் நம்புவார்கள், அது தோல்வியுற்றால் அதைத் திருத்துவார்கள் என்றுதான் அந்த சிந்தனை செல்கிறது. இந்த ஆய்வு, இந்த உறவு அதைவிட சிக்கலானது என்பதை அதிகரித்து வரும் ஆதாரங்களில் சேர்க்கிறது.

சாதாரண மக்களுக்காக, விளக்கங்கள் இயந்திரத்தைக் கடைப்பிடிக்கும் போக்கை அதிகரித்ததாகத் தோன்றுகிறது. அமைப்பின் நோயறிதல் சரியாக இருந்தபோது, அந்த அதிகரித்த சார்பு உதவியது. அமைப்பு தவறு செய்தபோது, அது பாதித்தது. இந்த வடிவத்தை ஆய்வு அதிகமான automation bias என விவரிக்கிறது; அதாவது, விளக்க இடைமுகம், கேள்விக்குள்ளாக்கப்பட வேண்டியிருந்தாலும், மாதிரியின் முடிவுகளை அதிக அதிகாரபூர்வமாக உணர வைத்திருக்கலாம்.

நுகர்வோர் நோக்கி உள்ள சுகாதார கருவிகளுக்கு இந்த வேறுபாடு மிக முக்கியமானது. நயமுடன் எழுதப்பட்ட விளக்கம் வெளிப்படைத்தன்மை இருப்பதுபோல் ஒரு தோற்றத்தை உருவாக்கலாம்; ஆனால் பயனர் பார்க்கும் குறிப்பிட்ட வழக்கில் அடிப்படை பரிந்துரை நம்பகமானதா என்பதை அது உறுதி செய்யாது. ஒரு நிபுணர் அல்லாதவருக்கு, கூடுதல் விவரம் உண்மையான புரிதலை உருவாக்காமல் இருக்கலாம். அதற்கு பதிலாக, அது நம்பிக்கையை உருவாக்கலாம்.

பன்முக பெரிய மொழி மாதிரி விளக்கங்களை ஆராய்ச்சியாளர்கள் ஒரு இருபுறக் கத்தி என வர்ணிக்கிறார்கள். இந்த சூழலில், அந்த சொற்றொடர் வெறும் அலங்காரம் அல்ல. அது மைய வடிவமைப்பு பிரச்சினையைப் பிடிக்கிறது: ஒருவருக்கு பரிந்துரையைப் புரிந்துகொள்ள உதவும் அதே இடைமுக அம்சம், மற்றொருவரை அதிக நம்பிக்கைக்குத் தள்ளலாம்.

மருத்துவர்கள் வேறுவிதமாக பதிலளித்தனர்

ஆய்வில் உள்ள முதன்மை பராமரிப்பு மருத்துவர்கள் அதே அளவிலான பாதிப்பை காட்டவில்லை. சுருக்கம், AI மாதிரியின் நோயறிதல் சரியானதா தவறானதா என்பதைப் பொருட்படுத்தாமல், அவர்கள் உறுதியாக இருந்ததாகவும் பயனடைந்ததாகவும் கூறுகிறது. இது மருத்துவர்கள் தாக்கத்திலிருந்து முற்றிலும் விடுபட்டிருந்தனர் என்பதைக் குறிக்காது; ஆனால் அவர்கள் வேறொரு அறிவுசார் தொடக்க நிலையிலிருந்து அமைப்புடன் தொடர்பு கொண்டனர் என்பதை அது சுட்டிக்காட்டுகிறது.

தொழில்முறை பயிற்சி, மாதிரியின் வெளியீட்டை தங்கள் சொந்த காரணீकरणத்துடன் ஒப்பிட்டு மதிப்பிடுவதற்கான ஒரு வலுவான உள் கட்டமைப்பை மருத்துவர்களுக்கு வழங்கியிருக்கலாம். விளக்கத்தை தீர்ப்புக்கான மாற்றாக ஏற்காமல், அதை விரிவான நோயறிதல் செயல்முறையில் இன்னொரு உள்ளீடாகப் பயன்படுத்தியிருக்கலாம். இந்த வேறுபாட்டின் பின்னணியில் உள்ள ஒவ்வொரு механизмத்தையும் ஆய்வு சுருக்கம் விளக்கவில்லை; ஆனால் இந்த முரண்பாடு அதன் மிகவும் கொள்கை-சார்ந்த முடிவுகளில் ஒன்றாகும்.

சுகாதார அமைப்புகள் பெரும்பாலும் AI பயன்பாட்டை ஒரு இடைமுகம் பல வேடங்களை நிறைவேற்றலாம் என்பதுபோல் விவாதிக்கின்றன. இந்த ஆய்வு அதற்கு மாறாகக் காட்டுகிறது. மருத்துவர்களுக்காக உருவாக்கப்பட்ட கருவிகளுக்கு, பொதுமக்களுக்காக உருவாக்கப்பட்ட கருவிகளிலிருந்து வேறுபட்ட விளக்க பாணிகள், நம்பிக்கை குறியீடுகள், மற்றும் தொடர் விதிகள் தேவைப்படலாம். ஒரு சூழலில் பயனுள்ள விளக்கம், மற்றொரு சூழலில் தவறாக வழிநடத்தும் வகையிலும் இருக்கலாம்.

நேரமும் முக்கியமானதாக இருந்தது

AI நோயறிதலை மனித முடிவெடுப்புக்கு முன் காட்டுவது anchoring bias-ஐ அதிகரிக்கலாம் என்றும் ஆய்வு கண்டறிந்தது. Anchoring என்பது, ஒரு ஆரம்பத் தகவல் பின்னர் வரும் தீர்ப்பை அளவுக்கதிகமாக வடிவமைக்கும் நிலை. ஒரு நோயறிதல் பணிப்பாய்வில், பயனர்கள் AI-யின் முதல் பரிந்துரையில் நிலைத்துவிட்டு மாற்று வாய்ப்புகளை போதுமான அளவு பரிசீலிக்காமல் போகலாம்.

இந்த முடிவு மென்பொருள் வடிவமைப்புக்கு குறிப்பாகப் பொருத்தமானது. பாதுகாப்பு என்ற கேள்வி விளக்கங்களைச் சேர்க்கலாமா என்பதிலேயே இல்லை; கணிப்புகளை எப்போது வெளிப்படுத்த வேண்டும், தொடர்பின் வரிசையை எவ்வாறு அமைக்க வேண்டும் என்பதிலும் உள்ளது. AI-யின் பதிலை காட்டுவதற்கு முன் ஒரு மருத்துவர் அல்லது நோயாளியிடம் தொடக்க மதிப்பீட்டை கேட்கும் அமைப்பு, இயந்திர பரிந்துரையுடன் தொடங்கும் அமைப்பிலிருந்து வேறுபட்ட முடிவுகளை உருவாக்கலாம்.

தயாரிப்பு பார்வையில் அந்த வகை இடைமுகத் தேர்வு சிறியதாகத் தோன்றலாம்; ஆனால் அது முடிவு தரத்தில் பெரிய தாக்கத்தை ஏற்படுத்தலாம். எனவே இந்த ஆய்வு மருத்துவ AI மதிப்பீட்டில் ஒரு பெரிய மாற்றத்திற்கு பங்களிக்கிறது: செயல்திறன் அளவுகோல்கள் மட்டுமே போதாது. மனிதக் காரணிகள், பணிப்பாய்வு வரிசை, மற்றும் விளக்கத்தின் அமைப்பு உண்மையான உலக முடிவை கணிசமாக மாற்றக்கூடும்.

மருத்துவ AI பயன்பாட்டிற்கான விளைவுகள்

இந்த ஆய்வு explainable AI-யை கைவிட வேண்டும் என்று வாதிடவில்லை. அதன் ஆதாரங்கள் இன்னும் துல்லியமான ஒரு கருத்தை ஆதரிக்கின்றன: விளக்கம் அம்சங்கள், உண்மையான பயனர்கள், உண்மையான பணிகள், மற்றும் உண்மையான முடிவு வரிசைகளின் சூழலில் சோதிக்கப்பட வேண்டும். தோல் மருத்துவ ஆதரவில், நியாயம்-அறிந்த பயிற்சி முடிவுகளை மேம்படுத்தியது; ஆனால் explainability குறிப்பாக நிபுணர் அல்லாதவர்களுக்கு புதிய நடத்தைச் சார்ந்த ஆபத்துகளை உருவாக்கியது.

இது ஒழுங்குமுறை அமைப்புகளுக்கும், மருத்துவமனைகளுக்கும், நுகர்வோர் சுகாதார டெவலப்பர்களுக்கும் முக்கியமானது. தங்களைத் தாங்களே விளக்கிக் கொள்வதால் பாதுகாப்பாகத் தோன்றும் கருவிகளும், அவற்றின் விளக்கங்கள் automation bias அல்லது anchoring-ஐ அதிகரித்தால், தவிர்க்கக்கூடிய சேதத்தை உருவாக்கலாம். அதே சமயம், கவனமாக வடிவமைக்கப்பட்ட AI உதவி, மாதிரியும் இடைமுகமும் பயனரின் நிபுணத்துவத்துடன் பொருந்தினால், துல்லியத்தை உயர்த்தி வேறுபாடுகளை குறைக்கலாம்.

பெரிய மொழி மாதிரிகள் மருத்துவ பணிப்பாய்வுகளில் மேலும் ஆழமாக நுழையும்போது, இந்தக் கட்டுரை வெளிப்படைத்தன்மை தானாகவே பாதுகாப்பு அளிக்காது என்பதைக் காலத்துக்கேற்ற நினைவூட்டலாக வழங்குகிறது. சில சூழல்களில் அது உதவும்; மற்றவற்றில் அது தீர்ப்பை சிதைக்கலாம். மருத்துவ AI வடிவமைப்பின் அடுத்த கட்டம், எல்லா இடங்களிலும் விளக்கங்களைச் சேர்ப்பதைக் காட்டிலும், எந்த விளக்கங்கள், எந்த பயனர்களுக்காக, மற்றும் முடிவு செயல்முறையின் எந்த தருணத்தில், உண்மையில் பராமரிப்பை மேம்படுத்துகின்றன என்பதை அடையாளம் காண்பதிலேயே அதிகம் சார்ந்திருக்கும்.

இந்தக் கட்டுரை Nature Medicine-இன் செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.