NHS England-இன் பாதுகாப்பு நடவடிக்கை வெளிப்படைத்தன்மை குறித்த மோதலைத் தூண்டியுள்ளது
AI அமைப்புகள் திறந்த குறியீட்டில் உள்ள பலவீனங்களை அடையாளம் காண முடியும் என்ற கவலைகளின் காரணமாக, ஏற்கனவே உள்ளதும் எதிர்காலத்திலும் உருவாகும் மென்பொருளையும் 11 மேக்குள் பொதுப் பார்வையிலிருந்து நீக்குமாறு பணியாளர்களிடம் கூறியதையடுத்து NHS England அதிகரிக்கும் எதிர்ப்பை சந்தித்து வருகிறது. விமர்சகர்கள் இதை பயனற்றதும் சேதத்தை ஏற்படுத்தக்கூடியதுமாக விவரிக்கிறார்கள். தொழில்நுட்ப நிபுணர்கள், செயற்பாட்டாளர்கள் மற்றும் முன்னாள் அதிகாரிகள், குறியீட்டை மூடிவைப்பது பாதுகாப்பை மேம்படுத்துவதில் மிகக் குறைந்த பயனே தரும்; ஆனால் வெளிப்படைத்தன்மை மற்றும் மீள்பயன்பாட்டை பாதிக்கும் என்று வாதிடுகின்றனர்.
இந்த சர்ச்சையின் மையத்தில் AI-ஆதார மென்பொருள் பகுப்பாய்வின் புதிய வகை உள்ளது. மூல அறிக்கையின் படி, Anthropic உருவாக்கிய Mythos கிட்டத்தட்ட எந்த மென்பொருளிலிருந்தும் குறைபாடுகளை கண்டறிய முடியும் என்ற செய்திகள் வந்த பிறகு கவலை மேலும் தீவிரமடைந்தது. NHS England-இன் பதில், பொதுத் தொகையால் உருவாக்கப்பட்ட குறியீட்டை இணையத்தில் திறந்தவெளியில் கிடைக்கச் செய்வதற்குப் பதிலாக, மூடிய கதவுகளுக்குப் பின்னால் வைத்திருக்க வேண்டும் என்பதாக இருந்தது.
இந்த முடிவு நிலவும் கொள்கைக்கு எதிராக உள்ளது
இந்த நடவடிக்கை சர்ச்சைக்குரியது, ஏனெனில் இது NHS சேவைத் தரநிலைக்கு நேரடியாக முரணாக உள்ளது; அதில் பணியாளர்கள் உருவாக்கும் மென்பொருள் திறந்த மூலமாக இருக்க வேண்டும், அதனால் அதை மறுபயன்படுத்த, மேம்படுத்த, மற்றும் பணிகள் மீளச்செய்யப்படாமல் தொடர்ந்து வளர்க்க முடியும். திறந்த மூல ஆதரவாளர்கள், இந்த அணுகுமுறை பொதுத்துறைக்கு அதிக செயல்திறன் கொண்டதுடன், பல மதிப்பாய்வாளர்கள் குறியீட்டை ஆய்ந்து மேம்படுத்த முடிவதால் பெரும்பாலும் மேலும் பாதுகாப்பானதாகவும் இருக்கும் என்று கூறுகின்றனர்.
NHS England இந்த முடிவை திரும்பப் பெற வேண்டும் என்று கோரும் ஒரு திறந்த கடிதம் விரைவாக நூற்றுக்கணக்கான கையொப்பங்களை பெற்றது; அதில் எழுத்தாளர் Cory Doctorow மற்றும் முன்னாள் UK சுகாதாரச் செயலாளர் Matt Hancock ஆகியோரும் உள்ளனர். அறிக்கையில் முன்னிறுத்தப்பட்ட கருத்துகளில் Hancock இந்த கொள்கையை பெரிய தவறு என்று கூறி, பொதுத் தொகையால் உருவாக்கப்பட்ட குறியீடு அதை செலுத்திய மக்களுக்கு கிடைக்கத் தொடர வேண்டும் என்று வாதிட்டார்.
ரகசியம் பாதுகாப்பல்ல என்று விமர்சகர்கள் கூறுகின்றனர்
மிக வலுவான எதிர்ப்பு கோட்பாட்டு அல்ல, தொழில்நுட்பமானது. குறியீட்டை பொது களஞ்சியங்களிலிருந்து வாபஸ் பெறுவது பாதுகாப்பை பொருளுள்ள வகையில் மேம்படுத்தாது என்று அறிக்கையில் மேற்கோளிடப்பட்ட நிபுணர்கள் கூறுகின்றனர். AI கருவிகள் பலவீனங்களை கண்டறிய உதவ முடிந்தால், பாதுகாவலர்களும் அவற்றைப் பயன்படுத்த முடியும். இன்னும் முக்கியமாக, மென்பொருளை தனிப்பட்டதாக வைத்திருப்பது குறைபாடுகளை நீக்குவதில்லை; அதை யார் ஆய்வு செய்ய முடியும் என்பதை மட்டும் மாற்றுகிறது.
திறந்த கடிதத்தின் இணை ஆசிரியரான University of Edinburgh-இன் Vlad-Stefan Harbuz, தங்கள் குழு Mythos-ஐ பயன்படுத்தி திறந்த மூல NHS குறியீட்டை ஸ்கேன் செய்து, ஒப்பீட்டளவில் கடுமையான சில பலவீனங்களை கண்டதாகவும், அவை தற்போதைய கொள்கை மாற்றத்திற்கு முன்பே பொறுப்புடன் வெளிப்படுத்தப்பட்டதாகவும் கூறினார். இந்த விவரம் கதையை மேலும் சிக்கலாக்குகிறது. அச்சு உண்மையானதே மற்றும் செயற்படக்கூடிய கண்டுபிடிப்புகளை உருவாக்கக் கூடிய அளவுக்கு இருக்கிறது என்பதை இது காட்டுகிறது; அதே சமயம் மறைப்பதல்ல, தணிக்கை மற்றும் சரிசெய்தல்தான் நடைமுறைப் பதில் என்ற விமர்சகர்களின் வாதத்தையும் இது ஆதரிக்கிறது.
AI காலத்தில் பொதுச் மென்பொருள் குறித்த பெரிய கேள்வி
NHS வழக்கு, பல பொது நிறுவனங்கள் எதிர்கொள்ளப்போகும் பரந்த முரண்பாட்டை வெளிப்படுத்துகிறது. திறந்த மூல மென்பொருள் நீண்ட காலமாக செயல்திறன், பரஸ்பர இயங்குபாடு, பொறுப்புணர்வு, மற்றும் ஆய்வின் மூலம் கிடைக்கும் பாதுகாப்பு ஆகிய காரணங்களால் ஆதரிக்கப்பட்டு வருகிறது. AI உதவியுடன் குறியீட்டை பகுப்பாய்வு செய்வது, பாதுகாவலர்களுக்கும் தாக்குதலாளர்களுக்கும் பிழைகளை கண்டறிவதற்கான செலவை குறைத்து, ஆய்வின் பொருளாதாரத்தை மாற்றுகிறது. இந்த மாற்றம் திறந்த மூலத்தின் பழைய தர்க்கத்தை செல்லாததாக்குகிறதா, அல்லது ஒழுங்கான பராமரிப்பை இன்னும் முக்கியமாக்குகிறதா என்பதே கேள்வி.
NHS England, பொதுப் பார்வை இப்போது அதிகமான ஆபத்தை உருவாக்குகிறது என்ற முன்கணிப்பில் செயல்படுவது போல் தெரிகிறது. அதற்கு எதிராக உள்ளவர்கள் கூறுவது இதுதான்: AI பலவீனங்களை கண்டறிதலை எளிதாக்கும் போது, பதில் சிறந்த patching, auditing, மற்றும் governance ஆக இருக்க வேண்டும்; openness-இல் இருந்து பின்வாங்குவது அல்ல.
NHS-ஐத் தாண்டியும் இது ஏன் முக்கியம்
இருமல் போன்ற இந்த விவாதம் பிரிட்டிஷ் சுகாதாரத் துறைக்கு மட்டும் அல்ல, ஏனெனில் உலகின் அரசுகள் அதிக திறன் கொண்ட AI கருவிகளின் அழுத்தத்தில் டிஜிட்டல் அபாயத்தை மீண்டும் மதிப்பாய்வு செய்து வருகின்றன. ஒரு பெரிய பொது நிறுவனம் குறியீட்டு வெளிப்படைத்தன்மை இனி சாத்தியமில்லை என்று முடிவு செய்தால், மற்றவர்களும் அதனைத் தொடர்ந்து செல்லலாம். எதிர்ப்பு வெற்றி பெற்றால், வலுவான பாதுகாப்பு நடைமுறைகளில் நிறுவனங்கள் முதலீடு செய்தால் வெளிப்படைத்தன்மையும் இன்னும் பொருந்தக்கூடியதே என்ற எண்ணத்தை அது உறுதிப்படுத்தலாம்.
இப்போதைக்கு, NHS England ஒரு தொழில்நுட்பப் பாதுகாப்பு கவலையை உயர்பிரபல கொள்கை சோதனையாக மாற்றியுள்ளது. அடிப்படை அச்சம் புரிந்துகொள்ளத்தக்கது: AI அளவில் குறைபாடுகளை கண்டறிதலை எளிதாக்கலாம். ஆனால் விமர்சகர்கள் ஒரு கடினமான கேள்வியை முன்வைக்கிறார்கள். குறியீட்டை மறைப்பது உண்மையான பாதுகாப்பா, அல்லது வேகமாக மாறும் அச்சுறுத்தலுக்கான கண்காட்சியாகத் தோன்றும் பதிலா? இதன் பதில் NHS-ஐத் தாண்டி பொதுத் துறை மென்பொருள் எவ்வாறு நிர்வகிக்கப்படுகிறது என்பதை வடிவமைக்கக்கூடும்.
இந்தக் கட்டுரை New Scientist வெளியிட்ட செய்தியைக் கொண்டு தயாரிக்கப்பட்டது. அசல் கட்டுரையை படிக்கவும்.
Originally published on newscientist.com
