பொதுக் குறியீட்டில் திடீர் கொள்கை மாற்றம்
தாங்கள் எழுதிய மென்பொருளை NHS England பொதுப் பார்வையிலிருந்து அகற்றி வருகிறது; source text-இல் விவரிக்கப்பட்ட வழிகாட்டுதலின்படி source code repositories இயல்பாக தனிப்பட்டதாக இருக்க வேண்டும் என்று பணியாளர்களுக்கு தெரிவிக்கிறது. வரி செலுத்துநர்களின் பணத்தில் உருவாக்கப்பட்டதும் பிறரால் மீண்டும் பயன்படுத்தப்படக்கூடியதும் என்பதால், பாரம்பரியமாக பொதுவாக வெளியிடப்பட்டிருந்த ஒரு நிறுவனத்திற்கு இது ஒரு கூர்மையான மாற்றமாகும்.
மேம்பட்ட artificial intelligence systems பொதுக் குறியீட்டை ingest செய்து, பலவீனங்களை ஊகித்து, தாக்குதலாளர்கள் vulnerabilities-ஐ கண்டறிய உதவலாம் என்ற அச்சமே இந்த மாற்றத்தைத் தூண்டுகிறது. புதிய வழிகாட்டுதல், வெளிப்படையாக அனுமதிக்கப்பட்ட காரணம் இல்லாவிட்டால் repositories-ஐ private ஆக மாற்ற 11 மே கடைசித் தேதியைக் குறிப்பிடுவதாக கூறப்படுகிறது.
AI தூண்டுதல்: Mythos
source text படி, இந்த புதிய நிலைப்பாட்டுக்கான காரணமாக NHS England குறிப்பாக Anthropic-இன் Mythos என்ற AI அமைப்பைச் சுட்டிக்காட்டியுள்ளது. பொதுக் களஞ்சியங்கள் source code மட்டுமல்ல, architectural decisions, configuration details, மற்றும் contextual information ஆகியவற்றையும் வெளிப்படுத்தும் அபாயத்தை அதிகரிப்பதாக வழிகாட்டுதல் கூறுகிறது; AI systems பெரிய அளவிலான code analysis மற்றும் reasoning-இல் மேம்படும் போது அவை exploit செய்யப்படலாம்.
இந்த அச்சம் cybersecurity சிந்தனையில் பரந்த மாற்றத்தை பிரதிபலிக்கிறது. பல ஆண்டுகளாக பாதுகாப்பு தரப்பினர் exposed systems மற்றும் code-ஐ ஆராயும் மனித தாக்குதலாளர்கள் குறித்து கவலைப்பட்டனர். இப்போது AI அந்த வேலையின் சில பகுதிகளை தானியக்கமாக்கி, software artifacts-ஐ மிகுந்த அளவில் செயலாக்கி, exposure மற்றும் exploitation இடையேயான நேரத்தை சுருக்கக்கூடும் என்பதே புதிய அச்சம்.
இந்த நடவடிக்கை ஏன் எதிர்திசையில் முடிவடையலாம் என்று விமர்சகர்கள் கூறுகிறார்கள்
வழங்கப்பட்ட செய்திப்பதிவில் மேற்கோள் காட்டப்பட்ட security experts இந்த கொள்கை தேவையற்றதும் எதிர்பலனளிப்பதுமாகும் என்று வாதிடுகிறார்கள். ஒரு காரணம், open-source software நீண்ட காலமாக ஒரு வேறுபட்ட பாதுகாப்பு கோட்பாட்டை நம்பியுள்ளது: பொதுப் பார்வை தரத்தை மேம்படுத்த முடியும், ஏனெனில் அதிகமானோர் code-ஐ பரிசோதித்து, சோதித்து, சரிசெய்ய முடியும். repositories-ஐ மூடுவது vulnerabilities-ஐ முழுமையாக அகற்றாமல் வெளிப்படைத்தன்மையை குறைக்கலாம்.
source text மேலும் UK அரசு ஆதரவு பெற்ற AI Security Institute Mythos-ஐ ஆய்வு செய்து, அது “சிறிய, பலவீனமாக பாதுகாக்கப்பட்ட மற்றும் பாதிப்புக்குட்பட்ட enterprise systems” மீது மட்டுமே தாக்குதல் நடத்த முடியும், உண்மையாகப் பாதுகாப்பான system அல்லது network பரவலாக ஆபத்தில் இருப்பதற்கான எந்த அறிகுறியும் இல்லை என்று முடிவுக்கு வந்ததாகக் கூறுகிறது. அந்த மதிப்பீடு சரியானது என்றால், NHS England-இன் பதில் நிரூபிக்கப்பட்ட அச்சத்தைவிட அதிகமாக இருக்கலாம்.
திறந்த அரசு vs பாதுகாப்புக்கான ரகசியம்
இந்த விவாதம் இப்போது அதிகம் மோதும் இரண்டு கொள்கை எண்ணப்போக்குகளின் சங்கமத்தில் உள்ளது. ஒன்றின் படி, பொதுமக்களின் பணத்தில் உருவான digital infrastructure பகிரங்கமாக பகிரப்பட வேண்டும்; இதனால் மீளச்செயல் தவிர்க்கப்படும், பொது சேவைகள் மேம்படும், மேலும் மற்றவர்கள் மாநில நிதியுதவியுடன் செய்யப்பட்ட பணியின் மீது கட்டியெழுப்ப முடியும். மற்றொன்று, AI தாக்குதலாளர்களுக்கான reconnaissance செலவைக் குறைக்கும்போது defensive secrecy அதிக மதிப்புடையதாக மாறுகிறது என்று கூறுகிறது.
NHS England-இன் புதிய விதி, குறைந்தபட்சம் இப்போது, இரண்டாவது பார்வையையே தெளிவாக ஆதரிக்கிறது. ஆனால் இதன் பரிமாற்றம் முக்கியமானது. code இயல்பாக மூடப்பட்டவுடன், ஒத்துழைப்பு கடினமாகிறது, வெளிப்புற மதிப்பாய்வு குறைகிறது, மேலும் healthcare operations மற்றும் data systems-ஐ வடிவமைக்கக்கூடிய software மீது பொதுமக்கள் காணும் வெளிப்படைத்தன்மை குறைகிறது.
பரவலான விவாதத்திற்கு முன்னோட்டம்
NHS எடுத்த முடிவு பிரிட்டனைத் தாண்டியும் முக்கியமானது, ஏனெனில் பல பொதுத்துறை நிறுவனங்கள் இதேபோன்ற கேள்விகளை எழுப்புகின்றன. AI கால பாதுகாப்பு அச்சுறுத்தல்கள் open-source வெளியீட்டின் அடிப்படை ஊகங்களை மாற்ற வேண்டுமா? அல்லது openness-இலிருந்து பின்னடைவது, நீண்டகால உறுதியை இழந்து குறுகியகால கட்டுப்பாட்டு உணர்வைத் தேடுவதாக உள்ளதா?
இதற்கான பதில் ஒரே மாதிரியாக இருக்க வாய்ப்பில்லை. சில code bases உண்மையிலேயே பொதுவாக இருக்கக்கூடாத உணர்வுபூர்வமான செயல்பாட்டு விவரங்களை வெளிப்படுத்தலாம். மற்றவை வெளிப்புற scrutiny இல்லாமல் குறைந்த பாதுகாப்பாக மாறக்கூடும். பயத்தை விட ஆதாரத்தின் அடிப்படையில் இந்த வழக்குகளை வேறுபடுத்துவதே சவால்.
இந்த முடிவு என்ன சொல்கிறது
உடனடி செய்தி என்னவெனில், தொழில்நுட்ப ஆதாரம் இன்னும் விவாதத்துக்குரியதாக இருந்தாலும், மேம்பட்ட AI models ஏற்கனவே உண்மையான நிறுவனக் கொள்கையை வடிவமைத்து வருகின்றன. NHS England மென்பொருள் கையாளும் முறையை மாற்றுவதற்கு முன் ஒருமித்த கருத்து உருவாகக் காத்திருக்கவில்லை. அது முன்னெச்சரிக்கையாக default-closed நிலையை நோக்கிச் செல்கிறது.
இந்த அணுகுமுறை பாதுகாப்பை மேம்படுத்துமா என்பது இன்னும் தெளிவல்ல. ஆனால் AI security விவாதம் கோட்பாட்டைத் தாண்டி சென்றுவிட்டது என்பது உறுதி. அது இப்போது procurement rules, publication standards, மற்றும் பொதுத்துறை நிறுவனங்களுக்குள் digital transparency-இன் எல்லைகளை மறுவரையறை செய்கிறது.
மேலும் பல அரசுகள் NHS பாதையைப் பின்பற்றினால், AI-யின் மிகப்பெரிய மறைமுக விளைவுகளில் ஒன்று அமைதியான இணையமாக இருக்கலாம்: குறைவான பொதுக் குறியீடு, குறைவான open repositories, மற்றும் பொதுத் digital infrastructure எப்படி இருக்க வேண்டும் என்பதற்கான புதிய வரையறை.
இந்தக் கட்டுரை New Scientist-இன் செய்திப்பதிவை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.
Originally published on newscientist.com