AI హ్యాకింగ్ భయాల నేపథ్యంలో NHS England ఓపెన్-సోర్స్ కోడ్‌ను తొలగించే నిర్ణయంపై వ్యతిరేకత పెరుగుతోంది

NHS England యొక్క భద్రతా ప్రతిస్పందన పారదర్శకతపై పోరును రేపింది

AI వ్యవస్థలు ఓపెన్ కోడ్‌లోని బలహీనతలను గుర్తించగలవన్న ఆందోళనల నేపథ్యంలో, 11 మే నాటికి ఇప్పటికే ఉన్న మరియు భవిష్యత్తులో ఉండే సాఫ్ట్‌వేర్‌ను ప్రజా దృష్టి నుంచి తీసివేయాలని సిబ్బందికి చెప్పిన తర్వాత NHS England పెరుగుతున్న వ్యతిరేకతను ఎదుర్కొంటోంది. విమర్శకులు దీనిని ప్రభావం లేనిదిగా, హానికరమైనదిగా వర్ణిస్తూ, సాంకేతిక నిపుణులు, ప్రచారకులు, మరియు మాజీ అధికారులు code ను మూసివేయడం భద్రతను మెరుగుపరచడంలో పెద్దగా సహాయపడదని, పారదర్శకత మరియు మళ్లీ ఉపయోగించుకునే అవకాశాన్ని దెబ్బతీస్తుందని వాదిస్తున్నారు.

ఈ వివాదం కేంద్రంలో AI-సహాయిత సాఫ్ట్‌వేర్ విశ్లేషణ యొక్క కొత్త వర్గం ఉంది. మూల నివేదిక ప్రకారం, Anthropic రూపొందించిన Mythos ఏ సాఫ్ట్‌వేర్‌లోనైనా లోపాలను కనుగొనగలదని వచ్చిన నివేదికల తర్వాత ఆందోళన మరింత పెరిగింది. NHS England స్పందన ఏమిటంటే, ప్రజాధనంతో తయారైన code ను ఆన్‌లైన్‌లో బహిరంగంగా ఉంచకుండా మూసివున్న చోట ఉంచాలి.

ఈ నిర్ణయం ఉన్న విధానానికి విరుద్ధంగా ఉంది

ఈ చర్య వివాదాస్పదం కావడానికి ఒక కారణం, ఇది NHS service standard కు నేరుగా విరుద్ధంగా ఉండటం; ఆ ప్రమాణం ప్రకారం సిబ్బంది తయారు చేసే software open source గా ఉండాలి, తద్వారా దాన్ని పునర్వినియోగం చేయడం, మెరుగుపరచడం, మరియు పని పునరావృతం లేకుండా దానిపై నిర్మించడం సాధ్యమవుతుంది. Open-source మద్దతుదారులు ఈ విధానం public sector కు మరింత సమర్థవంతమైనదని, అలాగే ఎక్కువ మంది reviewers code ను పరిశీలించి మెరుగుపరచగలిగే కారణంగా తరచుగా మరింత సురక్షితమని వాదిస్తున్నారు.

NHS England ఈ నిర్ణయాన్ని వెనక్కి తీసుకోవాలని కోరే open letter కు వేగంగా వందలాది సంతకాలు వచ్చాయి, అందులో రచయిత Cory Doctorow మరియు UK మాజీ ఆరోగ్య కార్యదర్శి Matt Hancock ఉన్నారు. నివేదికలో ప్రస్తావించిన వ్యాఖ్యల్లో Hancock ఈ విధానాన్ని పెద్ద పొరపాటు అని చెప్పి, ప్రజాధనంతో తయారైన code దాన్ని చెల్లించిన ప్రజలకు అందుబాటులో ఉండాల్సిందే అని వాదించారు.

రహస్యత్వం భద్రత కాదని విమర్శకుల వాదన

అత్యంత బలమైన అభ్యంతరం సిద్ధాంతపరమైనది కాదు, సాంకేతికమైనది. code ను public repositories నుండి తీసివేయడం భద్రతను గణనీయంగా మెరుగుపరచదని నివేదికలో పేర్కొన్న నిపుణులు అంటున్నారు. AI tools బలహీనతలను గుర్తించడంలో సహాయపడగలిగితే, రక్షకులు కూడా వాటిని ఉపయోగించగలరు. ఇంకా ముఖ్యంగా, software ను ప్రైవేట్‌గా ఉంచడం లోపాలను తొలగించదు; ఎవరు వాటిని పరిశీలించగలరో మాత్రమే మార్చుతుంది.

open letter కు co-author అయిన University of Edinburgh కి చెందిన Vlad-Stefan Harbuz, తమ బృందం Mythos ను ఉపయోగించి open-source NHS code ను scan చేసి, ప్రస్తుతం ఉన్న విధాన మార్పుకు ముందు బాధ్యతాయుతంగా వెలుగులోకి తెచ్చిన కొంతమంది తీవ్రమైన బలహీనతలను గుర్తించిందని చెప్పారు. ఈ వివరాలు కథనాన్ని క్లిష్టం చేస్తాయి. ప్రమాదం నిజంగానే కార్యాచరణలోకి తీసుకువచ్చే ఫలితాలను ఇవ్వగలంతగా ఉందని ఇది సూచిస్తుంది, కానీ దాచిపెట్టడం కాకుండా auditing మరియు remediation నే ప్రాయోగిక ప్రతిస్పందన అని విమర్శకుల వాదనకూ ఇది బలం ఇస్తుంది.

AI యుగంలో ప్రజా software పై పెద్ద ప్రశ్న

NHS ఘటన అనేక public institutions ఎదుర్కొనే విస్తృత ద్వంద్వాన్ని బయటపెడుతుంది. open-source software దీర్ఘకాలంగా efficiency, interoperability, accountability, మరియు scrutiny ద్వారా వచ్చే security అనే కారణాలతో సమర్థించబడింది. AI-assisted code analysis, defenders మరియు attackers ఇద్దరికీ bugs కనుగొనే ఖర్చును తగ్గించడం ద్వారా scrutiny ఆర్థిక సమీకరణాన్ని మార్చుతోంది. ఈ మార్పు పాత open-source తర్కాన్ని అమాన్యంగా చేస్తుందా, లేక disciplined maintenance ను మరింత ముఖ్యంగా మారుస్తుందా అన్నదే ప్రశ్న.

NHS England public visibility ఇప్పుడు చాలా ప్రమాదాన్ని సృష్టిస్తుందనే ఊహపై చర్య తీసుకుంటున్నట్టు కనిపిస్తోంది. దీనికి విరుద్ధంగా ఉన్నవారు చెబుతున్నది: AI vulnerability discovery ని సులభతరం చేస్తున్నప్పుడు, సమాధానం stronger patching, auditing, and governance, not retreat from openness.

NHS దాటి ఇది ఎందుకు ముఖ్యమో

ఈ పోరు British healthcare దాటి కూడా ప్రాధాన్యం కలిగి ఉంటుంది, ఎందుకంటే ప్రపంచవ్యాప్తంగా ప్రభుత్వాలు మరింత సామర్థ్యవంతమైన AI tools ఒత్తిడిలో digital risk ను తిరిగి అంచనా వేస్తున్నాయి. ఒక పెద్ద public institution code openness ఇక సాధ్యం కాదని నిర్ణయిస్తే, మరికొన్ని కూడా అదే దారిలో నడిచే అవకాశం ఉంది. backlash విజయవంతమైతే, institutions modern defensive practices లో పెట్టుబడి పెడితే transparency ఇంకా stronger security తో అనుకూలమే అనే భావనను అది బలపరచవచ్చు.

ప్రస్తుతం, NHS England ఒక technical security concern ను high-profile policy test గా మార్చింది. underlying fear అర్థవంతమైనదే: AI scale లో flaws కనుగొనడం సులభం చేయవచ్చు. కానీ విమర్శకులు ఒక కఠినమైన ప్రశ్నను అడుగుతున్నారు. code ను దాచడం నిజమైన defenseనా, లేక వేగంగా మారుతున్న threat కు ఒక visible reaction మాత్రమేనా? ఆ సమాధానం NHS దాటి public sector software governance ను రూపుదిద్దవచ్చు.

ఈ వ్యాసం New Scientist నివేదికపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.