AI హ్యాకింగ్ భయాల కారణంగా ప్రజా కోడ్ రిపోజిటరీలను మూసివేయడానికి NHS England ముందుకు

ప్రజా కోడ్‌పై వేగవంతమైన విధాన మార్పు

NHS England తాము వ్రాసిన సాఫ్ట్‌వేర్‌ను ప్రజా వీక్షణ నుండి తొలగిస్తూ, source textలో వివరించిన మార్గదర్శకాలకు అనుగుణంగా source code repositories డిఫాల్ట్‌గా ప్రైవేట్‌గా ఉండాలని సిబ్బందికి చెబుతోంది. పన్ను చెల్లింపుదారుల డబ్బుతో రూపొందించబడి, ఇతరులు మళ్లీ ఉపయోగించుకోగలదనే కారణంతో సంప్రదాయంగా ప్రజలకు అందుబాటులో ఉంచబడిన సంస్థకు ఇది తక్షణ మార్పు.

అభివృద్ధి చెందిన artificial intelligence systems ప్రజా కోడ్‌ను ingest చేసి, బలహీనతలను ఊహించి, attackers‌కు vulnerabilities గుర్తించడంలో సహాయపడవచ్చన్న ఆందోళనే ఈ మార్పుకు కారణం. కొత్త మార్గదర్శకాలు, స్పష్టంగా ఆమోదించిన కారణం లేకపోతే repositories‌ను private‌గా మార్చేందుకు 11 మే గడువును నిర్దేశిస్తున్నట్లు చెప్పబడుతోంది.

AI ట్రిగ్గర్: Mythos

source text ప్రకారం, ఈ కొత్త దృక్పథానికి కారణంగా NHS England ప్రత్యేకంగా Anthropic యొక్క Mythos అనే AI వ్యవస్థను సూచించింది. ప్రజా repositories source code మాత్రమే కాదు, architectural decisions, configuration details, contextual information‌ను కూడా బయటపెట్టే ప్రమాదాన్ని పెంచుతాయని మార్గదర్శకాలు చెబుతున్నాయి; AI systems పెద్ద స్థాయి code analysis మరియు reasoning‌లో మెరుగుపడేకొద్దీ అవి దుర్వినియోగం చేయబడవచ్చు.

ఈ ఆందోళన cybersecurity ఆలోచనలో విస్తృత మార్పును ప్రతిబింబిస్తోంది. సంవత్సరాలుగా రక్షకులు exposed systems మరియు code‌ను అన్వేషించే మానవ attackers గురించి ఆందోళన చెందారు. కొత్త భయం ఏమిటంటే, AI ఆ పనిలోని కొంత భాగాన్ని స్వయంచాలకంగా చేయగలదు; software artifacts‌ను భారీ స్థాయిలో ప్రాసెస్ చేసి, exposure మరియు exploitation మధ్య సమయాన్ని తగ్గించగలదు.

ఈ చర్య ఎందుకు ప్రతికూలంగా మారవచ్చని విమర్శకులు అంటున్నారు

ఇచ్చిన నివేదికలో పేర్కొన్న security experts ఈ విధానం అవసరం లేనిదీ, ప్రతికూలమైనదీ అని వాదిస్తున్నారు. ఒక కారణం ఏమిటంటే, open-source software దీర్ఘకాలంగా భద్రతపై ఒక వేరు సిద్ధాంతంపై ఆధారపడి ఉంది: ప్రజల ముందు కనిపించడం నాణ్యతను మెరుగుపరచగలదు, ఎందుకంటే ఎక్కువ మంది code‌ను పరిశీలించి, పరీక్షించి, సరిచేయగలరు. repositories‌ను మూసివేయడం vulnerabilities‌ను పూర్తిగా తొలగించకుండానే పారదర్శకతను తగ్గించవచ్చు.

source text ఇంకా UK government-backed AI Security Institute Mythos‌ను పరిశీలించి, అది “small, weakly defended and vulnerable enterprise systems” పై మాత్రమే దాడి చేయగలదని, నిజంగా సురక్షితమైన system లేదా network విస్తృతంగా ప్రమాదంలో ఉందనే సంకేతం ఏదీ లేదని తేల్చిందని చెబుతోంది. ఆ అంచనా సరైతే, NHS England స్పందన నిరూపిత ప్రమాదానికి మించినదిగా ఉండవచ్చు.

ఓపెన్ ప్రభుత్వం vs రక్షణాత్మక గోప్యత

ఈ వివాదం ఇప్పుడు ఎక్కువసార్లు ఢీకొంటున్న రెండు విధాన ఆలోచనల సంగమంలో ఉంది. ఒక దాని ప్రకారం, ప్రజల ధనంతో నిర్మించిన digital infrastructure‌ను బహిరంగంగా పంచుకోవాలి; అలా చేస్తే పునరావృతం తగ్గుతుంది, ప్రజా సేవలు మెరుగవుతాయి, మరియు ఇతరులు రాష్ట్ర-నిధులతో చేసిన పనిపై నిర్మించగలరు. మరొకటి, AI దుండగులకు reconnaissance ఖర్చును తగ్గిస్తున్న కొద్దీ defensive secrecy మరింత విలువైనదిగా మారుతుందని అంటుంది.

NHS England యొక్క కొత్త నియమం, కనీసం ఇప్పటికి, రెండో దృక్పథానికే స్పష్టంగా మద్దతు ఇస్తోంది. కానీ దీనిలోని మార్పిడి ముఖ్యమైనది. code డిఫాల్ట్‌గా మూసివేయబడితే, సహకారం కష్టమవుతుంది, బాహ్య సమీక్ష తగ్గుతుంది, మరియు healthcare operations మరియు data systems‌ను ప్రభావితం చేయగల సాఫ్ట్‌వేర్‌పై ప్రజల దృష్టి తగ్గుతుంది.

విస్తృత చర్చకు ముందస్తు చూపు

NHS తీసుకున్న నిర్ణయం బ్రిటన్‌ను మించి కూడా ముఖ్యమైనది, ఎందుకంటే అనేక ప్రజాసంస్థలు ఇదే రకమైన ప్రశ్నలు అడుగుతున్నాయి. AI యుగంలోని భద్రతా బెదిరింపులు open-source publication వెనుక ఉన్న డిఫాల్ట్ ఊహలను మార్చాలా? లేక openness నుండి వెనక్కి తగ్గడం దీర్ఘకాలిక దృఢత్వాన్ని త్యాగం చేసి తాత్కాలిక నియంత్రణ భావన కోసం ప్రయత్నించడమేనా?

దీనికి ఒకే రకమైన సమాధానం ఉండే అవకాశం తక్కువ. కొన్ని code bases నిజంగానే ప్రజలకు చూపరాని సున్నితమైన operational details‌ను బయటపెట్టవచ్చు. మరికొన్ని బాహ్య scrutiny లేకుండా మరింత అసురక్షితంగా మారవచ్చు. భయంకన్నా ఆధారాల ఆధారంగా ఈ సందర్భాలను వేరు చేయడమే సవాలు.

ఈ నిర్ణయం ఏమి సూచిస్తోంది

తక్షణ సంకేతం ఏమిటంటే, సాంకేతిక ఆధారం ఇంకా వివాదాస్పదంగానే ఉన్నా, అభివృద్ధి చెందిన AI models ఇప్పటికే నిజమైన సంస్థాగత విధానాన్ని ప్రభావితం చేస్తున్నాయి. NHS England సాఫ్ట్‌వేర్ నిర్వహణ విధానాన్ని మార్చేముందు ఏకాభిప్రాయం కోసం వేచి ఉండడం లేదు. అది ముందస్తుగా default-closed స్థితికి కదులుతోంది.

ఈ దృక్పథం భద్రతను మెరుగుపరుస్తుందా అనేది ఇంకా అనిశ్చితం. కానీ AI security చర్చ సిద్ధాంతాన్ని మించి వెళ్లిపోయిందని మాత్రం స్పష్టం. ఇప్పుడు అది procurement rules, publication standards, మరియు ప్రజా రంగ సంస్థలలో digital transparency యొక్క సరిహద్దులను పునర్నిర్వచిస్తోంది.

మరిన్ని ప్రభుత్వాలు NHS మార్గాన్ని అనుసరిస్తే, AI యొక్క అతిపెద్ద పరోక్ష ప్రభావాల్లో ఒకటి నిశ్శబ్దమైన ఇంటర్నెట్ కావచ్చు: తక్కువ ప్రజా code, తక్కువ open repositories, మరియు ప్రజా digital infrastructure ఎలా ఉండాలన్న దానికి కొత్త నిర్వచనం.

ఈ వ్యాసం New Scientist నివేదికపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.