AI हॅकिंगच्या भीतीमुळे NHS England चा ओपन-सोर्स कोड काढून टाकण्याच्या निर्णयावर विरोध वाढतो आहे

NHS England च्या सुरक्षा प्रतिसादामुळे पारदर्शकतेवरून संघर्ष सुरू झाला आहे

AI प्रणाली उघड्या कोडमधील असुरक्षा ओळखू शकतात या चिंतेमुळे 11 मे पर्यंत विद्यमान आणि भविष्यातील सॉफ्टवेअर सार्वजनिक दृश्यातून काढून टाकण्यास सांगितल्यानंतर NHS England ला वाढत्या विरोधाचा सामना करावा लागत आहे. टीकाकार या निर्णयाला अप्रभावी आणि हानीकारक म्हणत आहेत, तर तंत्रज्ञ, कार्यकर्ते आणि माजी अधिकारी असा युक्तिवाद करत आहेत की कोड बंद केल्याने सुरक्षिततेत फारसा फरक पडत नाही, उलट पारदर्शकता आणि पुनर्वापराला धक्का बसतो.

या वादाच्या केंद्रस्थानी AI-सक्षम सॉफ्टवेअर विश्लेषणाचा एक नवा वर्ग आहे. मूळ अहवालानुसार, Anthropic ने तयार केलेल्या Mythos मुळे जवळपास कोणत्याही सॉफ्टवेअरमधील त्रुटी शोधता येतात अशा बातम्यांनंतर चिंता वाढली. NHS England चा प्रतिसाद असा होता की सार्वजनिक निधीतून विकसित केलेला कोड ऑनलाइन खुलेपणाने उपलब्ध ठेवण्याऐवजी बंद दाराआड ठेवावा.

हा निर्णय विद्यमान धोरणाच्या विरोधात आहे

हा निर्णय वादग्रस्त आहे, कारण तो NHS service standard च्या थेट विरोधात जातो, ज्यात कर्मचाऱ्यांनी तयार केलेले software open source असावे, जेणेकरून ते पुन्हा वापरता, सुधारता आणि कामाची पुनरावृत्ती न करता त्यावर पुढे बांधता येईल. Open-source समर्थकांचे म्हणणे आहे की हा दृष्टिकोन सार्वजनिक क्षेत्रासाठी अधिक कार्यक्षम तर आहेच, पण अनेकदा अधिक सुरक्षितही असतो, कारण अधिक समीक्षक कोड तपासू आणि सुधारू शकतात.

NHS England ने हा निर्णय मागे घ्यावा अशी मागणी करणाऱ्या open letter ला झपाट्याने शेकडो स्वाक्षऱ्या मिळाल्या, त्यात लेखक Cory Doctorow आणि माजी यूके आरोग्य सचिव Matt Hancock यांचा समावेश आहे. अहवालात अधोरेखित केलेल्या टिप्पणींमध्ये Hancock यांनी ही नीति मोठी चूक असल्याचे म्हटले आणि सार्वजनिक निधीतून तयार झालेला कोड तो ज्यांनी पैसे दिले त्या जनतेसाठी उपलब्ध राहायला हवा, असा युक्तिवाद केला.

टीकाकारांच्या मते गुप्तता म्हणजे सुरक्षितता नाही

सर्वात मजबूत आक्षेप वैचारिक नाही, तर तांत्रिक आहे. अहवालात उद्धृत केलेल्या तज्ज्ञांचे म्हणणे आहे की code सार्वजनिक repositories मधून काढून टाकल्याने सुरक्षा अर्थपूर्णरीत्या सुधारत नाही. AI tools जर असुरक्षा शोधण्यात मदत करू शकत असतील, तर रक्षकही त्यांचा वापर करू शकतात. आणि महत्त्वाचे म्हणजे, software खाजगी ठेवल्याने त्रुटी नाहीशा होत नाहीत; फक्त त्या कोण पाहू शकतो हे बदलते.

open letter चे सहलेखक असलेल्या University of Edinburgh मधील Vlad-Stefan Harbuz यांनी सांगितले की त्यांच्या गटाने Mythos वापरून open-source NHS code स्कॅन केले आणि तुलनेने गंभीर अशा काही असुरक्षा आढळल्या, ज्या सध्याच्या धोरणबदलापूर्वी जबाबदारीने जाहीर करण्यात आल्या होत्या. हा तपशील कथा अधिक गुंतागुंतीची करतो. यावरून धोका खरा असल्याचे आणि कृतीयोग्य निष्कर्ष देणारा असल्याचे दिसते, पण त्याचबरोबर लपविण्याऐवजी auditing आणि remediation हेच व्यावहारिक उत्तर आहे या टीकाकारांच्या भूमिकेलाही बळ मिळते.

AI च्या युगात सार्वजनिक software बद्दल मोठा प्रश्न

NHS प्रकरण एक व्यापक पेच उघड करते, ज्याला अनेक public institutions सामोरे जातील. open-source software ला दीर्घकाळ कार्यक्षमता, परस्परसुसंगतता, उत्तरदायित्व आणि तपासणीमधून मिळणारी सुरक्षितता या कारणांवरून पाठिंबा दिला गेला आहे. AI-assisted code analysis मुळे defenders आणि attackers दोघांसाठीही bug शोधण्याचा खर्च कमी होऊन तपासणीचे अर्थशास्त्र बदलते आहे. हा बदल open-source च्या जुन्या तर्काला अमान्य करतो का, की शिस्तबद्ध देखभाल अधिकच महत्त्वाची बनवतो, हा प्रश्न आहे.

NHS England public visibility आता खूप जोखीम निर्माण करते या गृहितकावर काम करत असल्याचे दिसते. विरोधक उलट म्हणतात: AI जेव्हा vulnerability discovery सोपे करते, तेव्हा उत्तर stronger patching, auditing, and governance, not retreat from openness.

NHS पलीकडे हे का महत्त्वाचे आहे

ही लढाई ब्रिटिश आरोग्यसेवेपलीकडेही महत्त्वाची आहे, कारण जगभरातील सरकारे अधिक सक्षम AI tools च्या दबावाखाली digital risk चे पुनर्मूल्यांकन करत आहेत. जर एखादी मोठी public institution code openness आता टिकाऊ नाही असा निर्णय घेत असेल, तर इतरही तसे करू शकतात. backlash यशस्वी झाला, तर transparency अजूनही stronger security शी सुसंगत आहे, जर संस्थांनी आधुनिक defensive practices मध्ये गुंतवणूक केली, ही कल्पना बळकट होऊ शकते.

सध्या NHS England ने एका technical security concern ला एक high-profile policy test बनवले आहे. मूळ भीती समजण्यासारखी आहे: AI मोठ्या प्रमाणावर त्रुटी शोधणे सोपे करू शकते. पण टीकाकार एक कठीण प्रश्न विचारत आहेत. code लपवणे ही खरोखरची defense आहे का, की वेगाने बदलणाऱ्या threat ला दिलेली फक्त दिसणारी प्रतिक्रिया? त्याचे उत्तर NHS पलीकडे public sector software कसे govern केले जाते यावर परिणाम करू शकते.

हा लेख New Scientist च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.