यूके पोलिसांच्या एआय पुराव्यांच्या चौकशीमुळे प्रामाणिकतेबाबत नवे प्रश्न निर्माण झाले

डर्बीशायरमधील चौकशीमुळे एआयचा गैरवापर पुराव्यांच्या साखळीत आला

डर्बीशायरमधील एका पोलिस अधिकाऱ्याला आघाडीच्या कर्तव्यांमधून दूर करण्यात आले आहे आणि अनेक प्रकरणांमध्ये पुराव्यासाठी वापरायचे साहित्य तयार करण्यासाठी कृत्रिम बुद्धिमत्तेचा कथित वापर केल्याप्रकरणी त्याच्यावर फौजदारी चौकशी सुरू आहे. गार्डियनने उद्धृत केलेल्या वृत्तानुसार, ही तक्रार न्यायप्रक्रियेत अडथळा आणण्याच्या संभाव्य प्रयत्न म्हणून तपासली जात आहे.

या दलाने सांगितले की चौकशी सुरुवातीच्या टप्प्यात आहे, अद्याप कोणालाही अटक करण्यात आलेली नाही, आणि संभाव्य प्रभावित प्रकरणांबाबत ते क्राउन प्रोसिक्युशन सर्व्हिससोबत जवळून काम करत आहे. त्या अधिकाऱ्याचे नाव जाहीर करण्यात आलेले नाही, आणि कथित गैरवर्तनाचे नेमके स्वरूप उघड करण्यात आलेले नाही.

या पोकळ्यांनंतरही हे प्रकरण आधीच महत्त्वाचे ठरते. फौजदारी कार्यवाहीसाठी पुराव्यांचे साहित्य तयार करण्यासाठी एआयचा कथित वापर असलेल्या यूकेमधील अशा प्रकारच्या चौकशीचे हे पहिले ज्ञात प्रकरण दिसते. त्यामुळे हे केवळ अंतर्गत शिस्तभंगात्मक प्रकरण राहत नाही. पोलिसींग आणि न्यायालये ज्या विश्वासाच्या मॉडेलवर अवलंबून असतात, त्यालाच हे थेट आव्हान देते.

हे प्रकरण एका दलापलीकडे का महत्त्वाचे आहे

पुरावा म्हणजे केवळ माहिती नाही. ती माहिती नियमांनुसार गोळा, दस्तऐवजीकृत आणि सादर केली जाते, ज्यांचा उद्देश प्रामाणिकता, ताब्याची साखळी आणि जबाबदारी जपणे हा असतो. जनरेटिव्ह एआय या तिन्ही गोष्टी गुंतागुंतीच्या करते. एखादा अधिकारी एआय प्रणालीचा वापर करून असे साहित्य मसुदा, बदल, सारांशित किंवा तयार करतो, जे नंतर न्यायप्रक्रियेत येते, तर मध्यवर्ती प्रश्न असा उरतो की तो आउटपुट वास्तव प्रतिबिंबित करतो की निष्कर्ष, की बनावट निर्मिती.

डर्बीशायरचे प्रकरण महत्त्वाचे आहे कारण आरोप असा नाही की एआयचा केवळ प्रशासकीय मदत म्हणून वापर झाला. नोंदवलेला मुद्दा म्हणजे स्वतः पुराव्याचे साहित्य तयार केले गेले. हा शब्द फौजदारी प्रक्रियेतील सर्वात संवेदनशील टप्प्यावर संभाव्य अपयशाकडे निर्देश करतो: कच्च्या तथ्यांचे न्यायालय अवलंबू शकते अशा नोंदींमध्ये रूपांतर.

सीपीएसने पुष्टी केली की ते डर्बीशायर पोलिसांसोबत काम करत आहे, योग्य प्रकरणांमध्ये बचाव पक्षाच्या टीम्स आणि न्यायालयांशी संवाद साधत आहे, परंतु चौकशा सुरू असताना अधिक भाष्य करण्यास नकार दिला. याचा अर्थ असा की अभियोजक आधीच कोणतीही चालू किंवा मागील कार्यवाही प्रभावित झाली आहे का, याचे मूल्यांकन करत आहेत.

एक व्यापक इशारा आधीच दिसू लागला होता

ही चौकशी पोकळीतून उद्भवलेली नाही. गार्डियनने वृत्त दिले की नॅशनल पोलिस चीफ्स’ कौन्सिलच्या पोलिस एआय केंद्राचे प्रमुख अॅलेक्स मरे यांनी सांगितले होते की काही पोलिस दलांना न्यायालयीन निवेदने तयार करणे यांसारख्या कामांसाठी एआय प्रणाली वापरणे थांबवण्यास सांगितले गेले होते, कारण त्या पुरेशा विश्वासार्ह नसू शकतात.

आता तो इशारा दूरदृष्टीपूर्ण वाटतो. कायदेशीर संदर्भातील जनरेटिव्ह प्रणालींची समस्या केवळ त्या चुका करू शकतात इतकीच नाही. त्या चुका सहज, प्रभावी आणि मोठ्या प्रमाणावर करू शकतात, ही आहे. संस्थात्मक वातावरणात, त्यामुळे मशीनने तयार केलेल्या मजकुराला केवळ तो औपचारिक किंवा संपूर्ण दिसतो म्हणून अवाजवी अधिकार मिळण्याचा धोका निर्माण होतो.

पोलिस विभागांवर कागदोपत्री काम स्वयंचलित करण्यासाठी आणि प्रशासकीय ओझे कमी करण्यासाठी स्पष्ट प्रोत्साहने असतात. पण फौजदारी न्यायक्षेत्रात कार्यक्षमतेतील वाढ पुराव्यांच्या विश्वसनीयतेच्या खर्चावर येऊ शकत नाही. जर एआय साधने कठोर प्रक्रिया मर्यादांशिवाय आणली गेली, तर त्यांचा अर्धवस्तुनिष्ठ पद्धतीने वापर करण्याचा मोह धोरणापेक्षा जलद वाढू शकतो.

न्यायालये आणि आरोपींसाठी विश्वासाची समस्या

अशा प्रकरणाचा सर्वात तात्काळ परिणाम तांत्रिक नसून कायदेशीर असतो. बचाव पक्षाच्या टीम्सना हे जाणून घ्यायचे असेल की त्यांनी प्राप्त केलेली कोणतीही निवेदने, सारांश, कालरेषा किंवा इतर सामग्री एआयने तयार केली होती का किंवा बदलली होती का. न्यायालयांना उघडकीचे मुद्दे, पुराव्यांवरील आव्हाने आणि संबंधित अधिकाऱ्यांची विश्वासार्हता यांचा विचार करावा लागू शकतो.

म्हणूनच "संभाव्यतः प्रभावित प्रकरणे" हा शब्द खूप महत्त्वाचा ठरतो. एकदा पुरावा तयार करण्यावरील विश्वास डळमळीत झाला की, परिणाम मूळ आरोपापलीकडे पसरू शकतात. त्या अधिकाऱ्याशी संबंधित प्रत्येक प्रकरणाचा आढावा घ्यावा लागू शकतो, आणि त्या प्रकरणांना स्पर्श करणाऱ्या प्रत्येक संस्थेला कोणती सुधारात्मक पावले आवश्यक आहेत हे ठरवावे लागू शकते.

धोका याहूनही व्यापक आहे. पोलिसींगवरील सार्वजनिक विश्वास मोठ्या प्रमाणावर या श्रद्धेवर अवलंबून असतो की पुरावे प्रामाणिकपणे गोळा आणि नोंदवले जातात. जर एआयचा संबंध अपारदर्शक फेरफाराशी जोडला गेला, तर एकटे-एकटे गैरवापरही अन्यथा कमी-जोखमीच्या प्रशासकीय कामांमध्ये मदत करू शकणाऱ्या वैध डिजिटल साधनांवरील विश्वासाला धक्का देऊ शकतो.

पोलिसींगमध्ये जबाबदार एआय वापरासाठी काय आवश्यक आहे

नोंदवलेल्या तथ्यांवर आधारित पाहता, डर्बीशायरची चौकशी अधिक काटेकोर कार्यकारी नियमांची गरज अधोरेखित करते. किमान, एआय प्रणाली वापरणाऱ्या दलांकडे स्वीकार्य लिपिकीय सहाय्य आणि निषिद्ध पुराव्यांच्या निर्मितीमध्ये स्पष्ट भेद असणे आवश्यक आहे. दस्तऐवज नेमका कसा तयार झाला हे दाखवण्यासाठी पुरेसे मजबूत ऑडिट ट्रेल, उघडकीच्या आवश्यकता आणि पर्यवेक्षणीय नियंत्रणही आवश्यक असतील.

येथे उघड झालेल्या समस्येतून काही तत्त्वे पुढे येतात:

• फौजदारी प्रकरणांतील एआयचा वापर स्पष्टपणे नोंदवला गेला पाहिजे आणि तपासणीसाठी उपलब्ध असला पाहिजे.
• न्यायालयावर प्रभाव टाकू शकतील अशी सामग्री कठोर अधिकृतता आणि उघडकीशिवाय मशीन-निर्मित नसावी.
• अधिकाऱ्यांना केवळ साधनांचा प्रवेश नव्हे, तर विश्वसनीयतेच्या मर्यादांबाबत प्रशिक्षण हवे.
• अभियोजक आणि बचाव पक्षाला एआय-सहाय्यित दस्तऐवज ओळखण्यासाठी व्यावहारिक यंत्रणा हवी.

ही पावले जोखीम पूर्णपणे नाहीशी करणार नाहीत, पण किमान संदिग्धता कमी करतील. आत्ता संदिग्धताच मुख्य धोका आहे. स्वयंचलन कुठे थांबते आणि पुराव्याच्या लेखकत्वाची सुरुवात कुठे होते हे जर कोणी सांगू शकत नसेल, तर न्यायव्यवस्था असा विश्वासार्हतेचा प्रश्न वारशाने घेते, जो नंतर आवर घालणे खूप कठीण असते.

संस्थात्मक एआय कारभारासाठी सुरुवातीची ताणतणाव चाचणी

ब्रिटिश पोलिसींगने इतर क्षेत्रांमध्येही आधीच एआयचा प्रयोग सुरू केला आहे. गार्डियनने नोंदवले की एप्रिलमध्ये मेट्रोपॉलिटन पोलिसांनी पॅलँटियरने तयार केलेल्या एआय साधनाचा वापर करून संभाव्य गैरवर्तन ओळखण्यासाठी शेकडो अधिकाऱ्यांविरुद्ध चौकशा सुरू केल्या. तो वापर डर्बीशायरच्या आरोपापेक्षा वेगळा आहे, पण दोन्ही एकच संरचनात्मक वास्तव दर्शवतात: एआय पायलट क्षेत्रातून महत्त्वपूर्ण सार्वजनिक क्षेत्र निर्णय वातावरणात प्रवेश करत आहे.

डर्बीशायरची चौकशी एकट्या गैरवर्तन प्रकरणाचा निष्कर्ष ठरू शकते, किंवा ती व्यापक कारभारातील दरी उघड करू शकते. उपलब्ध अहवाल सध्या दोन्ही निष्कर्षांना पाठिंबा देत नाहीत. मात्र, तो एक अधिक तातडीचा धडा नक्की देतो. जेव्हा आउटपुट्स स्वातंत्र्य, दोष किंवा न्यायालयीन निकाल घडवू शकतात, तेव्हा संस्थांनी जनरेटिव्ह एआयला तटस्थ उत्पादकता थर मानू नये.

हीच ती मर्यादा आहे जी हे प्रकरण ओलांडते. ते एआयमधील भ्रमांविषयीच्या अमूर्त चिंतेला पुराव्यांच्या प्रामाणिकतेबद्दलच्या ठोस प्रश्नात रूपांतरित करते. चौकशीचा शेवट काहीही असो, पोलिस दल आणि न्यायालये एआय-सहाय्यित प्रकरण तयारीकडे पुन्हा पूर्वीसारखे पाहतील असे वाटत नाही.

हा लेख The Guardian च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.