पूर्वलक्षी चेहरा ओळखण्यातील धोके पोलिसांच्या निरीक्षण संस्थेने ओळखले
His Majesty’s Inspectorate of Constabularyच्या नव्या अहवालानुसार, पूर्वलक्षी चेहरा ओळखीत मिळालेल्या जुळणींना पुढील तपासणी आवश्यक असलेली गुप्तवार्ता न मानता पुरावा मानल्यास, पोलिस अधिकारी निरपराध लोकांची चुकीची ओळख पटवू शकतात किंवा त्यांना अटक करू शकतात.
या तपासणीचा भर पूर्वलक्षी चेहरा ओळखणे, म्हणजे RFR, यावर होता. एखाद्या घटनेनंतर अज्ञात व्यक्तीच्या प्रतिमेची संग्रहित प्रतिमांशी तपासकर्ते तुलना करतात, ती प्रक्रिया म्हणजे RFR. प्रत्यक्ष वेळेत वापरल्या जाणाऱ्या लाइव्ह चेहरा ओळखण्यापेक्षा पूर्वलक्षी शोध ही तंत्रज्ञानाची तुलनेने कमी वादग्रस्त उपयोजना मानली जाते. मात्र, तिच्या वापराभोवतीचे सुरक्षा उपाय अजूनही महत्त्वाचे असल्याचे निरीक्षण संस्थेच्या निष्कर्षांत दिसते.
पूर्वलक्षी चेहरा ओळखण्याच्या निकालानंतर अधिकारी कारवाई करण्यापूर्वी पुष्टीकरण करणाऱ्या चौकशा आवश्यक असतात, हे काही तपासकर्त्यांना समजले नव्हते, असे अहवालात म्हटले आहे. काही प्रकरणांत अधिकाऱ्यांनी संभाव्य जुळणींवर अतिविश्वास ठेवला आणि त्यामुळे अहवालाच्या शब्दांत अनुचित तपासात्मक कारवाई झाली.
संभाव्य जुळणी हा पुरावा नाही
तपासाचा धागा आणि पुरावा यांतील फरक हा निरीक्षण संस्थेच्या इशाऱ्याचा केंद्रबिंदू आहे. चेहरा ओळखणाऱ्या प्रणाली संभाव्य जुळणी दाखवू शकतात; मात्र त्यांचे मूल्यांकन इतर माहितीच्या आधारे करणे आवश्यक आहे. तपास प्रतिमा आणि ताब्यातील प्रतिमा यांतील संभाव्य साम्यामुळे त्या प्रतिमांतील व्यक्ती एकच आहेत, हे सिद्ध होत नाही.
हा फरक न ओळखल्यास चुकीची ओळख किंवा अटकेचा धोका निर्माण होतो आणि तंत्रज्ञानावरील जनतेचा विश्वास कमी होऊ शकतो, असे अहवालात म्हटले आहे. शोधासाठी दिलेली सुरुवातीची प्रतिमा खराब दर्जाची, अस्पष्ट किंवा एकापेक्षा अधिक चेहरे असलेली असल्यास हा धोका वाढतो.
अयोग्य तपास प्रतिमा प्रणालीवर अपलोड केल्याची उदाहरणे निरीक्षकांना आढळली. अशा पद्धतींमुळे प्रणाली विश्वसनीय जुळणी देण्याची शक्यता कमी होते आणि काळजीपूर्वक मानवी परीक्षणाचे महत्त्व वाढते.
पूर्वग्रहाबाबतच्या चिंता कायम
पूर्वलक्षी चेहरा ओळखण्यासाठी वापरल्या जाणाऱ्या algorithmमधील पूर्वग्रहाबाबतच्या सुरू असलेल्या चिंताही निरीक्षण संस्थेने नोंदवल्या. जातीय अल्पसंख्याक गटांतील लोकांना संशयित म्हणून चुकीने चिन्हांकित करण्याची शक्यता या प्रणालीत अधिक असल्याचे अहवालात म्हटले आहे.
या निष्कर्षामुळे प्रक्रियात्मक त्रुटींचे महत्त्व अधिक वाढते. चुकीच्या जुळणी निर्माण करू शकणाऱ्या तंत्रज्ञानाच्या निकालावर वापरकर्ते अतिविश्वास ठेवत असल्यास सर्वसाधारण धोका निर्माण होतो. चुका समुदायांमध्ये असमानपणे होत असल्यास त्यांचे परिणामही असमान असू शकतात.
चेहरा ओळखण्याला तपासात्मक मूल्य नाही, असा अहवालाचा दावा नाही. हे तंत्रज्ञान गुन्ह्यांशी लढण्यास मदत करू शकते, असे तो सांगतो. मात्र, प्रणालीच्या मर्यादा समजून तिचा वापर करणे आणि कारवाईपूर्वी जुळणीनंतर अतिरिक्त पडताळणी होईल याची पोलिस पद्धतीने खात्री करणे आवश्यक आहे.
डेटा-साठवण आणि कायदेशीर त्रुटी
ताब्यातील प्रतिमांच्या हाताळणीबाबतही निरीक्षकांनी चिंता व्यक्त केली. ज्या काही प्रतिमा हटवायला हव्या होत्या, त्या जतन करून ठेवण्यात आल्याचे अहवालात आढळले. चेहरा ओळखणाऱ्या प्रणाली पोलिस प्रक्रियांतून तयार झालेल्या प्रतिमा डेटाबेसवर अवलंबून असल्याने, अशा त्रुटींमुळे जनतेचा विश्वास आणखी कमी होऊ शकतो.
तंत्रज्ञानाच्या वेगाशी कायदे जुळलेले नाहीत, हा आणखी एक महत्त्वाचा निष्कर्ष आहे. या संदर्भात चेहरा ओळखण्याचे नियमन करणारी सर्वसमावेशक वैधानिक चौकट नाही, असे निरीक्षण संस्थेचे म्हणणे आहे. त्यामुळे पोलिस दलांमध्ये सुसंगत नियम, जबाबदाऱ्या आणि उत्तरदायित्व ठरवणे अधिक कठीण होते.
संपूर्ण कायदेशीर चौकट नसणे महत्त्वाचे आहे, कारण पूर्वलक्षी चेहरा ओळखण्यात व्यक्तींच्या अधिकारांवर परिणाम करणारे अनेक निर्णय घेतले जातात:
- कोणत्या प्रतिमा जतन करून शोधल्या जाऊ शकतात.
- तपास प्रतिमांसाठी कोणते गुणवत्ता निकष लागू असावेत.
- algorithmच्या जुळणींचे परीक्षण आणि दस्तऐवजीकरण कसे केले जावे.
- तपासात्मक किंवा अंमलबजावणीच्या कारवाईपूर्वी कोणत्या पुष्टीकरणाची गरज आहे.
- पूर्वग्रह, audit निष्कर्ष आणि हटवण्याच्या आवश्यकतांचे निरीक्षण कसे केले जावे.
प्रशिक्षण आणि देखरेख महत्त्वाची
हे निष्कर्ष केवळ तांत्रिक नसलेल्या समस्येकडे निर्देश करतात. algorithm सुधारला तरी कर्मचाऱ्यांना त्याच्या निकालाचा अर्थ समजला नाही तर त्याचा गैरवापर होऊ शकतो. पुरेशा पुष्टीकरणाशिवाय तपासकर्त्यांनी कारवाई केल्याचे अहवालातील वर्णन दाखवते की प्रशिक्षण, प्रक्रियेची रचना आणि देखरेख ही मूलभूत softwareइतकीच महत्त्वाची आहेत.
पोलिस दलांसाठी व्यावहारिक गरज स्पष्ट आहे: प्रणालीचा निकाल तपास सुरू करणारा असावा, तो संपवणारा नसावा. अधिकाऱ्यांनी पुढील चौकशांद्वारे संभाव्य जुळणींची पडताळणी करावी आणि त्यानंतरची कोणतीही कारवाई व्यापक पुराव्याच्या आधारावरच असावी.
नियामक आणि धोरणकर्त्यांसाठी, समान मानके ठरवणाऱ्या चौकटीची गरज या अहवालामुळे अधिक तीव्र झाली आहे. अशी चौकट नसल्यास, तंत्रज्ञानाचा वापर अधिक प्रस्थापित होत असताना त्याची अंमलबजावणी, सुरक्षा उपाय आणि डेटा हाताळणीबाबतचे निर्णय पोलिस दलागणिक बदलू शकतात.
जनतेच्या विश्वासाची कसोटी
तपासांची गती आणि व्याप्ती वाढवू शकणारे साधन म्हणून चेहरा ओळखण्याचे अनेकदा समर्थन केले जाते. मात्र, ते अचूक, निष्पक्ष आणि अर्थपूर्ण नियंत्रणांच्या अधीन आहे, असे जनतेला वाटते की नाही, यावर त्याची वैधता अवलंबून आहे.
algorithmचा निकाल चुकीचा समजला जाणे, कमी दर्जाच्या प्रतिमा सादर होणे, पुष्टीकरण टाळले जाणे किंवा हटवायला हवा असलेला डेटा साठवणीत राहणे—यांमुळे विश्वास किती सहज ढासळू शकतो, हे निरीक्षण संस्थेचा इशारा दाखवतो. प्रत्येक त्रुटी तपासकर्त्यांना मदत करण्यासाठी तयार केलेल्या प्रणालीला टाळता येण्याजोग्या हानीच्या स्रोतामध्ये बदलू शकते.
त्यामुळे अहवाल पूर्वलक्षी चेहरा ओळखण्याला तांत्रिक आव्हानाइतकेच प्रशासनाचे आव्हान म्हणून मांडतो. पोलिस ही क्षमता वापरू शकतात का, हा एकमेव प्रश्न नाही; अविश्वसनीय जुळणींवर आधारित प्रत्यक्ष अंमलबजावणीचे निर्णय होऊ नयेत, इतक्या मजबूत सुरक्षा उपायांसह ते ती वापरू शकतात का, हा खरा प्रश्न आहे.
पोलिस चेहरा ओळखण्याची साधने स्वीकारत राहिल्याने, निरीक्षण संस्थेचे निष्कर्ष एक ठोस निकष देतात: संभाव्य जुळणी गुप्तवार्ताच राहिली पाहिजे, मानवी तपासकर्त्यांनी पुढील तपासण्या केल्या पाहिजेत आणि चुकीच्या ओळखीपासून लोकांचे संरक्षण करण्यासाठी कायदेशीर व कार्यात्मक सुरक्षा उपाय पुरेसे मजबूत असले पाहिजेत.
हा लेख The Guardianच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.
Originally published on theguardian.com



