एक दरवाजे की खटखट जिसने सब कुछ बदल दिया

Alvi Choudhury जनवरी में Southampton में अपने पारिवारिक घर से दूरस्थ रूप से काम कर रहे थे जब Thames Valley पुलिस अधिकारी बिना सूचना के आ गए, उन्हें हथकड़ी लगाई और उन्हें लगभग 100 मील दूर एक स्टेशन पर ले गए। आरोप: एक शहर में चोरी जहां वह कभी नहीं गए थे। साक्ष्य: Choudhury की कानूनी टीम के अनुसार, एक चेहरा पहचान मेल जिसने उसे लगभग 10 साल छोटे दिखने वाले संदिग्ध के साथ भ्रमित किया।

दक्षिण एशियाई मूल के 26 वर्षीय सॉफ्टवेयर इंजीनियर Choudhury को पुलिस हिरासत में लगभग 10 घंटे बिताए, फिर सुबह 2 बजे बिना किसी आरोप के रिहा किया गया। वह अब Thames Valley Police के खिलाफ नुकसान की मांग कर रहे हैं, यह तर्क देते हुए कि पूर्वाग्रहपूर्ण प्रौद्योगिकी जिसके कारण उनकी गिरफ्तारी हुई, वह दर्शाती है कि यूके कानून प्रवर्तन स्वचालित निगरानी को कैसे तैनात करता है।

चेहरा पहचान गलत पहचान कैसे होती है

चेहरा पहचान प्रणालियां चेहरे की ज्यामितीय विशेषताओं को मैप करके काम करती हैं - आंखों के बीच की दूरी, जबड़े की आकृति, गालों की समोच्च - और इन मापों की तुलना ज्ञात व्यक्तियों के डेटाबेस के साथ करती हैं। हालांकि प्रौद्योगिकी में हाल के वर्षों में नाटकीय सुधार हुए हैं, स्वतंत्र ऑडिट ने लगातार रंग के लोगों, महिलाओं और युवा व्यक्तियों की पहचान करते समय उच्च त्रुटि दरें पाई हैं।

National Institute of Standards and Technology (NIST) द्वारा 2019 के एक मील के पत्थर अध्ययन में पाया गया कि कई वाणिज्यिक चेहरा पहचान एल्गोरिदम में काली और एशियाई चेहरों के लिए सफेद चेहरों की तुलना में 10 से 100 गुना अधिक त्रुटि दरें थीं। इन निष्कर्षों के बावजूद, यूके भर में पुलिस बल प्रौद्योगिकी के उपयोग को विस्तारित करते रहे हैं, अक्सर न्यूनतम सार्वजनिक निरीक्षण के साथ।

Choudhury के मामले में, सिस्टम स्पष्ट रूप से दक्षिण एशियाई मूल के दो पुरुषों के बीच अंतर करने में विफल रहा, भले ही उनकी उम्र में महत्वपूर्ण अंतर था और वे देश के विभिन्न हिस्सों में रहते थे। उनके वकील तर्क देते हैं कि यह बिल्कुल वह विफलता है जिसके बारे में नागरिक स्वतंत्रता संगठनों ने सालों से चेतावनी दी है।

यूके पुलिस चेहरा पहचान जांच के अंतर्गत

गलत गिरफ्तारी यूनाइटेड किंगडम में चेहरा पहचान के लिए एक विशेष रूप से विवादास्पद समय पर आती है। Metropolitan Police और South Wales Police सहित कई पुलिस बलों ने सार्वजनिक कार्यक्रमों, ट्रेन स्टेशनों और शॉपिंग सेंटरों पर लाइव चेहरा पहचान कैमरे तैनात किए हैं। तकनीक रीयल-टाइम में चेहरों को स्कैन करती है और उन्हें मांगे गए व्यक्तियों की सूचियों से तुलना करती है।

Liberty और Big Brother Watch सहित गोपनीयता वकीलों ने इन तैनाती के खिलाफ बार-बार कानूनी चुनौतियां दायर की हैं। 2020 में, अपील अदालत ने फैसला किया कि South Wales Police द्वारा चेहरा पहचान का उपयोग गोपनीयता अधिकारों और समानता कानूनों का उल्लंघन करता है, हालांकि इस फैसले से प्रौद्योगिकी पर कोई व्यापक प्रतिबंध नहीं लगा।

Thames Valley Police ने चल रही कानूनी कार्यवाही के हवाले से Choudhury के मामले की विशिष्टता पर सार्वजनिक रूप से टिप्पणी नहीं की है। हालांकि, बल ने पहले गंभीर अपराधियों की पहचान के लिए एक आनुपातिक उपकरण के रूप में चेहरा पहचान के उपयोग का बचाव किया है।

एल्गोरिथम त्रुटियों की मानव लागत

Choudhury के लिए, गलत पहचान के परिणाम हिरासत में बिताए गए 10 घंटों से कहीं अधिक थे। The Guardian के साथ साक्षात्कार में, उन्होंने अनुभव को गहरी शर्मनाक और आघातकारी बताया, यह ध्यान दिया कि पड़ोसियों ने उनकी गिरफ्तारी देखी और यह घटना उनके मानसिक स्वास्थ्य और कानून प्रवर्तन के प्रति उनके विश्वास को प्रभावित किया है।

उनका मामला अलग-थलग नहीं है। अमेरिका में, कम से कम तीन काले पुरुषों - Robert Williams, Michael Oliver और Nijeer Parks - को चेहरा पहचान त्रुटियों के कारण गलत तरीके से गिरफ्तार किया गया। Williams को Detroit में उसकी छोटी बेटियों के सामने गिरफ्तार किया गया जब एक खुदरा चोरी एल्गोरिदम ने उसे गलत तरीके से पहचाना। Parks को New Jersey में एक अपराध से गलत तरीके से जोड़े जाने के बाद 10 दिन जेल में रहे।

ये मामले एक समान धागे को साझा करते हैं: पीड़ित अप्रत्याशित रूप से रंग के लोग थे, और गिरफ्तारी करने वाले अधिकारियों ने एल्गोरिथम मेल को आगे की जांच की आवश्यकता वाले जांच सुराग के बजाय लगभग निश्चित साक्ष्य के रूप में माना।

नियमन के लिए कॉल तीव्र होती हैं

Choudhury का मामला यूनाइटेड किंगडम में चेहरा पहचान प्रौद्योगिकी के सख्त नियमन के लिए नवीनीकृत आह्वान को प्रज्वलित करने की संभावना है। 2024 में लागू European Union की AI Act में सार्वजनिक स्थानों पर रीयल-टाइम जैव-मापीय पहचान पर महत्वपूर्ण प्रतिबंध शामिल हैं, हालांकि कानून प्रवर्तन के लिए अपवाद के साथ। यूनाइटेड किंगडम, जिसने EU छोड़ दिया है, इन नियमों से बाध्य नहीं है और एक अधिक अनुमेय दृष्टिकोण अपनाया है।

संसद के कई सदस्यों ने पुलिस द्वारा लाइव चेहरा पहचान के उपयोग पर एक मोरेटोरियम का आह्वान किया है जब तक कि सटीकता और पूर्वाग्रह परीक्षण के लिए स्वतंत्र मानकों को स्थापित किया जा सके। Information Commissioner's Office ने भी प्रौद्योगिकी के उपयोग को नियंत्रित करने वाली स्पष्ट कानूनी रूपरेखा की कमी के बारे में चिंता व्यक्त की है।

  • नागरिक स्वतंत्रता समूह कानून प्रवर्तन द्वारा चेहरा पहचान प्रणाली तैनात करने से पहले अनिवार्य पूर्वाग्रह ऑडिट की मांग कर रहे हैं
  • कानूनी विशेषज्ञ तर्क देते हैं कि मौजूदा समानता कानून को पुलिस को यह प्रदर्शित करने की आवश्यकता होनी चाहिए कि चेहरा पहचान जातीय अल्पसंख्यकों को असमान रूप से प्रभावित नहीं करता है
  • यूके पुलिस को चेहरा पहचान की आपूर्ति करने वाली तकनीकी कंपनियों को जनसांख्यिकीय समूह द्वारा विभाजित सटीकता डेटा प्रकाशित करने के लिए बढ़ते दबाव का सामना कर रहा है

आगे क्या है

Choudhury की कानूनी टीम ने Thames Valley Police के खिलाफ नुकसान के लिए एक औपचारिक दावा दायर किया है। यदि सफल हो, तो यह मामला यह स्थापित कर सकता है कि यूके अदालतें एल्गोरिथम गलत पहचान के परिणामस्वरूप गलत गिरफ्तारी को कैसे मानती हैं। यह पुलिस द्वारा चेहरा पहचान के उपयोग को नियंत्रित करने वाले व्यापक कानून के लिए धक्का को भी गति दे सकता है।

इस बीच, तकनीक फैलती रहती है। इंग्लैंड और वेल्स में लगभग 20 पुलिस बल अब किसी न किसी रूप में चेहरा पहचान क्षमता तक पहुंच सकते हैं, और Home Office ने पुलिसिंग आधुनिकीकरण के व्यापक प्रयासों के हिस्से के रूप में इसके उपयोग को विस्तारित करने के लिए समर्थन का संकेत दिया है।

Choudhury के लिए, सवाल यह नहीं है कि क्या चेहरा पहचान में वैध कानून प्रवर्तन अनुप्रयोग हैं - यह है कि क्या प्रलेखित नस्लीय पूर्वाग्रहों के साथ एक तकनीक को मजबूत सुरक्षा के बिना लोगों की स्वतंत्रता को वंचित करने के लिए विश्वास किया जाना चाहिए। उनका मामला सुझाता है कि, कम से कम अभी, ये सुरक्षा खतरनाक रूप से अपर्याप्त बनी हुई हैं।

यह लेख The Guardian की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.