खुदरा क्षेत्र में चेहरा पहचान तकनीक आम खरीदारों के लिए विधिसम्मत प्रक्रिया से टकरा रही है

जब स्टोर अलर्ट सार्वजनिक आरोप बन जाए

यूके से सामने आए घटनाओं के एक नए समूह ने रोज़मर्रा के व्यापार में चेहरे की पहचान के इस्तेमाल पर बहस को और तीखा बना दिया है। The Guardian की रिपोर्टिंग के अनुसार, कुछ खरीदारों को दुकानों में रोका गया, उनसे बाहर जाने को कहा गया और बताया गया कि एक लाइव चेहरे की पहचान प्रणाली ने उन्हें संदिग्ध दुकानचोर के रूप में पहचाना है। जिन लोगों से यह जुड़ा था, उनका कहना है कि वे निर्दोष थे और फिर अपने ऊपर लगे आरोप को चुनौती देने या अपना नाम साफ़ करने का व्यावहारिक रास्ता खोजने में उन्हें मुश्किल हुई।

यह लेख Facewatch पर केंद्रित है, जो चोरी रोकने में मदद के लिए यूके रिटेल में लागू किया जा रहा एक सिस्टम है। इसकी वेबसाइट 99.98% सटीकता का दावा करती है और कहती है कि उसने हाल के एक महीने में भाग लेने वाली दुकानों को ज्ञात अपराधियों के 50,288 अलर्ट भेजे। लेकिन रिपोर्ट किए गए अनुभव दिखाते हैं कि अत्यधिक सटीक बताई जाने वाली प्रणाली भी तब सामाजिक रूप से नुकसानदेह बन सकती है जब कोई गलती दुकान के भीतर तक पहुँच जाए। सटीकता के प्रतिशत उस व्यक्ति के लिए गलत मिलान के परिणामों को नहीं मिटाते, जिसे अपनी चीज़ें नीचे रखने और बाहर जाने को कहा गया हो।

शासन की खाई ही अब कहानी बन रही है

यहाँ सबसे महत्वपूर्ण मुद्दा शायद चेहरे की पहचान का सीधा उपयोग नहीं है। असली समस्या इसके तैनाती के आसपास की कमजोर जवाबदेही है। रिपोर्ट में वर्णित खरीदारों में से एक, Ian Clayton, ने कहा कि Home Bargains स्टोर में जाते समय उन्हें बताया गया कि वे सिस्टम पर दुकानचोर के रूप में दिखाई दे रहे हैं। जवाब पाने की कोशिश के बाद उन्होंने आखिरकार एक subject access request दायर किया और जाना कि उन्हें पहले की एक घटना से गलत तरीके से जोड़ा गया था। उन्होंने इस अनुभव को ऐसा बताया जैसे निर्दोष साबित होने तक दोषी माना जाना।

यह वाक्य गहरी समस्या को पकड़ता है। AI पर कई सार्वजनिक बहसों में ध्यान मॉडल की सटीकता, विक्रेता के दावों और इस बात पर रहता है कि तकनीक सिद्धांत में काम करती है या नहीं। लेकिन झूठे अलर्ट के निशाने पर आए लोगों के लिए असली सवाल प्रक्रियात्मक होते हैं। निर्णय किसने लिया? क्या यह सिस्टम की गलती थी या स्टाफ की? कौन-सा सबूत मौजूद है? गलती कितनी जल्दी सुधारी जा सकती है? नुकसान के लिए जिम्मेदार कौन है?

रिपोर्टेड जवाब, कम-से-कम इन मामलों में, आश्वस्त करने वाले नहीं थे। कुछ लोगों ने कहा कि उन्हें बहुत कम मदद मिली और यह नहीं पता था कि शिकायत कैसे करें या अपनी बेगुनाही कैसे साबित करें। यह संकेत देता है कि निगरानी और ग्राहक को राहत देने की व्यवस्था तैनाती की गति के साथ नहीं बढ़ी है।

रिटेल AI में जोखिम का एक अलग रूप क्यों है

रिटेल में चेहरे की पहचान कई अन्य AI अनुप्रयोगों से अलग है क्योंकि यह भौतिक स्थान में काम करती है और तुरंत परिणाम दे सकती है। एक चैटबॉट जो गलत जवाब देता है, उसे बाद में सुधारा जा सकता है। लेकिन एक स्टोर सिस्टम जो किसी ग्राहक की गलत पहचान करता है, वह उसी वक्त, स्टाफ, दूसरे खरीदारों और संभवतः परिवार के सदस्यों के सामने सार्वजनिक शर्मिंदगी पैदा कर सकता है।

शक्ति का भी असंतुलन है। एक रिटेलर अपने सुरक्षा उपकरण और संचालन प्रक्रियाएँ स्वयं चुन सकता है। दुकान में प्रवेश करने वाले ग्राहक को अक्सर इस बात की व्यावहारिक जानकारी नहीं होती कि कौन-सी प्रणालियाँ इस्तेमाल हो रही हैं, वॉचलिस्ट कैसे तैयार की जाती हैं या मेल मिलने पर क्या होता है। पोस्टर या QR कोड मूल असंतुलन को हल नहीं करते। यदि व्यक्ति को पहले बाहर निकाला जाए और बाद में बताया जाए, तो सुधार का बोझ आरोपित व्यक्ति पर आ जाता है।

AI पर व्यापक बहस के लिए इसका क्या अर्थ है

ये मामले ऐसे समय में सामने आए हैं जब AI की निगरानी अभी भी व्यावसायिक तैनाती के पीछे चल रही है। लाइव चेहरे की पहचान को अपराध-रोधी उपकरण के रूप में पेश किया जा सकता है, लेकिन जनता इसे इस आधार पर अधिक से अधिक परखेगी कि क्या यह आम लोगों के लिए बुनियादी सुरक्षा उपाय देती है। इसमें यह पारदर्शिता शामिल है कि अलर्ट कैसे उत्पन्न होते हैं, एक स्पष्ट मानव समीक्षा प्रक्रिया, और परिणामों को चुनौती देने का व्यावहारिक रास्ता।

रिपोर्ट किए गए घटनाक्रम यह भी दिखाते हैं कि केंद्रीय जोखिम केवल यह नहीं है कि एल्गोरिदम गलत हो सकता है। मानव उपयोग भी मायने रखता है। स्टाफ की व्याख्या, escalation नीतियाँ और शिकायत निपटान किसी तकनीकी गलती को संस्थागत विफलता में बदल सकते हैं। यदि अपवादों की पहचान और सुधार का प्रभावी तरीका न हो, तो उच्च बताई गई सटीकता दर के साथ भी गंभीर नुकसान मौजूद रह सकते हैं।

रिटेलरों के लिए सबक सीधा है। यदि चेहरे की पहचान का उपयोग ग्राहकों से सीधे जुड़े वातावरण में किया जाना है, तो शासन को बाद की बात नहीं माना जा सकता। नियामकों और नागरिक स्वतंत्रता समर्थकों के लिए सवाल यह है कि क्या मौजूदा निगरानी उन प्रणालियों के लिए पर्याप्त मजबूत है जो सार्वजनिक जगह में किसी को तुरंत संदिग्ध ठहरा सकती हैं।

यूके के उदाहरण बताते हैं कि इसका उत्तर अभी भी अनिश्चित है। जो बात साफ है, वह यह है कि स्वचालित संदेह तब कहीं अधिक गंभीर मुद्दा बन जाता है जब उसके खिलाफ व्यक्ति के पास तेज़, स्पष्ट या निष्पक्ष तरीके से चुनौती देने का कोई साधन न हो।

यह लेख The Guardian की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.