जब स्टोर अलर्ट सार्वजनिक आरोप बन जाए

यूके से सामने आए घटनाओं के एक नए समूह ने रोज़मर्रा के व्यापार में चेहरे की पहचान के इस्तेमाल पर बहस को और तीखा बना दिया है। The Guardian की रिपोर्टिंग के अनुसार, कुछ खरीदारों को दुकानों में रोका गया, उनसे बाहर जाने को कहा गया और बताया गया कि एक लाइव चेहरे की पहचान प्रणाली ने उन्हें संदिग्ध दुकानचोर के रूप में पहचाना है। जिन लोगों से यह जुड़ा था, उनका कहना है कि वे निर्दोष थे और फिर अपने ऊपर लगे आरोप को चुनौती देने या अपना नाम साफ़ करने का व्यावहारिक रास्ता खोजने में उन्हें मुश्किल हुई।

यह लेख Facewatch पर केंद्रित है, जो चोरी रोकने में मदद के लिए यूके रिटेल में लागू किया जा रहा एक सिस्टम है। इसकी वेबसाइट 99.98% सटीकता का दावा करती है और कहती है कि उसने हाल के एक महीने में भाग लेने वाली दुकानों को ज्ञात अपराधियों के 50,288 अलर्ट भेजे। लेकिन रिपोर्ट किए गए अनुभव दिखाते हैं कि अत्यधिक सटीक बताई जाने वाली प्रणाली भी तब सामाजिक रूप से नुकसानदेह बन सकती है जब कोई गलती दुकान के भीतर तक पहुँच जाए। सटीकता के प्रतिशत उस व्यक्ति के लिए गलत मिलान के परिणामों को नहीं मिटाते, जिसे अपनी चीज़ें नीचे रखने और बाहर जाने को कहा गया हो।

शासन की खाई ही अब कहानी बन रही है

यहाँ सबसे महत्वपूर्ण मुद्दा शायद चेहरे की पहचान का सीधा उपयोग नहीं है। असली समस्या इसके तैनाती के आसपास की कमजोर जवाबदेही है। रिपोर्ट में वर्णित खरीदारों में से एक, Ian Clayton, ने कहा कि Home Bargains स्टोर में जाते समय उन्हें बताया गया कि वे सिस्टम पर दुकानचोर के रूप में दिखाई दे रहे हैं। जवाब पाने की कोशिश के बाद उन्होंने आखिरकार एक subject access request दायर किया और जाना कि उन्हें पहले की एक घटना से गलत तरीके से जोड़ा गया था। उन्होंने इस अनुभव को ऐसा बताया जैसे निर्दोष साबित होने तक दोषी माना जाना।

यह वाक्य गहरी समस्या को पकड़ता है। AI पर कई सार्वजनिक बहसों में ध्यान मॉडल की सटीकता, विक्रेता के दावों और इस बात पर रहता है कि तकनीक सिद्धांत में काम करती है या नहीं। लेकिन झूठे अलर्ट के निशाने पर आए लोगों के लिए असली सवाल प्रक्रियात्मक होते हैं। निर्णय किसने लिया? क्या यह सिस्टम की गलती थी या स्टाफ की? कौन-सा सबूत मौजूद है? गलती कितनी जल्दी सुधारी जा सकती है? नुकसान के लिए जिम्मेदार कौन है?

रिपोर्टेड जवाब, कम-से-कम इन मामलों में, आश्वस्त करने वाले नहीं थे। कुछ लोगों ने कहा कि उन्हें बहुत कम मदद मिली और यह नहीं पता था कि शिकायत कैसे करें या अपनी बेगुनाही कैसे साबित करें। यह संकेत देता है कि निगरानी और ग्राहक को राहत देने की व्यवस्था तैनाती की गति के साथ नहीं बढ़ी है।