स्टोअरचा इशारा सार्वजनिक आरोपात बदलतो तेव्हा

यूकेमधून आलेल्या नव्या नोंदवलेल्या प्रकरणांमुळे रोजच्या व्यापारात चेहरा ओळख तंत्रज्ञानाच्या वापरावरील वाद अधिक तीव्र झाला आहे. The Guardian च्या वृत्तानुसार, काही खरेदीदारांना दुकानांमध्ये थांबवण्यात आले, बाहेर जाण्यास सांगण्यात आले आणि एका लाईव्ह चेहरा ओळख प्रणालीने त्यांना संशयित दुकानचोर म्हणून ओळखले असल्याचे सांगण्यात आले. संबंधित लोकांचे म्हणणे आहे की ते निर्दोष होते आणि नंतर त्या आरोपाला आव्हान देण्यासाठी किंवा आपले नाव स्वच्छ करण्यासाठी व्यवहार्य मार्ग शोधताना त्यांना अडचण आली.

हा लेख Facewatch वर केंद्रित आहे, जी चोरी रोखण्यासाठी मदत करण्याच्या उद्देशाने यूके रिटेलमध्ये सुरू केली जात आहे. तिच्या वेबसाइटनुसार 99.98% अचूकता आहे आणि अलीकडील एका महिन्यात सहभागी दुकानांना ज्ञात गुन्हेगारांचे 50,288 अलर्ट पाठवले गेले. मात्र नोंदवलेल्या अनुभवांवरून असे दिसते की अत्यंत अचूक म्हणून जाहिरात केलेली प्रणालीही, चूक थेट दुकानात पोहोचल्यास सामाजिकदृष्ट्या हानिकारक ठरू शकते. अचूकतेची टक्केवारी, ज्याला आपले सामान खाली ठेवून निघून जाण्यास सांगितले गेले त्या व्यक्तीसाठी, चुकीच्या जुळणीचे परिणाम नाहीसे करत नाही.

शासनातील उणीवच आता मुख्य कथा बनत आहे

येथील सर्वात महत्त्वाचा मुद्दा कदाचित चेहरा ओळख तंत्रज्ञानाचा थेट वापर नाही. त्याऐवजी, तैनातीभोवतीची कमकुवत जबाबदारी ही खरी समस्या आहे. अहवालात वर्णन केलेल्या खरेदीदारांपैकी एक, Ian Clayton, यांनी सांगितले की Home Bargains दुकानाला भेट देताना त्यांना सिस्टीमवर ते दुकानचोर म्हणून दिसत असल्याचे सांगण्यात आले. उत्तर शोधण्याचा प्रयत्न केल्यानंतर त्यांनी अखेर subject access request सादर केली आणि त्यांना समजले की त्यांना आधीच्या एका घटनेशी चुकीच्या प्रकारे जोडले गेले होते. त्यांनी हा अनुभव असा वाटल्याचे सांगितले की जणू निर्दोष सिद्ध होईपर्यंत दोषी ठरवले गेले.

हे वाक्य खोल समस्या दाखवते. AI विषयीच्या अनेक सार्वजनिक चर्चांमध्ये भर मॉडेल अचूकता, विक्रेत्यांचे दावे, आणि तंत्रज्ञान तत्त्वतः काम करते का यावर असतो. पण खोट्या इशाऱ्याच्या निशाण्यावर आलेल्या लोकांसाठी महत्त्वाचे प्रश्न प्रक्रियात्मक असतात. निर्णय कोणी घेतला? ती प्रणालीची चूक होती की कर्मचाऱ्यांची? कोणता पुरावा आहे? चूक किती लवकर दुरुस्त होऊ शकते? झालेल्या हानीची जबाबदारी कोणाची?

नोंदवलेले उत्तर, किमान या प्रकरणांमध्ये तरी, समाधानकारक नव्हते. काही लोकांनी सांगितले की त्यांना फारशी मदत मिळाली नाही आणि तक्रार कशी करायची किंवा आपली निर्दोषता कशी सिद्ध करायची हे माहीत नव्हते. यावरून असे सूचित होते की देखरेख आणि ग्राहकांना दिलासा देण्याची व्यवस्था तैनातीच्या गतीशी जुळून आली नाही.