खुद्रा व्यापारात चेहरा ओळख तंत्रज्ञान सामान्य खरेदीदारांसाठी न्यायप्रक्रियेशी टकरावत आहे

स्टोअरचा इशारा सार्वजनिक आरोपात बदलतो तेव्हा

यूकेमधून आलेल्या नव्या नोंदवलेल्या प्रकरणांमुळे रोजच्या व्यापारात चेहरा ओळख तंत्रज्ञानाच्या वापरावरील वाद अधिक तीव्र झाला आहे. The Guardian च्या वृत्तानुसार, काही खरेदीदारांना दुकानांमध्ये थांबवण्यात आले, बाहेर जाण्यास सांगण्यात आले आणि एका लाईव्ह चेहरा ओळख प्रणालीने त्यांना संशयित दुकानचोर म्हणून ओळखले असल्याचे सांगण्यात आले. संबंधित लोकांचे म्हणणे आहे की ते निर्दोष होते आणि नंतर त्या आरोपाला आव्हान देण्यासाठी किंवा आपले नाव स्वच्छ करण्यासाठी व्यवहार्य मार्ग शोधताना त्यांना अडचण आली.

हा लेख Facewatch वर केंद्रित आहे, जी चोरी रोखण्यासाठी मदत करण्याच्या उद्देशाने यूके रिटेलमध्ये सुरू केली जात आहे. तिच्या वेबसाइटनुसार 99.98% अचूकता आहे आणि अलीकडील एका महिन्यात सहभागी दुकानांना ज्ञात गुन्हेगारांचे 50,288 अलर्ट पाठवले गेले. मात्र नोंदवलेल्या अनुभवांवरून असे दिसते की अत्यंत अचूक म्हणून जाहिरात केलेली प्रणालीही, चूक थेट दुकानात पोहोचल्यास सामाजिकदृष्ट्या हानिकारक ठरू शकते. अचूकतेची टक्केवारी, ज्याला आपले सामान खाली ठेवून निघून जाण्यास सांगितले गेले त्या व्यक्तीसाठी, चुकीच्या जुळणीचे परिणाम नाहीसे करत नाही.

शासनातील उणीवच आता मुख्य कथा बनत आहे

येथील सर्वात महत्त्वाचा मुद्दा कदाचित चेहरा ओळख तंत्रज्ञानाचा थेट वापर नाही. त्याऐवजी, तैनातीभोवतीची कमकुवत जबाबदारी ही खरी समस्या आहे. अहवालात वर्णन केलेल्या खरेदीदारांपैकी एक, Ian Clayton, यांनी सांगितले की Home Bargains दुकानाला भेट देताना त्यांना सिस्टीमवर ते दुकानचोर म्हणून दिसत असल्याचे सांगण्यात आले. उत्तर शोधण्याचा प्रयत्न केल्यानंतर त्यांनी अखेर subject access request सादर केली आणि त्यांना समजले की त्यांना आधीच्या एका घटनेशी चुकीच्या प्रकारे जोडले गेले होते. त्यांनी हा अनुभव असा वाटल्याचे सांगितले की जणू निर्दोष सिद्ध होईपर्यंत दोषी ठरवले गेले.

हे वाक्य खोल समस्या दाखवते. AI विषयीच्या अनेक सार्वजनिक चर्चांमध्ये भर मॉडेल अचूकता, विक्रेत्यांचे दावे, आणि तंत्रज्ञान तत्त्वतः काम करते का यावर असतो. पण खोट्या इशाऱ्याच्या निशाण्यावर आलेल्या लोकांसाठी महत्त्वाचे प्रश्न प्रक्रियात्मक असतात. निर्णय कोणी घेतला? ती प्रणालीची चूक होती की कर्मचाऱ्यांची? कोणता पुरावा आहे? चूक किती लवकर दुरुस्त होऊ शकते? झालेल्या हानीची जबाबदारी कोणाची?

नोंदवलेले उत्तर, किमान या प्रकरणांमध्ये तरी, समाधानकारक नव्हते. काही लोकांनी सांगितले की त्यांना फारशी मदत मिळाली नाही आणि तक्रार कशी करायची किंवा आपली निर्दोषता कशी सिद्ध करायची हे माहीत नव्हते. यावरून असे सूचित होते की देखरेख आणि ग्राहकांना दिलासा देण्याची व्यवस्था तैनातीच्या गतीशी जुळून आली नाही.

खुद्रा AI वेगळ्या प्रकारचा धोका का निर्माण करते

खुद्रा चेहरा ओळख तंत्रज्ञान इतर अनेक AI अनुप्रयोगांपेक्षा वेगळे आहे, कारण ते भौतिक जागेत कार्य करते आणि तात्काळ परिणाम घडवू शकते. चुकीचे उत्तर देणारा chatbot नंतर दुरुस्त केला जाऊ शकतो. पण एखाद्या ग्राहकाची चुकीची ओळख करणारी दुकान प्रणाली, कर्मचारी, इतर खरेदीदार आणि कदाचित कुटुंबीयांसमोरही, तत्काळ सार्वजनिक अपमान निर्माण करू शकते.

तसेच शक्तीतील असमतोलही आहे. एक खुद्रा विक्रेता आपली सुरक्षा साधने आणि कार्यपद्धती स्वतः निवडू शकतो. पण दुकानात येणाऱ्या ग्राहकाला कोणती प्रणाली वापरली जात आहे, watchlist कशा तयार केल्या जातात, किंवा जुळणी झाल्यास काय होते याची प्रत्यक्ष माहिती फारशी नसते. फलक किंवा QR code मूलभूत असमतोल दूर करत नाहीत. जर एखाद्याला आधी बाहेर काढले आणि नंतर माहिती दिली, तर दुरुस्तीचा भार आरोप झालेल्या व्यक्तीवरच येतो.

विस्तृत AI वादासाठी याचा अर्थ काय

ही प्रकरणे अशा वेळी समोर आली आहेत, जेव्हा AI देखरेख अजूनही व्यावसायिक तैनातीच्या मागे आहे. लाईव्ह चेहरा ओळख तंत्रज्ञानाला गुन्हे प्रतिबंध साधन म्हणून बाजारात मांडले जाऊ शकते, पण सामान्य लोकांसाठी ते मूलभूत सुरक्षितता देते का यावर सार्वजनिक मत अधिकाधिक आधारित असेल. त्यात अलर्ट कसे तयार होतात याबद्दल पारदर्शकता, स्पष्ट मानवी पुनरावलोकन प्रक्रिया आणि निकालांना आव्हान देण्यासाठी काम करणारा मार्ग यांचा समावेश होतो.

नोंदवलेल्या घटनांतून हेही दिसते की मुख्य धोका फक्त अल्गोरिदम चुकतो का इतकाच नाही. मानवी वापरही तितकाच महत्त्वाचा आहे. कर्मचाऱ्यांची व्याख्या, escalation धोरणे आणि तक्रार हाताळणी एक तांत्रिक चूक संस्थात्मक अपयशात बदलू शकतात. अपवाद ओळखणे आणि दुरुस्त करण्याचा प्रभावी मार्ग नसेल, तर उच्च सांगितलेल्या अचूकतेच्या दरासोबतही गंभीर हानी अस्तित्वात राहू शकते.

खुद्रा विक्रेत्यांसाठी धडा स्पष्ट आहे. ग्राहकाभिमुख वातावरणात चेहरा ओळख वापरायची असेल, तर शासनाला नंतरचा विचार मानता येणार नाही. नियामक आणि नागरी स्वातंत्र्य समर्थकांसाठी प्रश्न असा आहे की सार्वजनिक ठिकाणी एखाद्याला ताबडतोब संशयित म्हणून लेबल करू शकणाऱ्या प्रणालींसाठी सध्याची देखरेख पुरेशी मजबूत आहे का.

यूकेची उदाहरणे दर्शवतात की उत्तर अजूनही अनिश्चित आहे. स्पष्ट आहे ते एवढेच की सार्वजनिक ठिकाणी ज्याच्या वाट्याला स्वयंचलित संशय येतो, त्याच्याकडे तो जलद, दृश्यमान किंवा न्याय्य रीतीने आव्हान देण्याचा मार्ग नसेल, तर तो खूपच गंभीर विषय ठरतो.

हा लेख The Guardian च्या वृत्तावर आधारित आहे. मूळ लेख वाचा.