రిటైల్‌లో ముఖ గుర్తింపు సాధారణ కొనుగోలుదారులకు న్యాయ ప్రక్రియతో ఢీకొంటోంది

స్టోర్ అలర్ట్ ప్రజా ఆరోపణగా మారినప్పుడు

UK నుంచి వచ్చిన కొత్తగా నివేదించబడిన కొన్ని ఘటనలు, రోజువారీ వాణిజ్యంలో ముఖ గుర్తింపు వినియోగంపై చర్చను మరింత కఠినతరం చేస్తున్నాయి. The Guardian నివేదిక ప్రకారం, కొంతమంది కొనుగోలుదారులను దుకాణాల్లో ఆపి, బయటకు వెళ్లమని చెప్పి, ఒక లైవ్ ముఖ గుర్తింపు వ్యవస్థ వారిని అనుమానిత దొంగలుగా గుర్తించిందని తెలిపారు. ఈ ఘటనలకు సంబంధించిన వారు తాము నిర్దోషులమని చెప్పారు; ఆపై ఆ ఆరోపణను సవాలు చేయడానికి లేదా తమ పేరును నిర్దోషిగా నిరూపించుకోవడానికి ప్రాయోగిక మార్గాన్ని కనుగొనడంలో ఇబ్బంది పడ్డారు.

ఈ వ్యాసం Facewatchపై కేంద్రీకృతమైంది. ఇది దొంగతనాన్ని అడ్డుకోవడానికి UK రిటైల్ అంతటా అమలు చేయబడుతున్న ఒక వ్యవస్థ. దాని వెబ్‌సైట్ 99.98% ఖచ్చితత్వాన్ని పేర్కొంటోంది, అలాగే ఇటీవల ఒక నెలలో పాల్గొన్న దుకాణాలకు తెలిసిన నేరస్తులపై 50,288 అలర్ట్‌లు పంపిందని చెబుతోంది. కానీ నివేదించబడిన అనుభవాలు, అత్యంత ఖచ్చితమైనదిగా ప్రచారం చేసిన వ్యవస్థ కూడా దోషం నేరుగా షాపు ఫ్లోర్‌కు చేరితే సామాజికంగా హానికరంగా మారవచ్చని చూపుతున్నాయి. ఖచ్చితత్వ శాతాలు, తమ వస్తువులను పక్కన పెట్టి వెళ్లమని చెప్పబడిన వ్యక్తికి తప్పుడు సరిపోలిక వల్ల కలిగే పరిణామాలను తొలగించవు.

పాలనలోని ఖాళియే ఇప్పుడు కథగా మారుతోంది

ఇక్కడ ముఖ్యమైన విషయం ముఖ గుర్తింపు వాడకమే కాకపోవచ్చు. దాని అమలులోని బలహీనమైన బాధ్యతే అసలు సమస్య. నివేదికలో పేర్కొన్న కొనుగోలుదారుల్లో ఒకరైన Ian Clayton, Home Bargains దుకాణాన్ని సందర్శిస్తున్నప్పుడు తాను వ్యవస్థలో దొంగగా కనిపిస్తున్నానని చెప్పినట్టు చెప్పారు. సమాధానాలు పొందేందుకు ప్రయత్నించిన తర్వాత, ఆయన చివరికి ఒక subject access request సమర్పించి, గతంలోని ఒక ఘటనతో తనను తప్పుగా అనుసంధానించారని తెలుసుకున్నారు. ఈ అనుభవాన్ని, నిర్దోషి అని నిరూపించబడే వరకు దోషిగా భావించినట్లు అనిపించిందని ఆయన వర్ణించారు.

ఆ వాక్యం లోతైన సమస్యను పట్టిస్తుంది. AIపై అనేక ప్రజా చర్చల్లో దృష్టి మోడల్ ఖచ్చితత్వం, విక్రేతల వాదనలు, మరియు సాంకేతికత సూత్రపరంగా పనిచేస్తుందా అనే విషయాలపై ఉంటుంది. కానీ తప్పుడు అలర్ట్‌కు గురైన వారికి వెంటనే అవసరమయ్యే ప్రశ్నలు ప్రక్రియాపరమైనవి. నిర్ణయం ఎవరు తీసుకున్నారు? అది వ్యవస్థ తప్పిదమా లేదా సిబ్బంది తప్పిదమా? ఏ ఆధారాలు ఉన్నాయి? పొరపాటును ఎంత త్వరగా సరిచేయగలం? జరిగిన హానికీ ఎవరు బాధ్యులు?

నివేదించబడిన సమాధానం, కనీసం ఈ కేసుల్లో, భరోసానివ్వలేదని కనిపిస్తోంది. కొంతమంది తమకు చాలా తక్కువ సహాయం లభించిందని, ఫిర్యాదు ఎలా చేయాలో లేదా తాము నిర్దోషులమని ఎలా చూపాలో తెలియలేదని చెప్పారు. ఇది పర్యవేక్షణ, కస్టమర్ పరిహారం అమలు వేగంతో పాటు సాగలేదని సూచిస్తోంది.

రిటైల్ AI వేరే రకమైన ప్రమాదాన్ని ఎందుకు తెస్తుంది

రిటైల్ ముఖ గుర్తింపు అనేక ఇతర AI అనువర్తనాల నుండి భిన్నంగా ఉంటుంది, ఎందుకంటే ఇది భౌతిక ప్రదేశంలో పనిచేస్తుంది మరియు తక్షణ పరిణామాలను కలిగించగలదు. తప్పు సమాధానం ఇచ్చే ఒక chatbotని తర్వాత సరిచేయవచ్చు. కానీ ఒక కస్టమర్‌ను తప్పుగా గుర్తించే స్టోర్ వ్యవస్థ, సిబ్బంది, ఇతర కొనుగోలుదారులు, మరియు అవసరమైతే కుటుంబ సభ్యుల ముందు కూడా, ఆ సమయంలోనే ప్రజాసంబంధ అవమానాన్ని కలిగించగలదు.

అధికారంలో అసమానత కూడా ఉంది. ఒక రిటైలర్ తన భద్రతా పరికరాలు, ఆపరేటింగ్ విధానాలను స్వయంగా ఎంచుకోవచ్చు. కానీ దుకాణంలోకి వెళ్లే కస్టమర్‌కు, ఏ వ్యవస్థలు వాడుతున్నారో, వాచ్‌లిస్టులు ఎలా తయారవుతున్నాయో, లేదా మ్యాచ్ అయితే ఏమి జరుగుతుందో గురించి సాధారణంగా ప్రాయోగిక అవగాహన ఉండదు. పోస్టర్లు లేదా QR కోడ్‌లు మూల అసమానతను పరిష్కరించవు. ఒక వ్యక్తిని ముందుగా బయటకు పంపి, తర్వాత సమాచారం ఇస్తే, సరిదిద్దే భారం నిందితుడిపైనే పడుతుంది.

విస్తృత AI చర్చకు దీని అర్థం ఏమిటి

ఈ ఘటనలు, AI పర్యవేక్షణ వాణిజ్య అమలును ఇంకా అందుకోలేని సమయంలో చోటుచేసుకున్నాయి. లైవ్ ముఖ గుర్తింపును నేరనిరోధక సాధనంగా మార్కెట్ చేయవచ్చు, కానీ ప్రజలు అది సాధారణ ప్రజలకు ప్రాథమిక రక్షణలను అందిస్తుందా లేదా అన్నదానిపై ఎక్కువగా తీర్పు ఇస్తారు. అందులో అలర్ట్‌లు ఎలా సృష్టించబడుతున్నాయో స్పష్టంగా తెలియజేయడం, స్పష్టమైన మానవ సమీక్ష ప్రక్రియ, మరియు ఫలితాలను సవాలు చేయడానికి పని చేసే మార్గం ఉన్నాయి.

నివేదించబడిన సంఘటనలు, ప్రధాన ప్రమాదం అల్గోరిథం తప్పుగా పనిచేస్తుందా అనే విషయమే కాకుండా, మానవ వినియోగం కూడా ముఖ్యమని చూపిస్తున్నాయి. సిబ్బంది వ్యాఖ్యానం, escalation విధానాలు, మరియు ఫిర్యాదు నిర్వహణ ఒక సాంకేతిక తప్పిదాన్ని సంస్థాగత వైఫల్యంగా మార్చగలవు. మినహాయింపులను సమర్థవంతంగా గుర్తించి సరిచేయగల మార్గం లేకపోతే, అధికంగా చెప్పబడిన ఖచ్చితత్వ రేటు ఉన్నప్పటికీ తీవ్రమైన హానులు చోటుచేసుకోవచ్చు.

రిటైలర్లకు పాఠం సూటిగా ఉంది. ముఖ గుర్తింపును కస్టమర్-సామీప్య వాతావరణాల్లో ఉపయోగించాలంటే, పాలనను తర్వాత ఆలోచనగా చూడలేం. నియంత్రణ సంస్థలు, పౌర స్వేచ్ఛా పరిరక్షకులకు ప్రశ్న ఏమిటంటే, ప్రజా స్థలంలో ఎవరికైనా వెంటనే అనుమానితుడిగా ముద్ర వేయగల వ్యవస్థలకు ప్రస్తుత పర్యవేక్షణ సరిపోతుందా అన్నది.

UK ఉదాహరణలు ఆ సమాధానం ఇంకా తేలలేదు అని సూచిస్తున్నాయి. స్పష్టంగా ఉన్న విషయం ఏమిటంటే, ప్రజా స్థలంలో ఎదురుపడే వ్యక్తికి దాన్ని వేగంగా, స్పష్టంగా, లేదా న్యాయంగా సవాలు చేయడానికి మార్గం లేకపోతే ఆటోమేటెడ్ అనుమానం చాలా తీవ్రమైన విషయంగా మారుతుంది.

ఈ వ్యాసం The Guardian నివేదికపై ఆధారపడింది. అసలు వ్యాసాన్ని చదవండి.