తప్పుడు అరెస్టులు పోలీసుల ఫేషియల్ రికగ్నిషన్ వినియోగంపై ఒత్తిడిని మళ్లీ పెంచాయి
ఆటోమేటెడ్ ఫేషియల్ రికగ్నిషన్తో సంబంధం ఉన్న తప్పుడు అరెస్టులపై ఉన్న రెండు ఫ్లోరిడా కేసులు, ఒక పాత హెచ్చరికను మళ్లీ ప్రజల దృష్టికి తీసుకొచ్చాయి: పోలీసులు అల్గోరిథమిక్ మ్యాచ్ను కేవలం దర్యాప్తు సూచనగా కాకుండా అంతకంటే ఎక్కువగా భావించినప్పుడు, దాని పరిణామాలు తీవ్రమైనవిగా, వ్యక్తిగతమైనవిగా, మరియు తిరిగి సరిచేయడం కష్టమైనవిగా మారవచ్చు.
ఇచ్చిన మూల పాఠ్యంలో ఇప్పుడు మళ్లీ దృష్టిని ఆకర్షిస్తున్న రెండు తాజా కేసులను వివరించారు. ఒక కేసులో, ఫేషియల్ రికగ్నిషన్కు సంబంధించిన వ్యవహారంలో నెలల తరబడి చిక్కుకున్న తర్వాత ఆరోపణలు తొలగించబడ్డాయి. మరో కేసులో, వేరొక తప్పుడు అరెస్టు వివాదం ACLU మద్దతున్న దావాకు ఆధారమైంది. కలిసి చూస్తే, ఇవి కేవలం ఆధారభూత సాంకేతికతపై మాత్రమే కాకుండా, దాని చుట్టూ నిర్మించిన దర్యాప్తు ప్రక్రియలపై కూడా ఆందోళనలను మరింత పదును పెడతాయి.
ఈ పెద్ద సమస్య ఇక సిద్ధాంతపరమైనది కాదు. చట్ట అమలులో ఫేషియల్ రికగ్నిషన్ను తరచుగా గుర్తింపుకు ఆధారంగా కాకుండా, సాధ్యమైన దారులను సూచించే పరికరంగా చెబుతారు. కానీ ఆ తేడా ఆచరణలో కూలిపోతే, కేసు కూలేలోపే ప్రజలు ఉద్యోగాలు, ఆదాయం, గృహం, మరియు ప్రాథమిక స్థిరత్వాన్ని కోల్పోవచ్చు.
జాక్సన్విల్ కేసు
ఇచ్చిన మెటీరియల్లో అత్యంత వివరంగా ఉన్న కేసు చార్లెట్, నార్త్ కరోలైనాకు చెందిన 10 మంది పిల్లల తండ్రి జలీల్ రిచర్డ్సన్కు సంబంధించినది. మూల పాఠ్యం ప్రకారం, ఏప్రిల్ 2, 2025 దర్యాప్తుతో సంబంధం ఉన్న పర్యవేక్షణ ఫుటేజీపై ఆటోమేటెడ్ ఫేషియల్ రికగ్నిషన్ శోధన ఆయనను గుర్తించడంతో, జాక్సన్విల్ పోలీసులు దొంగిలించిన వాహన కేసులో ఆయనను అనుమానితుడిగా పరిగణించారు.
రికార్డ్సన్ భార్య చెప్పినదాని ప్రకారం, వ్యవస్థ 85 శాతం మ్యాచ్ ఇచ్చిందని అధికారులు కుటుంబానికి తెలిపారు. రిచర్డ్సన్ స్థానిక మీడియాకు తాను ఎప్పుడూ ఫ్లోరిడాకు వెళ్లలేదని చెప్పారు. అతని టైమ్కార్డులు తరువాత కార్ సేల్ జరిగిన సమయంలో ఆయన నార్త్ కరోలైనాలో, సుమారు 400 మైళ్ల దూరంలో, ఉద్యోగంలో ఉన్నారని చూపాయి.
అయినా కేసు ముందుకు సాగింది. మూల పాఠ్యం ప్రకారం, సంబంధం లేని అంశంపై చార్లెట్లోని తన ఇంటికి పోలీసులను పిలిచిన తర్వాత మాత్రమే ఫ్లోరిడా వారెంట్ గురించి రిచర్డ్సన్కు తెలిసింది. తరువాత అతను ఎక్స్ట్రాడిషన్కు ముందు Mecklenburg Countyలో 33 రోజులు, ఆపై జాక్సన్విల్లో మరో 50 రోజులు కస్టడీలో గడిపాడు. చివరికి ప్రాసిక్యూటర్లు ఆరోపణలను ఉపసంహరించుకున్నారు, కానీ అప్పటికే ఆ కేసు అతని జీవితాన్ని తారుమారు చేసింది. మూల సమాచారం ప్రకారం, ఆయన కుటుంబం ఇల్లులేని స్థితికి చేరింది, మరియు ఆయన ఉద్యోగం, కారు, స్థిరత్వాన్ని కోల్పోయారు.
రెండో ఫ్లోరిడా కేసు మరియు విస్తృత ధోరణి
మూల పాఠ్యంలో పేర్కొన్న మరో కేసు ఫోర్ట్ మైయర్స్కు చెందిన రాబర్ట్ డిల్లన్కు సంబంధించినది. జాక్సన్విల్ బీచ్లోని మెక్డొనాల్డ్స్ నుంచి 12 ఏళ్ల పిల్లవాడిని దూరం తీసుకెళ్లేందుకు ప్రయత్నించాడని ఆరోపిస్తూ అతన్ని ఆగస్టు 2024లో అరెస్టు చేశారు. ఈ సంఘటన ఇప్పుడు ACLU మద్దతున్న దావాలో కేంద్ర అంశమని వ్యాసం పేర్కొంటుంది.
ప్రతి చట్టపరమైన వివరాలు లేకపోయినా, దాని ప్రాముఖ్యత స్పష్టంగా ఉంది. ఇవి ప్రయోగశాలలో మోడల్ ఖచ్చితత్వం గురించి ఉన్న సారాంశ పరిమిత కేసులు కావు. తగినంత స్వతంత్ర ధృవీకరణ లేకుండా ఒక డిజిటల్ సాదృశ్య స్కోర్ క్రిమినల్ దర్యాప్తులో భాగమైతే ఏమి జరుగుతుందో చూపించే ఉదాహరణలు ఇవి.
ఈ తేడా ముఖ్యమైనది, ఎందుకంటే ఫేషియల్ రికగ్నిషన్ ఫలితాలు సంభావ్యతాధారితమైనవి. అవి అభ్యర్థులను మాత్రమే సూచిస్తాయి. అవి స్వతంత్రంగా హాజరు, ఉద్దేశ్యం లేదా దోషాన్ని నిర్ధారించవు. అయినప్పటికీ అరెస్టు చుట్టూ ఉన్న సామాజిక, చట్టపరమైన యంత్రాంగం, నిందితుడికి నిజంగా ఎదురుతిరిగే అవకాశం రాకముందే ఆ ఫలితాన్ని మరింత బలమైనదిగా పరిగణించవచ్చు.
సమస్య కేవలం సాఫ్ట్వేర్లో కాదు, ప్రక్రియలో కూడా ఉంది
ఫేషియల్ రికగ్నిషన్పై ప్రజా చర్చ తరచుగా అల్గోరిథమ్పై దృష్టి పెడుతుంది: అది పక్షపాతంతో ఉందా, ఎంత ఖచ్చితంగా పనిచేస్తుంది, చిత్రం నాణ్యత మరియు జనసాంఖ్యిక సమూహాల మధ్య దాని పనితీరు ఎలా ఉంటుంది అనేవి. ఈ ప్రశ్నలు ముఖ్యమైనవే, కానీ ఇచ్చిన పాఠ్యంలో ఉన్న కేసులు మరింత ప్రాయోగిక వైఫల్యాన్ని కూడా సూచిస్తున్నాయి. సలహా ఇచ్చే పరికరంగా చెప్పబడినది కూడా, అది ఉత్పత్తి చేసే దారిని దర్యాప్తు అధికారులు కఠినంగా పరీక్షించకపోతే ప్రమాదకరంగా మారుతుంది.
మూల పాఠ్యంలో ఇచ్చిన రిచర్డ్సన్ కథనం ఈ విషయాన్ని చాలా స్పష్టంగా చూపుతుంది. వారెంట్ జారీ చేయడానికి ముందు తాను నిజంగా ఫ్లోరిడాలో ఉన్నానా లేదా అన్నది నిర్ధారించడానికి సరైన దర్యాప్తు జరగలేదని ఆయన చెప్పారు. ఈ వాదన నిజమైతే, ప్రధాన సమస్య సాఫ్ట్వేర్ ఆయన ముఖాన్ని చూపిందన్నది మాత్రమే కాదు. సాధారణ ఆధారాలు ఆ అసమానతను సమయానికి గుర్తించలేకపోవడమే అసలు సమస్య.
ఇప్పుడిదే పోలీస్ ఏజెన్సీలు, కోర్టులు, మరియు శాసనసభల ముందున్న విధాన ప్రశ్న. ఫేషియల్ రికగ్నిషన్ను ఏ రూపంలోనైనా ఉపయోగిస్తే, ఒక మ్యాచ్ వారెంట్, అరెస్ట్, లేదా ఎక్స్ట్రాడిషన్ ప్రక్రియకు మద్దతివ్వడానికి ముందు ఎలాంటి రక్షణ చర్యలు అవసరం? ఎంత డాక్యుమెంటేషన్ను భద్రపరచాలి? బలహీనమైన ఒక సూచన జీవితాన్ని మార్చేసే తప్పిదంగా మారినప్పుడు బాధ్యత ఎవరిది?
ఈ కేసులు ఇప్పుడే ఎందుకు ప్రతిధ్వనిస్తున్నాయి
రాజకీయ, సాంస్కృతిక నేపథ్యం కూడా ముఖ్యం. AI ఇప్పుడు నిర్ణయాలను ఆటోమేట్ లేదా మెరుగుపరచే వ్యవస్థలకు ఒక సాధారణ లేబుల్గా మారింది, తరచుగా వేగం, సామర్థ్యం వంటి హామీలతో. చట్ట అమలు ఏజెన్సీలపై కేసులను త్వరగా పరిష్కరించాలనే నిరంతర ఒత్తిడి ఉంటుంది, మరియు అనుమానితుల వర్గాన్ని తగ్గించినట్లు కనిపించే పరికరాలు ఆకర్షణీయంగా మారతాయి.
కానీ ఫ్లోరిడా కేసులు తప్పిద అసమానతను చూపిస్తున్నాయి. ఒక అల్గోరిథమిక్ సూచన తప్పైతే, నష్టం స్ప్రెడ్షీట్ లేదా అంతర్గత డ్యాష్బోర్డులోనే ఉండదు. అది జైలు శిక్ష, ఉద్యోగ నష్టం, ప్రజా అపఖ్యాతి, కుటుంబ అంతరాయం, మరియు ఆరోపణలు ఉపసంహరించిన తర్వాత కూడా మిగిలే మానసిక గాయంగా మారవచ్చు.
అందుకే ఈ కథలు స్థానిక రిపోర్టింగ్కు మించి ప్రతిధ్వనిస్తున్నాయి. ఇవి సాంకేతిక చర్చను జీవన పరిణామాలతో ఉన్న దూరం నుండి విడదీస్తున్నాయి. ఇప్పుడు ప్రశ్న ఫేషియల్ రికగ్నిషన్ సిద్ధాంతపరంగా ఉపయోగకరమా అన్నది కాదు. దాన్ని ఉపయోగిస్తున్న సంస్థలు ఒక చెడు సూచన తప్పుడు అరెస్టుగా మారకుండా నిరోధించేంత బలమైన ప్రక్రియలను రూపొందించాయా అన్నదే ప్రశ్న.
ప్రస్తుతం, ఇచ్చిన మూల సమాచారం ఒక సూటి సమాధానాన్ని ఇస్తోంది: కనీసం రెండు ఫ్లోరిడా కేసుల్లో, ఆ రక్షణలు తీవ్రమైన హానిని ఆపడానికి సరిపోలేదు.
- ఫ్లోరిడాలోని రెండు కేసులు AI-సహాయంతో పనిచేసే ఫేషియల్ రికగ్నిషన్ పోలీస్ వినియోగంపై మళ్లీ పరిశీలనను ప్రేరేపించాయి.
- ఒక వ్యక్తి తాను మరో రాష్ట్రంలో ఉన్నానని చూపించే ఆధారాలు ఉన్నప్పటికీ కస్టడీలో సమయం గడిపాడు.
- రెండో కేసు ఇప్పుడు ACLU మద్దతున్న దావాలో భాగమైంది.
- ముఖ్యమైన సమస్య మ్యాచ్ చేసే సాఫ్ట్వేర్ మాత్రమే కాదు, ఆ మ్యాచ్లను దర్యాప్తు అధికారులు ఎలా ధృవీకరిస్తారు లేదా విఫలమవుతారు అన్నదీ.
ఈ వ్యాసం Gizmodo రిపోర్టింగ్పై ఆధారపడింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on gizmodo.com