Hitilafu ya Utambuzi wa Usoni Hupelekea Kukamatwa Isivyofaa kwa Mhandisi wa Programu Maili 100 Kutoka Eneo la Uhalifu.

Mlango Uliogongwa Ulibadilisha Kila Kitu

Alvi Choudhury alikuwa akifanya kazi kutoka nyumbani kwa familia yake huko Southampton mnamo Januari wakati maafisa wa polisi kutoka Thames Valley walipofika bila kutangazwa, wakamfunga pingu, na kumsafirisha hadi kituo kilicho umbali wa maili 100 hivi. Shtaka: wizi katika jiji ambalo hajawahi kukanyaga. Ushahidi: mechi ya utambuzi wa uso ambayo, kulingana na timu ya wanasheria wa Choudhury, ilimchanganya na mshukiwa ambaye alionekana kuwa mdogo zaidi ya miaka 10.

Choudhury, mhandisi wa programu ya asili ya Asia Kusini, mwenye umri wa miaka 26, alitumia karibu saa 20 akiwa chini ya ulinzi wa polisi. iliyowasilishwa. Sasa anafuatilia fidia dhidi ya Polisi wa Thames Valley, akisema kuwa teknolojia yenye upendeleo iliyosababisha kukamatwa kwake inawakilisha kushindwa kimfumo katika jinsi watekelezaji sheria wa Uingereza wanavyotumia ufuatiliaji wa kiotomatiki.

Jinsi Utambulisho Mbaya wa Utambuzi wa Usoni Hufanyika

Mifumo ya utambuzi wa usoni hufanya kazi kwa njia ya uso wa ramani - mifumo ya utambuzi wa usoni hufanya kazi kwa sura ya mstari wa kijiometri, uundaji wa ramani ya mstari wa kijiometri. contour ya cheekbones - na kulinganisha vipimo hivyo dhidi ya hifadhidata za watu wanaojulikana. Ingawa teknolojia imeboreshwa sana katika miaka ya hivi majuzi, ukaguzi wa kujitegemea umepata viwango vya juu vya makosa mara kwa mara wakati wa kutambua watu wa rangi, wanawake na vijana.

Utafiti wa kihistoria wa 2019 uliofanywa na Taasisi ya Kitaifa ya Viwango na Teknolojia (NIST) uligundua kuwa algoriti nyingi za utambuzi wa uso wa kibiashara zilionyesha viwango vya makosa mara 10 hadi 100 ikilinganishwa na watu weupe na Waasia. Licha ya matokeo haya, vikosi vya polisi kote Uingereza vimeendelea kupanua matumizi yao ya teknolojia, mara nyingi kwa uangalizi mdogo wa umma.

Katika kesi ya Choudhury, mfumo huo unaonekana kushindwa kutofautisha kati ya wanaume wawili wenye asili ya Asia Kusini licha ya tofauti kubwa ya umri na ukweli kwamba waliishi katika maeneo tofauti ya nchi. Mawakili wake wanahoji kuwa hii ndiyo aina ya kutofaulu ambayo mashirika ya haki za raia yameonya kuhusu kwa miaka mingi.

Utambuzi wa Uso wa Polisi wa Uingereza Unachunguzwa

Kukamatwa kimakosa kunakuja katika wakati mzozo hasa wa kutambuliwa usoni nchini Uingereza. Vikosi kadhaa vya polisi, pamoja na Polisi wa Metropolitan na Polisi wa Wales Kusini, wamezindua kamera za utambuzi wa usoni kwenye hafla za umma, vituo vya gari moshi na vituo vya ununuzi. Teknolojia hii huchanganua nyuso kwa wakati halisi na kuzilinganisha na orodha za watu wanaotafutwa.

Watetezi wa faragha, ikiwa ni pamoja na Liberty na Big Brother Watch, wameibua changamoto za kisheria mara kwa mara dhidi ya utumwa huu. Mnamo 2020, Mahakama ya Rufaa iliamua kwamba matumizi ya Polisi ya Wales Kusini ya utambuzi wa usoni yalikiuka haki za faragha na sheria za usawa, ingawa uamuzi huo haukusababisha marufuku ya jumla ya teknolojia hiyo.

Polisi wa Thames Valley hawajatoa maoni yao hadharani kuhusu maelezo mahususi ya kesi ya Choudhury, ikitoa mfano wa taratibu zinazoendelea za kisheria. Hata hivyo, kikosi hicho hapo awali kilitetea matumizi yake ya utambuzi wa uso kama zana sawia ya kuwatambua wakosaji wakubwa.

Gharama ya Kibinadamu ya Hitilafu za Kialgorithmic

Kwa Choudhury, matokeo ya utambuzi usio sahihi yaliongezeka zaidi ya saa 10 zilizotumiwa kizuizini. Katika mahojiano na gazeti la The Guardian, alieleza tukio hilo kuwa la kufedhehesha na kuhuzunisha sana, akibainisha kuwa majirani walishuhudia kukamatwa kwake na kwamba tukio hilo limeathiri afya yake ya akili na imani yake kwa vyombo vya sheria.

Kesi yake haijatengwa. Nchini Marekani, angalau wanaume watatu Weusi - Robert Williams, Michael Oliver, na Nijeer Parks - wamekamatwa kimakosa kutokana na makosa ya utambuzi wa uso. Williams alizuiliwa mbele ya binti zake wachanga huko Detroit baada ya kanuni ya wizi wa duka kumtambulisha vibaya. Parks alikaa gerezani kwa siku 10 baada ya kuhusishwa kwa uwongo na uhalifu huko New Jersey.

Kesi hizi zina mwelekeo mmoja: waathiriwa walikuwa watu wa rangi tofauti, na maafisa waliokamatwa walichukulia ulinganifu wa algoriti kama ushahidi wa karibu badala ya kiongozi wa uchunguzi unaohitaji uthibitishaji zaidi.

Miito ya Kudhibiti Imeongezwa2>

Kesi ya Choudhury huenda ikachochea wito mpya wa udhibiti mkali wa teknolojia ya utambuzi wa uso nchini Uingereza. Sheria ya Umoja wa Ulaya ya AI, ambayo ilianza kutumika mwaka wa 2024, inajumuisha vikwazo muhimu vya utambuzi wa kibayometriki katika muda halisi katika maeneo ya umma, ingawa isipokuwa kwa utekelezaji wa sheria. Uingereza, ikiwa imejiondoa katika Umoja wa Ulaya, haifungwi na sheria hizi na imechukua mbinu ya kuruhusiwa zaidi.

Wabunge kadhaa wametoa wito wa kusitishwa kwa matumizi ya polisi ya utambuzi wa uso wa moja kwa moja hadi viwango huru vya upimaji wa usahihi na upendeleo viweze kuanzishwa. Ofisi ya Kamishna wa Habari pia imeeleza wasiwasi wake kuhusu kukosekana kwa mfumo wa kisheria unaoeleweka unaosimamia matumizi ya teknolojia.

• Makundi ya haki za raia yanataka ukaguzi wa lazima wa upendeleo kabla ya mfumo wowote wa utambuzi wa uso kutumwa na vyombo vya sheria
• Wataalamu wa sheria wanasema kuwa sheria zilizopo za usawa hazipaswi kulazimisha polisi kutoheshimu sheria. wachache
• Kampuni za teknolojia zinazotoa utambuzi wa uso kwa polisi wa Uingereza zimekabiliwa na shinikizo linaloongezeka la kuchapisha data ya usahihi iliyovunjwa na kikundi cha idadi ya watu

Nini Kinachofuata

Timu ya wanasheria ya Choudhury imewasilisha madai rasmi ya fidia dhidi ya Polisi wa Thames Valley. Ikifaulu, kesi hiyo inaweza kuanzisha kielelezo muhimu cha kisheria cha jinsi mahakama za Uingereza zinavyoshughulikia kukamatwa kwa makosa kutokana na utambulisho usio sahihi wa kialgorithmic. Inaweza pia kuharakisha msukumo wa kuwepo kwa sheria ya kina inayosimamia matumizi ya polisi ya utambuzi wa uso.

Wakati huo huo, teknolojia inaendelea kuenea. Takriban vikosi 20 vya polisi kote Uingereza na Wales sasa vina uwezo wa kufikia aina fulani ya uwezo wa utambuzi wa uso, na Ofisi ya Mambo ya Ndani imeonyesha uungwaji mkono wa kupanua matumizi yake kama sehemu ya juhudi kubwa za kufanya polisi kuwa wa kisasa.

Kwa Choudhury, swali si kama utambuzi wa uso una haki halali ya utekelezaji wa sheria - ni kama kuaminiwa kwa watu katika teknolojia ya uhuru kunapaswa kuainishwa kama kuaminiwa kwa teknolojia ya kijamii na kuegemea upande wa kijamii. bila ulinzi thabiti. Kesi yake inapendekeza kwamba, angalau kwa sasa, ulinzi huo bado hautoshi.

Makala haya yametokana na kuripotiwa na The Guardian.