A Batida na Porta Que Mudou Tudo

Alvi Choudhury estava trabalhando de casa em Southampton em janeiro quando policiais de Thames Valley chegaram sem aviso prévio, o colocaram em algemas e o transportaram para uma delegacia a quase 100 milhas de distância. A acusação: um roubo em uma cidade em que ele nunca havia visitado. A prova: uma correspondência de reconhecimento facial que, segundo a equipe jurídica de Choudhury, o confundiu com um suspeito que parecia ter aproximadamente 10 anos mais jovem.

Choudhury, um engenheiro de software de 26 anos de herança South Asian, passou quase 10 horas sob custódia policial antes de ser liberado às 2 da manhã sem acusações formais. Ele agora está buscando indenização contra Thames Valley Police, argumentando que a tecnologia enviesada que levou à sua prisão representa uma falha sistêmica em como a polícia do Reino Unido implanta vigilância automatizada.

Como Ocorrem Identificações Errôneas de Reconhecimento Facial

Sistemas de reconhecimento facial funcionam mapeando características geométricas de um rosto — a distância entre os olhos, a forma da mandíbula, o contorno dos pômulos — e comparando essas medições com bancos de dados de indivíduos conhecidos. Embora a tecnologia tenha melhorado dramaticamente nos últimos anos, auditorias independentes consistentemente encontraram maiores taxas de erro ao identificar pessoas de cor, mulheres e indivíduos mais jovens.

Um estudo marco de 2019 do National Institute of Standards and Technology (NIST) descobriu que muitos algoritmos comerciais de reconhecimento facial exibiam taxas de erro 10 a 100 vezes mais altas para rostos Black e Asian comparados com rostos white. Apesar dessas descobertas, forças policiais em todo o Reino Unido continuaram expandindo o uso da tecnologia, frequentemente com supervisão pública mínima.

No caso de Choudhury, o sistema aparentemente falhou em distinguir entre dois homens de herança South Asian apesar da diferença significativa de idade e do fato de viverem em diferentes partes do país. Seus advogados argumentam que essa é precisamente o tipo de falha que organizações de direitos civis têm alertado há anos.

Reconhecimento Facial da Polícia do Reino Unido sob Escrutínio

A prisão injusta chega em um momento particularmente contencioso para reconhecimento facial no Reino Unido. Várias forças policiais, incluindo Metropolitan Police e South Wales Police, implantaram câmeras de reconhecimento facial em tempo real em eventos públicos, estações de trem e centros comerciais. A tecnologia escaneia rostos em tempo real e os compara com listas de vigilância de indivíduos procurados.

Defensores de privacidade, incluindo Liberty e Big Brother Watch, montaram repetidos desafios legais contra essas implantações. Em 2020, o Court of Appeal determinou que o uso de reconhecimento facial de South Wales Police havia violado direitos de privacidade e leis de igualdade, embora a decisão não tenha resultado em uma proibição geral da tecnologia.

Thames Valley Police não comentou publicamente sobre os detalhes específicos do caso de Choudhury, citando os procedimentos legais em andamento. No entanto, a força defendeu anteriormente seu uso de reconhecimento facial como uma ferramenta proporcional para identificar criminosos graves.

O Custo Humano de Erros Algorítmicos

Para Choudhury, as consequências da identificação errônea se estenderam muito além das 10 horas passadas em custódia. Em entrevistas com The Guardian, ele descreveu a experiência como profundamente humilhante e traumática, observando que vizinhos testemunharam sua prisão e que o incidente afetou sua saúde mental e sua confiança na polícia.

Seu caso não é isolado. Nos Estados Unidos, pelo menos três homens Black — Robert Williams, Michael Oliver e Nijeer Parks — foram presos injustamente devido a erros de reconhecimento facial. Williams foi detido em frente de suas filhas pequenas em Detroit depois que um algoritmo de roubo o identificou incorretamente. Parks passou 10 dias na cadeia depois de ser falsamente vinculado a um crime em New Jersey.

Esses casos compartilham um padrão comum: as vítimas eram desproporcionalmente pessoas de cor, e os oficiais de prisão trataram a correspondência algorítmica como prova praticamente certa em vez de uma pista investigativa que exigia verificação adicional.

Chamados para Regulação se Intensificam

O caso de Choudhury provavelmente alimentará renovados chamados para regulação mais rigorosa da tecnologia de reconhecimento facial no Reino Unido. A AI Act da União Europeia, que entrou em vigor em 2024, inclui restrições significativas à identificação biométrica em tempo real em espaços públicos, embora com exceções para aplicação da lei. O Reino Unido, tendo deixado a UE, não está vinculado por essas regras e adotou uma abordagem notavelmente mais permissiva.

Vários membros do Parlamento pediram uma moratória sobre o uso policial de reconhecimento facial em tempo real até que padrões independentes para testes de precisão e viés possam ser estabelecidos. O Information Commissioner's Office também expressou preocupações sobre a falta de um marco legal claro que governe o uso da tecnologia.

  • Grupos de direitos civis estão pedindo auditorias de viés obrigatórias antes de qualquer sistema de reconhecimento facial ser implantado pela aplicação da lei
  • Especialistas jurídicos argumentam que a legislação de igualdade existente deveria exigir que a polícia demonstre que o reconhecimento facial não afeta desproporcionalmente minorias étnicas
  • Empresas de tecnologia que fornecem reconhecimento facial para a polícia britânica enfrentaram pressão crescente para publicar dados de precisão desagregados por grupo demográfico

O Que Vem Depois

A equipe jurídica de Choudhury apresentou uma ação formal por indenização contra Thames Valley Police. Se bem-sucedida, o caso poderia estabelecer importante precedente legal para como os tribunais do Reino Unido tratam prisões injustas resultantes de identificação errônea algorítmica. Também pode acelerar o impulso por legislação abrangente que governe o uso policial de reconhecimento facial.

Enquanto isso, a tecnologia continua se espalhando. Estima-se que 20 forças policiais em Inglaterra e Wales agora tenham acesso a alguma forma de capacidade de reconhecimento facial, e o Home Office sinalizou apoio para expandir seu uso como parte de esforços mais amplos para modernizar a aplicação da lei.

Para Choudhury, a questão não é se o reconhecimento facial tem aplicações legítimas em aplicação da lei — é se uma tecnologia com vieses raciais documentados deve ser confiada para privar pessoas de sua liberdade sem salvaguardas robustas em vigor. Seu caso sugere que, pelo menos por enquanto, essas salvaguardas permanecem perigosamente inadequadas.

Este artigo se baseia em relatórios do The Guardian. Leia o artigo original.