모든 것을 바꾼 문 두드리는 소리

Alvi Choudhury는 1월 Southampton의 가족 집에서 원격으로 일하고 있었을 때, Thames Valley 경찰관들이 예고 없이 도착하여 그를 수갑을 채우고 거의 100마일 떨어진 경찰서로 이송했습니다. 혐의: 그가 한 번도 발을 들여놓은 적 없는 도시에서의 절도. 증거: Choudhury의 법률 팀에 따르면 그를 약 10살 어려 보이는 용의자와 혼동한 얼굴 인식 일치였습니다.

남아시아 계통의 26세 소프트웨어 엔지니어인 Choudhury는 경찰 구금 상태에서 약 10시간을 보낸 후 오전 2시에 기소되지 않은 채로 석방되었습니다. 그는 현재 Thames Valley 경찰에 손해배상청구를 진행 중이며, 그의 체포로 이어진 편향된 기술이 영국 법 집행 기관이 자동화된 감시를 전개하는 방식의 체계적 실패를 나타낸다고 주장합니다.

얼굴 인식 오인식이 발생하는 방법

얼굴 인식 시스템은 얼굴의 기하학적 특징(눈 사이의 거리, 턱선의 형태, 광대뼈의 윤곽)을 매핑하고 이러한 측정값을 알려진 개인의 데이터베이스와 비교하여 작동합니다. 기술이 최근 몇 년간 극적으로 개선되었지만, 독립적인 감사에 따르면 유색인종, 여성 및 젊은 개인을 식별할 때 일관되게 높은 오류율이 발견되었습니다.

2019년 National Institute of Standards and Technology (NIST)의 획기적인 연구에 따르면, 많은 상업용 얼굴 인식 알고리즘은 흑인과 아시아 인 얼굴에 대해 백인 얼굴에 비해 10배에서 100배 높은 오류율을 나타냈습니다. 이러한 발견에도 불구하고, 영국 전역의 경찰 부대는 계속해서 기술 사용을 확대했으며, 종종 최소한의 대중 감시만 있습니다.

Choudhury의 경우, 시스템은 명백히 남아시아 계통의 두 남성을 구별할 수 없었습니다. 나이 차이는 상당했고 국가의 다른 지역에 살고 있었습니다. 그의 변호사들은 이것이 바로 시민 자유 조직이 수년 동안 경고해 온 종류의 실패라고 주장합니다.

영국 경찰의 얼굴 인식이 정밀 조사 중

부당한 체포는 영국에서 얼굴 인식에 대해 특히 논쟁이 되는 시점에 발생합니다. Metropolitan Police와 South Wales Police를 포함한 여러 경찰 부대는 공공 행사, 기차역 및 쇼핑 센터에서 라이브 얼굴 인식 카메라를 배포했습니다. 기술은 실시간으로 얼굴을 스캔하고 지명수배자 목록과 비교합니다.

Liberty 및 Big Brother Watch를 포함한 개인정보 보호 옹호자들은 이러한 배포에 대해 반복적인 법적 이의를 제기했습니다. 2020년, 항소법원은 South Wales Police의 얼굴 인식 사용이 개인정보 보호 권리 및 평등법을 위반했다고 판단했지만, 판결은 기술의 완전한 금지를 초래하지 않았습니다.

Thames Valley Police는 진행 중인 법적 절차를 이유로 Choudhury의 경우의 구체적인 사항에 대해 공개 논평을 하지 않았습니다. 그러나 그 부대는 이전에 얼굴 인식의 사용을 중대한 범죄자를 식별하기 위한 비례적 도구로 옹호했습니다.

알고리즘 오류의 인간적 비용

Choudhury에게 오인식의 결과는 구금 상태에서 보낸 10시간을 훨씬 넘어섰습니다. The Guardian과의 인터뷰에서 그는 경험을 매우 수치스럽고 외상적이라고 설명했으며, 이웃들이 그의 체포를 목격했고 그 사건이 그의 정신 건강과 법 집행 기관에 대한 신뢰에 영향을 미쳤다고 지적했습니다.

그의 사건은 고립된 것이 아닙니다. 미국에서는 최소 3명의 흑인 남성 - Robert Williams, Michael Oliver 및 Nijeer Parks - 이 얼굴 인식 오류로 인해 부당하게 체포되었습니다. Williams는 Detroit에서 소매 도둑질 알고리즘이 그를 잘못 식별한 후 어린 딸들 앞에서 구금되었습니다. Parks는 New Jersey의 범죄와 거짓으로 연결된 후 10일 동안 감옥에 있었습니다.

이러한 사건들은 공통의 실(thread)을 공유합니다: 피해자는 압도적으로 유색인종이었고 체포 경찰관들은 알고리즘 일치를 추가 검증이 필요한 수사 단서보다는 거의 확실한 증거로 취급했습니다.

규제에 대한 호출이 강화되고 있습니다

Choudhury의 사건은 영국의 얼굴 인식 기술에 대한 더 엄격한 규제에 대한 새로운 요구를 촉발할 가능성이 높습니다. 2024년에 발효된 European Union의 AI Act에는 공공 공간에서의 실시간 생체인식 식별에 대한 상당한 제한이 포함되어 있지만 법 집행 기관의 예외가 있습니다. EU를 떠난 영국은 이러한 규칙에 구속되지 않으며 보다 관대한 접근 방식을 채택했습니다.

의회의 여러 의원들은 독립적인 정확도 및 편향 테스트 표준을 확립할 수 있을 때까지 경찰의 라이브 얼굴 인식 사용에 대한 유예를 요구했습니다. Information Commissioner's Office도 기술 사용을 관리하는 명확한 법적 틀의 부족에 대해 우려를 표명했습니다.

  • 시민 자유 그룹은 법 집행 기관에 의해 얼굴 인식 시스템이 배포되기 전에 필수 편향 감사를 요구하고 있습니다
  • 법률 전문가들은 기존 평등 법제가 경찰에 얼굴 인식이 소수 민족에 불균형적으로 영향을 미치지 않음을 입증하도록 요구해야 한다고 주장합니다
  • 영국 경찰에 얼굴 인식을 공급하는 기술 회사들은 인구 통계 그룹별로 분류된 정확도 데이터를 공개하라는 압력이 증가하고 있습니다

다음에 무엇이 있나요

Choudhury의 법률 팀은 Thames Valley Police에 대해 손해배상청구를 제기했습니다. 성공한다면, 이 사건은 영국 법원이 알고리즘 오인식으로 인한 부당 체포를 어떻게 취급하는지에 대한 중요한 법적 선례를 설정할 수 있습니다. 또한 경찰의 얼굴 인식 사용을 관리하는 포괄적인 입법을 향한 추진을 가속화할 수 있습니다.

한편, 기술은 계속 확산되고 있습니다. 영국과 웨일즈 전역의 약 20개 경찰 부대는 현재 어떤 형태의 얼굴 인식 능력에 접근할 수 있으며, Home Office는 경찰 현대화를 위한 더 광범위한 노력의 일환으로 그 사용을 확대하기 위한 지원을 신호했습니다.

Choudhury에게 문제는 얼굴 인식이 합법적인 법 집행 애플리케이션을 가지고 있는지 여부가 아니라 문서화된 인종 편견을 가진 기술이 강력한 보호 조치 없이 사람들의 자유를 박탈하도록 신뢰받아야 하는지 여부입니다. 그의 사건은 적어도 지금은 이러한 보호 조치가 위험할 정도로 불충분하게 남아 있음을 시사합니다.

이 기사는 The Guardian의 보도를 바탕으로합니다. 원문 기사 읽기.