Стук в дверь, который все изменил

Alvi Choudhury работал удаленно из семейного дома в Southampton в январе, когда офицеры Thames Valley прибыли без предупреждения, надели ему наручники и доставили на станцию почти в 100 милях от его дома. Обвинение: кража со взломом в городе, в который он никогда не входил. Доказательство: совпадение лиц, которое, по словам юридической группы Choudhury, спутало его с подозреваемым, которого было примерно на 10 лет моложе.

Choudhury, 26-летний инженер-программист южноазиатского происхождения, провел в полицейском заключении около 10 часов, прежде чем был освобожден в 2 часа ночи без предъявления обвинения. Теперь он подает в суд на Thames Valley Police, утверждая, что предвзятая технология, которая привела к его аресту, представляет собой системный отказ в том, как правоохранительные органы Великобритании развертывают автоматизированное наблюдение.

Как происходит неправильная идентификация при распознавании лиц

Системы распознавания лиц работают путем отображения геометрических особенностей лица - расстояния между глазами, формы подбородка, контура скул - и сравнения этих измерений с базами данных известных лиц. Хотя технология значительно улучшилась в последние годы, независимые проверки последовательно выявляли более высокие частоты ошибок при идентификации людей с темной кожей, женщин и молодых людей.

Знаковое исследование National Institute of Standards and Technology (NIST) 2019 года показало, что многие коммерческие алгоритмы распознавания лиц имели показатели ошибок в 10-100 раз выше для лиц черных и азиатских по сравнению с белыми лицами. Несмотря на эти результаты, полицейские силы по всей Великобритании продолжили расширять использование технологии, часто с минимальным общественным контролем.

В случае Choudhury система, похоже, не смогла различить двух людей южноазиатского происхождения, несмотря на значительную разницу в возрасте и то, что они жили в разных частях страны. Его адвокаты утверждают, что это именно такой вид отказа, о котором организации защиты гражданских свобод предупреждали в течение многих лет.

Распознавание лиц британской полицией под пристальным вниманием

Неправомерный арест происходит в особенно спорный момент для распознавания лиц в Соединенном Королевстве. Несколько полицейских сил, включая Metropolitan Police и South Wales Police, развернули живые камеры распознавания лиц на общественных мероприятиях, железнодорожных станциях и торговых центрах. Технология сканирует лица в реальном времени и сравнивает их со списками разыскиваемых лиц.

Защитники конфиденциальности, включая Liberty и Big Brother Watch, неоднократно оспаривали эти развертывания в судебном порядке. В 2020 году Апелляционный суд постановил, что использование распознавания лиц South Wales Police нарушало права на неприкосновенность частной жизни и законы о равенстве, хотя постановление не привело к полному запрету на использование технологии.

Thames Valley Police не прокомментировала специфику дела Choudhury, ссылаясь на текущие судебные разбирательства. Однако эта сила ранее оправдывала использование распознавания лиц как пропорциональный инструмент для идентификации серьезных преступников.

Человеческие издержки алгоритмических ошибок

Для Choudhury последствия неправильной идентификации вышли далеко за рамки 10 часов, проведенных в заключении. В интервью The Guardian он описал этот опыт как глубоко унизительный и травматичный, отметив, что соседи были свидетелями его ареста и что этот инцидент повлиял на его психическое здоровье и доверие к правоохранительным органам.

Его случай не изолирован. В Соединенных Штатах по крайней мере три чернокожих мужчины - Robert Williams, Michael Oliver и Nijeer Parks - были неправомерно арестованы из-за ошибок распознавания лиц. Williams был задержан перед своими маленькими дочерями в Detroit после того, как алгоритм розничной кражи неправильно идентифицировал его. Parks провел 10 дней в тюрьме после того, как был ошибочно связан с преступлением в New Jersey.

Эти дела имеют общую нить: жертвы были в подавляющем большинстве люди цвета, и арестовывающие офицеры относились к алгоритмическому совпадению как к почти определенному доказательству, а не как к следственному следу, требующему дальнейшей проверки.

Призывы к нормативно-правовому регулированию усиливаются

Дело Choudhury, вероятно, разжигает возобновленные призывы к более строгому регулированию технологии распознавания лиц в Великобритании. EU AI Act, вступивший в силу в 2024 году, включает значительные ограничения на биометрическую идентификацию в реальном времени в общественных местах, хотя и с исключениями для правоохранительных органов. Великобритания, покинув EU, не связана этими правилами и приняла заметно более разрешительный подход.

Несколько членов Парламента призвали к мораторию на использование полицией живого распознавания лиц до того, как могут быть установлены независимые стандарты для проверки точности и смещения. Information Commissioner's Office также выразила озабоченность по поводу отсутствия четкой законодательной базы, регулирующей использование технологии.

  • Группы защиты гражданских прав призывают к обязательным аудитам смещения до развертывания любой системы распознавания лиц правоохранительными органами
  • Правовые эксперты утверждают, что существующее законодательство о равенстве должно требовать от полиции доказывать, что распознавание лиц не оказывает непропорциональное влияние на этнические меньшинства
  • Компании технологии, поставляющие распознавание лиц британской полиции, столкнулись с растущим давлением на публикацию данных о точности, разбитых по демографическим группам

Что будет дальше

Юридическая группа Choudhury подала официальный иск о возмещении убытков против Thames Valley Police. Если он будет успешным, это дело может установить важный судебный прецедент того, как британские суды относятся к неправомерным арестам, вытекающим из алгоритмической неправильной идентификации. Это также может ускорить толчок в сторону всестороннего законодательства, регулирующего использование полицией распознавания лиц.

Тем временем технология продолжает распространяться. По оценкам, 20 полицейских сил по всей Англии и Уэльсу теперь имеют доступ к какой-либо форме возможности распознавания лиц, и Home Office указала на поддержку расширения его использования в рамках более широких усилий по модернизации полиции.

Для Choudhury вопрос не в том, имеет ли распознавание лиц законные правоохранительные приложения - это в том, должна ли технология с документированными расовыми предубеждениями быть доверена лишить людей свободы без надежных гарантий. Его дело предполагает, что, по крайней мере, на данный момент, такие гарантии остаются опасно неадекватными.

Эта статья основана на отчетах The Guardian. Прочитайте оригинальную статью.