Ein Klopfen an der Tür, das alles veränderte

Alvi Choudhury arbeitete im Januar von seinem Familienhaus in Southampton aus, als Polizeibeamte aus Thames Valley ohne Vorwarnung eintrafen, ihn in Handschellen legten und ihn auf eine Station etwa 100 Meilen entfernt transportierten. Die Anklage: ein Einbruch in einer Stadt, in die er nie Fuß gesetzt hatte. Das Beweis: eine Gesichtserkennungsübereinstimmung, die nach Angaben von Choudhurys Anwaltsteam ihn mit einem Verdächtigen verwechselte, der etwa 10 Jahre jünger aussah.

Choudhury, ein 26-jähriger Softwareentwickler südostasiatischer Herkunft, verbrachte etwa 10 Stunden in Polizeigewahrsam, bevor er um 2 Uhr morgens ohne Anklageerhebung freigelassen wurde. Er verfolgt nun Schadensersatzansprüche gegen Thames Valley Police und argumentiert, dass die voreingenommene Technologie, die zu seiner Verhaftung führte, ein systemisches Versagen bei der Einsatzverwaltung automatisierter Überwachung durch britische Strafverfolgungsbehörden darstellt.

Wie Fehlidentifikationen bei der Gesichtserkennung auftreten

Gesichtserkennungssysteme funktionieren durch Zuordnung geometrischer Gesichtsmerkmale - der Abstand zwischen den Augen, die Form des Kiefers, die Kontur der Wangenknochen - und Vergleich dieser Messungen mit Datenbanken bekannter Personen. Obwohl die Technologie in den letzten Jahren dramatisch verbessert wurde, haben unabhängige Audits durchgehend höhere Fehlerquoten bei der Identifikation von Farbigen, Frauen und jüngeren Personen ergeben.

Eine bahnbrechende Studie des National Institute of Standards and Technology (NIST) von 2019 ergab, dass viele kommerzielle Gesichtserkennungsalgorithmen Fehlerquoten aufwiesen, die für schwarze und asiatische Gesichter 10 bis 100 Mal höher waren als für weiße Gesichter. Trotz dieser Befunde haben Polizeibehörden in ganz Großbritannien die Nutzung der Technologie weiterhin ausgebaut, oft mit minimalem öffentlichen Überblick.

In Choudhurys Fall konnte das System anscheinend nicht zwischen zwei südostasiatischen Männern unterscheiden, obwohl es einen großen Altersunterschied gab und sie in verschiedenen Teilen des Landes lebten. Seine Anwälte argumentieren, dass dies genau die Art von Fehler ist, vor der Organisationen der Bürgerrechte seit Jahren warnen.

Gesichtserkennungstechnologie der britischen Polizei unter Beobachtung

Die unrechtmäßige Verhaftung erfolgt zu einem besonders umstrittenen Zeitpunkt für die Gesichtserkennung im Vereinigten Königreich. Mehrere Polizeibehörden, darunter Metropolitan Police und South Wales Police, haben Live-Gesichtserkennungskameras bei öffentlichen Veranstaltungen, an Bahnhöfen und in Einkaufszentren eingesetzt. Die Technologie scannt Gesichter in Echtzeit und vergleicht sie mit Fahndungslisten gesuchter Personen.

Datenschutzverteidiger, darunter Liberty und Big Brother Watch, haben wiederholte rechtliche Anfechtungen gegen diese Einsätze eingereicht. Im Jahr 2020 entschied der Court of Appeal, dass die Nutzung der Gesichtserkennung durch South Wales Police gegen Datenschutzrechte und Gleichheitsgesetze verstößt, obwohl die Entscheidung nicht zu einem blanken Verbot der Technologie führte.

Thames Valley Police hat die Besonderheiten von Choudhurys Fall mit Verweis auf laufende Gerichtsverfahren nicht öffentlich kommentiert. Allerdings hat die Behörde die Verwendung von Gesichtserkennungsverfahren zuvor als proportionales Instrument zur Identifikation schwerwiegender Verbrecher verteidigt.

Die menschliche Kosten von Algorithmusfehlern

Für Choudhury gingen die Folgen der Fehlidentifikation weit über die 10 Stunden in Polizeigewahrsam hinaus. In Interviews mit The Guardian beschrieb er die Erfahrung als zutiefst demütigend und traumatisch und vermerkte, dass Nachbarn seine Verhaftung bezeugten und dass der Vorfall seine psychische Gesundheit und sein Vertrauen in die Strafverfolgungsbehörden beeinträchtigt hat.

Sein Fall ist nicht isoliert. In den USA wurden mindestens drei schwarze Männer - Robert Williams, Michael Oliver und Nijeer Parks - fälschlicherweise verhaftet, weil Gesichtserkennungsfehler auftraten. Williams wurde in Detroit vor seinen kleinen Töchtern festgenommen, nachdem ihn ein Einzelhandelsdiebstahlalgorithmus falsch identifiziert hatte. Parks verbrachte 10 Tage im Gefängnis, nachdem er fälschlicherweise mit einem Verbrechen in New Jersey in Verbindung gebracht worden war.

Diese Fälle teilen einen gemeinsamen Faden: Die Opfer waren überproportional Farbige, und die Polizeibeamten behandelten den Algorithmus-Match als nahezu sichere Beweis statt als Ermittlungslead, das weitere Überprüfung erforderlich macht.

Rufe nach Regulierung verschärfen sich

Der Fall Choudhury wird wahrscheinlich erneuerte Forderungen nach strengerer Regulierung der Gesichtserkennungstechnologie im Vereinigten Königreich ankurbeln. Das Artificial Intelligence Act der Europäischen Union, das 2024 in Kraft trat, enthält erhebliche Einschränkungen für die biometrische Echtzeitidentifikation in öffentlichen Räumen, allerdings mit Ausnahmen für Strafverfolgungsbehörden. Das Vereinigte Königreich, das die EU verlassen hat, ist nicht an diese Regeln gebunden und hat einen deutlich permissiveren Ansatz gewählt.

Mehrere Mitglieder des Parlaments haben ein Moratorium für die Nutzung von Live-Gesichtserkennungsverfahren durch die Polizei gefordert, bis unabhängige Standards für Genauigkeits- und Bias-Tests etabliert werden können. Das Information Commissioner's Office hat auch Bedenken hinsichtlich des fehlenden klaren rechtlichen Rahmens für die Nutzung der Technologie geäußert.

  • Bügerrechtsgruppen fordern obligatorische Bias-Audits, bevor ein Gesichtserkennungssystem von Strafverfolgungsbehörden eingesetzt wird
  • Rechtsexperten argumentieren, dass bestehende Gleichheitsgesetze von der Polizei verlangen sollten nachzuweisen, dass die Gesichtserkennung ethnische Minderheiten nicht unverhältnismäßig beeinträchtigt
  • Technologieunternehmen, die Gesichtserkennungssoftware britischer Polizeibehörden liefern, sind mit zunehmendem Druck konfrontiert, Genauigkeitsdaten veröffentlicht nach demografischen Gruppen zu veröffentlichen

Was kommt als nächstes

Choudhurys Anwaltsteam hat einen formellen Schadensersatzanspruch gegen Thames Valley Police eingereicht. Wenn erfolgreich, könnte der Fall einen wichtigen Rechtsstandard dafür schaffen, wie britische Gerichte unrechtmäßige Verhaftungen infolge algorithmischer Fehlidentifikation behandeln. Es könnte auch die Durchsetzung umfassender Rechtsvorschriften zur Regulierung des polizeilichen Einsatzes von Gesichtserkennung beschleunigen.

Inzwischen verbreitet sich die Technologie weiterhin. Schätzungsweise 20 Polizeibehörden in England und Wales haben nun Zugang zu irgendeiner Form von Gesichtserkennungsfunktion, und das Home Office hat Unterstützung für eine Ausweitung seiner Nutzung als Teil breiterer Bemühungen zur Modernisierung der Polizeiarbeit signalisiert.

Für Choudhury ist die Frage nicht, ob die Gesichtserkennung legitime Anwendungen in der Strafverfolgung hat - es ist, ob eine Technologie mit dokumentierten rassischen Vorurteilen Menschen ihrer Freiheit berauben sollte, ohne robuste Schutzmaßnahmen an Ort und Stelle. Sein Fall deutet darauf hin, dass diese Schutzmaßnahmen zumindest vorerst gefährlich unzureichend bleiben.

Dieser Artikel basiert auf Berichterstattung von The Guardian. Lesen Sie den Originalartikel.