Culture
Gesichtserkennungsfehler führt zur Verhaftung eines Softwareentwicklers, 100 Meilen vom Tatort entfernt
Ein 26-jähriger Softwareentwickler wurde handschuhlos und etwa 10 Stunden lang festgehalten, nachdem eine Gesichtserkennungstechnologie der britischen Polizei ihn mit einem Einbruchverdächtigen in einer Stadt verwechselte, die er nie besucht hatte. Der Fall stellt dringende Fragen zur rassischen Voreingenommenheit in automatisierten Überwachungssystemen, die in ganz Großbritannien eingesetzt werden.
Key Takeaways
- Die britische Polizei verhaftete einen Softwareentwickler 100 Meilen vom Tatort auf der Grundlage einer einzigen Gesichtserkennungsübereinstimmung
- Das System konnte nicht zwischen zwei südostasiatischen Männern unterscheiden, obwohl es einen Altersunterschied von etwa 10 Jahren gab
- Der Verdächtige wurde etwa 10 Stunden lang festgehalten, bevor er ohne Anklageerhebung freigelassen wurde
- Der Fall folgt einem Muster, bei dem die Gesichtserkennung Menschen von Farbe unverhältnismäßig falsch identifiziert
- Das Gerichtsverfahren könnte ein Präzedenzfall für Algorthimus-Fehlidentifikationsansprüche vor britischen Gerichten schaffen
DE
DT Editorial AI··via theguardian.com