Wenn ein Ladenalarm zu einer öffentlichen Anschuldigung wird

Eine neue Reihe von Fällen aus dem Vereinigten Königreich verschärft die Debatte über Gesichtserkennung im alltäglichen Handel. Laut Berichten von The Guardian wurden einige Käufer in Geschäften angesprochen, aufgefordert zu gehen und darüber informiert, dass ein Live-Gesichtserkennungssystem sie als mutmaßliche Ladendiebe identifiziert habe. Die Betroffenen sagen, sie seien unschuldig gewesen und hätten danach große Schwierigkeiten gehabt, einen praktikablen Weg zu finden, die Anschuldigung anzufechten oder ihren Namen reinzuwaschen.

Der Artikel konzentriert sich auf Facewatch, ein System, das im britischen Einzelhandel eingeführt wird, um gegen Diebstahl vorzugehen. Die Website behauptet eine Genauigkeit von 99,98 % und sagt, dass sie in einem jüngsten Monat 50.288 Warnungen vor bekannten Tätern an teilnehmende Geschäfte gesendet habe. Doch die berichteten Erfahrungen zeigen, dass selbst ein als hochpräzise beworbenes System sozial schädlich werden kann, wenn ein Fehler bis in den Verkaufsraum gelangt. Genauigkeitsprozente machen die Folgen eines Fehlalarms für die Person nicht ungeschehen, der gesagt wird, sie solle ihre Sachen ablegen und gehen.

Die Lücke bei der Aufsicht wird zur eigentlichen Geschichte

Das wichtigste Problem ist hier womöglich nicht der bloße Einsatz von Gesichtserkennung, sondern die schwache Rechenschaftspflicht rund um ihre Einführung. Einer der im Bericht beschriebenen Käufer, Ian Clayton, sagte, man habe ihm mitgeteilt, er erscheine im System als Ladendieb, als er ein Home-Bargains-Geschäft besuchte. Nach dem Versuch, Antworten zu bekommen, stellte er schließlich einen Auskunftsantrag und erfuhr, dass er fälschlicherweise mit einem früheren Vorfall in Verbindung gebracht worden war. Er beschrieb das Erlebnis so, als werde man für schuldig gehalten, bis die Unschuld bewiesen sei.

Diese Formulierung erfasst das tiefere Problem. In vielen öffentlichen Debatten über KI liegt der Fokus auf Modellgenauigkeit, Aussagen von Anbietern und der Frage, ob die Technologie grundsätzlich funktioniert. Für die Menschen, die von einer falschen Warnung betroffen sind, sind die drängenden Fragen jedoch verfahrensrechtlicher Natur. Wer hat die Entscheidung getroffen? War es ein Systemfehler oder ein Fehler des Personals? Welche Beweise gibt es? Wie schnell kann ein Fehler korrigiert werden? Wer ist für den Schaden verantwortlich?

Die berichtete Antwort war zumindest in diesen Fällen nicht beruhigend. Einige Betroffene sagten, sie hätten kaum Hilfe erhalten und nicht gewusst, wie sie sich beschweren oder ihre Unschuld belegen sollten. Das deutet darauf hin, dass Aufsicht und Kundenrechtsbehelfe mit der Einführung nicht Schritt gehalten haben.