Her Şeyi Değiştiren Kapı Çalması
Alvi Choudhury Ocak ayında Southampton'daki aile evinden uzaktan çalışıyorken, Thames Valley polis memurları haber vermeksizin geldi, kelepçe takıp onu neredeyse 100 mil uzakta bir karakola götürdü. Suçlama: hiç ayak basmadığı bir şehirde hırsızlık. Delil: Choudhury'nin hukuk ekibine göre, onu yaklaşık 10 yaş daha genç görünen bir şüpheliyle karıştıran yüz tanıma eşleşmesi.
Güney Asya kökenli 26 yaşındaki yazılım mühendisi Choudhury, polis gözaltısında yaklaşık 10 saat geçirdikten sonra sabah 2'de herhangi bir suçlama olmaksızın serbest bırakıldı. Şu anda Thames Valley Police'ye karşı tazminat talep etmektedir ve tutuklamasına yol açan önyargılı teknolojinin İngiltere'deki kolluk kuvvetlerinin otomatik gözetimi nasıl konuşlandırdığının sistemik bir başarısızlığını temsil ettiğini savunmaktadır.
Yüz Tanıma Yanlış Kimlik Tespiti Nasıl Olur
Yüz tanıma sistemleri, bir yüzün geometrik özelliklerini (gözler arasındaki mesafe, çene şekli, elmacık konturları) haritalayarak ve bu ölçümleri bilinen bireylerin veri tabanları ile karşılaştırarak çalışır. Teknoloji son yıllarda dramatik şekilde iyileştirilmiş olsa da, bağımsız denetimler siyah, Asyalı ve genç bireyleri tanımlarken tutarlı bir şekilde daha yüksek hata oranları bulmuştur.
National Institute of Standards and Technology (NIST) tarafından yapılan 2019'un çığır açan çalışması, birçok ticari yüz tanıma algoritmasının siyah ve Asyalı yüzler için beyaz yüzlerle karşılaştırıldığında 10 ila 100 kat daha yüksek hata oranları gösterdiğini bulmuştur. Bu bulgulara rağmen, İngiltere genelindeki polis kuvvetleri teknolojinin kullanımını genişletmeye devam etmiş, çoğu zaman minimum kamuoyu denetimi ile.
Choudhury'nin durumunda, sistem açıkça Güney Asya kökenli iki adamı ayırt edemedi, onlara göre önemli bir yaş farkı vardı ve ülkenin farklı bölgelerinde yaşıyorlardı. Avukatları bunun tam olarak sivil özgürlük kuruluşlarının yıllar boyunca uyarı verdiği başarısızlık türü olduğunu savunmaktadır.
İngiltere Polis Yüz Tanıması İnceleme Altında
Haksız tutuklamalar Birleşik Krallık'ta yüz tanıma için özellikle tartışmalı bir anda meydana gelmektedir. Metropolitan Police ve South Wales Police de dahil olmak üzere birkaç polis kuvveti, kamu etkinlikleri, tren istasyonları ve alışveriş merkezlerinde canlı yüz tanıma kameraları konuşlandırmıştır. Teknoloji gerçek zamanlı olarak yüzleri tarar ve onları aranan kişilerin izleme listelerine kıyasla.
Liberty ve Big Brother Watch dahil olmak üzere gizlilik savunucuları bu konuşlandırmalara karşı tekrarlayan yasal itirazlar yükseltmiş. 2020'de, Temyiz Mahkemesi South Wales Police'in yüz tanıma kullanımının gizlilik haklarını ve eşitlik yasalarını ihlal ettiğine karar verdi, ancak karar teknoloji üzerinde kapsamlı bir yasağa yol açmadı.
Thames Valley Police, devam eden yasal işlemleri gerekçe göstererek Choudhury'nin davasının spesifikleri hakkında kamu açıklaması yapmamıştır. Ancak, kuvvet daha önce yüz tanıma kullanımını ciddi suçluların tanımlanması için orantılı bir araç olarak savunmuştur.
Algoritma Hatalarının İnsan Maliyeti
Choudhury için yanlış kimlik tespitinin sonuçları gözaltıda geçen 10 saatin çok ötesine geçti. The Guardian ile röportajında, deneyimi son derece aşağılayıcı ve travmatik olarak tanımladı, komşuların tutuklanmasına tanık olduğunu ve olayın ruh sağlığını ve kolluk kuvvetlerine olan güvenini etkilediğini belirtti.
Onun durumu izole değil. Amerika Birleşik Devletleri'nde, en azından üç siyah adam - Robert Williams, Michael Oliver ve Nijeer Parks - yüz tanıma hatalarından dolayı haksız tutuklanmışlardır. Williams Detroit'te küçük kızları önünde tutuklandı, bir perakende hırsızlık algoritması onu yanlış tanımladıktan sonra. Parks, New Jersey'de bir suçla yanlışlıkla bağlantılı olduktan sonra 10 gün hapis cezası yatmıştır.
Bu davalar ortak bir dizi paylaşır: mağdurlar ağırlıklı olarak renkli insanlardı ve tutuklayan polisler algoritma eşleşmesini daha ileri doğrulama gerektiren soruşturma ipucu yerine neredeyse belirli delil olarak ele almıştır.
Düzenleme Çağrıları Yoğunlaşıyor
Choudhury davası, Birleşik Krallık'ta yüz tanıma teknolojisinin daha katı düzenlenmesi için yenilenen çağrıları yanıtlayacak olasılığı yüksektir. 2024'te yürürlüğe giren Avrupa Birliği'nin AI Yasası, kamusal alanlarda gerçek zamanlı biyometrik kimlik tanımlamasında önemli kısıtlamalar içermekle beraber, kolluk kuvvetleri için istisnalar vardır. Avrupa Birliği'nden ayrılan Birleşik Krallık, bu kurallara bağlı değildir ve önemli ölçüde daha izin verici bir yaklaşım benimsenmiştir.
Parlamento'nun birkaç üyesi, bağımsız doğruluk ve önyargı testi standartları kurulabilene kadar polis tarafından canlı yüz tanıma kullanımına ilişkin bir moratoryum çağrısında bulunmuştur. Information Commissioner's Office de teknolojinin kullanımını yöneten açık bir yasal çerçevonun yokluğu konusunda endişeler ifade etmiştir.
- Sivil özgürlük grupları, kolluk kuvvetleri tarafından herhangi bir yüz tanıma sistemi konuşlandırılmadan önce zorunlu önyargı denetimi talep etmektedir
- Hukuk uzmanları, mevcut eşitlik yasalarının polisten yüz tanımanın azınlık etnik grupları orantısız şekilde etkilemediğini göstermeleri gerektiğini savunmaktadır
- İngiltere polisine yüz tanıma teknolojisi sağlayan teknoloji şirketleri, demografik gruplar halinde bölünen doğruluk verilerini yayınlaması için artan baskı karşı karşıyadır
Sırada Ne Var
Choudhury'nin hukuk ekibi Thames Valley Police'ye karşı resmi bir tazminat davası açmıştır. Başarılı olursa, bu dava İngiltere mahkemelerinin algoritma yanlış tanımlamadan kaynaklanan haksız tutuklamaları nasıl ele aldığı konusunda önemli bir yasal emsal belirleyebilir. Ayrıca polis tarafından yüz tanıma kullanımını yöneten kapsamlı mevzuat için baskıyı hızlandırabilir.
Bu arada, teknoloji yaygınlaşmaya devam ediyor. İngiltere ve Galler genelinde tahminen 20 polis kuvveti şu anda bir tür yüz tanıma yeteneğine erişebilir ve Home Office, polisliğin modernleştirilmesine yönelik daha geniş çabaların bir parçası olarak kullanımı genişletmek için desteğinin işaretini vermiştir.
Choudhury için soru, yüz tanımanın meşru bir kanun uygulaması olup olmadığı değil - belgelenmiş ırksal önyargıları olan bir teknolojinin kişileri güçlü güvenlik önlemleri olmaksızın özgürlükten yoksun bırakmak için güvenilir olup olmaması gereken soru. Onun davası, en azından şimdilik, bu güvenlik önlemlerinin tehlikeli derecede yetersiz kaldığını göstermektedir.
Bu makale The Guardian raporlamasına dayanmaktadır. Orijinal makaleyi okuyun.
