Ketukan Pintu yang Mengubah Segalanya

Alvi Choudhury sedang bekerja dari rumah keluarganya di Southampton pada bulan Januari ketika petugas polisi dari Thames Valley tiba tanpa pemberitahuan sebelumnya, menempatkannya dalam borgol, dan membawanya ke sebuah kantor polisi hampir 100 mil jauhnya. Tuduhan: pembobolan di sebuah kota yang tidak pernah dia injak. Bukti: kecocokan facial recognition yang, menurut tim hukum Choudhury, mengacaukannya dengan tersangka yang tampak kira-kira 10 tahun lebih muda.

Choudhury, seorang insinyur perangkat lunak berusia 26 tahun keturunan Asia Selatan, menghabiskan hampir 10 jam dalam tahanan polisi sebelum dilepaskan pukul 2 pagi tanpa adanya tuduhan yang diajukan. Dia sekarang mengejar ganti rugi terhadap Thames Valley Police, berargumen bahwa teknologi yang bias yang menyebabkan penanggapannya merupakan kegagalan sistemik dalam bagaimana penegakan hukum UK menerapkan pengawasan otomatis.

Bagaimana Kesalahan Identifikasi Pengenalan Wajah Terjadi

Sistem facial recognition bekerja dengan memetakan fitur geometris wajah — jarak antara mata, bentuk garis rahang, kontur tulang pipi — dan membandingkan pengukuran tersebut dengan basis data individu yang dikenal. Meskipun teknologinya telah meningkat secara dramatis dalam beberapa tahun terakhir, audit independen secara konsisten telah menemukan tingkat kesalahan yang lebih tinggi saat mengidentifikasi orang kulit berwarna, wanita, dan individu yang lebih muda.

Sebuah studi landmark tahun 2019 oleh National Institute of Standards and Technology (NIST) menemukan bahwa banyak algoritma facial recognition komersial menunjukkan tingkat kesalahan 10 hingga 100 kali lebih tinggi untuk wajah kulit hitam dan Asia dibandingkan dengan wajah putih. Meskipun demikian, kepolisian di seluruh UK terus memperluas penggunaan teknologi ini, sering kali dengan pengawasan publik yang minimal.

Dalam kasus Choudhury, sistem tampaknya gagal membedakan antara dua pria keturunan Asia Selatan meskipun ada perbedaan usia yang signifikan dan fakta bahwa mereka tinggal di bagian berbeda dari negara tersebut. Para pengacaranya berpendapat bahwa ini adalah jenis kegagalan yang tepat yang telah diingatkan oleh organisasi kebebasan sipil selama bertahun-tahun.

Pengawasan Pengenalan Wajah Polisi UK

Penangkapan salah ini terjadi pada momen yang sangat kontroversial bagi facial recognition di United Kingdom. Beberapa kepolisian, termasuk Metropolitan Police dan South Wales Police, telah meluncurkan kamera facial recognition langsung di acara publik, stasiun kereta, dan pusat perbelanjaan. Teknologi ini memindai wajah secara real time dan membandingkannya dengan daftar pantau individu yang dicari.

Advokat privasi, termasuk Liberty dan Big Brother Watch, telah melakukan tantangan hukum berulang kali terhadap penerapan ini. Pada tahun 2020, Pengadilan Banding memutuskan bahwa penggunaan facial recognition oleh South Wales Police telah melanggar hak privasi dan hukum kesetaraan, meskipun putusan tersebut tidak menghasilkan larangan total terhadap teknologi ini.

Thames Valley Police belum berkomentar secara publik tentang spesifik kasus Choudhury, mengutip prosiding hukum yang sedang berlangsung. Namun, kepolisian tersebut sebelumnya telah membela penggunaan facial recognition sebagai alat yang proporsional untuk mengidentifikasi pelanggar serius.

Biaya Manusia dari Kesalahan Algoritmik

Bagi Choudhury, konsekuensi dari kesalahan identifikasi meluas jauh melampaui 10 jam yang dihabiskan dalam tahanan. Dalam wawancara dengan The Guardian, dia menggambarkan pengalaman tersebut sebagai sangat memalukan dan traumatis, mencatat bahwa tetangga menyaksikan penanggapannya dan insiden tersebut telah mempengaruhi kesehatan mentalnya dan kepercayaannya terhadap penegakan hukum.

Kasusnya tidak terisolasi. Di United States, setidaknya tiga pria kulit hitam — Robert Williams, Michael Oliver, dan Nijeer Parks — telah ditangkap secara salah karena kesalahan facial recognition. Williams ditahan di depan putri-putrinya yang masih muda di Detroit setelah algoritma pencurian toko salah mengidentifikasinya. Parks menghabiskan 10 hari di penjara setelah secara salah dikaitkan dengan kejahatan di New Jersey.

Kasus-kasus ini memiliki benang merah yang sama: korban adalah orang-orang kulit berwarna yang tidak proporsional, dan petugas penangkap memperlakukan kecocokan algoritmik sebagai bukti yang hampir pasti daripada petunjuk investigasi yang memerlukan verifikasi lebih lanjut.

Panggilan untuk Regulasi Meningkat

Kasus Choudhury kemungkinan akan memicu panggilan baru untuk regulasi yang lebih ketat terhadap teknologi facial recognition di UK. AI Act Uni Eropa, yang mulai berlaku pada tahun 2024, mencakup pembatasan signifikan terhadap identifikasi biometrik real-time di ruang publik, meskipun dengan pengecualian untuk penegakan hukum. UK, setelah meninggalkan EU, tidak terikat oleh aturan-aturan ini dan telah mengambil pendekatan yang jauh lebih permisif.

Beberapa anggota Parlemen telah menyerukan moratorium penggunaan facial recognition langsung oleh polisi sampai standar independen untuk pengujian akurasi dan bias dapat ditetapkan. The Information Commissioner's Office juga telah mengekspresikan kekhawatiran tentang kurangnya kerangka hukum yang jelas yang mengatur penggunaan teknologi ini.

  • Grup kebebasan sipil menyerukan audit bias wajib sebelum sistem facial recognition diterapkan oleh penegakan hukum
  • Para ahli hukum berpendapat bahwa undang-undang kesetaraan yang ada harus memerlukan polisi untuk menunjukkan bahwa facial recognition tidak mempengaruhi minoritas etnis secara tidak proporsional
  • Perusahaan teknologi yang memasok facial recognition kepada polisi UK telah menghadapi tekanan yang meningkat untuk menerbitkan data akurasi yang dipecah menurut kelompok demografis

Apa yang Akan Datang

Tim hukum Choudhury telah mengajukan klaim formal untuk ganti rugi terhadap Thames Valley Police. Jika berhasil, kasus ini dapat menetapkan preseden hukum penting untuk bagaimana pengadilan UK memperlakukan penangkapan salah yang dihasilkan dari kesalahan identifikasi algoritmik. Ini juga dapat mempercepat dorongan untuk undang-undang komprehensif yang mengatur penggunaan facial recognition oleh polisi.

Sementara itu, teknologi ini terus menyebar. Diperkirakan 20 kepolisian di seluruh England dan Wales sekarang memiliki akses ke beberapa bentuk kemampuan facial recognition, dan Home Office telah menandakan dukungan untuk memperluas penggunaannya sebagai bagian dari upaya yang lebih luas untuk modernisasi policing.

Bagi Choudhury, pertanyaannya bukan apakah facial recognition memiliki aplikasi penegakan hukum yang sah — tetapi apakah teknologi dengan bias rasial yang terdokumentasi harus dipercaya untuk merampas kebebasan orang-orang tanpa perlindungan yang kuat. Kasusnya menunjukkan bahwa, setidaknya untuk saat ini, perlindungan tersebut tetap sangat tidak memadai dan berbahaya.

Artikel ini didasarkan pada pelaporan oleh The Guardian. Baca artikel asli.