طرقة على الباب غيرت كل شيء
كان Alvi Choudhury يعمل من منزل عائلته في Southampton في يناير عندما حضرت ضباط شرطة من Thames Valley بدون إشعار مسبق، وقيدوه بالأصفاد، ونقلوه إلى محطة على بعد حوالي 100 ميل. التهمة: سرقة منزل في مدينة لم يطأ قدماه فيها من قبل. الدليل: مطابقة facial recognition تبدو، وفقاً لفريقه القانوني، قد خلطت بينه وبين مشبوه يبدو أصغر سناً بحوالي 10 سنوات.
Choudhury، مهندس برمجيات يبلغ من العمر 26 سنة من أصول جنوب آسيوية، قضى حوالي 10 ساعات في احتجاز الشرطة قبل أن يُفرج عنه الساعة 2 صباحاً بدون توجيه أي تهم. وهو الآن يسعى للحصول على تعويضات من Thames Valley Police، محتجاً بأن التكنولوجيا المتحيزة التي أدت إلى اعتقاله تمثل فشلاً منهجياً في كيفية نشر إنفاذ القانون البريطاني لأنظمة المراقبة الآلية.
كيف تحدث أخطاء التعرف على الوجه
تعمل أنظمة facial recognition بمراقبة الميزات الهندسية للوجه — المسافة بين العينين، شكل الفك السفلي، ملامح عظام الوجنة — ومقارنة هذه القياسات مع قواعد بيانات للأفراد المعروفين. بينما تحسنت التكنولوجيا بشكل كبير في السنوات الأخيرة، أظهرت التدقيقات المستقلة باستمرار معدلات خطأ أعلى عند التعرف على الأشخاص ذوي البشرة الملونة والنساء والأفراد الأصغر سناً.
كشفت دراسة حديثة عام 2019 من قبل National Institute of Standards and Technology (NIST) عن أن العديد من خوارزميات facial recognition التجارية أظهرت معدلات خطأ أعلى بـ 10 إلى 100 مرة للوجوه السوداء والآسيوية مقارنة بالوجوه البيضاء. رغم هذه النتائج، استمرت قوات الشرطة في جميع أنحاء المملكة المتحدة في توسيع استخدام التكنولوجيا، غالباً بإشراف عام محدود جداً.
في حالة Choudhury، فشل النظام على ما يبدو في التمييز بين رجلين من أصول جنوب آسيوية رغم وجود فرق كبير في السن والحقيقة أنهما يعيشان في أجزاء مختلفة من البلاد. يحتج محامولوه بأن هذا بالضبط نوع الفشل الذي حذرت منه منظمات الحقوق المدنية منذ سنوات.
facial recognition في شرطة المملكة المتحدة تحت المراقبة
يأتي الاعتقال الخاطئ في لحظة حساسة بشكل خاص بالنسبة لـ facial recognition في المملكة المتحدة. قامت عدة قوات شرطة، بما فيها Metropolitan Police و South Wales Police، بنشر كاميرات facial recognition مباشرة في الفعاليات العامة والمحطات والمراكز التجارية. تقوم التكنولوجيا بمسح الوجوه في الوقت الفعلي ومقارنتها مع قوائم الأشخاص المطلوبين.
يشن محامو الحقوق الخاصة، بما فيهم Liberty و Big Brother Watch، تحديات قانونية متكررة ضد هذه الانتشارات. في عام 2020، حكمت محكمة الاستئناف بأن استخدام South Wales Police لـ facial recognition انتهك حقوق الخصوصية وقوانين المساواة، رغم أن الحكم لم ينتج عنه حظر شامل على التكنولوجيا.
لم تعلق Thames Valley Police على التفاصيل المحددة لحالة Choudhury، محتجة بالإجراءات القانونية الجارية. ومع ذلك، دافعت القوة سابقاً عن استخدامها لـ facial recognition باعتباره أداة متناسبة لتحديد المجرمين الخطرين.
التكلفة الإنسانية لأخطاء الخوارزميات
بالنسبة لـ Choudhury، امتدت عواقب سوء التعرف إلى ما وراء الـ 10 ساعات التي قضاها في الاحتجاز. في مقابلات مع The Guardian، وصف التجربة بأنها مذلة وصادمة عميقة، مشيراً إلى أن الجيران شهدوا اعتقاله وأن الحادثة أثرت على صحته العقلية وثقته في إنفاذ القانون.
حالته ليست معزولة. في الولايات المتحدة، تم اعتقال ثلاثة رجال سود على الأقل — Robert Williams و Michael Oliver و Nijeer Parks — بالخطأ بسبب أخطاء facial recognition. تم اعتقال Williams أمام ابنتيه الصغيرتين في Detroit بعد أن خلطت خوارزمية السرقة بينه وبين شخص آخر. قضى Parks 10 أيام في السجن بعد أن تم ربطه بشكل خاطئ بجريمة في New Jersey.
تشترك هذه الحالات في خيط واحد: كان الضحايا بشكل غير متناسب من الأشخاص ذوي البشرة الملونة، وتعامل ضباط الشرطة الموقوفون مع المطابقة الخوارزمية كدليل شبه مؤكد بدلاً من كونها خطوة تحقيقية تتطلب التحقق الإضافي.
دعوات التنظيم تشتد
من المرجح أن تؤجج حالة Choudhury دعوات متجددة لتنظيم أكثر صرامة لتكنولوجيا facial recognition في المملكة المتحدة. يتضمن AI Act للاتحاد الأوروبي، الذي دخل حيز النفاذ في عام 2024، قيوداً كبيرة على التعرف البيومتري الحي في الأماكن العامة، على الرغم من الاستثناءات لإنفاذ القانون. المملكة المتحدة، التي غادرت الاتحاد الأوروبي، غير مقيدة بهذه القوانين واتخذت نهجاً متساهلاً بشكل ملحوظ.
دعا عدة أعضاء من البرلمان إلى وقف استخدام الشرطة لـ facial recognition المباشرة حتى يمكن وضع معايير مستقلة لاختبار الدقة والانحياز. أعربت مكتب مفوض المعلومات أيضاً عن قلقه بشأن الافتقار إلى إطار قانوني واضح يحكم استخدام التكنولوجيا.
- تدعو مجموعات الحقوق المدنية إلى عمليات تدقيق إجبارية للانحياز قبل نشر أي نظام facial recognition من قبل إنفاذ القانون
- يحتج الخبراء القانونيون بأن التشريعات المساواة الموجودة يجب أن تتطلب من الشرطة أن تثبت أن facial recognition لا يؤثر بشكل غير متناسب على الأقليات العرقية
- واجهت شركات التكنولوجيا التي توفر facial recognition لشرطة المملكة المتحدة ضغطاً متزايداً لنشر بيانات الدقة مقسمة حسب المجموعة الديموغرافية
ما يأتي بعد ذلك
قدم فريق Choudhury القانوني مطالبة رسمية للحصول على تعويضات ضد Thames Valley Police. إذا نجحت الحالة، فقد تضع سابقة قانونية مهمة حول كيفية تعامل محاكم المملكة المتحدة مع الاعتقالات الخاطئة الناجمة عن سوء التعرف الخوارزمي. كما قد تسرع الدفع نحو تشريع شامل يحكم استخدام الشرطة لـ facial recognition.
في الوقت نفسه، تستمر التكنولوجيا في الانتشار. يتمتع حوالي 20 قوة شرطة في جميع أنحاء England و Wales الآن بإمكانية الوصول إلى نوع ما من القدرات facial recognition، وقد أشارت Home Office إلى دعمها لتوسيع استخدامها كجزء من الجهود الأوسع لتحديث الشرطة.
بالنسبة لـ Choudhury، فإن السؤال ليس ما إذا كان لـ facial recognition تطبيقات قانونية شرعية — بل ما إذا كان يجب الوثوق بتكنولوجيا بها تحيزات عنصرية موثقة لحرمان الناس من حريتهم بدون ضمانات قوية. تشير حالته إلى أنه، على الأقل في الوقت الحالي، تبقى هذه الضمانات غير كافية بشكل خطير.
تعتمد هذه المقالة على تقارير من The Guardian. اقرأ المقالة الأصلية.
