عندما تصبح تنبيهات المتجر اتهامًا علنيًا
تضع مجموعة جديدة من الحالات المبلّغ عنها في المملكة المتحدة حافة أكثر حدة على الجدل حول التعرف على الوجه في التجارة اليومية. ووفقًا لتقرير نشرته صحيفة The Guardian، تمّت مواجهة بعض المتسوقين داخل المتاجر وطُلب منهم المغادرة، وأُبلغوا بأن نظامًا مباشرًا للتعرف على الوجه قد حددهم على أنهم مشتبه بهم في سرقة المتاجر. ويقول الأشخاص المعنيون إنهم أبرياء، ثم واجهوا صعوبة في العثور على مسار عملي للطعن في الاتهام أو تبرئة أسمائهم.
يركز المقال على Facewatch، وهو نظام يجري نشره عبر قطاع التجزئة في المملكة المتحدة للمساعدة في مكافحة السرقة. ويزعم موقعه الإلكتروني دقة تبلغ 99.98%، ويقول إنه أرسل 50,288 تنبيهًا عن مخالفين معروفين إلى متاجر مشاركة خلال شهر حديث. لكن التجارب المبلغ عنها تُظهر أنه حتى النظام الذي يُروَّج له على أنه شديد الدقة يمكن أن يصبح ضارًا اجتماعيًا عندما يصل الخطأ إلى أرضية المتجر. فالنسب المئوية للدقة لا تمحو عواقب التطابق الخاطئ على الشخص الذي يُطلب منه ترك أغراضه والمغادرة.
فجوة الحوكمة هي التي تصبح القصة
ربما لا تكون القضية الأهم هنا هي مجرد استخدام التعرف على الوجه، بل ضعف المساءلة المحيطة بنشره. أحد المتسوقين المذكورين في التقرير، Ian Clayton، قال إنه أُبلغ بأنه يظهر على النظام بوصفه سارق متجر أثناء زيارته متجر Home Bargains. وبعد محاولات للحصول على إجابات، قدّم في النهاية طلب وصول من صاحب البيانات، وعلم أنه جرى ربطه خطأً بحادثة سابقة. ووصف التجربة بأنها أشبه بأن يُعتبر المرء مذنبًا إلى أن يثبت العكس.
هذه العبارة تلتقط المشكلة الأعمق. ففي كثير من النقاشات العامة حول الذكاء الاصطناعي، ينصب التركيز على دقة النموذج، وادعاءات المورد، وما إذا كانت التقنية تعمل من حيث المبدأ. لكن بالنسبة إلى الأشخاص الذين تطالهم تنبيهات خاطئة، فإن الأسئلة الملحة هي إجرائية. من اتخذ القرار؟ هل كان خطأً من النظام أم من الموظفين؟ ما الأدلة الموجودة؟ ما مدى سرعة تصحيح الخطأ؟ ومن المسؤول عن الضرر؟
والجواب المبلّغ عنه، على الأقل في هذه الحالات، لم يكن مطمئنًا. قال بعض الأشخاص إنهم تلقوا القليل من المساعدة ولم يعرفوا كيف يشتكون أو يثبتون براءتهم. ويشير ذلك إلى أن الرقابة وآليات إنصاف العملاء لم تواكب وتيرة النشر.
لماذا يطرح الذكاء الاصطناعي في التجزئة نوعًا مختلفًا من المخاطر
يختلف التعرف على الوجه في المتاجر عن كثير من تطبيقات الذكاء الاصطناعي الأخرى لأنه يعمل في الفضاء المادي ويمكن أن يطلق عواقب فورية. فبرنامج دردشة يقدّم إجابة معيبة يمكن تصحيحها لاحقًا، أما نظام متجر يعرّف الزبون بشكل خاطئ فقد يسبب إحراجًا علنيًا في الوقت الحقيقي، أمام الموظفين والمتسوقين الآخرين وربما أفراد الأسرة.
هناك أيضًا عدم تكافؤ في القوة. يمكن لتاجر التجزئة أن يختار أدواته الأمنية وإجراءاته التشغيلية. أما الزبون الذي يدخل متجرًا فغالبًا ما يكون لديه وعي عملي محدود بما إذا كانت الأنظمة المستخدمة، وكيف تُبنى قوائم المراقبة، أو ما الذي يحدث إذا طابقه النظام. ولا تحل الملصقات أو رموز QR هذا الاختلال الأساسي. فإذا جرى طرد الشخص أولًا وإبلاغه لاحقًا، فإن عبء التصحيح يقع على المتهم.
ماذا يعني هذا للنقاش الأوسع حول الذكاء الاصطناعي
تأتي هذه الحالات في وقت لا تزال فيه رقابة الذكاء الاصطناعي تلحق بالانتشار التجاري. وقد يُسوَّق التعرف على الوجه المباشر كأداة لمنع الجريمة، لكن الجمهور سيحكم عليه بشكل متزايد بناءً على ما إذا كان يوفر ضمانات أساسية للناس العاديين. ويشمل ذلك الشفافية بشأن كيفية توليد التنبيهات، وعملية مراجعة بشرية واضحة، ومسارًا عمليًا للاعتراض على النتائج.
وتُظهر الحوادث المبلّغ عنها أيضًا أن الخطر الأساسي لا يقتصر على ما إذا كانت الخوارزمية تخطئ. فالاستخدام البشري مهم أيضًا. يمكن لتفسير الموظفين، وسياسات التصعيد، ومعالجة الشكاوى أن تحول خطأ تقنيًا إلى فشل مؤسسي. ويمكن لمعدل دقة مرتفع جدًا أن يتعايش مع أضرار جسيمة إذا لم توجد طريقة فعالة لتحديد الاستثناءات وتصحيحها.
بالنسبة إلى متاجر التجزئة، الدرس واضح. فإذا كان سيُستخدم التعرف على الوجه في بيئات التعامل مع الزبائن، فلا يمكن أن تكون الحوكمة أمرًا لاحقًا. أما بالنسبة إلى المنظمين والمدافعين عن الحريات المدنية، فالسؤال هو ما إذا كانت الرقابة الحالية قوية بما يكفي للأنظمة التي يمكنها أن تضع شخصًا على الفور في خانة المشتبه به في مكان عام.
وتشير الأمثلة البريطانية إلى أن الجواب لا يزال غير محسوم. وما هو واضح أن الاشتباه الآلي يصبح مسألة أكثر خطورة بكثير عندما لا يكون لدى الشخص الذي يتلقاه أي وسيلة سريعة أو مرئية أو عادلة للطعن فيه.
هذه المقالة مستندة إلى تقرير من The Guardian. اقرأ المقال الأصلي.
Originally published on theguardian.com
