تحقيق الشرطة البريطانية في أدلة مولدة بالذكاء الاصطناعي يثير أسئلة جديدة حول النزاهة

تحقيق ديربيشاير يضع إساءة استخدام الذكاء الاصطناعي داخل سلسلة الأدلة

تم إبعاد شرطي في ديربيشاير عن مهامه الميدانية ويخضع لتحقيق جنائي بسبب مزاعم استخدام الذكاء الاصطناعي لإنشاء مواد إثباتية في عدة قضايا. ووفقًا لتقرير نقلته صحيفة الغارديان، يجري التحقيق في الادعاء باعتباره محاولة محتملة لإفساد مجرى العدالة.

وقالت القوة إن التحقيق في مراحله المبكرة، ولم تُجرَ أي اعتقالات، وهي تعمل عن كثب مع هيئة الادعاء الملكية بشأن القضايا التي قد تكون تأثرت. ولم يُكشف عن اسم الشرطي، كما لم تُعلن الطبيعة الدقيقة لسوء السلوك المزعوم.

ومع هذه الثغرات، فإن القضية ذات أهمية بالفعل. ويبدو أنها أول تحقيق معروف من هذا النوع في المملكة المتحدة يتعلق بالزعم باستخدام الذكاء الاصطناعي لتوليد مواد إثباتية في إجراءات جنائية. وهذا يجعلها أكثر من مجرد مسألة تأديبية داخلية. إنها تحدٍّ مباشر لنموذج الثقة الذي تعتمد عليه الشرطة والمحاكم.

لماذا تتجاوز هذه القضية قوة شرطة واحدة

الأدلة ليست مجرد معلومات. إنها معلومات جُمعت ووُثِّقت وقُدمت وفق قواعد مصممة للحفاظ على الأصالة وسلسلة الحيازة والمساءلة. الذكاء الاصطناعي التوليدي يعقّد هذه العناصر الثلاثة. إذا استخدم شرطي نظامًا للذكاء الاصطناعي لصياغة أو تعديل أو تلخيص أو إنشاء مادة تدخل لاحقًا في مسار العدالة، فإن السؤال الأساسي يصبح ما إذا كان الناتج يعكس الواقع أم الاستنتاج أم التلفيق.

تكتسب قضية ديربيشاير أهميتها لأن الادعاء لا يقتصر على استخدام الذكاء الاصطناعي كأداة مساعدة إدارية. فالمشكلة التي أُبلغ عنها هي إنشاء المادة الإثباتية نفسها. وتشير هذه العبارة إلى احتمال حدوث خلل في أكثر نقاط العملية الجنائية حساسية: تحويل الوقائع الخام إلى سجلات قد تعتمد عليها المحكمة.

وأكدت هيئة الادعاء الملكية أنها تعمل مع شرطة ديربيشاير، وتتواصل مع فرق الدفاع والمحاكم في القضايا المناسبة، لكنها امتنعت عن التعليق أكثر بينما تتواصل التحقيقات. وهذا يشير إلى أن الادعاء يقيّم بالفعل ما إذا كانت أي إجراءات قائمة أو سابقة قد تأثرت.

تحذير أوسع كان قد بدأ يظهر بالفعل

لم ينشأ التحقيق في فراغ. فقد ذكرت الغارديان أن أليكس موراي، رئيس مركز الذكاء الاصطناعي للشرطة التابع للمجلس الوطني لقادة الشرطة، قال إن عددًا من قوات الشرطة طُلب منها التوقف عن استخدام أنظمة الذكاء الاصطناعي في مهام مثل إعداد بيانات المحكمة لأنها قد لا تكون موثوقة بما يكفي.

ويبدو هذا التحذير الآن استشرافيًا. فالمشكلة في الأنظمة التوليدية في السياقات القانونية ليست فقط أنها قد ترتكب أخطاء، بل إنها قد تفعل ذلك بطلاقة وإقناع وعلى نطاق واسع. وفي بيئة مؤسسية، يخلق ذلك خطرًا يتمثل في أن يكتسب النص المولّد آليًا سلطة غير مستحقة لمجرد أنه يبدو رسميًا أو مكتملًا.

تواجه إدارات الشرطة حوافز واضحة لأتمتة الأعمال الورقية وتقليل العبء الإداري. لكن العدالة الجنائية مجال لا يمكن أن تأتي فيه مكاسب الكفاءة على حساب موثوقية الأدلة. وإذا أُدخلت أدوات الذكاء الاصطناعي دون حدود إجرائية صارمة، فإن إغراء استخدامها بطرق شبه موضوعية يمكن أن يتجاوز السياسة بسرعة.

مشكلة الثقة لدى المحاكم والمدعى عليهم

الأثر المباشر الأكثر أهمية في قضية كهذه ليس تقنيًا بل قانونيًا. ستريد فرق الدفاع أن تعرف ما إذا كانت أي بيانات أو ملخصات أو جداول زمنية أو مواد أخرى تسلمتها قد جرى توليدها أو تعديلها بواسطة الذكاء الاصطناعي. وقد تحتاج المحاكم إلى النظر في مسائل الإفصاح والطعن في الأدلة ومصداقية الضباط المعنيين.

ولهذا فإن عبارة "القضايا التي قد تكون تأثرت" مهمة جدًا. فبمجرد اهتزاز الثقة في إعداد الأدلة، يمكن أن تمتد الآثار إلى ما بعد الاتهام الأصلي. وقد تتطلب كل قضية مرتبطة بالشرطي مراجعة، وقد تحتاج كل مؤسسة تتعامل مع تلك القضايا إلى تحديد الخطوات التصحيحية اللازمة.

والخطر أوسع من ذلك أيضًا. فالثقة العامة في الشرطة تعتمد بدرجة كبيرة على الاعتقاد بأن الأدلة تُجمع وتُسجل بأمانة. وإذا ارتبط الذكاء الاصطناعي بالتلاعب غير الشفاف، فإن حتى سوء الاستخدام المعزول قد يضر بالثقة في الأدوات الرقمية المشروعة التي قد تساعد بخلاف ذلك في المهام الإدارية منخفضة المخاطر.

ما الذي يتطلبه الاستخدام المسؤول للذكاء الاصطناعي في الشرطة

استنادًا إلى الوقائع المبلغ عنها، تُظهر تحقيقات ديربيشاير الحاجة إلى قواعد تشغيلية أوضح. وفي الحد الأدنى، ستحتاج القوات التي تستخدم أنظمة الذكاء الاصطناعي إلى تمييزات واضحة بين المساعدة الكتابية المقبولة وتوليد الأدلة المحظور. كما ستحتاج إلى مسارات تدقيق ومتطلبات إفصاح وضوابط إشرافية قوية بما يكفي لإظهار كيفية إنشاء المستند بدقة.

وتنبثق من المشكلة هنا عدة مبادئ:

• يجب توثيق استخدام الذكاء الاصطناعي في الأعمال الجنائية بشكل صريح وأن يكون قابلًا للمراجعة.
• لا ينبغي أن تُنشأ المواد التي قد تؤثر في المحكمة آليًا دون تصريح صارم وإفصاح.
• يحتاج الضباط إلى تدريب على حدود الموثوقية، وليس فقط إلى الوصول إلى الأدوات.
• يحتاج الادعاء وفرق الدفاع إلى آلية عملية لتحديد المستندات المدعومة بالذكاء الاصطناعي.

هذه الخطوات لن تزيل الخطر، لكنها على الأقل ستقلل الغموض. وفي الوقت الحالي، الغموض هو الخطر الأساسي. فإذا لم يستطع أحد تحديد أين يتوقف الأتمتة وأين تبدأ الملكية الإثباتية، فإن نظام العدالة يرث مشكلة مصداقية يصعب احتواؤها كثيرًا بعد وقوعها.

اختبار ضغط مبكر لحوكمة الذكاء الاصطناعي المؤسسية

كانت الشرطة البريطانية قد بدأت بالفعل في تجربة الذكاء الاصطناعي في مجالات أخرى. وأشارت الغارديان إلى أن شرطة العاصمة في أبريل بدأت تحقيقات مع مئات الضباط بعد استخدام أداة ذكاء اصطناعي طورتها شركة بالانتير لتحديد حالات محتملة لسوء السلوك. يختلف هذا الاستخدام عن مزاعم ديربيشاير، لكن كلاهما يوضح الحقيقة البنيوية نفسها: الذكاء الاصطناعي ينتقل من مرحلة التجريب إلى بيئات اتخاذ القرار في القطاع العام ذات العواقب الكبيرة.

قد يثبت أن تحقيق ديربيشاير حالة سوء سلوك منفردة، أو قد يكشف عن فجوة حوكمة أوسع. ولا تدعم التغطية المتاحة حتى الآن أيًا من الاستنتاجين. لكنها تدعم درسًا أكثر إلحاحًا: لا يمكن للمؤسسات أن تتعامل مع الذكاء الاصطناعي التوليدي بوصفه طبقة إنتاجية محايدة عندما قد تؤثر مخرجاته في الحرية أو الإدانة أو النتائج القضائية.

هذا هو الحد الذي تتجاوزه هذه القضية. فهي تحول القلق المجرد بشأن هلوسات الذكاء الاصطناعي إلى سؤال ملموس حول نزاهة الأدلة. وبغض النظر عن نهاية التحقيق، فمن غير المرجح أن تنظر قوات الشرطة والمحاكم إلى إعداد القضايا بمساعدة الذكاء الاصطناعي بالطريقة نفسها مرة أخرى.

هذا المقال يستند إلى تقرير نشرته صحيفة الغارديان. اقرأ المقال الأصلي.