دعوات للمدارس البريطانية إلى إزالة صور الطلاب مع ظهور قضايا ابتزاز بالذكاء الاصطناعي

تهديد جديد مدعوم بالذكاء الاصطناعي يصل إلى المدارس

يحض خبراء سلامة الطفل في المملكة المتحدة المدارس على إزالة الصور التي يمكن التعرف فيها على التلاميذ من مواقعها الإلكترونية ومنصات التواصل الاجتماعي، بعدما استخدم مبتزون مثل هذه الصور لإنشاء مواد جنسية صريحة بأدوات الذكاء الاصطناعي. ويأتي هذا التحذير عقب حالة مؤكدة واحدة على الأقل استُهدفت فيها مدرسة ثانوية غير مسماة، بعدما أخذ مجرمون صور الطلاب من مصادر عامة على الإنترنت، وحولوها إلى صور مسيئة، ثم طالبوا بالمال كي لا ينشروا المواد.

القضية، كما وصفتها مؤسسة مراقبة الإنترنت، تشير إلى تطور مقلق بشكل خاص في الأذى عبر الإنترنت. فبدلا من سرقة مواد حميمة موجودة مسبقا، بات بإمكان الجناة الآن اختلاقها من صور مدرسية عادية أو صور فعاليات أو منشورات على وسائل التواصل الاجتماعي. وهذا يخفض عتبة الإساءة ويجعل مجرد الظهور العادي على الإنترنت مصدرا محتملا للإكراه.

ما الذي حدث في القضية المبلّغ عنها

وفقا للتقرير المقدم، قالت مؤسسة مراقبة الإنترنت إن مدرسة ثانوية بريطانية غير مسماة تعرضت لمحاولة ابتزاز بعدما استخدم مجرمون صورا مأخوذة من موقع المؤسسة أو حساباتها على وسائل التواصل الاجتماعي. وباستخدام أدوات الذكاء الاصطناعي، حوّلوا تلك الصور إلى مواد اعتداء جنسي على الأطفال وأرسلوا النتائج إلى المدرسة، مهددين بنشرها على الإنترنت ما لم يتم الدفع لهم.

وقالت المنظمة إنها حولت صور الابتزاز إلى تجزئة رقمية، أو بصمة، وشاركت تلك البيانات مع منصات تقنية كبرى للمساعدة في منع رفع المواد. كما قالت هيئة المراقبة إن 150 صورة من ذلك الحادث يمكن تصنيفها على أنها مواد اعتداء جنسي على الأطفال بموجب القانون البريطاني.

وأشارت السلطات إلى أن هذه ليست قضية معزولة. فقد قالت مؤسسة مراقبة الإنترنت إنها على علم بمحاولات ابتزاز أخرى في المملكة المتحدة تتعلق بصور معدلة أُخذت من مواقع المدارس أو حساباتها على وسائل التواصل، حتى إن لم تُنشر تفاصيل تلك الحالات للعامة.

لماذا يُطلب من المدارس تغيير ممارساتها

توصية الخبراء صارمة: إزالة صور وجوه الطلاب التي يمكن التعرف عليها من المواقع الإلكترونية ووسائل التواصل الاجتماعي، أو التفكير في عدم استخدامها على الإطلاق. وتعكس هذه النصيحة نموذجا مختلفا للتهديد. تاريخيا، ربما ركزت المدارس على الموافقة، وإعدادات الخصوصية، أو الحد من التعليقات على المنشورات. أما صعود الذكاء الاصطناعي التوليدي فيعني أن الخطر لم يعد يقتصر على إساءة استخدام الصورة الأصلية. فالصورة نفسها قد تصبح مادة خاما للإساءة الاصطناعية.

بالنسبة إلى المدارس، يخلق ذلك مفاضلة صعبة. فصور حياة الطلاب تُستخدم كثيرا للتعبير عن روح المجتمع، والاحتفال بالإنجازات، وتقديم صورة عامة مرحبة. لكن الظهور العلني الذي بدا في السابق غير ضار إلى حد كبير صار ينطوي الآن على خطر أشد، خاصة عندما تكون الصور سهلة التنزيل والقص وإعادة الاستخدام على نطاق واسع.

كيف تستجيب السلطات

تعامل الوكالة الوطنية لمكافحة الجريمة في المملكة المتحدة وخبراء سلامة الطفل المشكلة بوصفها تهديدا جنائيا ناشئا. وصفت جيس فيليبس، وزيرة الحماية والعنف ضد النساء والفتيات، محاولة ابتزاز المدارس بأنها تطور يثير القلق الشديد، وقالت إن الحكومة ستحدث القوانين الخاصة بالصور الصريحة المولدة بالذكاء الاصطناعي إذا لزم الأمر. وجاءت تصريحاتها بعد الإعلان عن حظر حيازة نماذج الذكاء الاصطناعي المصممة لإنتاج مواد اعتداء جنسي على الأطفال.

المسألة القانونية والسياسية هنا أوسع من مجرد بروتوكول سلامة لمدرسة واحدة. فأنظمة الذكاء الاصطناعي تضغط الزمن بين التقاط الصورة وتعديلها ثم استخدامها في الإكراه. وتتعرض الجهات التنظيمية وأجهزة إنفاذ القانون الآن لضغط لا يقتصر على التعامل مع نشر المواد غير القانونية، بل يشمل أيضا الأدوات وسير العمل التي تجعل الإساءة الاصطناعية أسهل في الإنتاج.

الدرس الأوسع

هذه القصة لا تتعلق بالمدارس فقط. إنها تتعلق بتصادم الذكاء الاصطناعي التوليدي مع التعرض الرقمي اليومي. فموقع المدرسة الإلكتروني، الذي كان يعمل سابقا أساسا كمنصة للمعلومات والمجتمع، قد يصبح الآن أرضا لاصطياد الصور من أجل الابتزاز القائم على الصور. قد تكون المؤسسات هي الضحية في البداية، لكن الضرر الأساسي يقع على الأطفال الذين تُعاد توظيف صورهم في تلفيقات مسيئة.

وتبرز القضية أيضا تحديا متكررا في حوكمة الذكاء الاصطناعي: فالاستخدامات الضارة كثيرا ما تنشأ ليس عبر الأنظمة شديدة التعقيد وحدها، بل من خلال الجمع بين أدوات متاحة على نطاق واسع وبيانات عامة سهلة الوصول. وفي هذه الحالة، البيانات العامة ليست سوى أرشيف الصور اليومي الذي بنته كثير من المدارس عبر سنوات على الإنترنت.

بالنسبة إلى قادة التعليم، فإن الدلالة الفورية عملية. راجعوا سياسات الصور، وحددوا الصور التي يمكن التعرف فيها على الأشخاص، وأعيدوا النظر في ما يحتاج إلى أن يكون علنيا، وافترضوا أن أي صورة موجهة للجمهور يمكن التلاعب بها. أما بالنسبة إلى صناع السياسات، فالدلالة هيكلية. فالإساءة الاصطناعية والابتزاز لم يعودا حالات هامشية، بل أصبحا جزءا من البيئة التشغيلية للمؤسسات الرقمية.

لذلك يستحق التحذير الصادر عن خبراء المملكة المتحدة الانتباه بما يتجاوز حدود بلد واحد. ومع انتشار أدوات الصور التوليدية، فإن الضعف نفسه موجود في أي مكان تنشر فيه المدارس أو منظمات الشباب أو الأسر صور الأطفال على الإنترنت من دون أن تأخذ في الحسبان بالكامل كيف يمكن الآن تسليح تلك الصور.

هذه المقالة مبنية على تقرير من صحيفة The Guardian. اقرأ المقال الأصلي.