استضافة النماذج المفتوحة تصطدم بمشكلة متنامية في إساءة استخدام التزييف العميق
أصبحت Hugging Face واحدة من أهم مراكز التوزيع في مجال الذكاء الاصطناعي، خصوصًا بالنسبة للنماذج مفتوحة المصدر وذات الأوزان المفتوحة. لكن تقريرًا جديدًا نقلته The Verge يجادل بأن المنصة تعمل أيضًا كقناة منخفضة العوائق للتزييفات العميقة الجنسية غير الرضائية، بما في ذلك المحتوى الموجّه إلى النساء والأطفال. ويضيف هذا الاكتشاف مزيدًا من الضغط إلى نقاش أوسع حول ما إذا كان ينبغي التعامل مع مستودعات النماذج باعتبارها بنية تحتية محايدة أم بوصفها حراسًا نشطين مسؤولين عن الحد من سوء الاستخدام المتوقع.
وفقًا لتقرير منظمة AI Forensics الأوروبية غير الربحية، فإن سبعة من بين أفضل تسعة نماذج لتحرير الصور اختبرتها على Hugging Face استجابت بسهولة للأوامر التي تهدف إلى “تجريد” النساء من ملابسهن. وقالت المجموعة إنها استخدمت طلبًا مباشرًا عبر النماذج بدلًا من تقنيات كسر الحماية المعقدة، ومع ذلك وجدت أن الأنظمة غالبًا ما كانت تنتج المخرجات المطلوبة. وهذا مهم لأنه يشير إلى أن المشكلة لا تقتصر على المهاجمين المتقدمين تقنيًا. فإذا كان الأمر البسيط ينجح، فإن عتبة الإساءة منخفضة بما يكفي لسوء الاستخدام على نطاق واسع.
ويضع التقرير هذا السلوك في مقابل الضمانات الأقوى الشائعة في أنظمة الذكاء الاصطناعي الاستهلاكية الرائدة لدى الشركات الكبرى. وتشير The Verge إلى أن منتجات الذكاء الاصطناعي التوليدي السائدة مثل Gemini من Google وChatGPT من OpenAI تمنع عمومًا الأوامر التي تحاول نزع ملابس أشخاص حقيقيين أو إضفاء طابع جنسي عليهم. وبالمقارنة، بدت نماذج Hugging Face التي جرى اختبارها وكأنها تفتقر إلى الحماية على مستوى المنصة في هذا المجال أو لا تمتلكها إطلاقًا.
ما الذي كشفه اختبار AI Forensics
تشير نتائج المنظمة غير الربحية إلى مصدرين مترابطين للقلق: سلوك النموذج وطلب المستخدمين. فمن ناحية النماذج، كانت أنظمة تحرير الصور المختبرة، بحسب التقرير، مستعدة لتنفيذ تعليمات مباشرة لإزالة الملابس من صور النساء. ومن ناحية الطلب، أنشأت AI Forensics مساحات تحرير صور “مصيدة” على Hugging Face لمراقبة نوع الأوامر التي سيقدمها المستخدمون، مع تصميم تلك المساحات بحيث لا تنفذ الطلبات.
وخلال فترة امتدت سبعة أيام، قالت المنظمة إن تلك المصائد تلقت أكثر من 1,000 أمر وصورة. ومن بين تلك الطلبات، كان 73% ذا طابع جنسي. ومن بين الطلبات الجنسية، حاول 83% تجريد شخص في الصورة من ملابسه، وكانت 95% من تلك الأهداف نساء. ووفقًا للتقرير كما نقلته The Verge، كان ما يقرب من 7% من الطلبات الجنسية موجّهًا إلى أطفال.
لا تثبت هذه الأرقام الحجم الإجمالي للإساءة عبر المنصة بأكملها. لكنها تقدّم إشارة مركزة إلى نية المستخدمين عندما تصبح الأدوات التي تمتلك هذه القدرة سهلة الوصول. والنمط مهم بشكل خاص لأنه يشير إلى أن سوء الاستخدام ليس حالة هامشية. فالطلبات التي وصلت إلى مساحات المصيدة تركزت حول حالة استخدام ضيقة وضارة: تحويل الصور العادية إلى تزييفات عميقة جنسية من دون موافقة.
مشكلة منصة، لا مجرد مشكلة نموذج
أكثر ما يترتب على التقرير ليس فقط أن بعض النماذج المفتوحة يمكن إساءة استخدامها. فهذا أمر معروف منذ فترة. أما النقد الأشد فهو أنه “لا يجري تنفيذ أي ضمانات على الإطلاق على مستوى المنصة”، بحسب ما نقلته The Verge. عمليًا، ينقل ذلك الانتباه من مطوري النماذج الأفراد إلى طبقة الاستضافة التي تساعد المستخدمين على اكتشاف النماذج وتشغيلها ومشاركتها.
تحتل Hugging Face موقعًا مميزًا في منظومة الذكاء الاصطناعي لأنها في آن واحد مستودع وبيئة تنفيذ. ويمكن تحميل النماذج وقياسها، وفي كثير من الحالات تجربتها مباشرة عبر عروض توضيحية متاحة من خلال المتصفح تُعرف باسم Spaces. هذا المزيج يقلل الاحتكاك في البحث والتطوير المشروعين، لكنه أيضًا يقلل الاحتكاك في سوء الاستخدام إذا لم تواكب أدوات الإشراف وضوابط الوصول هذا التطور.
وبالتالي يطرح التقرير سؤالًا سياسيًا من المرجح أن يتردد صداه بعيدًا عن شركة واحدة: ما الالتزامات التي تقع على عاتق مزودي البنية التحتية عندما يكون نمط الإساءة واضحًا وقابلًا للتكرار ومؤذيًا اجتماعيًا؟ وتكتسب هذه المسألة حساسية خاصة في حالة التزييفات العميقة الجنسية لأن الضرر قد يكون فوريًا وصعب التراجع عنه. فبمجرد إنتاج هذا المحتوى وتداوله، يمكن أن يضر بالسمعة، ويعرّض الضحايا للمضايقة، وفي الحالات التي تشمل القاصرين يثير عواقب قانونية وأخلاقية جسيمة.
كما تُظهر النتائج كيف يتغير النقاش حول النماذج المفتوحة. كانت الحجج السابقة تركز على ما إذا كان إطلاق نماذج قوية سيعجّل الابتكار أكثر مما يزيد المخاطر. أما الآن، فالقلق غالبًا ما يكون تشغيليًا: حتى إذا بقي الانفتاح قيّمًا، فأين يجب أن توجد المرشحات، وعمليات الإزالة، وحدود الاستخدام، وكشف الإساءة؟ إذا ظلت أوزان النماذج متاحة على نطاق واسع، فقد تصبح واجهة المنصة هي النقطة الرئيسية التي تُفرض فيها توقعات السلامة.
لماذا يهم هذا الآن
التوقيت لافت لأن الجهات التنظيمية والمشرعين في عدة ولايات قضائية انتقلوا من نقاشات السلامة العامة في الذكاء الاصطناعي إلى أضرار محددة مثل انتحال الهوية والاحتيال وإساءة استخدام الصور الحميمة. وربطت The Verge هذه القضية بحملة أوسع ضد التزييفات العميقة وبالاهتمام الأخير بالأنظمة التي تنتج مواد جنسية تتضمن أطفالًا. هذا السياق يعني أن المستودعات التي تستضيف أدوات تحرير الصور لن تبقى على الأرجح خارج دائرة الضوء السياسية.
وبالنسبة لصناعة الذكاء الاصطناعي، تذكّر هذه الحادثة بأن الثقة تتشكل بقدر ما تتشكل عبر الإعدادات الافتراضية مثلما تتشكل عبر قدرة النموذج. فليس من الضروري أن يمتلك النظام ذكاءً متقدمًا ليُحدث ضررًا جسيمًا إذا كان سهل الوصول ومهيأً للتلاعب الواقعي بالصور. وبهذا المعنى، فإن مسار الإساءة الذي تصفه AI Forensics أقل ارتباطًا بمخاطر مستقبلية افتراضية وأكثر ارتباطًا بخيارات تصميم المنتج الحالية.
هناك أيضًا بُعد يتعلق بالسمعة بالنسبة لمجتمع المصدر المفتوح. يجادل كثير من المؤيدين، وبحق، بأن الوصول المفتوح يدعم الشفافية والتدقيق المستقل والمشاركة الأوسع في تطوير الذكاء الاصطناعي. لكن هذه الحجج تضعف عندما تبدو حالات الإساءة الشائعة التنفيذ أسهل على المنصات المفتوحة منها في الأنظمة التجارية الأكثر إحكامًا. وقد تعتمد مصداقية حوكمة الذكاء الاصطناعي المفتوح بشكل متزايد على إثبات أن الانفتاح والضمانات القابلة للتنفيذ يمكن أن يتعايشا.
ما الذي يجب مراقبته لاحقًا
- ما إذا كانت Hugging Face ستغيّر الإشراف على مستوى استضافة النماذج أو Spaces استجابةً للتقرير.
- ما إذا كانت المنظمات غير الربحية أو الصحفيون أو الجهات التنظيمية ستعيد إنتاج النتائج باستخدام طرق الأوامر البسيطة نفسها.
- ما إذا كانت المنصات ستبدأ بالتمييز بين استضافة ملفات النماذج وتمكين الوصول الاستهلاكي عبر المتصفح إلى أدوات تحرير الصور عالية المخاطر.
- ما إذا كان صانعو السياسات سيتعاملون مع توليد التزييفات العميقة الجنسية بوصفه قضية حوكمة منصة لا مجرد قضية إساءة استخدام من قبل المستخدمين.
الخلاصة المباشرة واضحة. فالتقرير الذي وصفته The Verge يشير إلى أن بعضًا من أكثر بنى الذكاء الاصطناعي المفتوحة ظهورًا على الويب يمكن استخدامها لإنشاء تزييفات عميقة جنسية غير رضائية بأقل جهد ممكن. وإذا صمدت هذه النتائج أمام تدقيق أوسع، فسيصبح من الأصعب الاستمرار في القول إن المستودعات ليست سوى مضيفين سلبيين.
هذه المقالة مبنية على تغطية The Verge. اقرأ المقال الأصلي.
Originally published on theverge.com
