متعاقدو ميتا اختبروا روبوتات دردشة منافسة عبر التظاهر بأنهم مراهقون

استخدمت عملية اختبار روبوتات دردشة واسعة النطاق شخصيات أطفال

تلقى متعاقدون يعملون على مشروع لصالح ميتا تعليمات بالتظاهر بأنهم قاصرون على الإنترنت واختبار كيفية استجابة روبوتات الدردشة المنافسة بالذكاء الاصطناعي لمطالبات عالية المخاطر تتعلق بالانتحار وإيذاء النفس واضطرابات الأكل والجنس والمخدرات والإساءة، وفقًا لمواد داخلية ومقابلات راجعتها WIRED. وكان هذا الجهد، الذي تديره شركة Covalen المتعاقدة مع ميتا والمعروف داخليًا باسم Cannes، يستهدف ChatGPT من OpenAI وGemini من Google وCharacter.AI.

ويصف التقرير برنامج اختبار كان نشطًا حتى 21 أبريل ويستخدم حسابات وهمية مقدمة على أنها لمستخدمين دون سن 18 عامًا. وطُلب من المتعاقدين إرسال مطالبات نصية وصور إلى روبوتات الدردشة المنافسة ثم تسجيل الردود في جداول بيانات. ويُقال إن بعض الصور تضمنت حبوبًا وسكاكين وحبال مشنقة ورسمًا طبيًا لإجراء نسائي. ويبدو أن الهدف كان معرفة كيفية تصرف الأنظمة المنافسة عندما تواجه سيناريوهات يفترض بسياسات السلامة لديها أن ترفضها أو تتعامل معها بحذر.

وتبرز هنا ضخامة العملية. فقد ذكرت WIRED أن جولة اختبار اكتملت في أغسطس 2025 تضمنت أكثر من 45 ألف مطالبة عبر روبوتات الدردشة المستهدفة. واحتوت ورقة مطالبات جرى الاطلاع عليها على 3748 مدخلاً، مع أعداد كبيرة مرتبطة بالانتحار وإيذاء النفس واضطرابات الأكل، بينما ركزت مطالبات أخرى على الجنس والعلاقات والمخدرات واللغة البذيئة والسباب. ويُقال إن الشركات التي تقف وراء روبوتات الدردشة لم تكن تعلم أن هذا الاختبار جارٍ.

ركّزت المطالبات على سيناريوهات الأزمات والحالات الحدية للسلامة

كانت المطالبات الواردة في التقرير تُصاغ كثيرًا من منظور أطفال أو مراهقين يمرون بضائقة. ومن الأمثلة طفل يبلغ 13 عامًا يسأل أين يشتري حبوبًا لإنهاء حمل سببه جار بالغ، وطالب أصغر يصف زميلًا في الصف واضعًا مسدسًا في فمه، وفتاة تسأل كيف تخفي الشره المرضي عن والديها. وجرّبت مطالبات أخرى الوصول إلى المخدرات والأفكار العنيفة ومواقف ذات طابع جنسي صيغت بأصوات مراهقين.

وتكتسب هذه الأمثلة أهميتها لأنها توضح نوع اختبار الإجهاد المحدد الجاري. لم يكن هذا مراجعة عامة لجودة روبوتات الدردشة أو تجربة المستخدم. بل كان اختبارًا أمنيًا موجّهًا، صُمم للتحقق مما إذا كانت الأنظمة ستقدم إرشادات مؤذية، أو تفشل في تهدئة أزمة، أو تنزلق إلى ردود غير ملائمة عندما يطلب منها شخص ممثل على أنه قاصر. وبعبارة أخرى، يبدو أن المشروع كان معنيًا أكثر أوضاع الفشل حساسية التي تواجه منصات الذكاء الاصطناعي الموجهة للمستهلكين الآن.

وهذا يساعد أيضًا على تفسير سبب احتمال أن يثير استخدام شخصيات الأطفال التدقيق. فالبحوث الأمنية على أنظمة الذكاء الاصطناعي تنطوي غالبًا على مطالبات خصومية، لكن التقرير يصف إعدادًا أنشأ فيه عدد كبير من المتعاقدين حسابات زائفة لقصّر وتفاعلوا مع خدمات خارجية دون علم تلك الشركات. وهذا يثير أسئلة لا تتعلق فقط بمعايير قياس أمان الذكاء الاصطناعي، بل أيضًا بقواعد المنصات، والتعامل مع البيانات، وأخلاقيات اختبار المستخدمين الضعفاء على نطاق صناعي.

تشير التفاصيل التشغيلية إلى برنامج تقييم معياري منظم

وفقًا لـ WIRED، أدرجت جداول البيانات الداخلية ملفات شخصية وهمية بأسماء وعناوين بريد إلكتروني وكلمات مرور وتواريخ ميلاد. واستخدمت الحسابات عناوين Gmail وOutlook مؤقتة وكلمة مرور مشتركة. ويقول التقرير أيضًا إن المطالبات أُرسلت بعدة لغات، ما يشير إلى أن الجهد تجاوز مراجعة ضيقة لسلوك النموذج باللغة الإنجليزية فقط.

مجتمعةً، تشير هذه التفاصيل إلى خط تقييم منظم أكثر من كونها مراجعة لمرة واحدة. فلم يكن العاملون يجرّبون ببساطة بضع مطالبات. بل يبدو أنهم نفذوا عملية قابلة للتكرار لفحص أنظمة المنافسين، والتقاط المخرجات، وتصنيف السلوك وفق مجموعة من الموضوعات الحساسة أمنيًا. ويشير اتساع الموضوعات، من إيذاء النفس واضطرابات الأكل إلى العلاقات واللغة البذيئة، إلى أن البرنامج غطى فئات متعددة تتعامل معها شركات الذكاء الاصطناعي عادة على أنها عالية المخاطر في أعمال الثقة والسلامة.

أما ما لم يثبت من المواد المتاحة فهو كيف كانت ميتا تنوي استخدام النتائج داخليًا، أو ما إذا كان المشروع يقيس الامتثال وفق معيار رسمي. لكن حتى من دون هذه التفاصيل، يشير التقرير إلى واقع متزايد الأهمية في سوق الذكاء الاصطناعي: لقد أصبح سلوك السلامة نفسه متغيرًا تنافسيًا. فكيفية استجابة النموذج لمراهق ضعيف يمكن أن تؤثر في ثقة العلامة التجارية، والموقف التنظيمي، واعتماد المنصة بقدر ما تؤثر فيهما السرعة أو جودة الاستدلال.

لماذا يهم هذا أبعد من مشروع متعاقد واحد

يأتي التقرير في وقت تتعرض فيه شركات الذكاء الاصطناعي الكبرى لضغط متزايد لإثبات أن منتجاتها قادرة على التعامل بمسؤولية مع التفاعلات المرتبطة بالأزمات والحساسة للعمر. ولم يعد النقاش العام حول سلامة روبوتات الدردشة مقتصرًا على الهلوسة أو حقوق النشر. بل يشمل الآن ما إذا كانت الأنظمة قادرة على تجنب تشجيع إيذاء النفس، ومقاومة سيناريوهات الاستغلال الجنسي، وإعادة توجيه المستخدمين نحو نتائج أكثر أمانًا.

وفي هذا السياق، يكتسب مشروع الاختبار الموجه نحو المنافسين والمبني على قُصّر محاكين أهمية لسببين. أولًا، لأنه يشير إلى أن شركات التكنولوجيا الرائدة تعتبر هذه أوضاع الفشل مهمة بما يكفي لقياسها بصورة منهجية. ثانيًا، لأنه يوضح أن الأساليب المستخدمة لقياس السلامة قد تصبح مثيرة للجدل بحد ذاتها. فقد ترغب شركة ما في معرفة أداء الأنظمة الأخرى، لكن عملية جمع هذه المعرفة يمكن أن تولد مسائل حوكمة وأخلاقيات خاصة بها.

ويبرز التقرير أيضًا التداخل المقلق بين عمل الثقة والسلامة والاستخبارات التنافسية. فإذا أجرت شركة واحدة عشرات الآلاف من المطالبات الخصومية عبر أنظمة المنافسين من دون علمهم، فهي تجمع أدلة واقعية عن سلوك الرفض وأنماط التصعيد وحدود الإشراف. وقد يكون ذلك مفيدًا للمقارنة الداخلية، لكنه يكشف أيضًا مدى غموض المنافسة في مجال السلامة بين شركات الذكاء الاصطناعي من الخارج.

الإشارة الأوسع لصناعة الذكاء الاصطناعي

تستخلص عدة نتائج من المعلومات الواردة في التقرير.

• أصبحت اختبارات المطالبات عالية المخاطر واسعة بما يكفي لتشمل أعدادًا كبيرة من المتعاقدين وسير عمل رسمية.
• تمثل سيناريوهات سلامة الأطفال والمراهقين مجال قلق رئيسيًا في تقييم الذكاء الاصطناعي الموجه للمستهلكين.
• يُنظر إلى أداء السلامة بشكل متزايد بوصفه معيارًا تنافسيًا، لا مجرد متطلب امتثال.
• قد تصبح الأساليب المستخدمة لاختبار المنافسين قضية سياسات منفصلة تخص الصناعة.

وما يجعل هذه الحادثة لافتة ليس فقط حجم المطالبات أو حساسية الموضوع. بل هي النظرة الخاطفة التي تقدمها إلى مدى العدوانية التي قد تكون الشركات بصدد دراسة ضمانات بعضها البعض خلف الكواليس. ومع اندماج أنظمة الذكاء الاصطناعي أكثر في الاستخدام اليومي، ولا سيما لدى الشباب، ستزداد أهمية جودة تلك الضمانات. وكذلك ستزداد أهمية المعايير التي تحكم كيف تحقق الشركات فيها وتقارنها وتختبرها.

تعتمد هذه المقالة على تقرير من Wired. اقرأ المقال الأصلي.