ميتا تدفع بمراقبة المحتوى بالذكاء الاصطناعي رغم التحذيرات الداخلية

ميتا تسرّع مراقبة المحتوى بالذكاء الاصطناعي مع تزايد المخاوف الداخلية

تتحرك ميتا بسرعة لنقل حصة أكبر بكثير من أعمال مراقبة المحتوى إلى نماذج اللغة الكبيرة، مقدمة هذا التحول باعتباره تحسينًا في الجودة يمكنه أيضًا إعادة تشكيل اقتصاديات ضبط منصاتها على نطاق عالمي. ووفقًا للتفاصيل الواردة في التقرير، كانت الشركة قد نقلت بالفعل نحو نصف طلبات المراجعة البشرية إلى النماذج اللغوية في عام 2025، وتهدف إلى رفع هذه النسبة إلى أكثر من 90 بالمئة لفئات معينة من المحتوى بحلول نهاية عام 2026.

يمثل ذلك تغييرًا تشغيليًا كبيرًا لإحدى أكبر شركات وسائل التواصل الاجتماعي في العالم. فأنظمة المراقبة تقع في قلب كيفية تنظيم المنصات لحرية التعبير، وإزالة المواد الضارة، وتحديد ما يبقى مرئيًا أو ما يجري خفض أولويته بهدوء. إن الانتقال من مراجعة يغلب عليها العنصر البشري إلى اتخاذ القرار بقيادة النماذج لا يغيّر التوظيف فحسب، بل يغيّر أيضًا المنطق والسرعة وبنية المساءلة التي تقوم عليها آلية الإنفاذ نفسها.

تقول ميتا إن مبرر هذا التحول لا يقتصر على الكفاءة. وتشير الشركة إلى اختبارات منذ مارس تفيد بأن نماذجها اللغوية ترتكب أخطاء أقل بنسبة 13 بالمئة من البشر، مع تحديدها 10 بالمئة أكثر من الانتهاكات الحقيقية للسياسات. وإذا صمدت هذه الأرقام في الأنظمة التشغيلية، فبإمكان ميتا أن تجادل بأن مراقبة المحتوى بالذكاء الاصطناعي ليست تسوية بل ترقية، خصوصًا في القرارات التي تتعلق باللغة الدقيقة أو المحتوى متعدد اللغات أو السياق الذي غالبًا ما تفوته المصنفات الأقدم.

يعكس موقف الشركة أيضًا تحولًا أوسع في القطاع. فقد بُنيت أنظمة المراقبة التقليدية غالبًا حول مصنفات أضيق للتعلم الآلي كانت تؤدي أداءً معقولًا في الفئات المتكررة مثل الرسائل المزعجة أو أنماط الصور المعروفة، لكنها كانت تعاني مع السخرية والغموض واللغة العامية والمراجع الثقافية سريعة التغير. وتَعِد نماذج اللغة الكبيرة بفهم سياقي أفضل، وبالنسبة لمنصة تعمل عبر العديد من اللغات والمناطق، فإن هذا الوعد مهم استراتيجيًا.

الموظفون يصفون انتقالًا أسرع وأكثر خطورة

ترسم الروايات الداخلية التي استشهد بها التقرير صورة أقل استقرارًا. وقال أحد الموظفين إن النماذج ما زالت تحذف محتوى غير ضار أو تفرض عليه حظرًا خفيًا، بينما لم تواكب آليات الإشراف سرعة النشر. وتكتسب هذه المخاوف أهمية لأن أخطاء المراقبة ليست كلها متساوية. فبعض الأخطاء يترك مواد ضارة على الإنترنت، بينما يقمع بعضها الآخر الخطاب المشروع، ويُحبط المبدعين، ويقوض ثقة المستخدمين الذين قد لا يعرفون سبب تغير وصول منشوراتهم أو ظهورها.

وبالتالي، لا يقتصر القلق على ما إذا كان النموذج قادرًا على التفوق على متوسط المراجعين البشريين في اختبارات معيارية، بل يتعلق أيضًا بما إذا كانت الشركة قد بنت ما يكفي من آليات المراجعة والتصعيد والتدقيق حول هذه النماذج قبل تحويلها إلى طبقة الإنفاذ الافتراضية. فمراقبة المحتوى شديدة الحساسية للحالات الحدّية والسياق السياسي وتفسير السياسات. ويمكن لمعدلات الخطأ الصغيرة أن تتحول إلى مشكلات حوكمة كبيرة عندما تُطبّق على مليارات المنشورات والتفاعلات.

كما أن عملية النشر المبلغ عنها تؤثر بالفعل على العمل. ويُقال إن هذا التحول يؤدي إلى تسريحات، ولا سيما بين المتعاقدين الخارجيين الذين تعاملوا طويلًا مع جزء كبير من أعمال المراقبة الصعبة والمجهدة نفسيًا التي تقوم بها المنصات الكبرى. ولسنوات اعتمدت صناعة التكنولوجيا على جيوش من المتعاقدين لمراجعة المواد المزعجة أو الملتبسة التي لم تتمكن الأنظمة الآلية من تصنيفها بثقة. وإذا نجحت ميتا في أتمتة المزيد من هذا العمل، فستتجاوز التبعات الاجتماعية والعمالية ميزانية شركة واحدة بكثير.

ولا يزال موضوع التكلفة محل جدل. ويقول التقرير إن هذا التحول من المتوقع أن يوفر على ميتا مليارات الدولارات سنويًا، بينما تنفي ميتا أن يكون خفض التكاليف هو الدافع الرئيسي وتؤكد على الجودة. وهذان التفسيران ليسا متعارضين بالضرورة. فعلى نطاق ميتا، حتى خفضًا متواضعًا في حجم المراجعة البشرية يمكن أن يحقق وفورات كبيرة، ولدى الشركة حافز واضح للقول إن النظام الأرخص هو أيضًا الأفضل.

تبديل استراتيجي للنماذج داخل حزمة مراقبة ميتا

ومن التفاصيل اللافتة الأخرى حدوث انتقال للنموذج تحت برنامج المراقبة. فقد كانت ميتا تستخدم، وفقًا للتقرير، Gemini من Google في مهام المراقبة والدعم، لكن طُلب من الموظفين الآن الانتقال إلى نموذج أساس من ميتا يسمى Muse Spark. ويشير هذا التحول إلى أن ميتا تريد تحكمًا أشد في نظام أصبح بنية تحتية أساسية بدلًا من كونه أداة مساعدة.

ويمثل امتلاك طبقة النماذج أهمية لعدة أسباب. فهو يمكن أن يقلل الاعتماد على مزودين خارجيين، ويسمح بمواءمة أدق مع إطار سياسات ميتا، ويحافظ على بيانات الإنفاذ الحساسة داخل حلقات التدريب والتقييم الخاصة بالشركة. تُبنى أنظمة المراقبة على القرارات السابقة والاستئنافات وتفسيرات السياسات، لذا فإن الشركة التي تمتلك البيانات والنموذج معًا تستطيع التكرار بسرعة أكبر من شركة تعتمد على ذكاء اصطناعي تابع لطرف ثالث.

لكن ذلك يفاقم أيضًا تحديًا في الحوكمة. فإذا دُرِّبت النماذج على القرارات البشرية التاريخية، فقد ترث ليس فقط المعرفة المؤسسية، بل أيضًا التحيزات القديمة أو عدم الاتساق أو أنماط الإفراط في الإنفاذ. ومن ثم فإن توسيع نطاق المراقبة عبر الذكاء الاصطناعي قد يضخم الأحكام السابقة بدلًا من تصحيحها. ومن دون تدقيق قوي، تخاطر الشركات بتحويل الخصوصيات المتراكمة في السياسات إلى سلوك افتراضي آلي.

وتزداد المخاطر خصوصًا لأن المراقبة يُتوقع منها الآن أن تفعل أكثر من مجرد إزالة المواد المحظورة بوضوح. فالمنصات تدير اليوم المعلومات المضللة والوسائط المعدلة والمضايقات ومحتوى إيذاء النفس والحديث السياسي الحاد عبر ولايات قضائية متعددة. وهذه مجالات تكون فيها الدقة الدقيقة مهمة، كما أن تقبل الجمهور للقرارات الخوارزمية الغامضة منخفض.

إن ثقة ميتا المبلغ عنها بأداء النماذج تُظهر إلى أي مدى انتقل الذكاء الاصطناعي التوليدي من كونه مساعدًا تجريبيًا إلى صانع قرار في الخطوط الأمامية. أما الاعتراضات الداخلية فتُظهر الوجه الآخر لهذا التحول: قد تسبق ضغوط النشر الحذر المؤسسي. وإذا وصلت الشركة إلى هدفها المتمثل في رفع المراقبة بقيادة النماذج إلى أكثر من 90 بالمئة لبعض فئات المحتوى بحلول نهاية 2026، فسيتحول الجدل من سؤال ما إذا كان الذكاء الاصطناعي قادرًا على مساعدة المراجعين إلى سؤال ما إذا كانت المراجعة البشرية تصبح الاستثناء.

وسيضع ذلك ميتا في موقع أحد أوضح الاختبارات لحوكمة المنصات المعتمدة على الذكاء الاصطناعي منذ البداية. فإذا أثبت النظام أنه أكثر دقة وأكثر قابلية للتوسع، فسيتعرض المنافسون لضغط لتقليده. أما إذا أنتج إخفاقات واضحة في المراقبة أو رد فعل سلبيًا بسبب قمع غير مفسر، فقد يصبح دراسة حالة تبيّن لماذا لا تكفي مكاسب الاختبارات المعيارية لتبرير الأتمتة السريعة في مجال حساس اجتماعيًا. وفي كلتا الحالتين، لم تعد الشركة تتعامل مع مراقبة المحتوى بالذكاء الاصطناعي كمجرد تجربة، بل كأنها نموذج التشغيل نفسه.

هذه المقالة مبنية على تقرير The Decoder. اقرأ المقال الأصلي.