نموذج قوي يصل ومعه مشكلة فورية في قابلية الاستخدام
قدّم Anthropic نموذجه الجديد Claude Fable 5 على أنه أقوى نموذج عام لدى الشركة، لكن خلال أيام بدأ المطورون الإبلاغ عن سمة مختلفة ومحددة له: كان يرفض أو يخفّض أولوية طلبات تبدو غير ضارة. وتشير الشكاوى إلى مشكلة متكررة في نماذج الحدود. فمع تحسن القدرات، يمكن للضمانات المصممة للحد من الاستخدام عالي المخاطر أن تصبح متدخلة بما يكفي لتعطيل العمل المعتاد.
بحسب المصدر، يُعد Fable 5 أول نموذج عام مشتق من عائلة Mythos لدى Anthropic. وتكتسب هذه السلالة أهمية لأن Mythos أظهر، وفقًا للتقارير، مهارة غير معتادة أثناء التدريب في العثور على أخطاء برمجية واستغلالها لإرباك الأنظمة أو السيطرة عليها. ولذلك جمعت Anthropic بين الأمن السيبراني ومجالات عالية المخاطر أخرى، بما فيها الأحياء والكيمياء، عند تحديد ما الذي يجب أن يُسمح للنموذج العام المشتق من Mythos بالقيام به.
في حالة Fable 5، كان حل Anthropic هو توجيه الطلبات المصنفة على أنها حساسة في تلك المجالات إلى Claude Opus 4.8، وهو نموذج أقل قدرة وله ضوابطه الخاصة. وتقول الشركة إن آلية الإحالة البديلة تؤثر في نحو 0.05% من الاستعلامات وإن المستخدمين يتلقون إشعارًا عند حدوثها. على الورق، يبدو هذا نطاقًا ضيقًا. لكن في الواقع، تشير شكاوى المستخدمين إلى أن أطراف النظام قد تكون أوسع مما قصدته Anthropic.
لماذا أصبحت الإيجابيات الكاذبة هي القصة
لم تكن ردود الفعل الأولى ناتجة عن استخدام خبيث صريح، بل عن تقارير تفيد بأن مهامًا مشروعة كانت تُحظر. ويورد المصدر أمثلة تتراوح من بيانات تسلسل RNA للأغنام إلى تحرير السيرة الذاتية وقوائم التسوق. واشتكى أحد المستخدمين المقتبسين من أن كلمة “cancer” نفسها وُسمت كخطر متعلق بالأمن الحيوي. سواء كانت كل حكاية من هذه الحكايات تمثل نمط فشل شاملًا أم لا، فالنمط واضح: شعر المستخدمون بأن نظام السلامة يتدخل في الاستفسارات المهنية أو الاستهلاكية المعتادة.
تحدي Anthropic سهل الوصف وصعب الحل. أرادت الشركة ضوابط مرئية بدلًا من أن تكون مخفية بالكامل، لكنها أرادت أيضًا أن تكون هذه الضوابط قوية بما يكفي بحيث لا يتمكن المستخدمون من التحايل عليها بسهولة. عادة ما يحتاج المصنف المرئي إلى شبكة أوسع لأن الخصوم يمكنهم اختباره. وهذه الشبكة الأوسع، بدورها، تنتج مزيدًا من الإيجابيات الكاذبة. وبذلك اختارت Anthropic عمليًا الحذر أولًا، ولاحظ المطورون ذلك فورًا.
يقول المصدر إن الشركة “رجّحت جانب الحذر” عند تصميم المصنفات. وهذه الصياغة مهمة لأنها تؤطر المشكلة لا كخلل غير متوقع، بل كمفاضلة. ويبدو أن Anthropic كانت تعلم أن الفحص الأكثر صرامة سيزعج بعض المستخدمين الشرعيين على الأرجح. والنقاش يدور حول ما إذا كان هذا التوازن مقبولًا لنموذج يُقدَّم بوصفه عالي القدرة وواسع الفائدة.
هيكل الضمان مهم
على عكس نظام الرفض البسيط، تتضمن بنية الحواجز في Fable 5 تبديلًا بين النماذج. فالطلبات التي تُعد حساسة تُوجَّه إلى Opus 4.8 بدلًا من أن يعالجها Fable 5 نفسه. وهذا خيار تصميمي مهم. فهو يعني أن Anthropic لا تقوم فقط بتصفية الطلبات، بل تقيد أيضًا بشكل نشط أي نموذج يمكنه التعامل معها. وبالنسبة للمستخدمين الذين يعملون على حافة المجالات التقنية أو العلمية أو المرتبطة بالأمن، قد يعني ذلك خفضًا صامتًا في القدرة حتى عندما يكون الطلب مشروعًا.
وتقول الشركة إن المستخدمين يُخطرون عند حدوث الإحالة البديلة، وهو أفضل من استبدال غير مرئي. لكن الشفافية لا تزيل الإحباط إذا كان النظام لا يزال يحظر العمل المعتاد. يميل المطورون إلى تقبّل حدود السلامة بسهولة أكبر عندما تكون واضحة وضيقة ويمكن التنبؤ بها. أما عندما تتشابك المهام غير الضارة مع قواعد صُممت لملف مخاطر مختلف تمامًا، فإنهم يقاومونها.
لماذا Anthropic شديدة الحذر هنا
يوفر المصدر السبب الأساسي لموقف Anthropic المحافظ: فقد اعتُبرت الأنظمة المشتقة من Mythos قوية بما يكفي في الأمن السيبراني لإثارة قلق داخلي. وهذا وضع المخاطر السيبرانية في الفئة نفسها مع الأحياء والكيمياء لأغراض سياسة الإطلاق. وحين تتخذ مختبرات الذكاء الاصطناعي هذا الحكم، يصبح النشر العام قضية حوكمة بقدر ما هو قضية هندسية.
من منظور Anthropic، قد يكون إطلاق نموذج عالي القدرة من دون قيود قوية في تلك المجالات تصرفًا غير مسؤول. ومن منظور المستخدمين، يصعب الوثوق بنموذج يخلط كثيرًا بين العمل غير الضار والنشاط الخطر في بيئة الإنتاج. هذان الموقفان ليسا متناقضين. إنهما يعكسان التوتر المركزي الذي يشكل منتجات الذكاء الاصطناعي المتقدمة: كلما أصبح النموذج أفضل، زاد الضغط لتقييده، وزادت هذه القيود تهديدًا لتجربة المستخدم التي منحت النموذج قيمته في المقام الأول.
تفسير الشركة يشير إلى مشكلة أوسع في الصناعة
في بيان اقتبسه المصدر، تقول Anthropic إن الضمان المخفي أصعب في الاختبار والتحايل عليه، ما يتيح استهدافه بدقة أكبر، بينما يجب أن يَشبك الضمان المرئي شبكة أوسع ليظل متينًا. وهذا التفسير أقل كونه دفاعًا عن قرار إطلاق واحد وأكثر كونه وصفًا لمعضلة على مستوى الصناعة. فالشفافية تُفضَّل عمومًا من أجل ثقة المستخدم والمساءلة. لكن الشفافية قد تجعل الأنظمة الدفاعية أسهل اختبارًا بشكل خصومي. والنتيجة هي تسوية محرجة: ضوابط مرئية تبالغ في الحظر.
من المرجح أن يصبح هذا التوازن أكثر شيوعًا مع نشر النماذج الحدودية في مسارات عمل حساسة. يريد المطورون مساعدين عاليي القدرة يمكنهم التعامل مع التعقيد التقني الحقيقي. وتريد المختبرات تجنب تسليم أدوات تزيد المخاطر بشكل ملموس في الأمن السيبراني أو الأحياء أو المجالات ذات الصلة. وكلما اقتربت النماذج من أداء الخبراء، ضاق الهامش المقبول لفشل السلامة.
ما الذي يكشفه Fable 5 عن المرحلة التالية من منتجات الذكاء الاصطناعي
يشير إطلاق Fable 5 إلى أن الجبهة التنافسية التالية لم تعد القدرة الخام فقط. بل أصبحت القدرة ضمن القيود. فقد يكون النموذج مبهجًا في المقاييس القريبة من الاختبارات، ومع ذلك يسبب إحباطًا للمستخدمين إذا كانت ضوابطه تُفعَّل كثيرًا أو بشكل غير شفاف. في هذا السياق، تعتمد جودة المنتج ليس فقط على ما يستطيع النموذج فعله، بل على مدى دقة قدرة المزود على التمييز بين النية الخطرة والاستخدام العادي.
وتوحي الاستجابة المبكرة لـ Fable 5 بأن Anthropic لم تصل بعد إلى هذه الدقة. تقول الشركة إن الإحالة البديلة لا تؤثر إلا في نسبة ضئيلة من الاستعلامات، لكن تقارير المستخدمين تُظهر كم يمكن أن يكون الأثر على السمعة كبيرًا عندما تبدو الطلبات المحظورة غير ضارة بوضوح. المطورون حساسون جدًا لهذا الأمر لأنهم يعتمدون على الاتساق. فالنظام الذي يعيد توجيه العمل بشكل غير متوقع أو يرفض مصطلحات أساسية للسياق يصبح سريعًا أصعب في دمجه ضمن سير العمل الجاد.
الجزء الأصعب ما زال قادمًا
تقول Anthropic إنها تعمل على المشكلة. وهذا هو المسار الواقعي الوحيد إلى الأمام. فلا تملك الشركة خيار التخلي عن الضمانات في نموذج مشتق من Mythos، ولا يُرجح أن يقبل المستخدمون نظام فحص واسعًا بشكل دائم. لذلك فإن التحدي التقني والسياساتي هو تضييق المصنف بما يكفي لتقليل الإيجابيات الكاذبة من دون جعله سهل التجاوز.
الأمر ليس مجرد عملية ترقيع. إنه اختبار لمدى قدرة شركات الذكاء الاصطناعي الحدودية على تحويل مبادئ السلامة إلى سلوك منتج يظل قابلًا للاستخدام على نطاق واسع. وقد يظل Fable 5 واحدًا من أقوى النماذج العامة المتاحة. لكن إطلاقه يُظهر أيضًا أن سلامة النموذج لم تعد قضية جانبية. إنها جزء من المنتج، وإذا كانت حادة بشكل مفرط، فسيتعامل معها المستخدمون على أنها فشل في المنتج.
هذه المقالة مبنية على تقرير من Fast Company. اقرأ المقال الأصلي.
Originally published on fastcompany.com
