ضغط الحكومة يصطدم بحدود أمن النماذج

إن النزاع بين مسؤولين أمريكيين وAnthropic بشأن إطلاق نموذج Fable 5 للشركة يسلّط الضوء على توتر أساسي في سياسة الذكاء الاصطناعي الحدّي: قد ترغب الحكومات في أن تكون الأنظمة عالية القدرة غير قابلة للاختراق فعليًا قبل طرحها على نطاق واسع، لكن التكنولوجيا لا تبدو قادرة على دعم هذا المعيار.

وفقًا للمادة المصدرية، يتهم مسؤولون في الإدارة شركة Anthropic بتجاهل أمر تنفيذي سيبراني صادر حديثًا عن ترامب من خلال إطلاق Fable 5 دون انتظار مراجعة جهة حكومية مخصصة. ويقول التقرير إن إطار الرقابة لم يكن قد اكتمل بعد عندما تم إطلاق النموذج.

ولا يقتصر النقد على الإجراء نفسه. فمسؤول وردت أقواله في المصدر يدعي أن Anthropic كانت تعلم بإمكانية وقوع كسر للقيود ومع ذلك مضت قدمًا. ولم يكن وجود الكسر المحدد محل النزاع أو شدته قد تأكد في النص المصدر، لكن الاتهام نفسه يشير إلى اتساع الصدام بين توقعات السياسات والواقع العملي لسلوك نماذج اللغة الكبيرة.

المشكلة التقنية الأساسية

يقول المصدر إن هذا الخلاف يكشف بقدر ما يكشف عن فهم الحكومة للذكاء الاصطناعي، فهو يكشف أيضًا عن اختيارات Anthropic. والسبب بسيط: العاملون عن قرب مع نماذج اللغة المتقدمة يتعاملون عادة مع حقن الأوامر وكسر القيود بوصفهما مخاطر مستمرة لا مشكلات تم حلها بالكامل.

ويشير المقال إلى أن OpenAI حذرت من أن حقن الأوامر قد لا يُحل بالكامل أبدًا. وهذا مهم لأن المطالبة بنماذج حدّية «غير قابلة للاختراق» تضع معيارًا قد يتعذر تحقيقه عمليًا، على الأقل بالهياكل المعمارية وأساليب النشر الحالية. وبالتالي فالسؤال الواقعي ليس ما إذا كان نموذج قوي يمكن أن يصبح مؤمّنًا تمامًا يومًا ما، بل مدى خطورة الإخفاقات، ومدى سرعة تطبيق التدابير المضادة، وما هي حالات الاستخدام التي تتطلب احتواءً أشد.

لماذا ترتفع المخاطر مع النماذج الحدّية

يتصاعد التوتر السياسي عندما تكون النماذج قادرة على المساعدة في مهام مرتبطة بالعلوم أو التكنولوجيا أو الأحياء. ويذكّر المصدر بأن الرئيس التنفيذي لـ Anthropic، داريو أمودي، قال في عام 2023 إن كسر القيود قد يصبح مسألة حياة أو موت إذا جرى تجاوز بروتوكولات السلامة في تلك المجالات.

وهذا يفسر لماذا قد يضغط المسؤولون بقوة على الرقابة والانضباط في الإطلاق. كما يوضح لماذا لا تستطيع الصناعة التعامل مع مخاوف كسر القيود بوصفها مجرد عبث إنترنتي معتاد. ففي المستوى الحدّي، قد تكون للإخفاقات تداعيات على المعرفة ذات الاستخدام المزدوج، أو سوء الاستخدام، أو تآكل الثقة في أطر الحوكمة الطوعية.

اختبار للحوكمة بقدر ما هو اختبار للأمن

يقول التقرير إن مسؤولين في وزارة التجارة وموظفين في Anthropic يجتمعون للنقاش، مع اجتماعات أخرى مقررة تشمل CIA والمستشار العلمي مايكل كراتسيوس. كما يقول إن أكثر من 100 خبير أمن وتنفيذي تقني وقعوا رسالة مفتوحة تدعو إلى فرض ضوابط تصدير على Fable 5.

وتشير هذه التفاصيل مجتمعة إلى أن الجدل لا يتعلق بإطلاق نموذج واحد فحسب، بل أيضًا بمن يحدد مستوى المخاطر المقبول، وكيف ينبغي أن تعمل الرقابة الطوعية قبل قيام المؤسسات الرسمية، وما إذا كانت شركات الذكاء الاصطناعي قادرة على التحرك أسرع من الحكومات من دون تقويض الثقة في الترتيب بأكمله.

  • يقول مسؤولون أمريكيون إن Anthropic أطلقت Fable 5 دون انتظار آلية المراجعة المخطط لها.
  • يدور الخلاف حول خطر كسر القيود والرقابة الحكومية.
  • يقول المصدر إن المطالبة بنماذج لغوية كبيرة غير قابلة للاختراق قد تكون غير واقعية تقنيًا.

الدرس الأوسع غير مريح لكنه مفيد. قد لا يصل أمن الذكاء الاصطناعي الحدّي إلى عتبة ثنائية من الآمن أو غير الآمن. بل من المرجح أن يظل مسألة تخفيف متعدد الطبقات، وخيارات نشر مقيدة، ومراقبة، واستجابة بعد الإطلاق. إنه نموذج حوكمة أصعب في الشرح، لكنه ينسجم بدرجة أفضل مع التكنولوجيا الموصوفة في المصدر.

إذا واصل صانعو السياسات المطالبة بأمن مطلق من أنظمة تقاوم بطبيعتها الأمن المطلق، فإن مثل هذه الصدامات ستصبح أكثر شيوعًا. وقد تعتمد المرحلة التالية من حوكمة الذكاء الاصطناعي على ما إذا كان الطرفان قادرين على استبدال المعايير المستحيلة بمعايير قابلة للتنفيذ ومرتكزة تقنيًا.

هذه المقالة مبنية على تقرير من The Decoder. اقرأ المقال الأصلي.

Originally published on the-decoder.com