البنتاغون يوحد مزودي خدمات الذكاء الاصطناعي — بما فيها Claude من Anthropic

مشكلة محاذاة الذكاء الاصطناعي العسكري

اتخذت وزارة الدفاع الأمريكية مسارًا عدوانيًا في تبني الذكاء الاصطناعي منذ تأسيس مركز الذكاء الاصطناعي المشترك في عام 2018 وخليفته، مكتب رئيس الشؤون الرقمية والذكاء الاصطناعي في عام 2022. لكن مع قيام البنتاغون بتوقيع عقود مع عدد متزايد من شركات الذكاء الاصطناعي — من مقاولي الدفاع الراسخين إلى شركات وادي السيليكون الناشئة إلى مختبرات النماذج الحدودية — ظهرت تحديات جديدة: انتشار أدوات الذكاء الاصطناعي غير المتوافقة، والإصدارات المختلفة من النماذج، ومستويات القدرات غير المتسقة عبر الأوامر والفروع العسكرية.

يتمثل رد البنتاغون في محاولة توحيد مزودي خدمات الذكاء الاصطناعي وجعل جميعهم يعملون على ما يسميه المسؤولون الخط الأساس نفسه — مجموعة مشتركة من إصدارات النموذج و API وسياسات الأمان ومعايير الأداء التي ستسمح لأنظمة عسكرية مختلفة بالتشغيل المتبادل وتسمح لمسؤولي الإشراف بالحصول على صورة متماسكة لقدرات الذكاء الاصطناعي المنتشرة وأماكن انتشارها.

Claude في السياق العسكري

من بين الأنظمة التي يسعى البنتاغون إلى توحيد الوصول إليها Claude من Anthropic — وهو أحد نماذج اللغة الحدودية الكبيرة التي تم استخدامها من قبل مقاولين مختلفين مرتبطين بالدفاع ومباشرة من قبل منظمات DoD لمهام تشمل تحليل الوثائق ومعالجة المعلومات الاستخباراتية ودعم القرارات. يعكس إدراج Claude جنبًا إلى جنب مع الأنظمة من OpenAI و Google و Microsoft رغبة البنتاغون في الحفاظ على الخيارات عبر عدة مزودي ذكاء اصطناعي حدودي بدلاً من أن تصبح معتمدة على أي بائع واحد.

كانت Anthropic على علاقة أكثر تعقيدًا مع المقاولات العسكرية من بعض منافسيها. تحظر سياسة الاستخدام المقبول للشركة استخدام Claude لتطوير الأسلحة والهجمات على البنية التحتية الحيوية وعدة فئات أخرى من التطبيقات الضارة. لكن الخط الفاصل بين الحالات الاستخدامية المحظورة والمسموحة في السياق العسكري ليس دائمًا واضحًا — تحليل الوثائق وتحسين الخدمات اللوجستية ودعم القرارات هي تطبيقات محايدة تظاهريًا يمكن أن تسهم فعليًا في العمليات العسكرية بما فيها العمليات القاتلة.

استقالة رئيس قسم الروبوتات في OpenAI، Caitlin Kalinowski، من صفقة البنتاغون هذه — واستشهادًا بمخاوف بشأن الاستقلالية القاتلة وعدم كفاية الحوار — تسلط الضوء على التوترات الأخلاقية التي تواجهها شركات الذكاء الاصطناعي الحدودية وهي تتعامل مع عملاء عسكريين. لم تفصح Anthropic علنًا عن الشروط المحددة التي يكون Claude متاحًا بموجبها لعملاء DoD أو آليات الإشراف التي تحكم استخدامه العسكري.

الذكاء الاصطناعي للاستهداف العسكري: القضية الأساسية

أكثر التطبيقات حساسية للذكاء الاصطناعي في السياقات العسكرية هو الاستهداف — استخدام الأنظمة الآلية لتحديد الأهداف وتحديد أولويات الأهداف وفي بعض الحالات المساعدة في مشاركة الأهداف العدوية. تتطلب عقيدة الجيش الأمريكي التفويض البشري لقرارات القوة القاتلة، لكن دور الذكاء الاصطناعي في معالجة بيانات المستشعرات وتحديد الأهداف المحتملة وتقديم التوصيات لمتخذي القرارات البشريين توسع بشكل كبير في السنوات الأخيرة.

Project Maven، برنامج البنتاغون لتحليل الصور المستند إلى الذكاء الاصطناعي، يعالج لقطات مراقبة الطائرات بدون طيار لتحديد أهداف الاهتمام لمراجعة بشرية. الذكاء الاصطناعي لا يتخذ القرار القاتل النهائي — يفعله إنسان — لكنه يشكل المعلومات التي تصل إلى الإنسان وكيفية تأطيرها، مما يثير أسئلة حول الجودة الحقيقية للإشراف البشري الذي تتطلبه العقيدة اسميًا.

يُعتبر جهد التوحيد رد فعل جزئي على مخاوف الإشراف: إذا كانت أنظمة ذكاء اصطناعي مختلفة تعطي مخرجات مختلفة للمدخلات نفسها، أو إذا لم يكن لدى أحد محاسبة كاملة بأنظمة الذكاء الاصطناعي التي تسهم في أي قرارات، فإن الإشراف البشري ذو المعنى على استهداف مساعد بالذكاء الاصطناعي يصبح صعبًا للغاية. يؤدي التوحيد إلى قابلية التدقيق — القدرة على معرفة أي نموذج، بأي إصدار، تحت أي إعدادات أمان، كان متضمنًا في أي سلسلة قرار معينة.

سؤال الهندسة الأخلاقية

يجادل النقاد في مجتمع أخلاقيات الذكاء الاصطناعي بأن التوحيد يعالج مشكلة حكم لكنه لا يحل السؤال الأخلاقي الأساسي: ما إذا كان يجب استخدام الذكاء الاصطناعي في قرارات الاستهداف على الإطلاق، وإذا كان الأمر كذلك تحت أي قيود. الحصول على جميع مزودي ذكاء اصطناعي عسكري على نفس الخط الأساس يعني تحديد ما هو هذا الخط الأساس — ما القيم، وما سياسات الأمان، وما الاستخدامات المحظورة المضمنة في المعيار. تحدث عملية التعريف هذه إلى حد كبير خارج الأنظار العامة.

رهانات تحقيقها بشكل صحيح عالية جدًا. أنظمة الذكاء الاصطناعي التي تدخل التحيز في قرارات الاستهداف، وتلك التي تهلوس تقييمات التهديدات، أو تلك التي يتم التلاعب بها من خلال مدخلات معاكسة قد تسهم في أخطاء كارثية في حالات القتال. دفع البنتاغون نحو التوحيد هو اعتراف بهذا الخطر — لكن كفاية الاستجابة ستُحكم في النهاية من خلال كيفية أداء الأنظمة في ظروف تشغيلية لا يمكن توقع بالكامل مسبقًا.

تستند هذه المقالة إلى تقارير من MIT Technology Review. اقرأ المقالة الأصلية.