أنظمة الاستهداف الأمريكية تحت التدقيق بعد ضربة مدرسة

عملية عسكرية في عصر الذكاء الاصطناعي تواجه بنية تحتية موروثة

أدى تقرير عن ضربة صاروخية أصابت مدرسة في إيران إلى تكثيف الأسئلة حول ما إذا كانت أنظمة الاستهداف لدى الجيش الأمريكي تتطور بأمان مع ازدياد دور الذكاء الاصطناعي في التخطيط للحرب. ووفقًا للنص المصدر المقدم، وجد المحققون أن ملاحظة حاسمة تُعرّف الموقع على أنه مدرسة ابتدائية لم تصل أبدًا إلى القادة لأن أداة الاستخبارات ذات الصلة لم تكن متصلة بقاعدة بيانات الاستهداف الرسمية.

لا يصوّر المصدر هذه القضية على أنها مجرد خلل برمجي بسيط. بل يعرضها على أنها انهيار عبر عدة طبقات: صور قديمة، وأنظمة استخبارات معزولة، ومعالجة يدوية للبيانات، والاستخدام العملياتي السريع لأدوات الذكاء الاصطناعي ضمن سلسلة قرار لا تزال تعتمد على سجلات غير مكتملة. والتوتر الناتج عن ذلك يصعب تجاهله. قد يتمكن الذكاء الاصطناعي من اقتراح الأهداف بسرعة، لكن السرعة لا تعوض عن البيانات المصدرية المعطوبة أو قواعد البيانات المنفصلة.

الملاحظة المفقودة في قلب القضية

يقول السرد الملخص في المادة المقدمة إن الموقع في مدينة ميناب، جنوب شرق إيران، كان قد صُنّف سابقًا من قبل الولايات المتحدة على أنه منشأة بحرية عسكرية إيرانية. لكن في عام 2019، قيل إن محللًا رصد تغييرات تُظهر أن المبنى أصبح مدرسة ابتدائية. وقد أُدخلت هذه الملاحظة إلى أداة استخبارات رقمية، لكن الأداة لم تكن مرتبطة بقاعدة بيانات الأهداف المعتمدة المستخدمة لتطوير أهداف الضربات.

وبالتالي، لم تصل المعلومات المحدثة أبدًا إلى النظام الذي اعتمد عليه القادة. ووفقًا للنص المصدر، تمت مراجعة المبنى عدة مرات، لكن قاعدة البيانات لم تُصحح. ويقول نفس المادة إن الصور المستخدمة في المراجعة كانت قديمة بسبع سنوات. وعند جمع هذه التفاصيل معًا، فإنها تشير إلى فشل أساسي في حوكمة البيانات: كانت المعلومات موجودة، لكن العملية لم تضمن انتقالها إلى النظام الذي كانت فيه الأهمية الأكبر.

كانت العواقب كارثية. وتقول المصادر إن الضربة التي وقعت في أواخر فبراير قتلت ما يُقدّر بـ120 طفلًا. وكان المحققون قد اعتبروا بالفعل أن القوات الأمريكية هي المسؤولة على الأرجح، ثم ربطت تقارير لاحقة موصوفة في النص المقدم هذا الاستنتاج بإخفاقات تقنية وإجرائية محددة.

دور الذكاء الاصطناعي: نطاق واسع من دون سياق مضمون

تأتي هذه القضية في لحظة حساسة للغاية لأن الجيش الأمريكي كان، بحسب التقارير، يستخدم الاستهداف بمساعدة الذكاء الاصطناعي على نطاق واسع خلال النزاع نفسه. ويقول النص المصدر إن نموذج Claude من Anthropic كان مدمجًا في Maven Smart System من Palantir، واقترح نحو 1000 هدف في اليوم الأول. كما يستشهد بتقارير سابقة تفيد بأن أكثر من 3000 هدف جرى ضربها في الأيام الأولى للحملة.

وتكمن أهمية هذه الأرقام أقل في كونها مقياسًا للتطور التقني وأكثر في كونها مقياسًا للوتيرة. وعلى هذا النطاق، تصبح أي نقطة ضعف في بيئة البيانات الأساسية أكثر خطورة. يمكن للذكاء الاصطناعي تسريع الفرز والترتيب والتوصية. لكنه لا يستطيع إصلاح السجلات التي لم تُحدَّث أصلًا في نظام السجل، ولا حل التناقضات المخفية في قواعد البيانات التي لا تتواصل مع بعضها البعض.

هذا التمييز أساسي لفهم مشكلة السياسات. غالبًا ما تركز النقاشات العامة حول الذكاء الاصطناعي العسكري على ما إذا كان ينبغي السماح للنموذج بالتوصية بالأهداف القاتلة أو ترتيب أولوياتها. وتشير هذه القضية إلى مسألة أكثر هدوءًا لكنها لا تقل أهمية: حتى النموذج الخاضع لإشراف صارم يمكن أن يساهم في نتائج سيئة إذا كان يعمل على معلومات ناقصة أو قديمة أو مجزأة بنيويًا.

عبء الأنظمة القديمة

يعرّف النص المصدر قاعدة بيانات مركزية تُسمى MIDB، أُنشئت في الثمانينيات، ولا تزال تعتمد إلى حد كبير على الإدخال اليدوي. ويقول إن MIDB من المفترض أن تُستبدل بنظام آلي يُسمى MARS، لكن الانتقال متأخر عن الجدول الزمني بسنوات. وكانت هيئة المساءلة الحكومية قد أشارت بالفعل إلى أوجه قصور مستمرة في عام 2020، بحسب المادة نفسها.

تساعد هذه البنية في تفسير لماذا المشكلة أكبر من مجرد ملاحظة مفقودة. يمكن لمنظمة عسكرية أن تنشر تعلّم الآلة المتقدم في أجزاء من سير عملها، بينما لا تزال تعتمد على عمود بيانات فقري صُمم لعصر مختلف. وفي مثل هذه البيئة، يصبح الذكاء الاصطناعي طبقة فوق التجزؤ المؤسسي بدلًا من أن يكون إعادة تصميم حقيقية للنظام.

يكمن الخطر في أن يعتقد المشغّلون أن العملية أكثر حداثة وتكاملاً وموثوقية مما هي عليه فعليًا. فالنموذج المدمج في منصة قيادة بارزة قد يخلق انطباعًا بالتماسك التقني حتى عندما تظل البيانات الحاسمة تتدفق عبر مسارات هشة وجزئية يدوية.

المراجعة البشرية ليست شعارًا

يذكر النص المصدر أيضًا مخاوف من أن آليات الرقابة الخاصة بالمراجعة البشرية للقرارات القاتلة كانت تعاني من نقص التمويل. وهذا مهم لأن “الإنسان في الحلقة” يُعامل غالبًا على أنه ضمانة كافية في نقاشات سياسة الذكاء الاصطناعي. عمليًا، لا تنجح المراجعة البشرية إلا إذا كان لدى المراجعين الوقت والسياق والوصول إلى البيانات الصحيحة. وإذا كانت قواعد البيانات منفصلة، والصور قديمة، وسير العمل مصممًا للسرعة، فقد تتحول المراجعة البشرية إلى نقطة تحقق شكلية بدلًا من أن تكون ضابطًا فعليًا.

تؤكد هذه القضية أن الحكم البشري لا ينفصل عن تصميم النظام. فلا يمكن للمراجع التحقق مما لا يعرضه النظام. ولا يمكن للقائد اكتشاف توصيف مدرسة مدفون في أداة غير مرتبطة. إن الفشل الجوهري الموصوف هنا لم يكن غياب البشر، بل غياب مسار موثوق يسمح لوصول المعرفة البشرية إلى عملية الاستهداف المعتمدة.

ما الذي يغيره الحادث

من المرجح أن يكون الأثر المباشر هو تجدد التدقيق في تكامل البيانات العسكرية، وليس مجرد جدل بسيط حول ما إذا كان ينبغي استخدام الذكاء الاصطناعي. والمادة المقدمة نفسها تشير إلى هذا الاستنتاج من خلال التركيز على الأنظمة التي لم تكن تتواصل مع بعضها البعض. ويرجو بعض الخبراء المذكورين هناك أن يؤدي إدخال مزيد من الذكاء الاصطناعي وروابط أفضل بين الأنظمة الرقمية إلى تقليل الأخطاء. قد يكون ذلك صحيحًا، لكن فقط إذا اعتُبر التكامل أولوية لا افتراضًا.

وهناك أيضًا درس أعمق للحكومات التي تتسابق لتفعيل الذكاء الاصطناعي في الدفاع. فقد لا تنشأ أكثر الإخفاقات تأثيرًا من سلوك النماذج المتقدمة، بل من الإهمال المؤسسي العادي: قواعد بيانات عتيقة، وتأخر التحديث، وخطط ترحيل غير مكتملة، وحوافز تكافئ الإنتاجية بدلًا من التحقق. ويمكن للذكاء الاصطناعي أن يضخم هذه الضعف عبر زيادة السرعة التي تتحرك بها ترشيحات الأهداف عبر النظام.

بالنسبة للمخططين العسكريين وصناع السياسات، فإن المغزى غير مريح لكنه واضح. فالاستهداف بمساعدة الذكاء الاصطناعي ليس قدرة قائمة بذاتها. إنه يرث نقاط القوة والإخفاق في البنية التحتية للبيانات التي تحته. وإذا كانت تلك البنية لا تستطيع استيعاب تحديثات الميدان بشكل موثوق، أو مواءمة مصادر الاستخبارات، أو الحفاظ على التغييرات عبر دورات المراجعة، فإن المزيد من الأتمتة قد لا يفعل سوى تسريع الطريق إلى الخطأ.

تحذير من التحديث عبر الطبقات

يبدو تحقيق ضربة المدرسة، كما ينعكس في التقرير المقدم، أقل كإدانة لنموذج واحد وأكثر كتحذير من التحديث عبر الطبقات. فقد أُدخلت أدوات ذكاء اصطناعي جديدة إلى عملية لا تزال تعتمد على أنظمة متقادمة وسير عمل يدوي. وكانت النتيجة ليست تعزيزًا سلسًا، بل عدم تطابق خطير بين السرعة الحسابية والذاكرة المؤسسية.

ومن المرجح أن يشكل هذا عدم التطابق النقاشات المستقبلية إلى ما هو أبعد بكثير من هذه الحادثة. سواء في الدفاع أو الرعاية الصحية أو البنية التحتية الحيوية، تواجه المؤسسات التي تنشر الذكاء الاصطناعي في بيئات عالية المخاطر السؤال الأساسي نفسه: هل يُضاف النموذج إلى نظام مستعد فعلًا لدعمه؟ في هذه الحالة، تشير الأدلة المقدمة في النص المصدر إلى أن الإجابة كانت لا، وكانت كلفة هذه الفجوة مقاسة في أرواح مدنية.

هذه المقالة مبنية على تقرير من The Decoder. اقرأ المقال الأصلي.