باحثان يقدّمان نموذجاً لواشنطن وبكين
يسعى خبراء من الولايات المتحدة والصين إلى منع أنظمة الذكاء الاصطناعي من اتخاذ قرارات مستقلة بشأن نشر الأسلحة النووية، وقد طرحوا الآن مقترحات محددة يأملون أن تتبناها الحكومتان. نشرت ميلاني سيسون من معهد بروكينغز وتيانجياو جيانغ من جامعة فودان التوصيات قبل اجتماع مخطط بين الرئيس ترامب والرئيس شي جين بينغ في 24 سبتمبر — وهو توقيت يبدو مصمماً لوضع صياغة ملموسة أمام صانعي السياسات بينما لا يزال الحوار رفيع المستوى مقرراً.
وبدلاً من الدعوة إلى وقف شامل لتطبيقات الذكاء الاصطناعي العسكرية، يركّز الباحثان على عدد قليل من الخطوط الحمراء المحددة بوضوح. ويعكس هذا التأطير حكماً ضمنياً: المجالات التي تتقاطع فيها المصالح الأمريكية والصينية بأوضح صورة هي أيضاً المجالات التي ستكون فيها عواقب أي خطأ في الحساب الأصعب احتواءً.
الخطوط الحمراء التي ترسمها المقترحات
تحدد التوصيات عدة محظورات، يستهدف كل منها نمط فشل محدداً بدلاً من استهداف التقنية بشكل عام.
لا سلطة مستقلة للإطلاق
تتعلق القاعدة الأولى والأكثر أهمية بسلطة الإطلاق. وبموجب المقترحات، لن يُسمح لأي نظام ذكاء اصطناعي بإطلاق الأسلحة النووية من تلقاء نفسه. وسيسد هذا البند أي مسار يمكن لخوارزمية، مهما كانت قادرة، أن تأمر فيه بضربة دون قرار بشري يقف خلفها.
أنظمة القيادة النووية خارج نطاق الاستهداف
يحظر خط أحمر ثانٍ استخدام الذكاء الاصطناعي في مهاجمة أنظمة القيادة النووية. ولأن تلك الأنظمة تقع في قلب قدرة الدولة على الكشف والاتخاذ والرد، فإن العمليات الآلية ضدها تحمل خطراً غير معتاد بأن تُفسَّر على أنها تحضير لضربة أولى. ويُقصد باستبعادها من الاستهداف الممكّن بالذكاء الاصطناعي إزالة هذا المحفز تحديداً.
البشر يحتفظون بالسيطرة الوحيدة على العمليات السيبرانية
يتناول بند ثالث الفضاء السيبراني. وسيُطلب من البشر الاحتفاظ بالسيطرة الوحيدة على الهجمات السيبرانية المدعومة بالذكاء الاصطناعي والموجهة ضد البنية التحتية الاستراتيجية. والعمليات السيبرانية مجال أصبح فيه العمل بسرعة الآلة ممكناً بالفعل، وفيه يمكن أن تتصبغ الحدود بين استطلاع الخصم وتعطيله بالضباب بفعل وتيرة الأدوات الآلية.
الاتفاق على معنى "السيطرة البشرية" فعلياً
يكمن تحت المحظورات المحددة مشكلة تعريفية. وتدعو المقترحات البلدين إلى الاتفاق على تعريف مشترك لـ"السيطرة البشرية". وبدون هذه المفردات المشتركة، يمكن لكل طرف أن يدّعي الامتثال بينما يعمل بمعايير لا يعترف بها الطرف الآخر — وهو تحديداً نوع الغموض الذي عانت اتفاقيات الحد من التسلح تاريخياً من إغلاقه.
الاستناد إلى اتفاق تم التوصل إليه بالفعل
تبني التوصيات على تفاهم بين بايدن وشي تم التوصل إليه في نوفمبر 2024. وقد أرست ذلك الالتزام السابق قبولاً سياسياً على أعلى المستويات، لكنه لم يحسم الأسئلة التنفيذية بشأن ما هو محظور، ومن يتحقق من الامتثال، وكيف تُحل الخلافات. والمقترحات الجديدة محاولة لتحويل بيان نوايا إلى ما يشبه دليل قواعد عملياً.
وتأطير الجهد كامتداد لتفاهم قائم هو خيار دبلوماسي مدروس. فهو يسمح للحكومتين بتقديم التدابير كاستمرارية لا كتنازل، وهو أمر مهم عندما تكون الجماهير المحلية على أي من الجانبين ميالة إلى قراءة أي ترتيب أمني ثنائي على أنه إضعاف للموقف.
خط ساخن مخصص لحوادث الذكاء الاصطناعي
يقترح جيانغ أيضاً إنشاء خط ساخن مخصص لحوادث الذكاء الاصطناعي. والمنطق مباشر ويستحق التتبع. لنفترض أن نظام ذكاء اصطناعي دفاعي استجاب تلقائياً لما سجّله كنشاط مشبوه. وقد يقرأ الطرف الآخر، وهو يراقب تلك الاستجابة دون سياق، أنها الخطوة الافتتاحية لهجوم لا رد فعل على إشارة أُسيء تفسيرها. وسيتيح خط مباشر بين الحكومتين لطرف أن يوضح أن الحادث كان عرضياً قبل أن يتصاعد الموقف إلى ما بعد النقطة التي تظل فيها التوضيحات مفيدة.
وفي الواقع، صُمم الخط الساخن لكسر حلقة آلية بمحادثة بشرية — أي استعادة صنع القرار الأبطأ والأكثر تروياً الذي يُفترض أن الأنظمة الآلية تضغطه.
لماذا يشكك بعض المحللين في فكرة الخط الساخن
ليس الجميع مقتنعاً بأن مثل هذه القناة ستؤدي وظيفتها في أشد اللحظات حاجة إليها. وتتساءل كارلا فريمان من جامعة جونز هوبكنز عما إذا كانت الخطوط الساخنة من هذا النوع ستعمل أصلاً. وتشير إلى أزمة منطاد التجسس في 2023، عندما لم ترد الصين عندما اتصلت الولايات المتحدة.
ويضرب هذا المثال قلب مشكلة التحقق. فالخط الساخن لا تكون قيمته أكبر من استعداد الطرفين للرد عليه خلال أزمة حقيقية، ولحظات الأزمة هي بالضبط عندما تكون الحكومات أقل ميلاً للثقة بقناة غير مألوفة. والاعتراض ليس أن التواصل غير ضروري، بل أن الآليات المؤسسية تحتاج إلى ممارسة وتطبيع قبل وقت طويل من أن يصبح الطارئ معتمداً عليها.
خمس سنوات من التحذيرات، بلا قواعد ملزمة
ليست هذه المرة الأولى التي يُرفع فيها الإنذار. فقد دعت اللجنة الوطنية للأمن القومي المعنية بالذكاء الاصطناعي إلى الحفاظ على السيطرة البشرية على الأسلحة النووية في عام 2021. وبعد أكثر من خمس سنوات، لا تزال الآليات الملزمة غير موجودة.
وهذه الفجوة — بين تشخيص متفق عليه على نطاق واسع وغياب أي أداة قابلة للإنفاذ — هي العقبة المركزية التي يجب أن تتغلب عليها المقترحات الجديدة. وقد تحقق إجماع الخبراء بخطوطه العريضة: قلة من الأصوات الجادة تجادل بأن الآلات ينبغي أن تقرر استخدام الأسلحة النووية. وما ثبت أنه بعيد المنال هو الآلية التي تجعل ذلك الإجماع ملزماً وقابلاً للتحقق ومستداماً عبر تغيرات الحكومات.
النافذة الضيقة قبل 24 سبتمبر
تأتي المقترحات في لحظة تستعد فيها الحكومتان للاجتماع، ما يمنح الأفكار فرصة للانتقال من صفحات ورقة مركز أبحاث إلى المحادثات التحضيرية التي تشكّل جدول أعمال القمة. وسواء حدث ذلك، وسواء نجت أي من الخطوط الحمراء من التلامس مع عملية التفاوض، سيتوقف على عوامل تقع خارج سيطرة الباحثين إلى حد بعيد.
وما تحققه المقترحات هو جعل القضية ملموسة. فبدلاً من تحذيرات عامة بشأن مخاطر الذكاء الاصطناعي العسكري، تحدد محظورات معينة، ومهمة تعريفية، وقناة تواصل في الأزمات — مجموعة بنود يمكن بشكل معقول مناقشتها، أو تبنيها جزئياً، أو رفضها كلياً. وفي مجال سياسي تُقاس فيه المخاطر بالدقائق والأميال، فإن هذه المحددات نفسها إسهام: فهي تحوّل قلقاً مجرداً إلى قائمة قرارات يستطيع صانعو القرار اتخاذها فعلاً.
يعتمد هذا المقال على تقرير لـ The Decoder. اقرأ المقال الأصلي.
Originally published on the-decoder.com