تقرير يفيد بأن اختبار الذكاء الاصطناعي لدى Anthropic كشف ثغرات في نظام مصنّف

تقرير اختبار Anthropic يضيف إلحاحًا إلى النقاش حول أمن الذكاء الاصطناعي

يقول تقرير جديد من Fast Company، مستندًا إلى مسؤول أمريكي مجهول وتعليقات أُدلي بها خلال جلسة استماع في مجلس الشيوخ، إن أحد نماذج الذكاء الاصطناعي المتقدمة لدى Anthropic حدّد ثغرات في أنظمة حاسوبية شديدة الحساسية تابعة للحكومة الأمريكية خلال تمرين اختباري. وإذا صح ذلك، فستكون الواقعة لحظة مهمة في النقاش حول كيفية تقييم أنظمة الذكاء الاصطناعي المتقدمة وضبطها ونشرها في سياقات الأمن القومي.

وبحسب التقرير، عملت Anthropic مع وكالات الاستخبارات الأمريكية في اختبار شمل نموذج Mythos التابع للشركة. وقال المسؤول إن النموذج وجد ثغرات معينة خلال ساعات. وقال المصدر نفسه أيضًا إن اكتشاف نقاط الضعف بسرعة لا يعني أن النموذج استغلها خلال تلك الفترة. هذا التمييز مهم: فإيجاد مسار محتمل إلى نظام ما ليس هو نفسه تنفيذ عملية اختراق. ومع ذلك، تبقى هذه المزاعم لافتة لأنها تشير إلى أن أنظمة الذكاء الاصطناعي المتقدمة قد تكون بالفعل مفيدة في اكتشاف الثغرات بسرعة عالية داخل بعض أكثر البيئات الرقمية حساسية في الحكومة.

ويربط التقرير هذا التمرين بمبادرة لدى Anthropic تُدعى Project Glasswing، وُصفت بأنها جهد يجمع الشركات الكبرى وغيرها من المنظمات لتأمين البرمجيات الحيوية ضد المخاطر الشديدة التي تهدد السلامة العامة والأمن القومي والاقتصاد. هذا الإطار يضع الاختبار ضمن سياق أوسع. لم تعد شركات الذكاء الاصطناعي والحكومات تتحدث عن المخاطر السيبرانية بوصفها مسألة افتراضية مستقبلية. بل إنها تبني عمليات حول احتمال أن النماذج القادرة للغاية يمكنها تقليص الوقت اللازم لاكتشاف العيوب، ورسم خرائط نقاط الضعف في الأنظمة، وخفض مستوى الخبرة المطلوب لأجزاء من العمل الهجومي السيبراني.

ما المؤكد وما غير المؤكد

أقوى نقطة حذر في هذه القصة تتعلق بالمصدر. فالمزاعم الأساسية تأتي من مسؤول مجهول يتحدث عن مسائل مصنّفة أو شديدة الحساسية. كما تفيد Fast Company بأن السيناتور الديمقراطي مارك وورنر أشار إلى التمرين خلال جلسة استماع في 11 يونيو أمام لجنة الشؤون المصرفية والإسكان والشؤون الحضرية في مجلس الشيوخ، قائلاً إن الأداة اخترقت تقريبًا جميع الأنظمة المصنّفة “ليس في أسابيع بل في ساعات”، ونسب هذا الوصف إلى رئيس وكالة الأمن القومي وقيادة الولايات المتحدة السيبرانية، الجنرال Joshua Rudd.

لكن لا وكالة الأمن القومي ولا Anthropic أكّدتا علنًا تفاصيل التقرير. ووفقًا للمقال، رفضت وكالة الأمن القومي التعليق عبر البريد الإلكتروني، كما رفض متحدث باسم Anthropic التعليق. وهذا يضع السجل العام في موضع غير معتاد: فوجود القلق بشكل عام يبدو مدعومًا بإشارة علنية في جلسة استماع، لكن التفاصيل لا تزال مكشوفة جزئيًا فقط. وسيكون من السابق لأوانه التعامل مع النتائج المبلغ عنها بوصفها رواية مكتملة لما حدث داخل الشبكات المصنّفة.

ومع ذلك، حتى بوصفه تقريرًا ناقص المصادر، تظل القصة مهمة لأنها تتماشى مع تحول سياسي أوسع جارٍ الآن. فالحكومات تنظر بشكل متزايد إلى أكثر نماذج الذكاء الاصطناعي تقدمًا بوصفها أنظمة مزدوجة الاستخدام. فهي يمكن أن تدعم البحث والبرمجة والتحليل، لكنها قد تضخم أيضًا الهجوم السيبراني ومخاطر الأمن البيولوجي وعمليات التضليل وعدم الاستقرار الاستراتيجي إذا أصبحت متاحة على نطاق واسع جدًا أو خضعت لاختبارات سطحية جدًا.

لماذا يهم التوقيت

يأتي التمرين المبلغ عنه خلال فترة توتر واضح بين Anthropic وإدارة ترامب. وتقول Fast Company إن Anthropic أثارت مخاوف بشأن كيفية استخدام الجيش الأمريكي لأنظمة الذكاء الاصطناعي الخاصة بها، بينما قيدت الإدارة استخدام بعض نماذج Anthropic. وفي وقت سابق من يونيو، أصدرت الإدارة توجيهًا يطالب Anthropic بمنع المواطنين الأجانب من استخدام أحدث نماذجها، Fable 5 وMythos 5. ثم عطلت Anthropic النماذج لجميع العملاء للامتثال، مع قولها أيضًا إنها لا تعتقد أن إجراءات الحكومة كانت مبررة بالمشكلة الأمنية التي أثارتها.

تسلط هذه السلسلة الضوء على أحد التناقضات المحددة لمرحلة الذكاء الاصطناعي الحالية. فالحكومات تريد من المختبرات المتقدمة أن تساعدها في اختبار الدفاعات، وكشف الثغرات، وتعزيز البنية التحتية الحيوية. وفي الوقت نفسه، أصبحت هذه الحكومات أكثر استعدادًا للحد من الوصول إلى النماذج نفسها خشية أن يستخدمها الخصوم أو أن تنتشر قدرات خطيرة على نطاق واسع. والنتيجة علاقة شد وجذب تكون فيها شركات الذكاء الاصطناعي شريكة استراتيجية وفي الوقت نفسه جهات خاضعة لتنظيم المخاطر.

ويضيف الإجراء الذي نسبه التقرير إلى البيت الأبيض طبقة أخرى. فقبل عشرة أيام من التوجيه الموجه إلى Anthropic، وقّع الرئيس دونالد ترامب أمرًا تنفيذيًا يضع إطارًا يمكّن الحكومة الاتحادية من فحص المخاطر الأمنية القومية التي تشكلها أكثر أنظمة الذكاء الاصطناعي تقدمًا لمدة تصل إلى شهر قبل إطلاقها العلني، مع مشاركة مطوريها بصيغة وُصفت بأنها طوعية. وهذا يشير إلى أن واشنطن تحاول بناء نظام فحص قبل إطلاق النماذج، لا مجرد آلية استجابة بعد ذلك.

الأمن السيبراني يصبح اختبار ضغط للنماذج المتقدمة

الأهمية الأعمق للتقرير لا تقتصر على شركة واحدة أو نتيجة اختبار مزعومة واحدة. فهو يشير إلى الأمن السيبراني بوصفه أحد أوضح المقاييس الواقعية لقدرة النماذج المتقدمة. فالنموذج القادر على تحليل التكوينات بسرعة، وتحديد نقاط الضعف المرجحة، والاستدلال على سلاسل الهجوم، قد يصبح مساعدًا دفاعيًا قويًا. ويمكن للقدرات نفسها أن تعزز العمليات الهجومية إذا أسيء استخدامها.

ولهذا السبب من المرجح أن تؤثر مزاعم كهذه في ضوابط التصدير وقيود الوصول ومعايير التقييم. فإذا اعتقد صناع السياسات أن نموذجًا ما يمكنه تحسين سرعة أو نطاق أعمال الاختراق السيبراني بشكل ملموس، فسيدفعون نحو ضوابط أكثر صرامة على الإطلاق واختبارات ما قبل النشر أكثر دقة. وإذا رأت الشركات أن الحكومات قد تبالغ في رد فعلها إزاء النتائج الأولية، فسوف تعارض القيود الواسعة التي تحد من الاستخدام المشروع والقدرة التنافسية العالمية.

كما تفيد Fast Company بأن مجموعة من التنفيذيين في مجال الأمن السيبراني طلبت من الإدارة رفع هذا التوجيه، بحجة أن هذه الخطوة قد تساعد خصوم الولايات المتحدة. ويعكس هذا الطرح صدعًا آخر في حوكمة الذكاء الاصطناعي: فقيود الوصول قد تقلل بعض المخاطر، لكنها قد تبطئ أيضًا انتشار القدرة الدفاعية بين الباحثين الموثوقين والشركات والمؤسسات الحليفة. وفي سياسة الأمن السيبراني، لا يكون الحد من الأدوات مجانيًا أبدًا.

ما الذي يجب متابعته لاحقًا

سيكون التطور المهم التالي هو ما إذا كان أي جزء من سجل الاختبار المبلغ عنه سيُدعم علنًا. وإذا نشرت الوكالات أو المشرعون أو Anthropic مزيدًا من التفاصيل، فقد ينتقل النقاش سريعًا من التكهن إلى السوابق. وسيؤثر ذلك ليس على Anthropic فقط، بل أيضًا على كيفية تصميم مطوري النماذج الآخرين لتمارين الفريق الأحمر، وتصنيف القدرات الخطيرة، والتفاوض مع الحكومات قبل الإطلاقات الكبرى.

حتى الآن، يظل التقرير إشارة موثوقة أكثر منه ملفًا عامًا كاملًا. وحتى بهذه الصورة المحدودة، فإنه يبرز مدى السرعة التي تنتقل بها أسئلة أمن الذكاء الاصطناعي من النظرية إلى الاختبار التشغيلي. ولم يعد السؤال المركزي هو ما إذا كانت النماذج المتقدمة يمكن أن تكون مهمة في الأمن السيبراني. بل كيف ستقيس الحكومات والمختبرات هذه القدرة، وتحتوي مخاطرها، وتقرر من يحصل على الوصول قبل وصول الجيل التالي من الأنظمة.

هذه المقالة مبنية على تقرير من Fast Company. اقرأ المقال الأصلي.