عتبة جديدة في الذكاء الاصطناعي الهجومي تفرض إعادة التفكير في الدفاع
الادعاء الرئيسي في مقال الضيف المنشور في IEEE Spectrum بتاريخ 23 أبريل صارم: Claude Mythos Preview من Anthropic يمكنه العثور على ثغرات البرمجيات وتسليحها ذاتيًا، وتحويلها إلى استغلالات عاملة من دون توجيه من خبراء. إذا ثبت ذلك عمليًا، فإن الأمن السيبراني يدخل مرحلة جديدة قد تتحرك فيها سرعة ونطاق الاكتشاف الهجومي أسرع مما تستطيع كثير من المؤسسات استيعابه.
يؤطر مؤلفا المقال، Bruce Schneier وBarath Raghavan، الدلالة بوضوح في العنوان الفرعي: الواقع الجديد يكافئ الأنظمة التي يمكن اختبارها وتصحيحها باستمرار. هذه هي الفكرة الأساسية. فالأهمية الفورية لنموذج قادر على بناء الاستغلالات لا تكمن فقط في أن الهجمات قد تصبح أسهل في الإنتاج، بل في أن الإيقاع القديم المتمثل في الفحص من حين إلى آخر، والتحديثات الدورية، والمعالجة المتأخرة، يبدأ في الظهور على أنه غير كافٍ بنيويًا.
وهذا ما يجعل نقاش Mythos مهمًا حتى من دون قائمة طويلة من التفاصيل التقنية. القضية الجوهرية هي قضية معمارية. إذا أصبحت القدرة الهجومية أكثر أتمتة، فلا يمكن للدفاع أن يظل متقطعًا.
لماذا تغيّر الاستقلالية معادلة الأمن السيبراني
لطالما كان الأمن السيبراني يعاني من مشكلة عدم التماثل. فالمهاجمون يحتاجون إلى منفذ واحد مفيد فقط، بينما يُتوقع من المدافعين تأمين كل ما يهم. أنظمة الذكاء الاصطناعي القادرة على تحديد الثغرات بشكل مستقل وتحويلها إلى استغلالات عاملة تهدد بتوسيع هذا الاختلال عبر تقليص الزمن بين الاكتشاف والهجوم.
العبارة الحاسمة في النص الأصلي هي “من دون توجيه من خبراء”. كثير من أدوات الأمن تساعد المحللين على العمل بسرعة أكبر بالفعل، وكثير من سير العمل الهجومي يمكن تسريعه بالأتمتة. لكن نظامًا يقلل بوضوح الحاجة إلى الخبرة البشرية يغيّر من يمكنه محاولة الأعمال المعقدة ومدى تكرار هذه المحاولات. إنه يدفع قدرًا أكبر من القدرة إلى الخارج.
هذا لا يعني أن كل جهة فاعلة ستصبح فعالة للغاية فورًا. فما يزال السياق التشغيلي، واختيار الهدف، والوصول، والمتابعة اللاحقة عوامل مهمة. لكنه يعني أن جزءًا أكبر من العمل التقني يمكن تفويضه إلى الآلات. وبمجرد أن يصبح ذلك أمرًا طبيعيًا، يرتفع الضغط على المدافعين بشكل حاد.
عمليًا، لم تعد الثغرة مجرد خطأ ينتظر أن يلاحظه إنسان خبير. بل تصبح مدخلاً محتملًا لنظام قادر على الاختبار والتكرار وتعبئة الخلل في شيء قابل للنشر. تضيق المسافة بين الضعف والسلاح.
الاختبار المستمر لم يعد طموحًا
أقوى حجة تنبثق من مادة Spectrum هي أن الاختبار المستمر والتصحيح المستمر لم يعودا مجرد ممارسات مثلى تُتبع عند توفر الوقت. إنهما يتحولان إلى متطلبات بقاء.
ما تزال كثير من المؤسسات تتعامل مع الأمن كأنه نشاط متعدد الطبقات لكنه متقطع. يجري الفحص وفق جدول. ويتبع ذلك دورة تصحيحات وفق تقويم مألوف. وتُجرى اختبارات الاختراق على فترات متباعدة. أما الإصلاحات الطارئة فتحدث عندما يظهر العطل بوضوح. هذا النموذج كان يعاني أصلًا أمام التهديدات سريعة الحركة. وأمام توليد الاستغلالات بمساعدة الذكاء الاصطناعي، يبدو أقل كفايةً بعد.
الدفاع المستمر يعني شيئًا أكثر تطلبًا. يجب أن تكون الأنظمة قابلة للرصد تقريبًا في الوقت الحقيقي. وتحتاج خطوط التصحيح إلى التحرك بسرعة أكبر. ويجب تقليص نوافذ التعرض. ويحتاج فريق الهندسة إلى ملكية أوضح للمكونات الضعيفة، وعلى القادة أن يقبلوا أن العمل الأمني ليس منفصلًا عن تسليم المنتج، بل مدمجًا فيه.
هذا مكلف تنظيميًا، وليس تقنيًا فقط. فهو يتطلب تنسيقًا أوثق، وأدوات أفضل، وتسامحًا أقل مع العمليات القديمة الهشة. لكن البديل أسوأ: مدافعون يعملون بإيقاعات أسبوعية أو شهرية بينما يعمل المهاجمون بشكل متزايد بسرعة الآلة.
الضغط سيمتد إلى ما هو أبعد من فرق الأمن
أحد الأخطاء التي قد تقع فيها المؤسسات هو التعامل مع هذا بوصفه مشكلة متخصصة لخبراء الأمن السيبراني وحدهم. إذا كانت أنظمة مثل Mythos تستشرف اتجاه القدرة الهجومية، فإن تطوير البرمجيات وإدارة البنية التحتية والمشتريات والحوكمة التنفيذية كلها ستنخرط في الاستجابة.
سيواجه المطورون توقعات أقوى للحد من خلق الثغرات من المصدر. وستُدفع فرق البنية التحتية نحو معمارية يمكنها عزل الفشل وتسريع المعالجة. وقد تحتاج فرق المشتريات إلى إعادة تقييم اعتمادها على برمجيات وخدمات الطرف الثالث من زاوية قابلية الاستغلال وسرعة التحديث. وعلى التنفيذيين أن يفهموا أن التأخير في التصحيح ليس مجرد دين تقني، بل هو قرار تعرّض للمخاطر.
تختصر عبارة “اختبارها وتصحيحها باستمرار” هذا التحول التشغيلي الأوسع. فالاختبار لا يعني فقط تشغيل مزيد من الأدوات. والتصحيح لا يعني فقط تطبيق مزيد من التحديثات. والمجموع بينهما يشير إلى مؤسسة أكثر قدرة على التكيّف، تتوقع تطور ظروف الهجوم باستمرار وتبني عملياتها وفقًا لذلك.
النتيجة المرجحة هي فرز أشد للأنظمة
إذا جعل الذكاء الاصطناعي توليد الاستغلالات أرخص وأسرع، فسيُفرز المزيد من المؤسسات والمنتجات إلى فئتين: تلك القادرة على الاستجابة المستمرة، وتلك غير القادرة على ذلك. ستظل المجموعة الأولى تواجه الحوادث، لكنها ستكون على الأقل في وضع يسمح لها بتقليل زمن المكوث والتعرض. أما المجموعة الثانية فستواجه فجوة متزايدة بين سرعة توليد التهديدات وسرعة التخفيف منها.
وقد يعيد هذا الفرز تشكيل الأسواق. فقد يمنح المشترون قيمة أكبر للموردين الذين يملكون دورات تصحيح سريعة يمكن إثباتها. وقد تهتم شركات التأمين أكثر بانضباط التحديث ونضج الاستجابة. وقد تصبح الجهات التنظيمية أقل تسامحًا مع حالات التعرض القابلة للتجنب في الأنظمة الحرجة. ولا يتطلب أي من ذلك حدثًا واحدًا دراميًا. بل يمكن أن يظهر تدريجيًا مع ازدياد واقعية وأتاحة أدوات الهجوم المعززة بالذكاء الاصطناعي.
التحول ثقافي أيضًا. فخلال سنوات، غيّر التسليم المستمر طريقة إطلاق ميزات البرمجيات. وغالبًا ما حاول الأمن أن يلحق بتلك البيئة لاحقًا. يزيد الهجوم المدعوم بالذكاء الاصطناعي من كلفة هذا الفصل. وعلى الأمن الآن أن يستعير المنطق التشغيلي نفسه: حلقات أقصر، تغذية راجعة أسرع، وثغرات أقل عمرًا.
ما الذي يمثله لحظة Mythos فعلًا
سيركز الجدل الفوري حول نموذج Anthropic طبيعيًا على القدرة، والضوابط، ومدى تأثير هذه النسخة التجريبية فعلًا في الممارسة الهجومية. وهذه أسئلة مهمة. لكن القيمة الأعمق للنقاش هي أنه يسلط الضوء على مدى ضيق العديد من الافتراضات الدفاعية التي بقيت قائمة.
حتى احتمال وجود نموذج قادر على العثور على ثغرات البرمجيات وتسليحها ذاتيًا ينبغي أن يدفع القادة إلى طرح أسئلة محرجة. كم يستغرق منا تحديد القضايا القابلة للاستغلال؟ كم يستغرق منا تصحيحها؟ أي الأنظمة لا يمكن تحديثها بسرعة؟ أي الفرق تملك أشد حالات التعرض مخاطرة؟ وماذا يحدث إذا كان بإمكان المهاجم التكرار أسرع من عملية الموافقة لدينا؟
هذه لم تعد أسئلة نظرية. إنها أسئلة تشغيلية حول ما إذا كانت المؤسسة مصممة لعالم يمكن فيه توسيع القدرة الهجومية داخل البرمجيات.
ولهذا ينجح طرح Spectrum. قد لا يتحدد مستقبل الأمن السيبراني فقط بنماذج أفضل أو فرق red team أفضل. بل قد يتحدد أيضًا بما إذا كانت المؤسسات قادرة على جعل الاختبار المستمر والتصحيح المستمر أمرًا حقيقيًا لا مجرد طموح، قبل أن تجعل الموجة التالية من الأتمتة التأخير مكلفًا للغاية.
ما الذي ينبغي مراقبته لاحقًا
- كيف تصف شركات الذكاء الاصطناعي النماذج ذات القدرات السيبرانية الهجومية وتضع لها الحدود.
- ما إذا كانت المؤسسات ستسرع الاستثمار في تدفقات عمل الاختبار والمعالجة المستمرة.
- كيف تسوّق شركات الأمن أدوات تجعل دورة الاكتشاف إلى التصحيح أسرع.
- ما إذا كان صناع السياسات سيبدأون في التعامل مع توليد الاستغلالات المعتمد على الذكاء الاصطناعي بوصفه محفزًا لمتطلبات أمنية أشد.
تعتمد هذه المقالة على تغطية IEEE Spectrum. اقرأ المقال الأصلي.
Originally published on spectrum.ieee.org
