جدل أمني حول الذكاء الاصطناعي له تداعيات أوسع
أدى الكشف عن نموذج Claude Mythos Preview من Anthropic إلى واحدة من أكثر المناقشات أهمية في الأمن السيبراني خلال دورة الذكاء الاصطناعي الحالية. وتقول الشركة إن النموذج يمثل نقطة تحول حاسمة، إذ يمكنه اكتشاف الثغرات عبر أهداف برمجية كبرى وتطوير استغلالات تعمل بشكل مستقل. وردا على ذلك، لم تقم Anthropic بإطلاق النموذج على نطاق واسع. وبدلا من ذلك، قيدت الوصول إليه لمجموعة صغيرة من المؤسسات، بما في ذلك Microsoft وApple وGoogle وLinux Foundation، ضمن اتحاد يسمى Project Glasswing.
وقد أفرز هذا الجمع بين ادعاءات بقدرات استثنائية والوصول المقيد ردّين متوقعين. يرى أحد الطرفين خطوة مقلقة تقفز بالقدرة الهجومية للذكاء الاصطناعي. بينما يرى الطرف الآخر مزيجا من الضجيج الإعلامي، والتأطير الانتقائي، وسردا مناسبا لشركة لديها شيء ثمين لتبيعه. أما الخلاصة الأكثر إثارة للاهتمام، استنادا إلى المادة المصدرية المقدمة، فهي أن المعسكرين يدوران حول تحول حقيقي حتى إن اختلفا على حجمه.
ما الذي تقول Anthropic إنه تغير
بحسب النص المصدر، فإن القلق الأساسي لا يقتصر على اكتشاف الثغرات بمعزل عن غيرها. فالادعاء الأوضح هو أن Mythos Preview بارع بشكل خاص في بناء سلاسل الاستغلال، أي تسلسلات من نقاط الضعف يمكن دمجها لاختراق الهدف بعمق أكبر. وهذا مهم لأن الهجمات المتقدمة غالبا ما تعتمد على هذا النوع من الربط بدلا من وجود خلل واحد صارخ.
ويجادل باحثون نُقل عنهم في المادة بأن هذا قد يمثل عتبة ذات معنى. ويُوصف أليكس زنلا، كبير مسؤولي التكنولوجيا في شركة أمن السحابة Edera، بأنه عادة ما يكون متشككا في مثل هذه الادعاءات لكنه اقتنع بأن التهديد حقيقي. والمخاوف هي أن أنظمة الذكاء الاصطناعي لا تتحسن فقط في رصد العيوب، بل أيضا في بناء المنطق متعدد الخطوات الذي يستخدمه المهاجمون في الواقع.
إذا كان هذا التقييم صحيحا، فإن التطور لن يجعل العمل الأمني الحالي أسرع فحسب، بل سيغير الوتيرة والحجم اللذين يمكن أن يحدث بهما تطوير الاستغلالات، خاصة ضد البيئات البرمجية المعقدة.
لماذا لا يزال المتشككون مهمين
التشكيك هنا ليس هامشيا. فالنقاد الذين أشارت إليهم المادة المصدرية يجادلون بأن وكلاء الذكاء الاصطناعي الحاليين يجعلون بالفعل اكتشاف الثغرات واستغلالها أسهل وأقل كلفة مما كان عليه الأمر من قبل. ومن هذا المنظور، فإن Mythos Preview ليس قطيعة تاريخية واضحة، بل امتداد لاتجاه قائم، وقد بدأت الشركات تتكيف معه بالفعل عبر تسريع الترقيعات، وتحسين الاختبارات الداخلية، وزيادة البحث الأمني هجومية الطابع.
كما يشير هذا النقد إلى الحوافز الاقتصادية المحيطة بالحصريّة. فقد تستفيد شركة من تصوير نموذج ما على أنه بالغ الخطورة وقوي بشكل غير معتاد، خصوصا عندما يكون الوصول إليه محصورا في مجموعة مختارة. هذا لا يعني أن الادعاءات خاطئة، لكنه يعني أنها يجب أن تُقرأ في سياقها التجاري.
ومع ذلك، فإن وجود الضجيج لا يلغي المشكلة الأساسية. إذا أصبحت النماذج المتقدمة أفضل في ربط الثغرات ببعضها، فقد يواجه المدافعون قريبا حجما وسرعة مختلفين في تطوير الاستغلالات، حتى من دون التسليم بكل دلالات إعلان Anthropic.
المواجهة الأعمق تتعلق بجودة البرمجيات
أكثر استنتاج دائم في المادة المصدرية هو أن جدل Mythos قد يفرض مواجهة، ولكن ليس بالضرورة المواجهة التي يتخيلها الناس أولا. فبدلا من إثبات أن الذكاء الاصطناعي جعل الدفاع مستحيلا فجأة، تسلط الواقعة الضوء على مدى اعتماد البرمجيات الحديثة على الإعدادات غير الآمنة الافتراضية، والاعتماديات الهشة، وعادات الإصلاح بعد الإطلاق.
وبهذا المعنى، يعمل Mythos أقل كسلاح سيبراني فائق منفرد وأكثر كاختبار ضغط لقاعدة أساسية ضعيفة أصلا. وإذا جعلت أدوات الذكاء الاصطناعي من السهل تحديد التركيبات القابلة للاستغلال من العيوب، فإن المنتجات المبنية على أساس أن الأمن أمر ثانوي ستصبح أكثر انكشافا. فالتغيير لا يتعلق فقط بما يمكن للمهاجمين فعله، بل أيضا بمدى ضآلة الهامش الذي كانت تملكه كثير من الأنظمة من البداية.
وهذا التفسير مفيد استراتيجيا لأنه يوجه الانتباه إلى حيث لا يزال لدى المدافعين مجال للفعل: تصميم البرمجيات، وممارسات التطوير الآمن، ومعالجة الثغرات، والتقوية المعمارية. هذه ليست إصلاحات براقة، لكنها الاستجابة الأكثر مصداقية لأتمتة البحث الهجومي.
لماذا يهم الطرح المحدود
إن قرار Anthropic إبقاء النموذج خاصا في الوقت الراهن جزء من القصة أيضا. فحصر الوصول في بضع عشرات من المؤسسات يشير إلى أن الشركة ترى أن خطر النشر الواسع ليس نظريا فحسب. كما أنه يخلق إطارا مضبوطا تستطيع فيه بعض أكبر الجهات التقنية والبرمجية في العالم تقييم سلوك النموذج وتداعياته.
هذا لا يحسم الجدل، لكنه يدل على أن المؤسسات الكبرى تتعامل مع الادعاءات بما يكفي من الجدية للانخراط فيها. وإذا أكدت تلك التقييمات حتى جزءا من ملف القدرات الموصوف، فسيتسارع الضغط على المطورين ومالكي المنصات لتحسين الأمن الأساسي بسرعة.
عتبة تستحق المتابعة
المادة المصدرية المتاحة لا تثبت أن Mythos Preview غيّر الأمن السيبراني بشكل دائم. لكنها تدعم استنتاجا أضيق، وإن كان مهما: يعتقد ممارسون بارزون أن توليد سلاسل الاستغلال بواسطة الذكاء الاصطناعي قد يقترب من مستوى أكثر خطورة ماديا، وأن الشركات بدأت تتصرف كما لو أن هذا الاحتمال يستحق الحذر الحقيقي.
والنتيجة المرجحة ليست انهيارا فورا للخطوط الدفاعية الحالية، بل بيئة أشد قسوة للبرمجيات الضعيفة. والفرق التي تعاملت مع الأمن بوصفه شيئا يمكن إضافته لاحقا قد تجد أن لاحقا لم يعد كافيا.
هذه هي المواجهة الأكثر قابلية للتصديق. وسواء أصبح Mythos النموذج الحاسم أم لا، فإن الاتجاه واضح. أنظمة الذكاء الاصطناعي تصبح أفضل في أنواع الاستدلال التي يقدرها المهاجمون. والمؤسسات الأفضل استعدادا لهذا المستقبل لن تكون تلك التي تثير أعلى رد فعل. بل ستكون تلك التي تعامل تطوير البرمجيات الآمنة أخيرا باعتباره أساسيا لا اختياريا.
هذه المقالة مبنية على تقرير من Wired. اقرأ المقال الأصلي.
Originally published on wired.com