إطلاق Anthropic المحدود لنموذج Mythos يبرز مرحلة أشد صعوبة من مخاطر الأمن السيبراني في الذكاء الاصطناعي

تشير الاختبارات الخارجية إلى أن هذا جزء من اتجاه تصاعدي لا حالة شاذة معزولة

ولا تأتي التحذيرات من داخل Anthropic فقط. فقد خلص باحثون في معهد AI Security Institute المدعوم من الحكومة البريطانية، والمذكورين أيضًا في المواد المصدرية، إلى أن Mythos يمثل خطوة متقدمة مقارنة بنماذج الحدود السابقة في سياق كان الأداء السيبراني فيه يتحسن بالفعل بسرعة. وكان تحذيرهم واضحًا: من المرجح أن تكون الأنظمة الحدودية المستقبلية أكثر قدرة، ما يجعل الاستثمار الفوري في الدفاع السيبراني أكثر إلحاحًا.

وتكتسب هذه التقييمات الخارجية أهمية لأنها تنقل القضية من خطاب الشركة إلى نمط أوسع. فإذا كان عدة مُقيّمين يعتقدون أن نماذج الحدود تتحسن بسرعة في مهام الهجوم السيبراني، فالمشكلة ليست ما إذا كان مختبر واحد قد أنتج نظامًا شديد القدرة على نحو غير معتاد. بل ما إذا كانت صناعة الذكاء الاصطناعي تدخل مرحلة تضيق فيها النماذج المتقدمة باستمرار الفجوة بين اكتشاف الثغرات وتحويلها إلى أسلحة.

ولهذا الاحتمال تبعات خطيرة على الحكومات ومشغلي البنية التحتية وبائعي البرمجيات وفرق الأمن. لطالما خافت الجهات الدفاعية من أن يساعد الذكاء الاصطناعي المهاجمين على توسيع نطاق التصيد والبرمجيات الخبيثة والاستطلاع. وتشير تقارير Mythos إلى أن القلق التالي يتمثل في الاستقلالية الأعلى ترتيبًا: نماذج قادرة على تنفيذ أجزاء مهمة من سلسلة الاستغلال بتوجيه بشري أقل.

الإطلاق المحدود يمنح وقتًا، لكنه لا يحل المشكلة الاستراتيجية

قد تمنح استراتيجية الإطلاق المقيدة التي اتبعتها Anthropic بعض المؤسسات وقتًا لتقييم نقاط قوة النموذج وتحسين الدفاعات قبل الإتاحة الأوسع. وكإجراء قصير الأجل لإدارة المخاطر، فهذا مفهوم. لكنه يبرز أيضًا المعضلة الأكبر في القطاع. فبمجرد وجود قدرة معينة في نموذج ما، قد يؤدي الاحتواء إلى إبطاء انتشارها لكنه لا يمنعه. كما أن المنافسين ومجتمعات المصادر المفتوحة والجهات المدعومة من الدول لديهم حوافز لملاحقة أداء مشابه.

ولهذا السبب تظل قصة Mythos مهمة حتى من دون إطلاق عام. فوجود النموذج، كما ورد في المواد المصدرية، يوحي بأن تطوير الذكاء الاصطناعي المتقدم يصل إلى مرحلة تصبح فيها القدرة الهجومية السيبرانية قضية حوكمة من الدرجة الأولى. وقد لا تكفي الضمانات التقليدية للمنتج إذا كان الخطر الأساسي نابعًا من قدرة النظام على التصرف ذاتيًا، والتكيف مع العوائق، وتوليد سلاسل استغلال قابلة للاستخدام ضد أهداف منتشرة على نطاق واسع.

وتزداد المشكلة تعقيدًا بسبب الطبيعة ثنائية الاستخدام لهذه القدرة. فالأدوات التي تساعد المدافعين على فهم الثغرات يمكن أن تساعد المهاجمين أيضًا على استغلالها. وهذا يجعل التحكم في الوصول والتقييم والمراقبة أكثر تعقيدًا بكثير من قرار بسيط بالسماح أو المنع.

ما الذي تكشفه قضية Mythos عن الجدل التالي حول أمن الذكاء الاصطناعي

وأهم خلاصة ليست أن شركة واحدة لديها نموذج مقلق، بل أن مختبرات الذكاء الاصطناعي الحدودية تبدو الآن وكأنها تواجه احتمال أن قدرة الأمن السيبراني تتوسع بسرعة أكبر من المؤسسات المفترض أن تحكمها. ويشير قرار Anthropic بإغلاق Mythos أمام مجموعة صغيرة من المؤسسات إلى أن الشركة ترى هذه الفجوة وتحاول، على الأقل مؤقتًا، إدارتها.

ويبقى السؤال ما إذا كان هذا النهج كافيًا أم لا. فالمواد المصدرية تترك كثيرًا من التفاصيل غير محسوم، بما في ذلك مدى اتساع طرح Mythos لاحقًا وما الضمانات المحددة التي سترافقه. لكن الإشارة العامة واضحة تمامًا. فالنقاش حول الذكاء الاصطناعي المتقدم ينتقل من سؤال ما إذا كانت النماذج تستطيع المساعدة في المهام السيبرانية إلى سؤال: كم من القدرة الهجومية المستقلة يُعد أكثر مما ينبغي توزيعه بلا تحفظ.

بالنسبة إلى واضعي السياسات وقادة الأمن، يعني ذلك أن نافذة التحذير قد تضيق. وإذا كان Mythos يمثل بالفعل قفزة نوعية، وكانت الأنظمة الحدودية المستقبلية مرجحة للذهاب أبعد، فعلى الاستثمار الدفاعي ومعايير التقييم وأطر التحكم في الوصول أن تنضج بسرعة. وإلا فقد لا تكتفي الجيل التالي من نماذج الذكاء الاصطناعي بوصف أزمة الأمن السيبراني المقبلة، بل قد يساعد في صنعها.

هذه المقالة مبنية على تقرير من Futurism. اقرأ المقال الأصلي.