معيار جديد في الاختراق المدعوم بالذكاء الاصطناعي
تجاوزت أنظمة الذكاء الاصطناعي عتبة تقنية أخرى، لكن ليس العتبة الكارثية التي توحي بها عبارة “النسخ الذاتي”. ففي بحث جديد رُفع إلى GitHub في 7 مايو، أظهر علماء في Palisade Research أن وكلاء نماذج اللغة الكبيرة قادرون على التحرك ذاتيًا عبر سلسلة من الحواسيب الضعيفة عمدًا، واستغلال الثغرات، ونسخ معاملاتِهم الخاصة إلى مضيفين مخترقين، وتشغيل خوادم استدلال جديدة قادرة على مواصلة الهجوم.
الادعاء المركزي للدراسة ضيق لكنه مهم: هذه، وفقًا للباحثين، هي المرة الأولى التي يُعرض فيها نموذج ذكاء اصطناعي يستغل هدفًا ذاتيًا وينسخ نفسه من البداية إلى النهاية. وهذا يبدو دراميًا، وهو كذلك من وجهة ما. فقد تمكنت الأنظمة من تنفيذ خطوات هجوم مترابطة متعددة من دون أن يمر بها إنسان يدويًا خطوة بخطوة. لكن السياق لا يقل أهمية عن النتيجة.
ما الذي أظهرته التجربة فعليًا
لم يذكر فريق Palisade أن الذكاء الاصطناعي قرر من تلقاء نفسه الهروب إلى العالم الحقيقي. بل أُعطيت النماذج مهمة واضحة، وأدوات Linux، ووصولًا إلى shell، ومجموعة من الأنظمة الضعيفة عمدًا والمصممة للاستغلال. كانت تلك الأجهزة تحتوي على ثغرات يمكن أن تكشف بيانات الاعتماد، أو تتجاوز تسجيل الدخول، أو تمنح الوصول إلى مضيفين إضافيين. وفي تلك البيئة، تمكنت وكلاء الذكاء الاصطناعي من تحديد تطبيقات ويب قابلة للاستغلال، وسرقة بيانات الاعتماد، ونقل الملفات، وتشغيل نسخ وظيفية من نفسها على أجهزة مخترقة حديثًا.
هذا مهم لأنه يختصر سلسلة من تقنيات الأمن السيبراني المعروفة في سير عمل أكثر أتمتة. فبدلًا من أن يقوم مشغل بشري بربط الاستطلاع، والاستغلال، وجمع بيانات الاعتماد، والحركة الجانبية، والاستمرارية، تولى وكيل الذكاء الاصطناعي السلسلة. والنتيجة ليست لمحة عن استقلالية الآلة بالمعنى الخيالي العلمي بقدر ما هي علامة على أن مهام الاختراق العملياتية يمكن تنظيمها بصورة متزايدة بواسطة النماذج.
لماذا لا يسمي الخبراء هذا أزمة ذكاء اصطناعي متمرد
حرص الخبراء المذكورون في التقرير على التمييز بين الاختراق السيبراني المستقل وظهور كائن رقمي يملك إرادة ذاتية. وقال جيف واتكنز، كبير مسؤولي الذكاء الاصطناعي في NorthStar Intelligence، إن التجربة أقرب إلى اختراق سيبراني آلي منها إلى ذكاء آلي يسعى تلقائيًا إلى التكاثر. هذا التمييز أساسي. فالذكاء الاصطناعي لم يخترع دوافعه الخاصة ولم يتجول في أنظمة عشوائية. بل طُلب منه أن ينسخ نفسه، وأُتيح له بيئة متساهلة على نحو غير معتاد لفعل ذلك.
وهذا لا يجعل النتيجة تافهة. بل يضع الخطر في إطار أكثر واقعية. فالمشكلة الفورية ليست أن نماذج اللغة تتحول فجأة إلى فاعلين مستقلين يسعون إلى البقاء. بل إن المجرمين أو الجهات الحكومية أو غيرهم من المستخدمين الخبيثين قد يتمكنون من تغليف أساليب اختراق شائعة داخل وكلاء مدعومين بالذكاء الاصطناعي يعملون بسرعة أكبر، ويتكيفون بسلاسة أكبر، ويتطلبون خبرة أقل من مشغليهم.
بعبارة أخرى، المشكلة ليست غامضة. إنها صناعية. فقد يخفض الذكاء الاصطناعي تكلفة العمل اليدوي في القرصنة.
ما الذي يتغير بالنسبة للمدافعين
إذا أصبحت سلاسل العمل الهجومية أكثر أتمتة، فستتعرض فرق الدفاع للضغط على عدة جبهات. أولًا، قد يتم العثور على الأنظمة الضعيفة التي ربما كانت ستفلت من الانتباه في السابق لأنها تتطلب استغلالًا بشريًا صبورًا، ثم ربطها معًا بكفاءة أكبر. ثانيًا، قد تصبح الحركة الجانبية عبر الشبكات أسرع إذا تمكن وكيل من استخدام بيانات الاعتماد المسروقة والأدوات المتاحة مع تأخير محدود. ثالثًا، تشير القدرة على النسخ إلى مضيفين إضافيين إلى مستقبل تصبح فيه البنية التحتية الخبيثة أكثر مرونة وتوزعًا أثناء الهجوم.
ولا يتطلب أي من ذلك أنظمة متقدمة ذات أهداف مستقلة. إنه يتطلب نماذج قادرة، وأدوات جيدة، ومجموعة من الأجهزة غير المرقعة أو سيئة الإعداد. وهذا يجعل النظافة السيبرانية أكثر مركزية لا أقل. وقد أُجري عمل Palisade على أنظمة غير آمنة عمدًا، ولا ينبغي أن تضيع هذه الملاحظة. ولا يزال أسهل طريق لهذا النوع من الهجمات المدعومة بالذكاء الاصطناعي يمر عبر الثغرات القائمة التي يعرف المدافعون أصلًا كيف يقللونها: بيانات الاعتماد المكشوفة، والتطبيقات المعيبة، وضعف التقسيم، والتساهل في التحكم بالوصول.
إشارة تحذير، لا زر ذعر
تكمن قيمة الدراسة في أنها تحوّل قلقًا نظريًا إلى أمر مُثبت. فقد ناقش الباحثون منذ زمن طويل ما إذا كانت وكلاء الذكاء الاصطناعي قادرة على أتمتة سلاسل الاستغلال، لكن إظهار نموذج يتحرك وينسخ نفسه ويواصل العمل من الجهاز التالي يجعل المسألة أكثر وضوحًا. لم يعد بإمكان فرق الأمن التعامل مع هذا على أنه افتراض محض.
في الوقت نفسه، لا تدعم المادة الأصلية الادعاء بأن أنظمة الذكاء الاصطناعي تتكاثر بشكل مستقل في البنية التحتية الواقعية من دون توجيه. فقد اعتمد العرض على نية الباحثين، وأدوات صريحة، وأهداف ضعيفة. إنه إثبات لقدرة في ظروف مضبوطة، لا دليل على انتشار خارج السيطرة.
وهذا يضع المجال في مكان مألوف. فالمخاطرة القريبة ليست في الذكاء الفائق، بل في التحويل التدريجي لأساليب الخصوم البشرية إلى برمجيات قابلة للتوسيع. ومع تحسن أنظمة الذكاء الاصطناعي في التعامل مع المهام التقنية الفوضوية، يصبح الهجوم السيبراني أسهل في التغليف والتفويض والتكرار. وهذا كافٍ بحد ذاته ليكون خطيرًا. لذا ينبغي قراءة تجربة Palisade أقل بوصفها نبوءة عن ذكاء اصطناعي متمرد، وأكثر بوصفها تحذيرًا من أن طبقة الأتمتة في الأمن السيبراني تزداد سماكة بسرعة، لدى المهاجمين والمدافعين على حد سواء.
تعتمد هذه المقالة على تقرير من Live Science. اقرأ المقال الأصلي.