هجوم يشبه الدودة في Microsoft Copilot for Word حوّل قلقاً أمنياً طويل الأمد في الذكاء الاصطناعي إلى عرض عملي ملموس
أظهر باحث أمن أن حقن التعليمات المخفية داخل مستندات Microsoft Word يمكن أن ينتقل من ملف إلى آخر عندما يستخدم الناس Microsoft Copilot for Word لإعادة استخدام المحتوى أو تلخيصه. والنتيجة ليست مجرد استغلال منفرد، بل آلية ذاتية الانتشار يمكن أن تحول المستندات العادية إلى حوامل للهجوم.
وفقاً للنتائج المعلنة، يعمل الهجوم عبر تضمين تعليمات في مستند بطرق يصعب على القراء البشر ملاحظتها، مثل نص أبيض على خلفية بيضاء بحجم خط صغير للغاية. ويقول الباحث إن Copilot يزيل تنسيقات اللون وحجم الخط قبل معالجة النص، ما يعني أن التعليمات المخفية تظل مرئية لنظام الذكاء الاصطناعي حتى عندما تكون غير مرئية عملياً للشخص الذي يعاين المستند.
هذا الفرق مهم لأنه يخلق فجوة بين ما يعتقد المستخدم أنه موجود في الملف وما يقرأه مساعد الذكاء الاصطناعي فعلياً. إذا اتبع Copilot التعليمات المخفية أثناء إنشاء مستند جديد، فقد يتم نسخ النص المحقون إلى المخرجات. عندها يصبح الملف الجديد حاملاً آخر. وعندما يُستخدم ذلك المستند الثاني لاحقاً كمادة مصدر، يمكن أن تنطلق التعليمات المخفية نفسها مرة أخرى.
لماذا يهم هذا العرض
غالباً ما وُصف حقن التعليمات بأنه مشكلة غير محلولة في أنظمة الذكاء الاصطناعي، لكن كثيراً من النقاشات تبقى نظرية. هذه الحالة أكثر تحديداً وأكثر إرباكاً لأنها تظهر كيف يمكن لهذا الضعف أن ينتقل عبر سير العمل المكتبي المعتاد. لا يحتاج الملف الخبيث إلى خداع المستخدم لتشغيل شيفرة بالمعنى التقليدي. كل ما يحتاج إليه هو أن يُستخدم في أنواع مهام التعامل مع المستندات التي ينفذها العاملون المعرفيون يومياً.
يُظهر السيناريو المبلغ عنه كيف يمكن لتحليل سوق مصاب تم تنزيله من الإنترنت أن يؤثر في تقرير مالي يُنشأ باستخدام Copilot. إذا ورث التقرير التعليمات المخفية، فقد يلوث بعد ذلك المسودات اللاحقة أو الملخصات المشتقة أو المستندات القائمة على القوالب. وبعبارة أخرى، فإن ميزة الإنتاجية التي تجعل المستندات سهلة إعادة الاستخدام تخلق أيضاً مساراً لاستمرار الهجوم.
وهذا يمثل تحولاً ملحوظاً مقارنة بالتصيد الاحتيالي التقليدي أو برمجيات الماكرو الخبيثة. الخطر الموصوف هنا مرتبط بكيفية تفسير نموذج الذكاء الاصطناعي للغة داخل محتوى أعمال موثوق. قد يبدو المستند الأساسي غير ضار، ويمر بفحص عابر، ومع ذلك يغير المخرجات اللاحقة.
تم إخطار Microsoft، لكن لم يكن هناك إصلاح عند نشر النتائج
بحسب المواد المصدرية، أبلغ الباحث وراء الهجوم، Hakon Maloy، Microsoft بالسلوك في 31 مارس. أكدت Microsoft السلوك، لكن محاولتي إصلاح فشلتا على ما يبدو. وبعد 144 يوماً، نشر Maloy النتائج دون الكشف عن نص الحمولة نفسها.
هذا الجدول الزمني مهم لسببين. أولاً، يشير إلى أن المشكلة ليست نظرية فحسب ولا ناتجة عن سوء فهم لحالة هامشية. ثانياً، يعزز مدى صعوبة حل مشكلات حقن التعليمات في الأنظمة المصممة لابتلاع اللغة الطبيعية وتحويلها. إذا كان من المتوقع أن يقرأ المساعد كل ما في المستند على أنه سياق قد يكون مفيداً، فإن التمييز بين التعليمات المشروعة والخبيثة يصبح معقداً تقنياً ومن منظور المنتج أيضاً.
كما أن نشر النتائج من دون إصلاح عام يزيد الضغط على مزودي الذكاء الاصطناعي للمؤسسات. يُطرح Copilot وأدوات مشابهة على نحو متزايد كمساعدين لصياغة المعلومات وتحريرها وتلخيصها وتركيبها عبر الملفات الداخلية للشركة. وهذا يجعل الثقة في حدود المستند ومعالجة التعليمات أمراً محورياً لأمن المنتج.
مشكلة إنتاجية مكتبية، وليست مجرد مشكلة مختبر ذكاء اصطناعي
أحد أسباب تميز هذه الحالة أنها تقع داخل سياق إنتاجية واسع الاستخدام، وليس ضمن واجهة دردشة محدودة النطاق. تُشارك مستندات Word بانتظام بين الفرق والأقسام والشركاء والمصادر الخارجية. وتحث كثير من المؤسسات موظفيها بنشاط على إدخال المزيد من هذه المستندات إلى مساعدي الذكاء الاصطناعي لتوفير الوقت.
يشير الاستغلال الموصوف في التقرير إلى أن الراحة يمكن أن تصبح سطح هجوم أيضاً. قد لا يحتاج المستخدم إلى النقر على مرفق خطير، أو تفعيل الماكرو، أو تثبيت برنامج مشبوه. بدلاً من ذلك، قد يكون مجرد طلب من Copilot المساعدة في كتابة مستند جديد انطلاقاً من مستند قديم كافياً لنسخ التعليمات المخفية.
هذا يجعل العادات الدفاعية أصعب في التعريف. غالباً ما تركز الإرشادات الأمنية التقليدية على علامات التحذير المرئية أو المحتوى القابل للتنفيذ. أما هنا، فالمادة الخطرة هي نص عادي جرى تنسيقه فقط لتفادي انتباه البشر مع بقائه قابلاً للقراءة لدى النموذج. ولذلك يستغل الهجوم فجوة بين إدراك الإنسان والآلة داخل الملف نفسه.
ما الذي يقوله هذا العرض عن حالة أمن الذكاء الاصطناعي
الخلاصة الأوسع هي أن حقن التعليمات لا يزال غير محسوم في المنتجات الواقعية، خاصة عندما تُمنح النماذج سلطة واسعة لتفسير مدخلات مختلطة الثقة. التعليمات المخفية في المستندات الخارجية أو صفحات الويب أو الرسائل الإلكترونية أو المرفقات تمثل مصدر قلق معروف عبر أنظمة الذكاء الاصطناعي. يضيف هذا المثال آلية انتشار تجعل احتواء المشكلة أصعب بمجرد دخول مستند سيئ إلى سير العمل.
كما أن التقرير يقوض فكرة أن حقن التعليمات مجرد إزعاج ينتج إجابات غريبة. في هذه الحالة، الخطر تشغيلي. يمكن للتعليمات الخبيثة أن تبقى داخل أصول الأعمال العادية وتنتشر عبر العمل المعرفي الروتيني. وحتى من دون تنفيذ شيفرة تدميرية، يخلق ذلك مخاطر على سلامة التقارير والملخصات ومستندات التخطيط والسجلات الأخرى التي قد يثق بها الموظفون.
إن قرار الباحث حجب نص الحمولة الفعلي يحد قليلاً من الاستخدام الفوري من قبل المقلدين، لكن الوصف المنشور كافٍ لإظهار فئة الإخفاق. بالنسبة للشركات التي تقيم مساعدي الذكاء الاصطناعي، فالدرس واضح: لا يمكن اعتبار إدخال المستندات آمناً لمجرد أن المصدر يبدو كأنه محتوى مكتبي عادي.
ومع تعمق اعتماد المؤسسات على أدوات الكتابة بالذكاء الاصطناعي، تصبح الحدود بين المحتوى والأمر واحدة من أهم خطوط الأمن التي يجب الدفاع عنها. ويُظهر هذا العرض أنه في الأنظمة الحالية لا يزال من السهل جداً طمس هذه الحدود.
تعتمد هذه المقالة على تقرير من The Decoder. اقرأ المقال الأصلي.
Originally published on the-decoder.com