مشكلة أمنية مألوفة في الذكاء الاصطناعي وصلت الآن أيضاً إلى المساعدين على الجهاز
فصّل باحثون هجوماً لحقن المطالبات يُقال إنه تجاوز حمايات Apple Intelligence، مما سمح لنموذج اللغة الكبير على الجهاز من Apple بتنفيذ إجراءات يسيطر عليها المهاجم قبل تصحيح المشكلة. وتذكّر هذه الحادثة بأن نقل ميزات الذكاء الاصطناعي إلى الجهاز لا يجعلها محصنة ضد إحدى أعتى نقاط الضعف في هذه التقنية: قدرة التعليمات العدائية على التلاعب بسلوك النموذج من داخل مدخلات تبدو مشروعة.
الملخص المرفق موجز، لكن الدلالة الأساسية كبيرة. فقد عرضت Apple المعالجة على الجهاز على أنها ميزة أمنية وخصوصية، وهي كذلك في جوانب كثيرة. إن إبقاء البيانات محلياً يمكن أن يقلل التعرض للبنية السحابية وسلاسل الخدمات الخارجية. لكن حقن المطالبات ليس في الأساس مشكلة سحابية. إنه مشكلة في اتباع التعليمات. إذا أمكن توجيه النموذج بسياق خبيث أو مضلل، فإن التنفيذ المحلي يغيّر سطح الهجوم من دون أن يزيل الخطر الأساسي.
ماذا يعني حقن المطالبات عملياً
تعمل هجمات حقن المطالبات عادةً عبر إدخال تعليمات عدائية ضمن المعلومات التي يُطلب من النموذج معالجتها. وبدلاً من التصرف وفق قواعده المقصودة، يبدأ النموذج في اتباع توجيهات صاغها المهاجم. وفي الحالة التي وصفها الباحثون، سمحت الثغرة بتجاوز قيود Apple وإجبار النموذج على الجهاز على تنفيذ إجراءات متوافقة مع سيطرة المهاجم.
وهذا مهم لأن أنظمة المساعدين أصبحت تضع نفسها بشكل متزايد بين المستخدمين وقدرات الجهاز. فإذا أمكن تجاوز القيود على مستوى النموذج، فالمشكلة لا تكون مجرد مخرجات سيئة، بل تنفيذ الفعل. وبمجرد أن ترتبط أنظمة الذكاء الاصطناعي بالأتمتة أو التطبيقات أو الإعدادات أو سير العمل، قد يتحول فشل على مستوى المطالبة إلى فشل تشغيلي. ولهذا أصبح حقن المطالبات أحد الأسئلة الأمنية الحاسمة لمنتجات الذكاء الاصطناعي، خصوصاً تلك التي تُسوّق بوصفها وكلاء شخصيين موثوقين.
لماذا يهم هذا Apple
Apple ليست وحدها في مواجهة هذا النوع من المخاطر. فقد أثّر حقن المطالبات في أنظمة ذكاء اصطناعي عبر الصناعة. لكن تموضع Apple يمنح هذه الحادثة وزناً خاصاً. فقد اعتمدت الشركة بقوة على التكامل المتحكم فيه، وتسويق الخصوصية، والحوسبة على الجهاز كعناصر تميّز. أما ثغرة جرى تصحيحها لكنها ما زالت تسمح للباحثين بكسر الضمانات المقصودة، فهي تتعارض مع الافتراض القائل إن النظام البيئي المُحكم التحكم ينتج تلقائياً نظام ذكاء اصطناعي أكثر أماناً.
هذا لا يعني أن استراتيجية Apple خاطئة. بل يعني أن نموذج الأمان المحيط بالمساعدين الحديثين يجب أن يتجاوز مجرد محلية الجهاز. تحتاج النماذج إلى فصل قوي بين التعليمات الموثوقة والمحتوى غير الموثوق. وتحتاج إلى استخدام مقيد للأدوات، وحدود صلاحيات أوضح، ودفاعات بُنيت على افتراض أن مدخلات عدائية ستصل إليها. وإذا كانت هذه الطبقات ضعيفة، فإن المعالجة المحلية وحدها لا تكفي.
الدروس الأوسع لتصميم منتجات الذكاء الاصطناعي
تؤكد هذه الحادثة أيضاً نقطة أوسع في الصناعة: يجب أن تتطابق ادعاءات أمان الذكاء الاصطناعي مع أنماط الفشل المحددة لأنظمة الذكاء الاصطناعي، لا أن تُستعار ببساطة من أدلة أمان البرمجيات القديمة. يظل أمان التطبيقات التقليدي ضرورياً، لكن نماذج اللغة الكبيرة تقدم نوعاً مختلفاً من الغموض. فهي لا تنفذ الشفرة فحسب، بل تفسر اللغة، وتستخلص النية، وتتصرف بناءً على السياق. وهذا يجعلها قوية، لكنه يجعلها أيضاً شديدة القابلية للتلاعب عبر مدخلات تبدو غير ضارة حتى تُفسَّر على أنها تعليمات.
بالنسبة لفرق المنتجات، يعني ذلك أن حقن المطالبات لا يمكن التعامل معه كخلل هامشي. بل يجب التعامل معه كقيد تصميمي أساسي. وأي نظام يسمح لنموذج لغوي كبير بقراءة المحتوى ثم اتخاذ إجراء يجب أن يفترض أن بعض ذلك المحتوى سيكون عدائياً. والسؤال ليس ما إذا كان المهاجمون سيحاولون، بل ما إذا كانت البنية تحدّ فعلاً من ما يمكن أن تفعله عملية حقن ناجحة.
خلل جرى تصحيحه، لا مشكلة تم حلها
يقول التقرير إن المشكلة جرى تصحيحها الآن، وهذا مهم. يعمل الإفصاح المسؤول والمعالجة كما ينبغي عندما يتمكن الباحثون من تحديد نقاط الضعف ويمكن للمورّدين إغلاقها. لكن الدرس الاستراتيجي أكبر من هذا الإصلاح الفردي. قد يكون مسار الاستغلال قد أُغلق، لكن فئة الضعف لا تزال نشطة عبر الذكاء الاصطناعي الموجه للمستهلكين.
ومع تسابق الشركات لدمج المساعدين بعمق أكبر في أنظمة التشغيل والمتصفحات والأجهزة الشخصية، سيبقى حقن المطالبات أحد أوضح الاختبارات لمعرفة ما إذا كانت هذه الأنظمة جاهزة لنيل ثقة واسعة. وتعد الثغرة التي جرى تصحيحها لدى Apple إشارة أخرى إلى أن الصناعة ما زالت تتعلم هذا الدرس في بيئة الإنتاج.
- فصّل باحثون ثغرة حقن مطالبات، جرى إصلاحها الآن، أثّرت في حمايات Apple Intelligence.
- وبحسب التقرير، سمحت المشكلة للمهاجمين بتجاوز القيود وبدء إجراءات يسيطرون عليها.
- تُظهر هذه الحالة أن الذكاء الاصطناعي على الجهاز لا يزال يواجه مخاطر كبيرة من حقن المطالبات.
هذه المقالة مبنية على تقرير 9to5Mac. اقرأ المقال الأصلي.
