أصبح عرض Elon Musk لاستخدام Grok كوكيل للتسوق مثالاً واضحاً على مشكلة مركزية في الذكاء الاصطناعي الاستهلاكي: يستطيع الوكيل أن يجعل عملية الشراء تبدو سهلة، بينما تظل الأنظمة المحيطة به سهلة التعرض أو التلاعب بشكل خطير.
في منشورات على X، روّج Musk لقدرة Grok على شراء المنتجات عبر الإنترنت من خلال أمر بسيط. لكن لقطة شاشة مرتبطة بشراء مجموعات Lego Star Wars بدت وكأنها تكشف أكثر بكثير من مجرد معاملة ناجحة بمساعدة الذكاء الاصطناعي. ووفقاً لـWIRED، أظهرت الصورة رقم طلب Lego مكوناً من 10 أرقام، وتكلفة المجموعات، وعناوين الفوترة والتوصيل، والأرقام الأربعة الأخيرة من بطاقة الدفع، وعنوان البريد الإلكتروني المستخدم في الشراء.
دفعت هذه المجموعة من المعلومات مستخدمي X إلى اختبار ما إذا كان يمكن التأثير في أنظمة دعم Lego باستخدام التفاصيل الظاهرة في المنشور. وأظهرت لقطات شاركها حساب باسم Enderman، على ما يبدو، تفاعلاً مع روبوت خدمة عملاء Lego حاول إلغاء الطلب باستخدام البريد الإلكتروني ورقم الطلب المكشوفين. وقال Musk لاحقاً إن طلبه لم يُلغَ.
عرض عام بعواقب خاصة
تكمن أهمية الحادثة ليس في أنها تؤكد كل إجراء نُسب إلى أطراف ثالثة—فقد رفضت Lego إخبار WIRED بما إذا كان النشاط المبلغ عنه قد وقع—بل في أنها توضح مدى سرعة تحول أثر معاملة عامة إلى سطح هجوم. قد يبدو رقم الطلب مرجعاً عادياً. لكنه عند اقترانه بعنوان بريد إلكتروني وتفاصيل العنوان ومعلومات دفع جزئية، يمكن أن يوفر مادة للهندسة الاجتماعية أو لمحاولات اجتياز عملية تحقق ضعيفة لدى خدمة العملاء.
وزعمت مجموعة ثانية من اللقطات المنشورة على X أنها تظهر مستخدماً يعيد فتح عملية التوصيل، ويرفع الكمية إلى 400 مجموعة، ويغير عنوان التوصيل مع الإبقاء على طريقة الدفع الأصلية. ولم تتمكن WIRED من التأكد بشكل مستقل من نجاح التغيير. كما أشار التقرير إلى أن Lego قد تمتلك ضمانات ترصد النشاط غير المعتاد وتحيله إلى مراجعة بشرية.
هذا الغموض مهم. فالأدلة العامة لا تثبت أن إلغاءً غير مصرح به أو تغييراً في الكمية أو إعادة توجيه للشحنة قد تم فعلاً. لكنها تثبت درساً تشغيلياً أساسياً: يمكن لعرض تسوق بالذكاء الاصطناعي أن يكشف بيانات العميل حتى قبل تقييم صلاحيات الوكيل نفسه أو ضوابط المعاملة أو موثوقيته.
لماذا ترفع وكلاء التسوق مستوى المخاطر
تجمع وكلاء التسوق عدة أنواع من الصلاحيات التي غالباً ما تبقى منفصلة في التجارة الإلكترونية التقليدية. فقد يبحثون بين تجار التجزئة، ويفسرون أوصاف المنتجات والأسعار، ويصلون إلى وسائل الدفع المحفوظة، ويقدمون بيانات الاتصال، ويرسلون الطلب. والوعد هو الراحة: يستطيع المستخدم تفويض أعمال التصفح والدفع المتكررة. أما الخطر فيتمثل في أن خطأً في التعامل مع الهوية أو تصميم التأكيد أو كشف المعلومات قد يؤدي فوراً إلى عواقب مالية وخصوصية.
في حالة Musk، لم تكن المشكلة الأولية بالضرورة أن Grok أتم عملية شراء بصورة خاطئة، بل نشر لقطة شاشة تضمنت معلومات حساسة عن المعاملة. ومع ذلك، توضح الحادثة أيضاً لماذا لا يمكن اختزال الاستخدام الآمن للوكلاء في سؤال ما إذا كان النموذج يستطيع العثور على المنتج الصحيح. قد ينفذ النظام مهمته بنجاح، بينما يخلق المستخدم أو المنصة أو بائع التجزئة المتصل ثغرة في مكان آخر من سير العمل.
بالنسبة إلى تجار التجزئة، تمثل روبوتات خدمة العملاء حلقة حساسة للغاية. فهذه الأنظمة مطالبة بمساعدة العملاء الشرعيين بسرعة، لكنها يجب أن تميز بين صاحب الحساب الحقيقي وشخص حصل على أجزاء من معلومات الطلب. وإذا اعتبر الروبوت أن رقم الطلب الظاهر وعنوان البريد الإلكتروني دليلان كافيان، فقد يحول منشور عام على وسائل التواصل الاجتماعي بيانات الدعم العادية إلى وسيلة اعتماد.
يجب تصميم الأمن حول التفويض
تشير الحادثة إلى عدة مبادئ عملية للتجارة عبر وكلاء الذكاء الاصطناعي. أولاً، ينبغي لوكلاء الشراء عرض شاشة تأكيد واضحة قبل الالتزام بالدفع، تتضمن التاجر والكمية والسعر وموقع التوصيل وطريقة الدفع. ثانياً، يجب تقليل تفاصيل الطلب الحساسة في الإيصالات التي ينشئها الوكيل، وعدم مشاركتها عرضاً في لقطات شاشة عامة.
ثالثاً، ينبغي لتجار التجزئة طلب تحقق أقوى عند إجراء تغييرات مؤثرة، مثل إلغاء الطلب أو تعديل عنوان التوصيل أو إضافة كميات كبيرة أو تغيير طريقة الدفع. وتستحق هذه الإجراءات مصادقة إضافية أو موافقة مباشرة من العميل الذي تم التحقق منه، لا مجرد معلومات قد تظهر في بريد إلكتروني أو إيصال أو صورة على وسائل التواصل الاجتماعي.
وأخيراً، ينبغي اكتشاف التغييرات غير المعتادة باعتبارها نمطاً، لا تقييم كل حقل على حدة. فالطلب الذي يغير العنوان ويرفع الطلب من عدد قليل من العناصر إلى المئات ويعتمد على تفاعل جديد عبر الدردشة يختلف بوضوح عن تصحيح عميل لخطأ مطبعي. يمكن للأنظمة الآلية المساعدة في اكتشاف الفرق، لكن الحالات عالية المخاطر قد تظل بحاجة إلى مراجعة بشرية.
الدرس الأوسع
أشارت شركات ذكاء اصطناعي، منها Meta وOpenAI، أيضاً إلى التسوق القائم على الوكلاء باعتباره حالة استخدام محتملة، وفقاً لـWIRED. ومع انتشار هذه الخدمات، لن يكون السؤال ببساطة ما إذا كان المستخدمون يثقون بالنموذج للبحث أو النقر، بل ما إذا كانت السلسلة بأكملها—من الأوامر ولقطات الشاشة إلى أدوات دعم تجار التجزئة—قد بُنيت للحفاظ على سيطرة المستخدم.
قد تكون عملية شراء Lego التي أجراها Musk معاملة استهلاكية صغيرة، لكنها تقدم حالة اختبار مفيدة لتحول أكبر بكثير. يمكن أن يقلل تفويض المشتريات عبر الإنترنت إلى وكلاء الذكاء الاصطناعي الاحتكاك. لكنه قد يركز أيضاً البيانات الحساسة وسلطة الشراء في مسار يمكن أن تؤدي فيه لقطة شاشة موضوعة في المكان الخطأ أو عملية تحقق ضعيفة لدى الدعم إلى عواقب كبيرة. وستحتاج التكنولوجيا إلى ممارسات أمنية ناضجة بقدر الراحة التي تعد بها.
تستند هذه المقالة إلى تقرير من Wired. اقرأ المقال الأصلي.
Originally published on wired.com