توظيف الذكاء الاصطناعي لقلب وقت المحتالين ضدهم
يسرّع الذكاء الاصطناعي أشكالاً كثيرة من الاحتيال عبر الإنترنت، لكنه أصبح أيضاً أداة لتعطيل من يديرون عمليات الاحتيال. ويستخدم نهج متنامٍ لمكافحة الجرائم الإلكترونية الذكاء الاصطناعي الحواري لانتحال شخصية أهداف قابلة للتصديق، وتحويل المحتالين إلى مكالمات ومحادثات عبر الإنترنت تستهلك وقتهم وتجمع معلومات عن عملياتهم.
وتعد شركة Apate الأسترالية من الجهات التي تتبع هذه الاستراتيجية. وعلى مدى العامين الماضيين، طورت نظاماً يحوّل المحتالين عبر الهاتف إلى روبوتات ذكاء اصطناعي قادرة على مواصلة الحديث من دون تسليم المال أو المعلومات الحساسة. الفكرة بسيطة: كل دقيقة يقضيها المحتال في محاولة إقناع ضحية اصطناعية هي دقيقة لا يستخدمها للوصول إلى شخص حقيقي.
وتكمن أهمية ذلك في أن عمليات الاحتيال واسعة النطاق قد تعتمد على الاتصال الآلي والرسائل الكثيفة. وقد لا تقضي محادثة مقنعة واحدة على شبكة احتيال، لكنها يمكن أن تعطل الكفاءة التي تجعل تلك الشبكات صعبة المكافحة، كما قد تنتج معلومات تساعد البنوك وشركات الاتصالات والمحققين على التعرف إلى الحملات النشطة.
إنشاء أهداف مقنعة وغير قابلة للاستغلال
يصف مؤسس Apate ورئيسها التنفيذي Dali Kaafar الهدف بأنه بناء “ضحايا مثاليين” من وجهة نظر المحتال: أهداف تبدو قابلة للإقناع بما يكفي لإبقاء التفاعل قائماً، لكنها لا تقع فعلياً في الاحتيال. ومن المفترض أن تمنح الروبوتات المتصلين أملاً بأن الدفع أو بيانات الحساب أو نتيجة أخرى باتت قريبة، فتحتفظ بانتباههم.
تقول الشركة إن البنوك تستخدم منصتها وإن شركات الاتصالات تدعمها، وإنها تشغل نحو 350 ألف روبوت. ووفقاً لـ Kaafar، لا تكتفي الروبوتات بالرد على المكالمات، بل يمكنها أيضاً دخول مجموعات الدردشة الاحتيالية والرد على الرسائل النصية، لتوسيع نهج التأخير وجمع المعلومات عبر قنوات مختلفة.
ويستخدم النظام شخصيات وقدرات لغوية وملفات مستخدم متنوعة حتى لا تصبح ردوده متكررة أو سهلة التعرف. وقد تستخدم بعض الشخصيات WhatsApp بينما لا تستخدمه أخرى. وقد يجيب بعضها عن المكالمة، بينما ينهيها بعضها الآخر ويقترح العودة لاحقاً. وهذا التنوع جوهري: لا يحتاج روبوت مكافحة الاحتيال إلى الفوز بالجدال، بل إلى البقاء مقنعاً فترة تكفي لاستنزاف انتباه المحتال بعيداً عن الضحايا المحتملين.
المعلومات مهمة بقدر التأخير
إضاعة الوقت ليست سوى جزء من النموذج. وتقول Apate إنها جمعت أكثر من 250 ألف معلومة آنية عن المحتالين، منها عناوين مواقع احتيالية وحسابات البغال المالية وتفاصيل مصرفية. وقد تكون هذه المعلومات مفيدة لأن عمليات الاحتيال تعتمد غالباً على شبكة متغيرة من أرقام الهواتف وطرق الدفع والروابط وحسابات المراسلة.
من الناحية النظرية، يمكن للمعلومات التي تُجمع أثناء التفاعلات الحية أن تجعل الأنظمة الدفاعية أسرع استجابة. فقد يتمكن بنك من تحديد وجهة دفع مشبوهة، أو مزود اتصالات من التعرف إلى رقم أو نمط متكرر، أو منصة من التعامل مع رابط احتيالي. ولا يوضح المقال كيفية التحقق من كل معلومة أو مشاركتها، لذا ينبغي اعتبار حجم البيانات وتأثيرها التشغيلي رواية من الشركة. لكنه يوضح سبب اهتمام المدافعين بالأنظمة القادرة على التفاعل والمراقبة معاً.
يختلف هذا النموذج عن حملات التوعية التقليدية التي تطلب من الناس اكتشاف علامات التحذير ورفض الطلبات المشبوهة. تظل التوعية مهمة، لكنها تضع جزءاً كبيراً من العبء على المستخدمين. وتسعى الطعوم المدعومة بالذكاء الاصطناعي إلى إعادة جزء من هذا العبء إلى المهاجمين، عبر أهداف متاحة على مدار الساعة وقادرة على التفاعل على نطاق واسع.
منافسة حول الواقعية
تعتمد فائدة هذا النهج على سؤال صعب: هل تستطيع الروبوتات البقاء مقنعة أمام المحتالين المحترفين؟ يتكيف المحتالون بسرعة، وكثير منهم يملك خبرة في توجيه أشخاص قلقين أو مشتتين عبر محادثات معدة مسبقاً. وإذا تمكنوا من التعرف إلى الروبوت بسهولة، يضعف أثر الردع وقد تكشف العملية معلومات عن أساليبها.
لهذا السبب تهمّ صياغة الشخصيات والتنوع اللغوي والسلوك غير المثالي الذي يشبه البشر. فقد يكون الصوت المصقول أكثر من اللازم أو نمط الرد المتكرر مثيراً للشك مثل الرفض المباشر. ويجب أن تكون الطعوم الفعالة مقنعة بما يكفي لمواصلة التفاعل، مع الالتزام بحدود أمان صارمة: لا يمكنها تقديم بيانات اعتماد حقيقية أو تحويل الأموال أو خلق مخاطر جديدة لأشخاص حقيقيين.
وتوجد أسئلة أوسع حول مكان وزمان استخدام الأنظمة الدفاعية الخادعة. فقد تجمع معلومات مهمة، لكن على الجهات التي تنشرها وضع ضوابط للتعامل مع البيانات والتعاون مع السلطات وتجنب التفاعلات غير المقصودة مع مستخدمين حقيقيين. يبرز المقال إمكانات التقنية، لكنه لا يقدم وصفاً كاملاً لحوكمتها أو اختبارات مستقلة لفعاليتها.
استخدام دفاعي ناشئ للذكاء الاصطناعي التوليدي
جعل انتشار الاحتيال المدعوم بالذكاء الاصطناعي من السهل النظر إلى التقنية بوصفها أداة لتضخيم الجرائم الإلكترونية فقط. ويمكن لعمليات الاحتيال توسيع نطاقها بالأتمتة، كما تجعل النصوص والأصوات الواقعية اكتشاف التلاعب أصعب. لكن الطعوم المدعومة بالذكاء الاصطناعي تقدم جانباً مقابلاً: إذ يمكن تحويل القدرة نفسها على إجراء محادثات طبيعية إلى وسيلة دفاع.
بدلاً من محاولة إيقاف كل مكالمة خبيثة قبل وصولها إلى أحد، تهدف هذه الأنظمة إلى تغيير اقتصاديات الاحتيال بعد بدء التواصل. فإذا عجز المحتال عن التمييز سريعاً بين روبوت وضحية محتملة، فقد يقلل كل مسار زائف إنتاجية العملية. وعلى نطاق كافٍ، قد تصبح حملات الاحتيال واسعة النطاق أكثر كلفة وأقل ربحاً.
من المبكر اعتبار هذا الأسلوب بديلاً عن إنفاذ القانون أو إجراءات حماية المنصات الأقوى أو حماية المستهلك. لكنه يوضح انتقال الدفاع السيبراني من التصفية السلبية إلى التفاعل النشط. فالذكاء الاصطناعي لا يفحص النشاط المشبوه فحسب، بل يحاول إشغال الأشخاص الذين يقفون وراءه.
الاختبار التالي هو قياس التأثير
ستعتمد أقوى حجة للأنظمة الحوارية المضادة للاحتيال على أدلة النتائج: انخفاض عمليات الاحتيال الناجحة، وقصر عمر الحملات، ومعلومات أكثر فائدة، وحساب واضح للإيجابيات الكاذبة أو العواقب غير المقصودة. كما ستحتاج الشركات والبنوك وشركات الاتصالات إلى تحديد كيفية دمج هذه الأنظمة مع إجراءات الإبلاغ والاستجابة للاحتيال القائمة.
في الوقت الراهن، يوضح عمل Apate كيف يمكن استخدام الذكاء الاصطناعي لتحويل المورد الأساسي للمحتال ــ الوقت ــ إلى نقطة ضعف. ومع تزايد أتمتة المجرمين الإلكترونيين لعمليات التواصل، بدأ المدافعون بأتمتة إبقائهم مشغولين.
يستند هذا المقال إلى تقرير من Wired. اقرأ المقال الأصلي.
Originally published on wired.com