كاشفات الاحتيال بالذكاء الاصطناعي تواجه الأدوات التي خلقتها

سباق التسلح بين احتيال الذكاء الاصطناعي والدفاع عن الذكاء الاصطناعي

لقد جعل الذكاء الاصطناعي من السهل جداً إنشاء رسائل بريد إلكترونية بصيد احتيالي مقنعة وقوائم وظائف مزيفة وفيديوهات توظيف deepfake. الآن تقوم شركات الأمن السيبراني بنشر ذكاء اصطناعي خاص بها للرد — والنتائج مختلطة. أطلقت NordVPN مؤخراً ميزة الكشف عن الاحتيال التي تستخدم التعلم الآلي لتحليل الرسائل والروابط المريبة في الوقت الفعلي. السؤال هو ما إذا كان يمكنها الكشف بموثوقية عن أدوات الذكاء الاصطناعي ذاتها المستخدمة ضد المستخدمين.

التوقيت مهم. مع نضج الذكاء الاصطناعي التوليدي، تزايدت تعقيد الاحتيالات على الإنترنت بشكل حاد. تأتي قوائم الوظائف الاحتيالية الآن برسائل تغطية مصقولة وملفات شركة واقعية وإشارات مخصصة لسجل عمل الهدف. لم تعد المرشحات البسيطة القائمة على الكلمات الرئيسية كافية.

ما الذي يفعله فاحص الاحتيال الخاص بـ NordVPN فعلاً

تعمل الميزة بتحليل البيانات الوصفية والمحتوى من عناوين URL والبريد الإلكتروني والرسائل. عندما يشير المستخدم إلى شيء ما كمريب، يشغل الفاحص ضد قاعدة بيانات لأنماط التهديد المعروفة مع تطبيق تحليل نموذج اللغة في الوقت نفسه لتحديد النية الخادعة والتفاصيل غير المتطابقة وتكتيكات المعالجة.

على عكس الأنظمة السابقة القائمة على القواعد، يستخدم نهج NordVPN شكلاً من التدريب الخصومي — تم تعليمه على أمثلة من الاحتيالات التي ينشئها الذكاء الاصطناعي، مما يعني أنه شهد الأنماط التي تنتجها هذه الأدوات. هذا يعتبر ميزة نظرياً، لكنه ينشئ ديناميكية سباق تسلح خاصة به: مع تحسن منشئات الاحتيال، يجب إعادة تدريب أدوات الكشف للحفاظ على السرعة.

الاختبار ضد عمليات احتيال التوظيف من صنع الذكاء الاصطناعي

كشف الاختبار الحقيقي ضد عمليات احتيال توظيف متقدمة — من نوع ما ينشئه نماذج اللغات الكبيرة والموجهة للمهنيين — صورة دقيقة. بالنسبة لمحاولات البصيد الصراحة، أداة الأداة بشكل جيد، وحددت بشكل صحيح الروابط المريبة والتفاصيل غير المعقولة للمرسل. جاء التحدي مع أمثلة أكثر تطوراً.

عمليات احتيال التوظيف من صنع الذكاء الاصطناعي بشكل متزايد تنتحل شركات حقيقية، وتشير إلى موظفين حقيقيين، واستخدم وصف وظائف معقول. في هذه الحالات، انخفضت دقة فاحص الاحتيال، خاصة عندما تم توجيه الاتصال الاحتيالي عبر منصات شرعية مثل LinkedIn أو خدمات البريد الإلكتروني برسمة المرسل نظيفة.

هذا قيد معروف: أدوات الكشف بالذكاء الاصطناعي تكافح عندما يستخدم المحتالون البنية الموثوقة. يمكن لموظف توظيف مزيف يستخدم مجال بريد إلكتروني شركة حقيقي، يشير إلى فرصة عمل فعلية، ويوفر رابط اجتماع لخدمة مؤتمرات فيديو شرعية أن ينزلق من خلال مرشحات آلية بغض النظر عن مدى تطورهم.

القيد الذي لا يستطيع أي كاشف حله

التحدي الأساسي لأي نظام كشف احتيال هو أن نفس قدرات الذكاء الاصطناعي التي تمكن الاحتيال تجعل الكشف أصعب أيضاً. نموذج لغة ينشئ نصاً بشرياً مقنعاً ينشئ أيضاً نصاً يسجل بشكل جيد على مقاييس الحقيقية المعيارية. تحتاج أدوات الكشف إلى الاعتماد على الإشارات السلوكية — أنماط التوقيت، تسلسل الطلب غير العادي، المراجع المتقاطعة مع شبكات الاحتيال المعروفة — بدلاً من المحتوى وحده.

أظهرت أداة NordVPN وعوداً في تحليل السلوك، وحددت بشكل صحيح عمليات احتيال متعددة التي مرت بدقة المحتوى لكن أظهرت هياكل روابط مريبة أو طلبت معلومات حساسة بشكل غير عادي في وقت مبكر من محادثة. هذا يشير إلى أن أكثر إستراتيجية دفاعية للكشف عن احتيال الذكاء الاصطناعي هي النظر في الأنماط عبر محادثة بدلاً من تحليل أي رسالة واحدة في العزلة.

الآثار الأوسع على الأمن السيبراني

ما يوضحه هذا الاختبار هو أن صناعة الأمن السيبراني تدخل مرحلة حيث سيصبح الصراع بين الذكاء الاصطناعي والذكاء الاصطناعي ميزة دائمة في منظر التهديد. الشركات الأفضل وضعاً للدفاع ضد الاحتيال من صنع الذكاء الاصطناعي هي تلك التي تمتلك أكبر مجموعات بيانات تدريب لأمثلة الاحتيال الحقيقية في العالم — خندق البيانات التي تتمتع به شركات الأمن المشهورة على المدخولين الجدد.

المستخدمون، وفي الوقت نفسه، يجب ألا يعاملوا أي أداة واحدة كحماية محددة. أفضل طريقة تجمع الكشف الآلي مع عادات التحقق الشخصية: تأكيد مستقل لهويات الموظفين، والحذر من أي عملية تتحرك بسرعة غير عادية، ومعاملة طلبات المعلومات المالية أو المستندات الشخصية في وقت مبكر من العلاقة كأعلام حمراء بغض النظر عما يقوله الفاحص.

القصة الأوسع هنا هي واحدة من الديمقراطية التكنولوجية التي تقطع في كلا الاتجاهين. جعل الذكاء الاصطناعي الاحتيال المتقدم في متناول الهاجمين ذوي المهارات المنخفضة وجعل أدوات الكشف أكثر قدرة. الدفاع، في الوقت الحالي، لا يعدو سباقاً — لكنه يواكب الخطى.

استند هذا المقال على التقارير الواردة من ZDNET. اقرأ المقالة الأصلية.