توسيع درع التزييف العميق
أعلنت YouTube عن توسيع قدراتها في كشف التزييف العميق المدعومة بالذكاء الاصطناعي لتغطية الشخصيات السياسية، وهي خطوة تأتي مع أن الوسائط الاصطناعية التي ينتجها الذكاء الاصطناعي أصبحت أكثر تعقيداً وصعوبة في التمييز عن المحتوى الأصلي. وقالت المنصة إن النظام المحدث يمكنه تحديد وتصنيف مقاطع الفيديو المعدلة التي تصور سياسيين يقولون أو يفعلون أشياء لم يقولوها أو يفعلوها أبداً.
يعتمد التوسيع على الأدوات الموجودة التي نشرتها YouTube لكشف المحتوى الذي ينتجه الذكاء الاصطناعي والذي يضم شخصيات عامة. ركزت المنصة سابقاً على جهود الكشف على المشاهير والمنشئين الذين يتم استخدام صورهم بدون موافقة. إن توسيع هذه القدرات للسياسيين يمثل اعترافاً بأن الوسائط الاصطناعية تشكل تهديداً متميزاً وخطيراً أكثر في المجال السياسي.
كيفية عمل الكشف
يستخدم نظام كشف التزييف العميق في YouTube نماذج ذكاء اصطناعي متعددة تعمل معاً لتحليل مقاطع الفيديو للبحث عن علامات للإنتاج الاصطناعي أو التعديل. يفحص النظام حركات الوجه والمزامنة الشفوية والخصائص الصوتية والقطع الفنية المميزة لأدوات الفيديو بالذكاء الاصطناعي من الجيل الحالي.
عندما يحدد النظام أن مقطع فيديو من المحتمل أن يكون قد أنتجه الذكاء الاصطناعي أو تم تعديله، فيمكنه اتخاذ عدة إجراءات تبعاً للسياق. قد تتم إزالة مقاطع الفيديو التي تنتهك بوضوح سياسات YouTube بشأن الممارسات الخادعة بالكامل. قد يحصل الآخرون على علامات تشير إلى أنهم يحتويون على محتوى من صنع الذكاء الاصطناعي، مما يسمح للمشاهدين باتخاذ قرارات مستنيرة حول ما يشاهدونه.
قالت الشركة إنها درّبت نماذجها على مجموعة بيانات كبيرة من التزييف العميق المعروف والمواد السياسية الحقيقية، على الرغم من أنها لم تكشف عن التفاصيل التقنية المحددة لنهجها. قالت YouTube أيضاً إنها تقوم بتحديث نماذجها بشكل مستمر لمواكبة تقنية الإنتاج التي تتحسن بسرعة، وهي سباق تسلح بين الكشف والإنتاج من المرجح أن يتكثف.
مسألة ترامب
عندما طُلب منها التأكيد فيما إذا كان الكشف الموسّع يغطي الرئيس السابق دونالد ترامب على وجه التحديد، رفضت YouTube تقديم إجابة مباشرة. قالت الشركة إن أنظمتها مصممة لحماية جميع الشخصيات السياسية دون تسمية أفراد محددين. وقد جلب عدم الإجابة هذا انتقادات من كلا الطرفين السياسيين.
كان ترامب هدفاً متكرراً للمحتوى الذي ينتجه الذكاء الاصطناعي، بدءاً من عمليات التعديل الفكاهية الواضحة إلى تزييفات عميقة أكثر إقناعاً يمكن بشكل معقول الخلط بينها وبين المواد الفعلية. يجعله وضعه كشخصية سياسية رئيسية وموضوع متكرر للخطاب عبر الإنترنت هدفاً ذا قيمة عالية بشكل خاص لمنشئي التزييف العميق.
قد يعكس تردد المنصة في تسمية أفراد محددين تحميهم الرغبة في تجنب تصور الانحياز السياسي. يمكن تفسير أي بيان صريح حول حماية أو عدم حماية سياسي معين على أنه YouTube تتخذ موقفاً سياسياً، وهو ما حاولت الشركة باستمرار تجنبه رغم أنها تعمل في بيئة إعلامية متزايدة التسييس.
التهديد الأوسع للتزييف العميق
يأتي التوسيع في وقت ينتشر فيه المحتوى السياسي الذي ينتجه الذكاء الاصطناعي بسرعة. لقد جعلت التطورات في نماذج توليد الفيديو من شركات بما في ذلك OpenAI وGoogle والعديد من المشاريع مفتوحة المصدر من الممكن إنشاء مقاطع فيديو مزيفة مقنعة بالحد الأدنى من الخبرة التقنية وبتكلفة قريبة من الصفر.
خلال دورات الانتخابات في جميع أنحاء العالم، تم استخدام التزييف العميق لتصوير السياسيين يدلون بتصريحات التهاب، والتصويت للمرشحين الذين يعارضونهم، أو الانخراط في سلوك فضيحة. في عدة دول، أثرت التزييفات العميقة الفيروسية على الرأي العام قبل تحديدها على أنها مزيفة، مما يدل على الطبيعة غير المتكافئة للتهديد: يمكن لمقطع تزييف عميق أن ينتشر في دقائق بينما تستغرق دحض الأكاذيب أياماً.
منصات التواصل الاجتماعي هي القناة الرئيسية لتوزيع التزييف العميق السياسي، مما يجعل الكشف على مستوى المنصة خط دفاع حرج. ومع ذلك، فإن الكشف بطبيعته تفاعلي، ويحدد المحتوى المزيف فقط بعد إنشاؤه وتحميله. قد يتفادى التزييف العميق الأكثر تعقيداً الكشف بالكامل، خاصة مع تحسن تقنية الإنتاج بشكل أسرع من قدرات الكشف.
الضغط التنظيمي
يحدث توسيع YouTube لكشف التزييف العميق على خلفية ضغط تنظيمي متزايد على المنصات للتعامل مع المعلومات الخاطئة التي ينتجها الذكاء الاصطناعي. يتضمن قانون الذكاء الاصطناعي للاتحاد الأوروبي أحكاماً تتعلق بوضع العلامات على الوسائط الاصطناعية، وقد أقرت عدة ولايات أمريكية أو تنظر في قوانين تتناول على وجه التحديد التزييف العميق السياسي.
على المستوى الفيدرالي، أثار القلق ثنائي الحزب بشأن التدخل في الانتخابات الذي ينتجه الذكاء الاصطناعي اقتراحات تشريعية متعددة، على الرغم من أن أياً منها لم تصبح قانوناً بعد. يعني غياب التنظيم الفيدرالي الشامل أن المنصات تنظم بشكل كبير نهجها الخاص بالتزييف العميق، بمستويات مختلفة من الصرامة والشفافية.
يجادل النقاد بأن التنظيم الذاتي للمنصة غير كافٍ نظراً للمخاطر المحتملة. عندما يمكن للتزييف العميق المقنع لزعيم سياسي أن يؤثر نظرياً على الانتخابات أو يشعل أزمة جيوسياسية، فإن الاعتماد على الشركات الخاصة للإشراف على المشكلة يخلق فجوات في المساءلة. إذا فشل نظام الكشف في YouTube في التقاط تزييف عميق ذي عواقب، فلا توجد هيئة تنظيمية لها سلطة مساءلة المنصة.
ما الذي يأتي بعد ذلك
يعد توسيع كشف التزييف العميق في YouTube جزءاً من اتجاه صناعي أوسع نحو أخذ الوسائط الاصطناعية على محمل الجد. Google، التي تمتلك YouTube، تقوم أيضاً بتطوير أدوات كشف لمنصات أخرى وساهمت في المعايير واسعة الصناعة لأصل المحتوى والمصادقة.
The Content Authenticity Initiative، التي يدعمها Adobe وMicrosoft وغيرها، تقوم بتطوير معايير تقنية لتضمين بيانات تعريف الأصل في المحتوى الرقمي، مما ينشئ سلسلة حفظ يمكنها التحقق مما إذا كان الفيديو أصلياً. تكمل هذه المعايير الكشف على مستوى المنصة بتوفير إشارة إيجابية للأصالة بدلاً من الاعتماد فقط على تحديد المزيفات.
ومع ذلك، يبقى التحدي الأساسي: تتقدم تقنية إنتاج الذكاء الاصطناعي أسرع من قدرات الكشف والمصادقة. يمثل الكشف الموسّع في YouTube خطوة ذات مغزى، لكنها مجرد خطوة واحدة في سباق تسلح مستمر لا يظهر أي علامات على الاستقرار في أي وقت قريب.
تعتمد هذه المقالة على تقرير من Gizmodo. اقرأ المقالة الأصلية.
