يوتيوب يوسّع من يمكنه رصد التزييف العميق
توسّع يوتيوب برنامجها لكشف التشابه بالذكاء الاصطناعي ليشمل جميع المستخدمين الذين تبلغ أعمارهم 18 عامًا أو أكثر ولديهم حساب على يوتيوب، وهو تحول مهم في كيفية تعامل المنصة مع الوسائط الاصطناعية غير التوافقية. تتيح هذه الميزة للشخص إرسال مسح وجهي يشبه صورة السيلفي لكي تراقب يوتيوب المنصة بحثًا عن أي تطابقات في التشابه وتنبه المستخدم إذا وجدت محتوى محتملاً يشبهه.
حتى الآن، جرى اختبار الأداة على مراحل أضيق، بدءًا من منشئي المحتوى وصولًا إلى المسؤولين الحكوميين والسياسيين والصحفيين وأفراد صناعة الترفيه. فتحها أمام المستخدمين البالغين العاديين يغيّر حجم البرنامج ومعناه. لم تعد تُقدَّم أساسًا كحماية للأشخاص شديدي الظهور، بل تصبح إجراء سلامة موجهًا للمستهلكين عمومًا.
كيف يعمل النظام
الوظيفة الأساسية بسيطة. يقدّم المستخدم مسحًا للوجه، ثم تبحث يوتيوب عن تطابقات محتملة، وبعد ذلك يمكن للمستخدم طلب الإزالة إذا اعتقد أن فيديو ما يستخدم صورته بشكل غير صحيح. ووفقًا للتقرير المرفق، كانت يوتيوب قد قالت سابقًا إن عدد طلبات الإزالة كان ضئيلًا جدًا، لكن الإطلاق الموسع سيختبر ما إذا كان ذلك سيظل صحيحًا عندما لا يعود الوصول محصورًا في مجموعة صغيرة من المستخدمين.
ومن المهم أن الكشف وحده لا يزيل الفيديو تلقائيًا. تخضع طلبات الإزالة للمراجعة وفق سياسة الخصوصية في يوتيوب، وتقول الشركة إنها تضع في الاعتبار عوامل مثل مدى واقعية المحتوى، وما إذا كان موسومًا بأنه مولّد بالذكاء الاصطناعي، وما إذا كان يمكن تحديد هوية الشخص بشكل فريد. وهذا يضع النظام في منطقة وسطى بين المراقبة الآلية والإشراف البشري، بحيث يؤثر كل من التعرف والسياق في النتيجة النهائية.
ما الذي تغطيه السياسة وما الذي لا تغطيه
تركّز الميزة على التشابه الوجهي، لا على الصوت أو غيره من السمات التعريفية. وهذا يعني أنها تعالج جزءًا واحدًا فقط من مشكلة الوسائط الاصطناعية. فقد تعتمد عملية انتحال مقنعة بالذكاء الاصطناعي على الوجه أو الصوت أو الإيماءات أو المونتاج السياقي، وأداة يوتيوب الحالية مصممة لأحد هذه المستويات وليس للمشكلة بأكملها.
وتتضمن السياسة أيضًا استثناءات للسخرية والتهكم. وتكتسب هذه الاستثناءات أهمية لأن المنصة تحاول الموازنة بين الأذى الذي يلحق بالخصوصية ومخاوف حرية التعبير، خصوصًا عندما تُستخدم الوسائط الاصطناعية في التعليق أو الترفيه أو التعبير السياسي. وسيتمثل التحدي العملي في ما إذا كان المستخدمون والمبدعون والمراجعون قادرين على التمييز باستمرار بين السخرية الواضحة والمحتوى الواقعي بما يكفي لخداع الناس.
يمكن للمستخدمين أيضًا إلغاء الاشتراك وطلب حذف بياناتهم من يوتيوب. وهذه النقطة مهمة لأن أدوات مراقبة الوجه تخلق بدورها أسئلة خصوصية خاصة بها. فالمنصة التي تعد بحماية الناس من التزييف العميق يجب أن تقنعهم أيضًا بأن المدخلات ذات الطابع البيومتري ستُعامل بشكل محدود وقابل للعكس.
لماذا يكتسب هذا التوسع أهمية الآن
تعكس هذه الخطوة تحولًا أوسع في مشهد الوسائط الاصطناعية. فالأدوات التي تولد وجوهًا وفيديوهات واقعية أصبحت أسهل في الاستخدام، والمنصات تحت ضغط لتقديم وسائل حماية عملية قبل أن يتسع نطاق الإساءة أكثر. ومن خلال نقل كشف التشابه من برنامج محدود إلى إتاحة عامة للبالغين، تشير يوتيوب إلى أن إساءة استخدام الهوية لم تعد مشكلة تخص نخبة من المبدعين فقط.
كما أنها خيار حوكمة ملحوظ. فكثير من النقاشات حول التزييف العميق تركز على قوانين جديدة أو معايير العلامات المائية أو حماية خاصة بالانتخابات. أما نهج يوتيوب فهو أكثر تشغيلية: السماح للمستخدمين بمراقبة المنصة استباقيًا بحثًا عن سوء الاستخدام ثم تمرير النزاعات عبر إجراءات الخصوصية القائمة. وقد يكون ذلك أسرع في التطبيق من إطار تنظيمي جديد بالكامل، حتى لو ظل غير مكتمل.
الأسئلة الأصعب المقبلة
نجاح البرنامج سيتوقف أقل على الإعلان وأكثر على أداء النظام على نطاق واسع. فالنتائج الخاطئة، أو حالات عدم الرصد، أو الإزالة غير المتسقة، أو قرارات المراجعة غير الشفافة، كلها قد تقوض الثقة. وفي الوقت نفسه، قد يؤدي نظام شديد العدوانية إلى حجب محتوى مشروع أو واضح الوسم.
ومع ذلك، يمثل التوسع تغييرًا ذا معنى في سياسة المنصة. ولأول مرة، يمكن تقريبًا لأي مستخدم بالغ على يوتيوب أن يطلب من المنصة المساعدة في مراقبة الاستخدامات الاصطناعية لوجهه. وفي بيئة إعلامية لم تعد فيها الصور الواقعية المولدة بالذكاء الاصطناعي مقتصرة على المشاهير أو السياسيين، قد يصبح هذا التوسع في الوصول واحدًا من أكثر وسائل الحماية الموجهة للمستهلكين التي قدمتها منصة كبرى.
تعتمد هذه المقالة على تقرير The Verge. اقرأ المقال الأصلي.
Originally published on theverge.com
