تدخّلت آبل بعد أن جذبت إخفاقات Grok في الإشراف الانتباه
حذّرت آبل بشكل خاص الفرق وراء X وGrok من أنهم بحاجة إلى خطة لتحسين الإشراف على المحتوى بعد الشكاوى والتغطية الإخبارية التي ربطت الخدمات بموجة من التزييفات العميقة الجنسية غير الرضائية. ووفقًا للتقارير التي استشهدت بها NBC News ووجزتها The Verge، أخبرت الشركة أعضاء مجلس الشيوخ الأمريكي بأنها اتصلت بكلا المطورين في يناير وطالبت بتغييرات. وكانت أهمية التحذير أن Grok كان متاحًا داخل X وكطبيق مستقل في الوقت نفسه، ما منح آبل نفوذًا مباشرًا على أحد أبرز منتجات الذكاء الاصطناعي في السوق.
لم تكن المشكلة الأساسية غامضة. ففي ذلك الوقت، وُصفت ضمانات Grok بأنها ضعيفة إلى حد يسمح للمستخدمين بتوليد ومشاركة تزييفات عميقة ذات طابع جنسي وصور ما يُسمى بإزالة الملابس عن أشخاص حقيقيين بسهولة نسبية. وقالت The Verge إن هذه الصور استهدفت النساء بشكل غير متناسب، وبعضها يبدو أنه شمل قاصرين. وجعل ذلك المشكلة تقع عند تقاطع إساءة استخدام الذكاء الاصطناعي وقواعد متجر التطبيقات ومخاوف سلامة الأطفال.
كما يبرز تدخل آبل تناقضًا متكررًا في منظومة الأجهزة المحمولة. فغالبًا ما تقدم متاجر التطبيقات نفسها باعتبارها حراسًا صارمين على السلامة وسياسات المحتوى، ومع ذلك تحركت الشركة بهدوء بدلًا من العلن مع تفاقم أزمة الانتهاكات. وتصف The Verge هذا الرد بأنه تأكيد مكتوم للنفوذ من أحد أقوى الوسطاء في القطاع. ولم تصف آبل تدخلها علنًا في ذلك الوقت، رغم أن السلوك الأساسي كان خطيرًا والتطبيقات المعنية منصات كبرى ذات وصول واسع.
X تحسّن بما يكفي لآبل، لكن Grok لم يفعل
في الرسالة التي وصفتها The Verge، قالت آبل إنها راجعت التغييرات المقترحة لكل من X وGrok. وخلصت إلى أن X عالج إلى حد كبير انتهاكاته، بينما ظل Grok غير ممتثل. ثم أخبرت آبل المطور أن تغييرات إضافية ستكون مطلوبة أو قد يُزال التطبيق من متجر التطبيقات. وهذا التمييز مهم لأنه يشير إلى أن آبل لم تنظر إلى المنصة الأم ومنتج الذكاء الاصطناعي على أنهما حالتان متماثلتان من الإشراف، رغم ارتباطهما الوثيق عمليًا.
تُظهر الحادثة كيف يمكن لمنتجات الذكاء الاصطناعي أن تصطدم بقواعد حوكمة المنصات أسرع من الميزات الاجتماعية التقليدية. فروبوت المحادثة القادر على توليد وسائط اصطناعية يخلق مخاطر فورية وقابلة للتوسع وشديدة الخصوصية. وعندما تفشل الضمانات، تصبح قنوات التوزيع مثل متاجر التطبيقات نقاط إنفاذ. لذلك لم يكن تهديد آبل بالإزالة مجرد ملاحظات روتينية للمطورين، بل إقرارًا بأن أدوات الذكاء الاصطناعي التوليدي يمكن أن تخلق أضرارًا بالغة بما يكفي لتفعيل أشد عقوبة متاحة لمشغل المتجر، بخلاف الإزالة المباشرة.
وبحسب التقارير، لم تعلق Google علنًا على المسألة، رغم أنها تستفيد أيضًا من توزيع هذه التطبيقات عبر Google Play. ويعكس هذا الصمت نمطًا أوسع في القطاع. فالشركات تحقق أرباحًا من إتاحة الوصول أو الاستضافة أو الإبراز لمنتجات الذكاء الاصطناعي سريعة النمو، لكنها غالبًا تتردد في مناقشة إجراءات الإنفاذ ما لم يصبح القرار حتميًا. والنتيجة أن التقارير الخارجية، بدلًا من الإفصاح الرسمي، تصبح النافذة الأساسية التي يطلع منها الجمهور على كيفية حوكمة هذه الأنظمة.
الدرس الأوسع لتوزيع الذكاء الاصطناعي
تؤكد قضية Grok أن الإشراف لم يعد مجرد مشكلة شبكات اجتماعية. فهو الآن مشكلة توزيع، ومشكلة تصميم منتج، ومشكلة مسؤولية منصات في وقت واحد. فإذا كان التطبيق قادرًا على توليد صور مسيئة تتضمن أشخاصًا حقيقيين، فالسؤال لا يقتصر على ما إذا كان مزود النموذج لديه سياسات على الورق، بل على ما إذا كانت هذه السياسات تُنفذ جيدًا بما يكفي لإرضاء الشركات التي تتحكم بواجهات متاجر أنظمة التشغيل وصناع السياسات الذين يتابعون الأضرار الرقمية.
كما يزيد ذلك الضغط على مطوري الذكاء الاصطناعي الذين تعاملوا مع تدابير السلامة بوصفها ثانوية مقارنة بالسرعة والتفاعل. يمكن للمنتجات التوليدية أن تنمو بسرعة إذا كانت متساهلة، لكن قواعد متاجر التطبيقات قد تصبح ملزمة عندما يرتفع الغضب العام. ويشير تحذير آبل إلى أن حتى شركة معروفة بإنفاذها من خلف الكواليس ستتحرك عندما تتلاقى الشكاوى والتغطية الإعلامية والاهتمام السياسي.
ولقطاع الذكاء الاصطناعي الأوسع، تشير الحادثة إلى أن المرحلة التالية من مساءلة المنصات قد تأتي عبر نقاط اختناق التوزيع لا عبر التنظيم المباشر وحده. يمكن للمشرعين وجماعات المناصرة الضغط، ويمكن للصحفيين الكشف، ويمكن للمستخدمين الشكوى، لكن الأثر العملي يصل غالبًا عندما يهدد حارس البوابة بقطع الوصول عن مئات الملايين من الأجهزة. وقد نجا Grok من حظر كامل، على الأقل حتى الآن. وما يبقى هو السابقة: إذا استمرت إخفاقات الإشراف المرتبطة بالإساءة الجنسية الاصطناعية، فلن يكون تسامح متجر التطبيقات مضمونًا.
هذا المقال يستند إلى تقرير من The Verge. اقرأ المقال الأصلي.
Originally published on theverge.com
