تدخّلت آبل بعد أن جذبت إخفاقات Grok في الإشراف الانتباه
حذّرت آبل بشكل خاص الفرق وراء X وGrok من أنهم بحاجة إلى خطة لتحسين الإشراف على المحتوى بعد الشكاوى والتغطية الإخبارية التي ربطت الخدمات بموجة من التزييفات العميقة الجنسية غير الرضائية. ووفقًا للتقارير التي استشهدت بها NBC News ووجزتها The Verge، أخبرت الشركة أعضاء مجلس الشيوخ الأمريكي بأنها اتصلت بكلا المطورين في يناير وطالبت بتغييرات. وكانت أهمية التحذير أن Grok كان متاحًا داخل X وكطبيق مستقل في الوقت نفسه، ما منح آبل نفوذًا مباشرًا على أحد أبرز منتجات الذكاء الاصطناعي في السوق.
لم تكن المشكلة الأساسية غامضة. ففي ذلك الوقت، وُصفت ضمانات Grok بأنها ضعيفة إلى حد يسمح للمستخدمين بتوليد ومشاركة تزييفات عميقة ذات طابع جنسي وصور ما يُسمى بإزالة الملابس عن أشخاص حقيقيين بسهولة نسبية. وقالت The Verge إن هذه الصور استهدفت النساء بشكل غير متناسب، وبعضها يبدو أنه شمل قاصرين. وجعل ذلك المشكلة تقع عند تقاطع إساءة استخدام الذكاء الاصطناعي وقواعد متجر التطبيقات ومخاوف سلامة الأطفال.
كما يبرز تدخل آبل تناقضًا متكررًا في منظومة الأجهزة المحمولة. فغالبًا ما تقدم متاجر التطبيقات نفسها باعتبارها حراسًا صارمين على السلامة وسياسات المحتوى، ومع ذلك تحركت الشركة بهدوء بدلًا من العلن مع تفاقم أزمة الانتهاكات. وتصف The Verge هذا الرد بأنه تأكيد مكتوم للنفوذ من أحد أقوى الوسطاء في القطاع. ولم تصف آبل تدخلها علنًا في ذلك الوقت، رغم أن السلوك الأساسي كان خطيرًا والتطبيقات المعنية منصات كبرى ذات وصول واسع.
X تحسّن بما يكفي لآبل، لكن Grok لم يفعل
في الرسالة التي وصفتها The Verge، قالت آبل إنها راجعت التغييرات المقترحة لكل من X وGrok. وخلصت إلى أن X عالج إلى حد كبير انتهاكاته، بينما ظل Grok غير ممتثل. ثم أخبرت آبل المطور أن تغييرات إضافية ستكون مطلوبة أو قد يُزال التطبيق من متجر التطبيقات. وهذا التمييز مهم لأنه يشير إلى أن آبل لم تنظر إلى المنصة الأم ومنتج الذكاء الاصطناعي على أنهما حالتان متماثلتان من الإشراف، رغم ارتباطهما الوثيق عمليًا.
تُظهر الحادثة كيف يمكن لمنتجات الذكاء الاصطناعي أن تصطدم بقواعد حوكمة المنصات أسرع من الميزات الاجتماعية التقليدية. فروبوت المحادثة القادر على توليد وسائط اصطناعية يخلق مخاطر فورية وقابلة للتوسع وشديدة الخصوصية. وعندما تفشل الضمانات، تصبح قنوات التوزيع مثل متاجر التطبيقات نقاط إنفاذ. لذلك لم يكن تهديد آبل بالإزالة مجرد ملاحظات روتينية للمطورين، بل إقرارًا بأن أدوات الذكاء الاصطناعي التوليدي يمكن أن تخلق أضرارًا بالغة بما يكفي لتفعيل أشد عقوبة متاحة لمشغل المتجر، بخلاف الإزالة المباشرة.
وبحسب التقارير، لم تعلق Google علنًا على المسألة، رغم أنها تستفيد أيضًا من توزيع هذه التطبيقات عبر Google Play. ويعكس هذا الصمت نمطًا أوسع في القطاع. فالشركات تحقق أرباحًا من إتاحة الوصول أو الاستضافة أو الإبراز لمنتجات الذكاء الاصطناعي سريعة النمو، لكنها غالبًا تتردد في مناقشة إجراءات الإنفاذ ما لم يصبح القرار حتميًا. والنتيجة أن التقارير الخارجية، بدلًا من الإفصاح الرسمي، تصبح النافذة الأساسية التي يطلع منها الجمهور على كيفية حوكمة هذه الأنظمة.
