حدّثت آبل قواعد متجر التطبيقات لاستهداف التطبيقات التي تنشئ صورًا حميمة غير توافقية باستخدام الذكاء الاصطناعي بصورة أكثر وضوحًا. وتحمّل التغييرات المطورين مسؤولية أوضح عن منع هذه المواد وإزالتها، وتحذر من إمكانية إزالة التطبيق من المتجر إذا لم يطبق مطوره وسائل حماية كافية أو لم يعالج الانتهاكات بعد تلقي إشعار بها.
يتناول تحديث السياسة فئة غالبًا ما توصف بأنها تطبيقات «إزالة الملابس»: وهي برمجيات مصممة لإنشاء صور ذات طابع جنسي أو تبدو حميمة لأشخاص من دون موافقتهم. وتجعل الصياغة المنقحة من آبل هذا الحظر أكثر مباشرة، في وقت سهّلت فيه أدوات الذكاء الاصطناعي التوليدي توزيع التلاعب بالصور عبر برمجيات موجهة للمستهلكين.
التزام أكثر وضوحًا بالإشراف
بموجب القواعد المحدّثة، يجب على المطورين منع الصور الجنسية غير التوافقية وإزالتها استباقيًا باعتبار ذلك جزءًا من مسؤولياتهم في الإشراف على المحتوى. وتكتسب هذه الصياغة أهميتها لأنها تؤطر المسألة باعتبارها أكثر من مجرد حظر لميزة محددة بصورة ضيقة. كما تضع توقعًا بأن يمتلك مشغلو التطبيقات المعنية أنظمة فعالة لاكتشاف الاستخدام المحظور والاستجابة له وإيقافه.
تقول آبل إن المطورين الذين لا يضعون وسائل حماية كافية، أو لا يعالجون الانتهاكات بعد إخطارهم بها، قد تتم إزالتهم من متجر التطبيقات. وبذلك تنشئ السياسة خطرًا متعلقًا بالامتثال للمطورين الذين تتيح منتجاتهم للمستخدمين إنشاء هذا النوع من الصور أو استضافته أو تداوله.
كما أوضحت آبل قواعدها ضد تطبيقات «الطُعم والتبديل». وتقول الشركة إن التطبيق لا يجوز له إضافة وظائف أو تغييرها بعد موافقة متجر التطبيقات بطريقة تُدخل قدرات محظورة، بما في ذلك إزالة الملابس. ويستهدف هذا التوضيح مشكلة عملية في الإنفاذ: فقد يكون وضع التطبيق عند المراجعة مؤشرًا ضعيفًا على سلوكه اللاحق إذا غيّر مطوره الميزات بعد إتاحته.
الضغط جاء بعد جدل التزييف العميق
تأتي المراجعات بعد انتقادات وُجّهت إلى آبل إثر استخدام مستخدمي X لخدمة Grok في وقت سابق من هذا العام لإنشاء تزييفات عميقة جنسية غير توافقية، بما في ذلك صور تتعلق بقاصرين. ولم تزل آبل X أو Grok من متجر التطبيقات، لكنها أبلغت أعضاء مجلس الشيوخ بأنها هددت بإزالة Grok.
وظهر الضغط العام أيضًا خلال مؤتمر آبل العالمي للمطورين في يونيو، حيث دعا محتجون آبل إلى إزالة Grok وX وتقنية إزالة الملابس من متجر التطبيقات. وفي يوليو، أمر مدعي مدينة سان فرانسيسكو آبل بإزالة 13 تطبيقًا لإزالة الملابس؛ وقالت آبل إنها فعلت ذلك.
لا تحسم الصياغة الجديدة كل الأسئلة التي أثارتها تلك الواقعة، بما في ذلك مدى اتساع نطاق تطبيق آبل لقواعدها على المنصات الكبيرة وخدمات الذكاء الاصطناعي. لكنها تجعل المعيار المعلن للشركة أسهل تحديدًا: يجب ألا تكتفي التطبيقات بعدم تقديم نفسها كأدوات لإزالة الملابس وقت المراجعة، بل يجب أن تحمي أيضًا من إنشاء الصور الحميمة غير التوافقية وتوزيعها.
ضوابط التوزيع جزء من السياسة
ينص تحديث آبل أيضًا بصورة أوضح على أن التطبيقات التي تسهّل الاتجار بالبشر أو استغلال الأطفال ستُزال من متجر التطبيقات ويُحظر توزيعها عبر قنوات بديلة. ويربط هذا الحكم صياغة الإشراف المنقحة بسيطرة آبل الأوسع على كيفية وصول البرمجيات إلى المستخدمين.
بالنسبة إلى صانعي التطبيقات، يزيد التغيير أهمية تصميم المنتج والعمليات المستمرة. وسيحتاج المطور الذي يوفر ميزات لإنشاء الصور أو المشاركة الاجتماعية أو المحتوى الذي يرفعه المستخدمون إلى التفكير في كيفية منع الاستخدامات المحظورة، وإزالة المواد المخالفة، والاستجابة عندما تشير آبل أو جهة أخرى إلى مشكلة. وتضع صياغة السياسة العبء على المطورين للتحرك بصورة استباقية.
بالنسبة إلى المستخدمين، يشير التغيير إلى أن آبل تتعامل مع الصور الحميمة غير التوافقية التي يتيحها الذكاء الاصطناعي باعتبارها مسألة إنفاذ أكثر وضوحًا في متجر التطبيقات. وتحدد قواعد الشركة الآن المحتوى الضار وكذلك المسار الذي قد يؤدي إلى عدم امتثال التطبيق: وسائل حماية غير كافية، أو انتهاكات لم تُعالج، أو تغييرات في الميزات بعد الموافقة تُدخل وظيفة إزالة الملابس.
لماذا يهم هذا التوضيح
تُعد متاجر التطبيقات بوابة رئيسية لأدوات الذكاء الاصطناعي الموجهة للمستهلكين، ويمكن لقواعدها أن تحدد المنتجات التي تظل متاحة على نطاق واسع. ولا يلغي تحديث آبل التكنولوجيا الأساسية أو خطر إساءة الاستخدام خارج متجرها. لكنه يجعل توقعاتها أكثر تحديدًا للمطورين الساعين إلى توزيع منتجاتهم عبر متجر التطبيقات.
يعكس التحول أيضًا انتقال سياسة الذكاء الاصطناعي من المبادئ المجردة إلى الالتزامات التشغيلية. فآبل لا تكتفي بالقول إن الصور الجنسية غير التوافقية غير مقبولة، بل تربط هذا المعيار بمتطلبات الإشراف، والإجراءات التصحيحية، والإزالة من المتجر، والقيود على التوزيع البديل.
وسيتوقف الأثر العملي لهذه القواعد على مدى صرامة إنفاذها. أما التغيير الفوري في السياسة فهو واضح: يواجه مطورو التطبيقات التي يمكن استخدامها لإنشاء الصور الحميمة غير التوافقية أو توزيعها متطلبًا أكثر صراحة لإيقاف ذلك، وقد حددت آبل عواقب أقوى لمن لا يفعلون.
تستند هذه المقالة إلى تقرير من The Verge. اقرأ المقالة الأصلية.
Originally published on theverge.com