Apple a mis à jour les règles de l’App Store afin de viser plus explicitement les applications qui créent des images intimes non consenties à l’aide de l’intelligence artificielle. Ces changements imposent plus clairement aux développeurs de prévenir et de supprimer ces contenus, et avertissent qu’une application peut être retirée de la boutique si son développeur ne met pas en place des protections suffisantes ou ne remédie pas aux violations après en avoir été informé.
La mise à jour concerne une catégorie souvent décrite comme celle des applications qui « déshabillent » : des logiciels conçus pour générer, sans leur consentement, des images sexualisées ou à caractère intime de personnes. Le nouveau texte d’Apple rend cette interdiction plus directe, alors que les outils d’IA générative ont facilité la diffusion de manipulations d’images par des logiciels destinés au grand public.
Une obligation de modération plus explicite
Selon les règles mises à jour, les développeurs doivent prévenir et supprimer de manière proactive les images sexuelles non consenties dans le cadre de leurs responsabilités de modération des contenus. Cette formulation est importante, car elle présente le problème comme dépassant l’interdiction d’une fonctionnalité étroitement définie. Elle établit également que les opérateurs des applications concernées doivent disposer de systèmes efficaces pour détecter, traiter et interrompre les utilisations interdites.
Apple indique que les développeurs qui ne mettent pas en place des protections suffisantes, ou qui ne traitent pas les violations après en avoir été informés, peuvent être retirés de l’App Store. La politique crée donc un risque de non-conformité pour les développeurs dont les produits permettent aux utilisateurs de créer, d’héberger ou de diffuser ce type d’images.
Apple a également précisé ses règles contre les applications de type « appât et substitution ». L’entreprise affirme qu’une application ne peut pas ajouter ou modifier des fonctionnalités après son approbation par l’App Store d’une manière qui introduirait des capacités interdites, notamment la fonction de déshabillage. Cette clarification répond à un problème pratique d’application des règles : le statut d’une application lors de son examen peut mal refléter son comportement ultérieur si son développeur modifie ses fonctionnalités après sa mise à disposition.
La controverse sur les deepfakes a accru la pression
Ces révisions interviennent après les critiques adressées à Apple lorsque des utilisateurs de X ont employé Grok plus tôt cette année pour générer des deepfakes sexualisés non consentis, notamment des images impliquant des mineurs. Apple n’a retiré ni X ni Grok de l’App Store, mais a indiqué à des sénateurs avoir menacé de retirer Grok.
La pression publique s’est également manifestée lors de la Worldwide Developers Conference d’Apple en juin, où des manifestants ont demandé à l’entreprise de retirer Grok, X et la technologie de déshabillage de l’App Store. En juillet, un procureur de San Francisco a ordonné à Apple de retirer 13 applications de déshabillage ; Apple a déclaré l’avoir fait.
La nouvelle formulation ne répond pas à toutes les questions soulevées par cet épisode, notamment à la manière dont Apple appliquera ses règles aux grandes plateformes et aux services d’IA. Elle permet toutefois d’identifier plus facilement la norme affichée par l’entreprise : les applications ne doivent pas seulement éviter de se présenter comme des outils de déshabillage au moment de l’examen. Elles doivent également se protéger contre la création et la diffusion d’images intimes non consenties.
Les contrôles de distribution font partie de la politique
La mise à jour d’Apple précise également que les applications facilitant la traite des êtres humains ou l’exploitation des enfants seront retirées de l’App Store et bloquées sur les canaux de distribution alternatifs. Cette disposition relie le nouveau langage sur la modération au contrôle plus large qu’exerce Apple sur la manière dont les logiciels atteignent les utilisateurs.
Pour les créateurs d’applications, ce changement renforce l’importance de la conception du produit et des opérations quotidiennes. Un développeur proposant des fonctions de génération d’images, de partage social ou de contenu téléversé par les utilisateurs devra réfléchir à la manière de prévenir les usages interdits, de supprimer les contenus en infraction et de réagir lorsqu’Apple ou une autre partie signale un problème. Le texte de la politique attribue explicitement aux développeurs la responsabilité d’agir de manière proactive.
Pour les utilisateurs, ce changement montre qu’Apple traite les images intimes non consenties produites avec l’IA comme un problème plus explicite d’application des règles de l’App Store. Les règles de l’entreprise identifient désormais à la fois le contenu préjudiciable et les voies par lesquelles une application peut devenir non conforme : protections insuffisantes, violations non résolues ou modifications de fonctionnalités après approbation introduisant le déshabillage.
Pourquoi cette clarification est importante
Les boutiques d’applications constituent une porte d’entrée majeure pour les outils d’IA grand public, et leurs règles peuvent déterminer quels produits restent largement disponibles. La mise à jour d’Apple ne supprime ni la technologie sous-jacente ni le risque d’abus en dehors de sa boutique. Elle rend toutefois plus concrètes ses attentes envers les développeurs qui souhaitent distribuer leurs produits par l’intermédiaire de l’App Store.
Cette évolution montre également que la politique en matière d’IA passe de principes abstraits à des obligations opérationnelles. Apple ne se contente pas d’affirmer que les images sexuelles non consenties sont inacceptables. L’entreprise lie cette norme à des exigences de modération, à des mesures correctives, au retrait de la boutique et à des restrictions sur la distribution alternative.
La vigueur avec laquelle ces règles seront appliquées déterminera leur effet concret. Le changement immédiat est clair : les développeurs dont les applications peuvent servir à générer ou à diffuser des images intimes non consenties font face à une obligation plus explicite d’y mettre fin, et Apple a formulé des conséquences plus sévères pour ceux qui ne le feraient pas.
Cet article s’appuie sur un reportage de The Verge. Lire l’article original.
Originally published on theverge.com
