Le Royaume-Uni s'apprête à présenter une législation qui obligerait Apple et Google à mettre en œuvre des mesures techniques conçues pour empêcher les mineurs de prendre, partager ou voir des images de nudité sur leurs smartphones et tablettes. Le plan, rapporté pour la première fois par Bloomberg mardi, signale une escalade dans la surveillance par le gouvernement britannique de la manière dont les plus grands opérateurs de plates-formes mobiles du monde traitent la sécurité des enfants.
Selon le rapport, les futures lois visent à la fois les couches matérielles et logicielles. L'iPhone d'Apple et Android de Google sont les écosystèmes mobiles dominants à l'échelle mondiale, et toute nouvelle obligation légale forcerait les deux entreprises à concevoir leurs systèmes d'exploitation, applications de messagerie et services par défaut avec des garanties liées à l'âge intégrées directement dans l'expérience utilisateur. L'intention rapportée n'est pas simplement de filtrer le contenu en ligne, mais d'empêcher la création d'images explicites au niveau de l'appareil, ce qui signifie que les mesures pourraient s'appliquer même dans les interactions hors ligne ou de pair à pair.
Ce que les nouvelles règles pourraient couvrir
La portée rapportée de la législation comprend trois actions distinctes : prendre des images de nudité, les partager et les voir. Pour satisfaire un tel mandat, Apple et Google devraient développer et déployer des capacités qui reconnaissent quand un enfant tente de capturer ou de manipuler des images sensibles. Cela impliquerait probablement une combinaison de classification sur l'appareil, d'apprentissage automatique et d'avertissements contextuels. Étant donné que les règles s'appliqueraient, selon les rapports, aux téléphones et aux tablettes, les fabricants devraient intégrer des protections sur une large gamme de matériels exécutant iOS et Android.
Il reste incertain si la législation exigerait des entreprises qu'elles scannent toutes les images pour détecter la nudité ou seulement celles des enfants. La distinction est cruciale, car la numérisation généralisée sur les appareils personnels a historiquement déclenché un débat intense sur la vie privée et le chiffrement de bout en bout. Le rapport de Bloomberg n'a pas précisé si le gouvernement britannique attend une approche technique particulière, laissant la place à Apple et Google pour proposer des conceptions qui satisfont à la fois la conformité et leurs engagements existants en matière de confidentialité.
Défis et compromis
Pour les deux entreprises, la durabilité de telles mesures dépendra de l'équilibre entre la sécurité des enfants et la vie privée des utilisateurs. Apple a longtemps promu ses fonctionnalités de confidentialité par défaut et a explicitement résisté aux portes dérobées dans les communications chiffrées. Google a également pris des engagements similaires pour Android. Tout système qui inspecte automatiquement l'appareil d'un enfant pour détecter des images de nudité pourrait, par inadvertance, envahir la vie privée d'autres utilisateurs s'il n'est pas soigneusement limité aux comptes ou fonctionnalités reconnus comme étant ceux d'enfants.
Il y a aussi la question de savoir si les règles s'appliqueraient à tous les utilisateurs, aux adultes vérifiés par âge, ou seulement aux utilisateurs présumés avoir moins de 18 ans. La vérification de l'âge est notoirement difficile sur les appareils personnels. Le plan rapporté semble cibler spécifiquement les enfants, mais la mise en œuvre d'une couche d'assurance de l'âge sur l'ensemble d'un écosystème mobile serait une entreprise substantielle pour les deux fournisseurs de plates-formes. Cela pourrait nécessiter des changements au niveau du système d'exploitation, dans les magasins d'applications et au sein de millions d'applications tierces qui gèrent des médias générés par les utilisateurs.
Mécanismes potentiels
Plusieurs voies techniques pourraient être explorées par les entreprises, bien qu'aucune n'ait été divulguée dans le rapport de Bloomberg :
- Classification d'images sur l'appareil où les médias sont analysés localement sans transmission dans le cloud, préservant la vie privée des utilisateurs tout en détectant la nudité.
- Avertissements contextuels qui apparaissent lorsqu'un utilisateur tente d'envoyer une image jugée explicite, similaires aux fonctionnalités de sécurité de communication existantes dans l'application Messages d'Apple mais étendus à toutes les applications.
- Modes de caméra restreints qui bloquent la capture d'image si une image explicite est détectée—un processus beaucoup plus complexe impliquant la vision par ordinateur en temps réel.
- Paramètres par défaut au niveau du compte pour les utilisateurs mineurs qui filtrent de manière proactive les médias entrants ou invitent l'expéditeur à un avertissement supplémentaire.
Chacune de ces approches représenterait une expansion significative des outils actuels de sécurité des enfants. Apple propose actuellement une fonctionnalité aux États-Unis qui analyse les soumissions iCloud pour détecter les contenus d'abus sexuels d'enfants connus, mais ce programme a été critiqué par des groupes de défense de la vie privée et n'a pas été déployé au Royaume-Uni. Google, quant à lui, a investi massivement dans l'intelligence artificielle pour signaler les contenus abusifs, mais ses outils fonctionnent généralement sur des serveurs cloud après que le contenu a été partagé.
Perspective des consommateurs et des personnes qui s'occupent des enfants
Pour les parents et les tuteurs, les règles rapportées pourraient fournir une couche de sécurité supplémentaire lorsqu'ils confient un smartphone ou une tablette à un enfant. Actuellement, les parents doivent compter sur les paramètres fournis par Apple, Google ou des applications tierces. Une exigence légale établirait une attente de base que chaque appareil accessible aux enfants vendu au Royaume-Uni soit équipé de protections intégrées dès sa mise sous tension. Cela pourrait réduire la charge pour les familles individuelles de configurer des menus compliqués de confidentialité et de contrôle parental.
En même temps, toute nouvelle obligation pourrait entraîner des retards dans les sorties de produits ou le déploiement de fonctionnalités, car Apple et Google devraient concevoir de nouvelles capacités et les soumettre à l'approbation réglementaire. Le Royaume-Uni a historiquement affirmé sa souveraineté numérique avec des lois telles que l'Online Safety Act, qui impose déjà des devoirs aux plates-formes technologiques pour protéger les mineurs. La nouvelle législation rapportée semble destinée à combler les lacunes qui subsistent après ces règles plus larges.
Réactions et prochaines étapes
Le rapport de Bloomberg n'a pas inclus de réponses immédiates d'Apple ou de Google, et la législation est probablement à un stade précoce. Si elle est présentée, elle ferait l'objet d'un examen parlementaire avant qu'un calendrier de mise en œuvre ne soit fixé. Les autorités réglementaires consulteraient probablement les entreprises, les défenseurs de la sécurité des enfants et les organisations de libertés civiles pour façonner les exigences finales.
Il y a aussi la question de l'application et des pénalités. Le Royaume-Uni a montré une volonté d'imposer des amendes substantielles aux grandes entreprises technologiques qui ne respectent pas les seuils légaux. Cependant, étant donné que les règles proposées impliquent des interventions techniques spécifiques, le gouvernement pourrait avoir besoin de définir des résultats mesurables—tels que le pourcentage de transferts explicites tentés qui sont bloqués ou signalés—avant que des amendes puissent être appliquées. Jusqu'à ce que ces détails soient déterminés, Apple et Google surveilleront probablement de près tout en continuant à développer des fonctionnalités volontaires qui correspondent à la description du rapport.
L'histoire reste en évolution, et d'autres détails sont attendus dans les semaines à venir. Ce qui est clair, c'est que le Royaume-Uni se dirige vers la responsabilisation directe des fournisseurs de systèmes d'exploitation pour empêcher l'exposition des enfants à des images de nudité, plutôt que de se fier uniquement aux contrôles au niveau des applications ou à la supervision parentale. Si elle est mise en œuvre, une telle exigence pourrait établir un précédent pour d'autres juridictions explorant des mandats légaux similaires.
Cet article est basé sur un reportage de 9to5Mac. Lire l'article original.
Originally published on 9to5mac.com