O Reino Unido está se preparando para introduzir legislação que exigiria que Apple e Google implementassem medidas técnicas destinadas a impedir que menores tirem, compartilhem ou vejam imagens de nudez em seus smartphones e tablets. O plano, relatado pela primeira vez pela Bloomberg na terça-feira, sinaliza uma escalada na supervisão do governo do Reino Unido sobre como os maiores operadores de plataformas móveis do mundo lidam com a segurança infantil.
De acordo com o relatório, as próximas leis visam tanto as camadas de hardware quanto de software. O iPhone da Apple e o Android do Google são os ecossistemas móveis dominantes globalmente, e qualquer nova obrigação legal forçaria ambas as empresas a projetar seus sistemas operacionais, aplicativos de mensagens e serviços padrão com salvaguardas relacionadas à idade incorporadas diretamente à experiência do usuário. A intenção relatada não é apenas filtrar conteúdo online, mas impedir a criação de imagens explícitas no nível do dispositivo, o que significa que as medidas poderiam ser aplicadas mesmo em interações offline ou ponto a ponto.
O que as novas regras podem cobrir
O escopo relatado da legislação inclui três ações distintas: tirar imagens de nudez, compartilhá-las e visualizá-las. Para cumprir tal mandato, Apple e Google precisariam desenvolver e implantar capacidades que reconheçam quando uma criança está tentando capturar ou lidar com imagens sensíveis. Isso provavelmente envolveria uma combinação de classificação no dispositivo, aprendizado de máquina e avisos contextuais. Como as regras se aplicariam tanto a telefones quanto a tablets, os fabricantes precisariam integrar proteções em uma ampla gama de hardwares rodando iOS e Android.
Não está claro se a legislação exigiria que as empresas escaneassem todas as imagens em busca de nudez ou apenas aquelas de crianças. A distinção é crítica, pois a varredura generalizada em dispositivos pessoais historicamente gerou intenso debate sobre privacidade e criptografia de ponta a ponta. O relatório da Bloomberg não especificou se o governo do Reino Unido espera uma abordagem técnica específica, deixando espaço para Apple e Google proporem designs que satisfaçam tanto a conformidade quanto seus compromissos de privacidade existentes.
Desafios e compensações
Para ambas as empresas, a sustentabilidade de tais medidas dependerá do equilíbrio entre segurança infantil e privacidade do usuário. A Apple há muito promove seus recursos de privacidade padrão e resistiu explicitamente a backdoors em comunicações criptografadas. O Google também fez compromissos semelhantes para o Android. Qualquer sistema que inspecione automaticamente o dispositivo de uma criança em busca de imagens de nudez poderia inadvertidamente invadir a privacidade de outros usuários se não for cuidadosamente limitado a contas ou recursos reconhecidos de crianças.
Há também a questão de saber se as regras se aplicariam a todos os usuários, adultos com verificação de idade ou apenas usuários considerados menores de 18 anos. A verificação de idade é notoriamente difícil em dispositivos pessoais. O plano relatado parece ter como alvo específico crianças, mas implementar uma camada de garantia de idade em todo um ecossistema móvel seria um empreendimento substancial para ambos os provedores de plataforma. Isso poderia exigir mudanças no nível do sistema operacional, nas lojas de aplicativos e dentro de milhões de aplicativos de terceiros que lidam com mídia gerada pelo usuário.
Mecanismos potenciais
Várias rotas técnicas podem ser exploradas pelas empresas, embora nenhuma tenha sido divulgada no relatório da Bloomberg:
- Classificação de imagens no dispositivo, onde a mídia é analisada localmente sem transmissão para a nuvem, preservando a privacidade do usuário enquanto ainda detecta nudez.
- Avisos contextuais que aparecem quando um usuário tenta enviar uma imagem considerada explícita, semelhante aos recursos de segurança de comunicação existentes no aplicativo Mensagens da Apple, mas estendidos a todos os aplicativos.
- Modos de câmera restritos que bloqueiam a captura de imagem se uma imagem explícita for detectada — um processo muito mais complexo envolvendo visão computacional em tempo real.
- Padrões no nível da conta para usuários menores de idade que filtram proativamente a mídia recebida ou solicitam ao remetente um aviso adicional.
Qualquer uma dessas abordagens representaria uma expansão significativa das ferramentas atuais de segurança infantil. A Apple atualmente oferece um recurso nos Estados Unidos que escaneia envios ao iCloud em busca de material conhecido de abuso sexual infantil, mas esse programa enfrentou críticas de grupos de privacidade e não foi implantado no Reino Unido. O Google, por sua vez, investiu pesadamente em inteligência artificial para sinalizar conteúdo abusivo, mas suas ferramentas geralmente operam em servidores em nuvem após o conteúdo ter sido compartilhado.
Perspectiva do consumidor e do cuidador
Para pais e responsáveis, as regras relatadas poderiam fornecer uma camada adicional de segurança ao entregar um smartphone ou tablet a uma criança. Atualmente, os pais devem contar com configurações fornecidas pela Apple, Google ou aplicativos de terceiros. Um requisito legal estabeleceria uma expectativa básica de que todo dispositivo acessível a crianças vendido no Reino Unido esteja equipado com proteções integradas desde o momento em que é ligado. Isso poderia reduzir o fardo sobre as famílias individuais de configurar menus complicados de privacidade e controle parental.
Ao mesmo tempo, quaisquer novas obrigações podem levar a atrasos nos lançamentos de produtos ou na implementação de recursos, pois Apple e Google precisariam projetar novas capacidades e submetê-las à aprovação regulatória. O Reino Unido historicamente afirmou sua soberania digital com leis como a Lei de Segurança Online, que já impõe deveres às plataformas de tecnologia para proteger menores. A nova legislação relatada parece destinada a fechar lacunas que permanecem após essas regras mais amplas.
Reações e próximos passos
O relatório da Bloomberg não incluiu respostas imediatas da Apple ou do Google, e a legislação está presumivelmente em estágio inicial. Se for introduzida, passará por escrutínio parlamentar antes que qualquer cronograma de implementação seja definido. As autoridades reguladoras provavelmente consultariam as empresas, defensores da segurança infantil e organizações de liberdades civis para moldar os requisitos finais.
Há também a questão da aplicação e penalidades. O Reino Unido mostrou disposição para impor multas substanciais a grandes empresas de tecnologia que não atendam aos limites legais. No entanto, como as regras propostas envolvem intervenções técnicas específicas, o governo pode precisar definir resultados mensuráveis — como a porcentagem de transferências explícitas tentadas que são bloqueadas ou sinalizadas — antes que multas possam ser aplicadas. Até que esses detalhes sejam determinados, Apple e Google provavelmente observarão de perto enquanto continuam a desenvolver recursos voluntários que se alinhem com a descrição do relatório.
A história continua em desenvolvimento, e mais detalhes são esperados nas próximas semanas. O que está claro é que o Reino Unido está se movendo para colocar a responsabilidade diretamente nos provedores de sistemas operacionais para impedir a exposição de crianças a imagens de nudez, em vez de depender apenas de controles no nível do aplicativo ou supervisão dos pais. Se implementado, tal requisito poderia estabelecer um precedente para outras jurisdições que exploram mandatos legais semelhantes.
Este artigo é baseado em reportagem da 9to5Mac. Leia o artigo original.
Originally published on 9to5mac.com