El Reino Unido se está preparando para introducir una legislación que exigiría a Apple y Google implementar medidas técnicas diseñadas para impedir que los menores tomen, compartan o vean imágenes de desnudos en sus teléfonos inteligentes y tabletas. El plan, reportado por primera vez por Bloomberg el martes, señala una escalada en la supervisión del gobierno del Reino Unido sobre cómo los operadores de plataformas móviles más grandes del mundo abordan la seguridad infantil.
Según el informe, las próximas leyes están dirigidas tanto a las capas de hardware como de software. El iPhone de Apple y Android de Google son los ecosistemas móviles dominantes a nivel mundial, y cualquier nueva obligación legal forzaría a ambas empresas a diseñar sus sistemas operativos, aplicaciones de mensajería y servicios predeterminados con salvaguardas relacionadas con la edad integradas directamente en la experiencia del usuario. La intención reportada no es simplemente filtrar contenido en línea, sino prevenir la creación de imágenes explícitas a nivel del dispositivo, lo que significa que las medidas podrían aplicarse incluso en interacciones fuera de línea o de igual a igual.
Lo que podrían cubrir las nuevas reglas
El alcance reportado de la legislación incluye tres acciones distintas: tomar imágenes de desnudos, compartirlas y verlas. Para cumplir con tal mandato, Apple y Google necesitarían desarrollar e implementar capacidades que reconozcan cuando un niño está intentando capturar o manejar imágenes sensibles. Esto probablemente implicaría una combinación de clasificación en el dispositivo, aprendizaje automático y advertencias contextuales. Debido a que las reglas supuestamente se aplicarían tanto a teléfonos como a tabletas, los fabricantes necesitarían integrar protecciones en una amplia gama de hardware que ejecuta iOS y Android.
Queda sin aclarar si la legislación exigiría a las empresas escanear todas las imágenes en busca de desnudez o solo las de niños. La distinción es crítica, ya que el escaneo generalizado en dispositivos personales ha provocado históricamente un intenso debate sobre la privacidad y el cifrado de extremo a extremo. El informe de Bloomberg no especificó si el gobierno del Reino Unido espera un enfoque técnico particular, dejando espacio para que Apple y Google propongan diseños que satisfagan tanto el cumplimiento como sus compromisos de privacidad existentes.
Desafíos y compensaciones
Para ambas empresas, la sostenibilidad de tales medidas dependerá del equilibrio entre la seguridad infantil y la privacidad del usuario. Apple ha promovido durante mucho tiempo sus características de privacidad predeterminadas y se ha opuesto explícitamente a las puertas traseras en la comunicación cifrada. Google ha hecho compromisos similares para Android. Cualquier sistema que inspeccione automáticamente el dispositivo de un niño en busca de imágenes de desnudos podría invadir inadvertidamente la privacidad de otros usuarios si no se limita cuidadosamente a cuentas o características reconocidas de niños.
También está la cuestión de si las reglas se aplicarían a todos los usuarios, adultos verificados por edad, o solo a usuarios que se cree que son menores de 18 años. La verificación de edad es notoriamente difícil en dispositivos personales. El plan reportado parece dirigirse específicamente a los niños, pero implementar una capa de aseguramiento de edad en todo un ecosistema móvil sería una tarea sustancial para ambos proveedores de plataformas. Podría requerir cambios a nivel del sistema operativo, en las tiendas de aplicaciones y dentro de millones de aplicaciones de terceros que manejan medios generados por el usuario.
Mecanismos potenciales
Varias rutas técnicas podrían ser exploradas por las empresas, aunque ninguna fue divulgada en el informe de Bloomberg:
- Clasificación de imágenes en el dispositivo donde los medios se analizan localmente sin transmisión a la nube, preservando la privacidad del usuario mientras se detecta la desnudez.
- Advertencias contextuales que aparecen cuando un usuario intenta enviar una imagen considerada explícita, similar a las características de seguridad de comunicación existentes en la aplicación Mensajes de Apple pero extendidas a todas las aplicaciones.
- Modos de cámara restringidos que bloquean la captura de imágenes si se detecta una imagen explícita, un proceso mucho más complejo que implica visión por computadora en tiempo real.
- Configuraciones predeterminadas a nivel de cuenta para usuarios menores que filtran proactivamente medios entrantes o solicitan al remitente una advertencia adicional.
Cualquiera de estos enfoques representaría una expansión significativa de las herramientas actuales de seguridad infantil. Apple actualmente ofrece una función en los Estados Unidos que escanea los envíos de iCloud en busca de material conocido de abuso sexual infantil, pero ese programa ha enfrentado críticas de grupos de privacidad y no se ha implementado en el Reino Unido. Google, por su parte, ha invertido mucho en inteligencia artificial para marcar contenido abusivo, pero sus herramientas generalmente operan en servidores en la nube después de que el contenido se ha compartido.
Perspectiva del consumidor y del cuidador
Para los padres y tutores, las reglas reportadas podrían proporcionar una capa adicional de seguridad al entregar un teléfono inteligente o tableta a un niño. Actualmente, los padres deben confiar en la configuración proporcionada por Apple, Google o aplicaciones de terceros. Un requisito legal establecería una expectativa básica de que cada dispositivo accesible para niños vendido en el Reino Unido esté equipado con protecciones integradas desde el momento en que se enciende. Eso podría reducir la carga sobre las familias individuales para configurar menús complicados de privacidad y control parental.
Al mismo tiempo, cualquier nueva obligación podría provocar retrasos en los lanzamientos de productos o implementaciones de funciones, ya que Apple y Google necesitarían diseñar nuevas capacidades y someterlas a aprobación regulatoria. El Reino Unido ha afirmado históricamente su soberanía digital con leyes como la Ley de Seguridad en Línea, que ya impone deberes a las plataformas tecnológicas para proteger a los menores. La nueva legislación reportada parece tener la intención de cerrar las brechas que quedan después de esas reglas más amplias.
Reacciones y próximos pasos
El informe de Bloomberg no incluyó respuestas inmediatas de Apple o Google, y la legislación presumiblemente está en una etapa temprana. Si se introduce, recibiría escrutinio parlamentario antes de que se establezca cualquier cronograma de implementación. Las autoridades reguladoras probablemente consultarían con las empresas, defensores de la seguridad infantil y organizaciones de libertades civiles para dar forma a los requisitos finales.
También está la cuestión de la aplicación y las sanciones. El Reino Unido ha mostrado disposición a imponer multas sustanciales a las grandes empresas tecnológicas que no cumplan con los umbrales legales. Sin embargo, debido a que las reglas propuestas involucran intervenciones técnicas específicas, el gobierno podría necesitar definir resultados medibles, como el porcentaje de transferencias explícitas intentadas que se bloquean o marcan, antes de que se puedan aplicar multas. Hasta que se determinen esos detalles, Apple y Google probablemente observarán de cerca mientras continúan desarrollando funciones voluntarias que se alineen con la descripción del informe.
La historia sigue desarrollándose, y se esperan más detalles en las próximas semanas. Lo que está claro es que el Reino Unido se está moviendo hacia colocar la responsabilidad directamente en los proveedores de sistemas operativos para prevenir la exposición de los niños a imágenes de desnudos, en lugar de depender únicamente de controles a nivel de aplicación o supervisión parental. Si se implementa, tal requisito podría sentar un precedente para otras jurisdicciones que exploran mandatos legales similares.
Este artículo se basa en información de 9to5Mac. Leer el artículo original.
Originally published on 9to5mac.com