Una nueva amenaza impulsada por IA llega a las escuelas
Expertos en protección infantil del Reino Unido están instando a las escuelas a retirar de sus sitios web y redes sociales las fotos identificables de alumnos, después de que chantajistas utilizaran esas imágenes para crear material sexualmente explícito con herramientas de IA. La advertencia sigue a al menos un caso confirmado en el que una escuela secundaria no identificada fue atacada después de que delincuentes tomaran fotos de estudiantes de fuentes públicas en línea, las manipularan para convertirlas en imágenes abusivas y luego exigieran dinero para no publicar el material.
El caso, descrito por la Internet Watch Foundation, apunta a una evolución especialmente inquietante del daño en línea. En lugar de robar material íntimo que ya existe, los delincuentes ahora pueden fabricarlo a partir de retratos escolares ordinarios, fotos de eventos o publicaciones en redes sociales. Eso reduce la barrera para el abuso y convierte incluso la visibilidad rutinaria en internet en una posible fuente de coacción.
Lo ocurrido en el caso reportado
Según el informe proporcionado, la Internet Watch Foundation dijo que una escuela secundaria británica no identificada fue objeto de un intento de chantaje después de que delincuentes usaran fotos tomadas del sitio web de la institución o de sus cuentas en redes sociales. Con herramientas de IA, convirtieron esas imágenes en material de abuso sexual infantil y enviaron los resultados a la escuela, amenazando con publicarlos en línea salvo que recibieran un pago.
La organización dijo que convirtió las imágenes de chantaje en un hash digital, o huella, y compartió esos datos con grandes plataformas tecnológicas para ayudar a bloquear que el material se subiera. El organismo de control también señaló que 150 imágenes de ese incidente podrían clasificarse como material de abuso sexual infantil según la legislación del Reino Unido.
Los funcionarios indicaron que esta no era una preocupación aislada. La Internet Watch Foundation afirmó que conoce otros intentos de chantaje en el Reino Unido que involucran imágenes manipuladas tomadas de sitios web escolares o cuentas sociales, aunque los detalles de esos casos no se hayan divulgado públicamente.
Por qué se les dice a las escuelas que cambien sus prácticas
La recomendación de los expertos es tajante: eliminar de los sitios web y las redes sociales las fotos identificables del rostro de los estudiantes, o considerar no usarlas en absoluto. Ese consejo refleja un modelo de amenaza cambiado. Históricamente, las escuelas podían centrarse en el consentimiento, la configuración de privacidad o limitar los comentarios en las publicaciones. El auge de la IA generativa significa que el riesgo ya no es solo el uso indebido de la imagen original. La propia imagen puede convertirse en materia prima para el abuso sintético.
Para las escuelas, eso crea una difícil disyuntiva. Las fotos de la vida estudiantil suelen usarse para comunicar comunidad, celebrar logros y presentar un perfil público acogedor. Pero la visibilidad pública que antes parecía en gran medida benigna ahora conlleva un riesgo más agudo, especialmente cuando las imágenes son fáciles de descargar, recortar y reutilizar a gran escala.
Cómo responden las autoridades
La Agencia Nacional contra el Crimen del Reino Unido y los expertos en protección infantil están tratando el problema como una amenaza criminal emergente. Jess Phillips, ministra de protección y violencia contra las mujeres y las niñas, describió el intento de chantaje a las escuelas como un desarrollo profundamente preocupante y dijo que el gobierno actualizaría las leyes sobre imágenes explícitas generadas por IA si fuera necesario. Sus comentarios siguieron al anuncio de una prohibición de poseer modelos de IA diseñados para generar material de abuso sexual infantil.
La cuestión legal y de política aquí es más amplia que un único protocolo de seguridad escolar. Los sistemas de IA están acortando el tiempo entre la captura de la imagen, su manipulación y la coacción. Ahora los reguladores y las fuerzas del orden están bajo presión no solo para responder a la distribución de material ilegal, sino también a las herramientas y flujos de trabajo que facilitan la producción de abuso sintético.
La lección más amplia
Esta historia no trata solo de las escuelas. Trata de la colisión entre la IA generativa y la exposición digital cotidiana. Un sitio web escolar, que antes funcionaba principalmente como una plataforma de información y comunidad, puede convertirse ahora en un terreno de extracción para la extorsión basada en imágenes. Las víctimas pueden ser primero instituciones, pero el daño subyacente recae en los niños, cuyas imágenes son reutilizadas en fabricaciones abusivas.
El caso también subraya un desafío recurrente en la gobernanza de la IA: los usos nocivos suelen surgir no solo a través de sistemas altamente sofisticados, sino mediante la combinación de herramientas ampliamente disponibles y datos públicos fácilmente accesibles. En este caso, los datos públicos son simplemente el archivo cotidiano de imágenes que muchas escuelas han construido durante años en internet.
Para los responsables educativos, la implicación inmediata es práctica. Revisar las políticas fotográficas, limitar las imágenes identificables, reconsiderar qué necesita ser público y asumir que cualquier imagen visible para el público puede ser manipulada. Para los responsables políticos, la implicación es estructural. El abuso sintético y el chantaje ya no son casos marginales. Son parte del entorno operativo de las instituciones digitales.
Por tanto, la advertencia de los expertos del Reino Unido merece atención mucho más allá de un solo país. A medida que se expanden las herramientas de imagen generativa, la misma vulnerabilidad existe en cualquier lugar donde escuelas, organizaciones juveniles o familias publiquen fotos de niños en línea sin considerar plenamente cómo pueden ser instrumentalizadas ahora esas imágenes.
Este artículo se basa en la cobertura de The Guardian. Leer el artículo original.
Originally published on theguardian.com
