Uma nova ameaça impulsionada por IA chega às escolas
Especialistas em proteção infantil no Reino Unido estão orientando as escolas a remover fotos identificáveis de alunos de seus sites e redes sociais depois que chantagistas usaram essas imagens para criar material sexualmente explícito com ferramentas de IA. O alerta segue ao menos um caso confirmado em que uma escola secundária não identificada foi alvo depois que criminosos pegaram fotos de estudantes de fontes públicas on-line, as manipularam em imagens abusivas e depois exigiram dinheiro para não publicar o material.
O caso, descrito pela Internet Watch Foundation, aponta para uma evolução especialmente perturbadora dos danos on-line. Em vez de roubar material íntimo já existente, os infratores agora podem fabricá-lo a partir de retratos escolares comuns, fotos de eventos ou postagens em redes sociais. Isso reduz a barreira para o abuso e transforma até mesmo a visibilidade rotineira na internet em uma possível fonte de coação.
O que aconteceu no caso relatado
Segundo o relatório fornecido, a Internet Watch Foundation disse que uma escola secundária britânica não identificada foi alvo de uma tentativa de chantagem depois que criminosos usaram fotos retiradas do site da instituição ou de contas em redes sociais. Usando ferramentas de IA, eles transformaram essas imagens em material de abuso sexual infantil e enviaram os resultados à escola, ameaçando publicá-los on-line, a menos que fossem pagos.
A organização disse que converteu as imagens de chantagem em um hash digital, ou impressão digital, e compartilhou esses dados com grandes plataformas de tecnologia para ajudar a impedir que o material fosse carregado. O órgão de vigilância também afirmou que 150 imagens desse incidente poderiam ser classificadas como material de abuso sexual infantil segundo a lei do Reino Unido.
As autoridades indicaram que essa não era uma preocupação isolada. A Internet Watch Foundation disse ter conhecimento de outras tentativas de chantagem no Reino Unido envolvendo imagens manipuladas retiradas de sites escolares ou contas sociais, ainda que os detalhes desses casos não tenham sido divulgados publicamente.
