Une nouvelle menace dopée à l’IA atteint les écoles

Des experts britanniques de la protection de l’enfance exhortent les écoles à retirer de leurs sites web et de leurs réseaux sociaux les photos permettant d’identifier les élèves, après que des maîtres chanteurs ont utilisé de telles images pour créer du contenu sexuellement explicite à l’aide d’outils d’IA. L’avertissement fait suite à au moins un cas confirmé dans lequel un établissement secondaire non nommé a été ciblé après que des criminels ont pris des photos d’élèves provenant de sources publiques en ligne, les ont manipulées pour en faire des images abusives, puis ont exigé de l’argent pour ne pas publier le matériel.

L’affaire, décrite par la Internet Watch Foundation, illustre une évolution particulièrement inquiétante des atteintes en ligne. Au lieu de voler des contenus intimes déjà existants, les auteurs peuvent désormais les fabriquer à partir de portraits scolaires ordinaires, de photos d’événements ou de publications sur les réseaux sociaux. Cela abaisse la barrière à l’abus et transforme même la visibilité numérique la plus banale en source potentielle de contrainte.

Ce qui s’est passé dans l’affaire signalée

Selon le rapport fourni, la Internet Watch Foundation a indiqué qu’un établissement secondaire britannique non identifié avait fait l’objet d’une tentative de chantage après que des criminels ont utilisé des photos prises sur le site de l’établissement ou ses comptes sur les réseaux sociaux. À l’aide d’outils d’IA, ils ont transformé ces images en matériel d’abus sexuel sur enfant et ont envoyé le résultat à l’école, en menaçant de le publier en ligne s’ils n’étaient pas payés.

L’organisation a indiqué avoir converti les images de chantage en un hachage numérique, ou empreinte, et partagé ces données avec les principales plateformes technologiques afin d’aider à empêcher le téléversement du matériel. L’organisme de surveillance a également déclaré que 150 images issues de cet incident pourraient être classées comme du matériel d’abus sexuel sur enfant au regard du droit britannique.

Les autorités ont indiqué qu’il ne s’agissait pas d’une préoccupation isolée. La Internet Watch Foundation a déclaré avoir connaissance d’autres tentatives de chantage au Royaume-Uni impliquant des images manipulées prises sur des sites d’écoles ou des comptes sociaux, même si les détails de ces cas n’ont pas été rendus publics.