AIを使った新たな脅威が学校に及んでいる
英国の児童保護専門家は、犯罪者がAIツールを使って性的に露骨な素材を作成するために生徒の特定可能な写真を悪用したことを受け、学校に対し、ウェブサイトやソーシャルメディアからそのような写真を削除するよう求めている。この警告は、少なくとも1件確認された事案に続くものだ。そこでは、匿名の中等学校が標的となり、犯罪者が公的なオンライン情報源から生徒の写真を入手して虐待的な画像に加工し、それを公表しない代わりに金銭を要求した。
インターネット・ウォッチ財団が説明したこの事案は、オンライン上の被害が特に不穏な形で進化していることを示している。既に存在する親密画像を盗むのではなく、加害者は今や、学校の普通の記念写真、行事の写真、ソーシャルメディア投稿からそれを捏造できる。これにより虐待への敷居は下がり、日常的なオンライン露出そのものが強要の潜在的な源になる。
報告された事案で何が起きたのか
提供された報告によると、インターネット・ウォッチ財団は、英国の匿名の中等学校が、犯罪者が同校のウェブサイトやソーシャルメディアアカウントから取得した写真を使った脅迫未遂の標的になったと述べた。AIツールを使ってそれらの画像を児童性的虐待素材に変え、支払わなければオンラインで公開すると学校に送りつけたという。
同団体は、脅迫画像をデジタルハッシュ、つまり指紋情報に変換し、主要テクノロジープラットフォームと共有して、素材のアップロードを防ぐ支援を行ったと説明した。また監視団体は、この事件の150枚の画像が英国法上、児童性的虐待素材に分類され得ると述べた。
当局者は、これが孤立した懸念ではないと示した。インターネット・ウォッチ財団によると、学校のウェブサイトやソーシャルアカウントから取られた加工画像を使った英国での他の脅迫未遂も把握しているが、それらの詳細は公表されていないという。
なぜ学校の対応を変えるよう求められているのか
専門家の提言は明確だ。学校のウェブサイトやソーシャルメディアから生徒の顔が特定できる写真を削除するか、そもそも使わないことを検討すべきだという。この助言は、脅威モデルが変化したことを反映している。従来、学校は同意、プライバシー設定、投稿へのコメント制限に重点を置いてきたかもしれない。しかし生成AIの台頭によって、リスクはもはや元の画像の不正利用だけではない。画像そのものが合成的な虐待の原材料になり得る。
学校にとって、これは難しい選択を迫る。生徒の学校生活の写真は、地域とのつながりを伝え、成果を祝い、親しみやすい公共イメージを示すためによく使われる。だが、かつては概ね無害に思えた公開性は、今やより鋭いリスクを伴う。特に、画像が簡単にダウンロード、切り抜き、大規模再利用できる場合はなおさらだ。
当局の対応
英国国家犯罪庁と児童保護専門家は、この問題を新たな犯罪脅威として扱っている。女性と少女に対する暴力および保護担当相のジェス・フィリップスは、学校への脅迫未遂を深刻に憂慮すべき事態と表現し、必要であればAI生成の露骨な画像に関する法律を更新すると述べた。彼女の発言は、児童性的虐待素材を生成するよう設計されたAIモデルの所持を禁止すると発表した後に出された。
ここでの法的・政策上の論点は、一つの学校の安全対策にとどまらない。AIシステムは、画像の取得、加工、強要までの時間を圧縮している。規制当局と法執行機関は今や、違法素材の流通だけでなく、合成的虐待を作りやすくするツールやワークフローへの対応も迫られている。
より広い教訓
この話は学校だけの問題ではない。生成AIと日常的なデジタル露出の衝突をめぐる話だ。かつては主に情報とコミュニティの場だった学校のウェブサイトが、いまでは画像を使った恐喝の収集場になり得る。被害者はまず機関かもしれないが、根本的な被害は、子どもたちの姿が虐待的な捏造に再利用されることにある。
この事案は、AIガバナンスにおける繰り返しの課題も示している。有害な用途は、高度なシステムだけではなく、広く使えるツールと容易にアクセスできる公開データの組み合わせから生まれることが多い。ここでの公開データとは、多くの学校が長年オンラインで築いてきた日常的な画像アーカイブにすぎない。
教育指導者にとって、直ちに必要なのは実務的な対応だ。写真方針を見直し、特定可能な画像を制限し、公開が本当に必要なものを再検討し、公開向けの画像はすべて改ざんされ得ると想定すること。政策立案者にとっての示唆は構造的だ。合成的虐待と脅迫はもはや周縁的な事例ではなく、デジタル機関の運用環境の一部である。
したがって、英国の専門家による警告は一国にとどまらず注目に値する。生成画像ツールが広がるにつれ、学校、青少年団体、家庭が子どもの写真をオンライン公開するあらゆる場所で、同じ脆弱性が存在している。しかも、その画像が今やどのように武器化され得るかを十分に考慮しないまま公開されている場合はなおさらだ。
この記事はThe Guardianの報道に基づいています。元記事を読む。
Originally published on theguardian.com