一种新的 AI 赋能威胁正在波及学校
英国的儿童安全专家敦促学校从网站和社交媒体上移除可识别学生身份的照片，此前勒索者利用这类图像借助 AI 工具制作性露骨材料。这一警告源于至少一起已确认的案例：某所未具名的中学在犯罪分子从公开网络来源获取学生照片、将其篡改为虐待图像后，成为攻击目标，随后对方索要钱财，威胁若不付款就会公开这些材料。
互联网观察基金会描述的这起案件，揭示了网络伤害的一种尤其令人不安的演变。与其去窃取已经存在的私密材料，作案者如今可以仅凭普通的学校合影、活动照片或社交媒体帖子来伪造这类内容。这降低了实施虐待的门槛，也让原本常规的网络可见性都可能成为胁迫来源。
报道中的案件经过
根据所提供的报告，互联网观察基金会表示，一所未具名的英国中学遭遇勒索企图，犯罪分子使用从该校网站或社交账号上取来的照片。借助 AI 工具，他们将这些图像转化为儿童性虐待材料，并把结果发送给学校，威胁若不付款就会将其发布到网上。
该组织称，它已将这些勒索图像转换成数字哈希，也就是指纹，并把这些数据分享给主要科技平台，以帮助阻止相关材料被上传。该监督机构还表示，该事件中的 150 张图像在英国法律下可被归类为儿童性虐待材料。
官员们表示，这并非孤立的担忧。互联网观察基金会称，它已知悉英国境内还有其他勒索企图，涉及从学校网站或社交账号中取出的篡改图像，即便这些案件的细节并未公开披露。
为何学校被要求改变做法
专家给出的建议非常明确：从网站和社交媒体上移除可识别学生面容的照片，或者考虑完全不使用这类照片。这一建议反映出威胁模型已发生变化。过去，学校可能更关注同意、隐私设置或限制帖子的评论功能。生成式 AI 的兴起意味着，风险不再只是原始图像被滥用。图像本身也可能成为合成虐待的原料。
对学校而言，这带来了艰难取舍。学生生活照常被用于传达社区氛围、庆祝成就，并展现一个友好的公共形象。但过去看似大体无害的公开可见性，如今却带来更尖锐的风险，尤其是在图像很容易被下载、裁剪并大规模再利用的情况下。
当局如何回应
英国国家犯罪局和儿童安全专家正将这一问题视为新出现的犯罪威胁。负责保障和打击针对妇女和女孩暴力行为的部长 Jess Phillips 将针对学校的勒索企图描述为一个极其令人担忧的发展，并表示如果有必要，政府将更新有关 AI 生成露骨图像的法律。她的表态紧随一项禁令宣布之后，即禁止持有专门用于生成儿童性虐待材料的 AI 模型。
这里的法律与政策问题，远不止某一所学校的安全操作流程。AI 系统正在压缩图像捕捉、篡改与胁迫之间的时间。监管机构和执法部门如今承受压力，不仅要应对非法材料的传播，还要应对那些让合成虐待更容易制作的工具与工作流。
更广泛的启示
这个故事不只关乎学校。它关乎生成式 AI 与日常数字曝光之间的碰撞。学校网站过去主要是信息和社区平台，如今却可能变成基于图像的敲诈勒索素材采集地。最初受害的也许是机构，但根本性的伤害落在那些肖像被挪用、并被改造成虐待伪造内容的孩子身上。
这起案件也凸显了 AI 治理中的一个反复出现的难题：有害用途往往并非仅靠高度复杂的系统才会出现，而是通过广泛可用的工具与易于获取的公开数据相结合而产生。在这个例子里，公开数据不过是许多学校多年来在线积累的日常图像档案。
对教育领导者来说，最直接的含义很实际：审查照片政策，限制可识别图像，重新考虑哪些内容需要公开，并假设任何面向公众的图像都可能被篡改。对政策制定者来说，含义则更具结构性。合成虐待和勒索不再是边缘案例。它们已成为数字机构运行环境的一部分。
因此，英国专家发出的警告值得远超一国范围的关注。随着生成式图像工具扩散，类似的脆弱性存在于任何学校、青年组织或家庭在网上发布儿童照片而未充分考虑这些图像如今如何可能被武器化的地方。
本文基于《The Guardian》的报道。阅读原文。
Originally published on theguardian.com