英国正准备引入立法，要求苹果和谷歌实施技术措施，旨在阻止未成年人在其智能手机和平板电脑上拍摄、分享或查看裸体图像。该计划于周二由彭博社首次报道，标志着英国政府对全球最大移动平台运营商如何处理儿童安全问题的监管力度升级。
据报道，即将出台的法律旨在涵盖硬件和软件层面。苹果的iPhone和谷歌的Android是全球占主导地位的移动生态系统，任何新的法定义务都将迫使这两家公司设计其操作系统、消息应用和默认服务时，将年龄相关的保障措施直接内置到用户体验中。据报道，其意图不仅限于过滤在线内容，而是要在设备层面防止创建露骨图像，这意味着措施可能适用于离线或点对点交互。
新规可能涵盖的内容
据报道，该立法的范围包括三个不同的行为：拍摄裸体图像、分享它们和查看它们。为了履行这样的任务，苹果和谷歌需要开发和部署能够识别儿童何时试图拍摄或处理敏感图像的功能。这可能涉及设备端分类、机器学习和情境警告的组合。由于据报道这些规则将适用于手机和平板电脑，制造商需要在运行iOS和Android的各种硬件上集成保护措施。
目前尚不清楚该立法是否要求公司扫描所有图像以查找裸体内容，还是仅扫描儿童的图像。这一区别至关重要，因为对个人设备进行全面扫描历来引发关于隐私和端到端加密的激烈辩论。彭博社的报道未具体说明英国政府是否期望特定的技术方法，这为苹果和谷歌提供了设计既能满足合规要求又能履行其现有隐私承诺的方案的空间。
挑战与权衡
对于这两家公司来说，此类措施的可持续性将取决于儿童安全与用户隐私之间的平衡。苹果长期以来一直宣传其默认隐私功能，并明确反对在加密通信中设置后门。谷歌也对其Android做出了类似的承诺。任何自动检查儿童设备上是否有裸体图像的系统，如果未仔细限定于已识别的儿童账户或功能，都可能无意中侵犯其他用户的隐私。
还有一个问题是，这些规则是适用于所有用户、经过年龄验证的成年人，还是仅适用于被认为未满18岁的用户。在个人设备上进行年龄验证是出了名的困难。据报道，该计划似乎专门针对儿童，但在整个移动生态系统中实施年龄保证层对两家平台提供商来说都是一项艰巨的任务。这可能需要在操作系统层面、应用商店以及处理用户生成媒体的数百万第三方应用中进行更改。
可能的机制
公司可能会探索几种技术途径，但彭博社的报道中均未披露：
- 设备端图像分类，即在本地分析媒体而不进行云传输，在保护用户隐私的同时检测裸体内容。
- 情境警告，当用户尝试发送被视为露骨的图像时出现，类似于苹果Messages应用中现有的通信安全功能，但扩展到所有应用。
- 受限相机模式，如果检测到露骨图像则阻止图像捕获——这是一个涉及实时计算机视觉的更为复杂的过程。
- 针对未成年用户的账户级默认设置，主动过滤传入媒体或向发送者提示额外警告。
这些方法中的任何一种都将代表当前儿童安全工具的重大扩展。苹果目前在美国提供一项功能，扫描iCloud提交以查找已知的儿童性虐待材料，但该计划面临隐私组织的批评，并未在英国部署。与此同时，谷歌在人工智能方面投入巨资以标记滥用内容，但其工具通常在内容共享后在云服务器上运行。
消费者和监护人视角
对于父母和监护人来说，据报道的规则可以在将智能手机或平板电脑交给儿童时提供额外的安全保障。目前，父母必须依赖苹果、谷歌或第三方应用提供的设置。法定要求将设定一个基线期望，即英国销售的每台儿童可访问设备都从开机那一刻起就内置保护措施。这可以减轻个别家庭配置复杂隐私和家长控制菜单的负担。
与此同时，任何新的义务都可能导致产品发布或功能推出的延迟，因为苹果和谷歌需要设计新功能并提交监管批准。英国历来通过《在线安全法》等法律主张其数字主权，该法已经对科技平台施加了保护未成年人的义务。据报道的新立法似乎旨在填补这些更广泛规则之后仍然存在的空白。
反应与后续步骤
彭博社的报道未包括苹果或谷歌的立即回应，该立法可能处于早期阶段。如果引入，它将接受议会审查，然后才能设定任何实施时间表。监管机构可能会与公司、儿童安全倡导者和公民自由组织协商，以确定最终要求。
还有执法和处罚的问题。英国已表现出对未能达到法律门槛的大型科技公司处以巨额罚款的意愿。然而，由于拟议的规则涉及具体的技术干预，政府可能需要定义可衡量的结果——例如被阻止或标记的尝试性露骨传输的百分比——然后才能适用罚款。在这些细节确定之前，苹果和谷歌可能会密切关注，同时继续开发与报道描述相符的自愿功能。
故事仍在发展，未来几周预计会有更多细节。明确的是，英国正朝着将防止儿童接触裸体图像的责任直接放在操作系统提供商身上的方向前进，而不是仅仅依赖应用级控制或家长监督。如果实施，这样的要求可能会为其他探索类似法律授权的司法管辖区树立先例。
本文基于9to5Mac的报道。阅读原文。
Originally published on 9to5mac.com