苹果收紧 App Store 对 AI“脱衣”应用的规则

苹果更新了 App Store 规则，更明确地针对使用人工智能制作未经同意私密影像的应用。新规进一步明确了开发者防止和删除此类内容的责任，并警告称，如果开发者未实施足够的防护措施，或在收到通知后未能纠正违规行为，应用可能会被从商店下架。

此次政策更新涉及一类通常被称为“脱衣”应用的软件：这类软件旨在未经本人同意，生成带有性意味或类似私密影像的人物图片。在生成式 AI 工具让图像操控更容易通过面向消费者的软件传播之际，苹果修订后的措辞更直接地明确了这一禁令。

更明确的审核义务

根据更新后的规则，开发者必须将主动防止和删除未经同意的性影像作为内容审核责任的一部分。这一措辞很重要，因为它将问题界定为不仅仅是禁止某项狭义功能。它还确立了一项预期，即相关应用的运营者应建立有效系统，用于检测、应对并阻止被禁止的使用行为。

苹果表示，未采取足够防护措施，或在收到违规通知后未予处理的开发者，可能会被移出 App Store。因此，对于那些允许用户创建、托管或传播此类影像的产品开发者而言，这项政策带来了合规风险。

苹果还澄清了针对“诱导后变更”应用的规则。该公司表示，应用在获得 App Store 批准后，不得以引入被禁止功能的方式增加或改变功能，其中包括“脱衣”功能。这一澄清旨在应对一个实际执行问题：如果开发者在应用上线后改变功能，应用的审核状态可能无法准确反映其后续行为。

深度伪造争议引发压力

此次修订是在苹果受到批评后出台的。今年早些时候，X 用户使用 Grok 生成未经同意的性化深度伪造内容，其中包括涉及未成年人的影像。苹果并未将 X 或 Grok 从 App Store 下架，但该公司曾告知参议员，它已威胁要下架 Grok。

今年 6 月，在苹果全球开发者大会上，公众压力也进一步显现。抗议者要求苹果将 Grok、X 以及“脱衣”技术从 App Store 下架。7 月，旧金山一名市检察官下令苹果下架 13 款“脱衣”应用；苹果表示已经执行。

新措辞并未解决这一事件提出的所有问题，包括苹果将如何广泛地把规则应用于大型平台和 AI 服务。但它让苹果所声明的标准更容易辨认：应用不能只是在审核时避免将自己标示为“脱衣”工具，还必须防止未经同意的私密影像被制作和传播。

分发控制也是政策的一部分

苹果的更新还更明确地规定，促成人口贩运或剥削儿童的应用将被从 App Store 下架，并被禁止通过其他渠道分发。这一条款将修订后的审核措辞与苹果对软件如何触达用户的更广泛控制联系起来。

对于应用开发者而言，这一变化提高了产品设计和持续运营的重要性。提供图像生成功能、社交分享或用户上传内容的开发者，需要考虑如何防止被禁止的使用行为、删除违规材料，并在苹果或其他方面报告问题时作出响应。政策措辞明确将主动采取行动的责任交给了开发者。

对于用户而言，这一变化表明，苹果正在将由 AI 驱动的未经同意私密影像视为更明确的 App Store 执法问题。苹果的规则现在既指明了有害内容，也明确了应用可能陷入不合规的途径：防护措施不足、违规行为未得到解决，或在获批后通过功能变更引入“脱衣”功能。

为何这一澄清很重要

应用商店是面向消费者的 AI 工具的重要入口，其规则能够影响哪些产品可以继续广泛提供。苹果的更新并未消除这项底层技术，也没有消除其商店之外的滥用风险。但它确实为希望通过 App Store 分发产品的开发者明确了更具体的要求。

这一转变也反映出，AI 政策正从抽象原则走向运营层面的义务。苹果不仅是在声明未经同意的性影像不可接受，还将这一标准与审核要求、补救措施、应用下架以及替代分发限制联系起来。

这些规则执行得多强硬，将决定它们的实际影响。眼下的政策变化很明确：能够被用于生成或传播未经同意私密影像的应用，其开发者面临更明确的停止此类行为的要求；苹果也为未能做到这一点的开发者提出了更严厉的后果。

本文根据 The Verge 的报道撰写。阅读原文。