AppleはApp Storeの規則を更新し、人工知能を使って同意のない親密な画像を作成するアプリを、より明確に対象とした。今回の変更により、こうした素材を防止・削除する責任が開発者にあることが明確になり、開発者が十分な安全対策を実施しなかった場合や、通知を受けた後も違反を是正しなかった場合、アプリがストアから削除される可能性があると警告している。
今回のポリシー更新が対象とするのは、しばしば「脱衣」アプリと呼ばれるカテゴリーだ。これは、本人の同意なしに、人物の性的な画像や親密に見える画像を生成するよう設計されたソフトウェアを指す。生成AIツールによって、画像の操作を消費者向けソフトウェアを通じて配布しやすくなった現在、Appleが改定した文言はこの禁止事項をより直接的に示している。
より明確になったモデレーション義務
更新された規則では、開発者はコンテンツモデレーションの責任の一環として、同意のない性的画像を積極的に防止・削除しなければならない。この文言が重要なのは、問題を狭く定義された機能の禁止にとどまらないものとして位置付けているからだ。また、対象となるアプリの運営者が、禁止された利用を検知し、対応し、停止するための有効な仕組みを備えることを求めている。
Appleは、十分な安全対策を講じない開発者や、通知を受けた後に違反へ対応しない開発者は、App Storeから削除される可能性があるとしている。したがってこのポリシーは、ユーザーによるこの種の画像の作成、ホスティング、流通を可能にする製品の開発者にとって、コンプライアンス上のリスクを生む。
Appleは「おとり商法」型アプリに対する規則も明確化した。同社によると、App Storeの承認後に、脱衣機能を含む禁止された機能を導入する形で、アプリの機能を追加・変更してはならない。この明確化は、実際の執行上の問題を念頭に置いている。開発者が公開後に機能を変更すれば、アプリの審査時の状態は、その後の動作を示す不十分な指標になり得るためだ。
ディープフェイク論争を受けて高まった圧力
今回の改定は、今年初めにXのユーザーがGrokを使い、未成年者が関わる画像を含む、同意のない性的なディープフェイクを生成したことを受け、Appleが批判された後に行われた。AppleはXもGrokもApp Storeから削除しなかったが、Grokを削除すると上院議員らに伝えていた。
6月のAppleのWorldwide Developers Conferenceでも世論の圧力が表面化し、抗議者はAppleに対して、Grok、X、「脱衣」技術をApp Storeから削除するよう求めた。7月には、サンフランシスコ市の検事がAppleに13個の脱衣アプリを削除するよう命じ、Appleは実行したと述べた。
新しい文言は、この一連の出来事が提起したすべての疑問を解消するものではない。大規模プラットフォームやAIサービスに対してAppleがどこまで広く規則を適用するのかも、その一つだ。しかし、同社が示す基準はより把握しやすくなった。アプリは審査時に自らを脱衣ツールとして見せないだけでは不十分で、同意のない親密な画像の作成と流通からも利用者を守らなければならない。
流通管理もポリシーの一部
Appleの更新では、人身売買や児童の搾取を助長するアプリはApp Storeから削除され、代替的な配布も禁止されることが、より明確に示された。この規定は、改定されたモデレーションの文言を、ソフトウェアがユーザーに届く方法に対するAppleの広範な管理と結び付けている。
アプリ開発者にとって、この変更は製品設計と継続的な運用の重要性を高める。画像生成機能、ソーシャル共有、ユーザー投稿コンテンツを提供する開発者は、禁止された利用を防ぎ、違反素材を削除し、Appleや他の関係者から問題を指摘された際に対応する方法を検討する必要がある。ポリシーの文言は、積極的に行動する責任を開発者に明確に負わせている。
ユーザーにとって、この変更は、AIによって可能になった同意のない親密な画像を、AppleがApp Storeの執行上のより明確な問題として扱っていることを示す。同社の規則は現在、有害なコンテンツだけでなく、アプリがコンプライアンス違反に陥る経路も示している。すなわち、不十分な安全対策、未解決の違反、または承認後の機能変更による脱衣機能の導入だ。
なぜこの明確化が重要なのか
アプリストアは消費者向けAIツールの主要な入口であり、その規則はどの製品が広く利用可能であり続けるかを左右する。Appleの更新は、基盤となる技術や、ストア外での悪用リスクをなくすものではない。それでも、App Storeでの配布を目指す開発者に対して、同社の期待をより具体的に示している。
この転換は、AI政策が抽象的な原則から運用上の義務へと移行していることも示している。Appleは、同意のない性的画像が受け入れられないと述べるだけではない。その基準を、モデレーション要件、是正措置、ストアからの削除、代替配布への制限に結び付けている。
これらの規則がどれほど強力に執行されるかが、実際の効果を決めることになる。直ちに明らかな政策変更は、同意のない親密な画像の生成や流通に利用され得るアプリの開発者に対し、それを停止することをより明確に求めている点だ。またAppleは、対応しない開発者に対して、より強い結果を示している。
この記事はThe Vergeの報道に基づいている。原記事を読む。
Originally published on theverge.com