英国は、AppleとGoogleに対し、未成年者がスマートフォンやタブレットでヌード画像を撮影、共有、閲覧することを防ぐための技術的措置を実装することを義務付ける法律を準備している。火曜日にブルームバーグが最初に報じたこの計画は、世界最大のモバイルプラットフォーム事業者が子どもの安全にどのように取り組むかについて、英国政府の監視が強化されることを示している。
報告によると、今後の法律はハードウェアとソフトウェアの両方の層を対象としている。AppleのiPhoneとGoogleのAndroidは世界で支配的なモバイルエコシステムであり、新しい法定義務は両社に対し、オペレーティングシステム、メッセージングアプリ、デフォルトサービスを、年齢に関連する安全策をユーザーエクスペリエンスに直接組み込んで設計することを強制するだろう。報告された意図は、単にオンラインコンテンツをフィルタリングすることではなく、デバイスレベルで露骨な画像の作成を防ぐことであり、措置はオフラインやピアツーピアのやり取りにも適用される可能性がある。
新しい規則がカバーする可能性のある内容
報告された法律の範囲には、ヌード画像の撮影、共有、閲覧という3つの明確な行為が含まれている。そのような義務を果たすために、AppleとGoogleは、子どもがセンシティブな画像をキャプチャまたは処理しようとしていることを認識する機能を開発および展開する必要があるだろう。これには、オンデバイス分類、機械学習、コンテキスト警告の組み合わせが含まれる可能性が高い。規則は電話とタブレットの両方に適用されると報告されているため、メーカーはiOSとAndroidを実行する幅広いハードウェアに保護を統合する必要があるだろう。
法律がすべての画像をヌードについてスキャンすることを要求するのか、それとも子どもの画像のみを対象とするのかは不明のままである。この区別は重要であり、個人デバイスでの包括的スキャンは、プライバシーとエンドツーエンド暗号化について激しい議論を歴史的に引き起こしてきた。ブルームバーグの報告は、英国政府が特定の技術的アプローチを期待しているかどうかを明らかにしておらず、AppleとGoogleがコンプライアンスと既存のプライバシーコミットメントの両方を満たす設計を提案する余地を残している。
課題とトレードオフ
両社にとって、そのような措置の持続可能性は、子どもの安全とユーザープライバシーのバランスにかかっている。Appleは長い間、デフォルトのプライバシー機能を宣伝し、暗号化通信のバックドアに明確に抵抗してきた。GoogleもAndroidについて同様のコミットメントを行っている。子どものデバイスをヌード画像について自動的に検査するシステムは、認識された子どものアカウントや機能に慎重に範囲を限定しない限り、他のユーザーのプライバシーを不注意に侵害する可能性がある。
また、規則がすべてのユーザー、年齢確認済みの成人、または18歳未満と信じられるユーザーのみに適用されるかどうかという問題もある。年齢確認は個人デバイスでは非常に難しいことで知られている。報告された計画は子どもを特に対象としているようだが、モバイルエコシステム全体に年齢保証層を実装することは、両プラットフォームプロバイダーにとって大きな事業となるだろう。オペレーティングシステムレベル、アプリストア、およびユーザー生成メディアを処理する何百万ものサードパーティアプリケーション内での変更が必要になる可能性がある。
潜在的なメカニズム
企業が探求する可能性のあるいくつかの技術的ルートがあるが、ブルームバーグの報告ではいずれも開示されていない：
- メディアがクラウド送信なしでローカルに分析され、ユーザープライバシーを保護しながらヌードを検出するオンデバイス画像分類。
- ユーザーが露骨とみなされる画像を送信しようとしたときに表示されるコンテキスト警告。Appleのメッセージアプリの既存の通信安全機能と同様だが、すべてのアプリに拡張される。
- 露骨な画像が検出された場合に画像キャプチャをブロックする制限付きカメラモード。これは、リアルタイムのコンピュータビジョンを伴うはるかに複雑なプロセスである。
- 未成年ユーザーのアカウントレベルのデフォルトで、受信メディアを積極的にフィルタリングしたり、送信者に追加の警告を促したりする。
これらのアプローチはいずれも、現在の子どもの安全ツールの大幅な拡張を表すだろう。Appleは現在、米国でiCloud送信を既知の児童性的虐待資料についてスキャンする機能を提供しているが、このプログラムはプライバシー団体から批判を受けており、英国では展開されていない。一方、Googleは虐待コンテンツをフラグ付けするために人工知能に多額の投資を行っているが、そのツールは一般的にコンテンツが共有された後にクラウドサーバー上で動作する。
消費者と保護者の視点
親や保護者にとって、報告された規則は、スマートフォンやタブレットを子どもに渡す際の追加の安全層を提供する可能性がある。現在、親はApple、Google、またはサードパーティアプリが提供する設定に頼らなければならない。法定要件は、英国で販売されるすべての子どもがアクセスできるデバイスに、電源を入れた瞬間から組み込みの保護が装備されるというベースラインの期待を設定するだろう。これにより、複雑なプライバシーおよびペアレンタルコントロールメニューを個々の家族が設定する負担が軽減される可能性がある。
同時に、新しい義務は製品リリースや機能展開の遅延につながる可能性がある。AppleとGoogleは新しい機能を設計し、規制当局の承認を受ける必要があるためだ。英国は歴史的に、オンライン安全法などの法律でデジタル主権を主張しており、すでにテックプラットフォームに未成年者を保護する義務を課している。報告された新しい法律は、これらのより広範な規則の後に残るギャップを埋めることを意図しているようだ。
反応と次のステップ
ブルームバーグの報告には、AppleまたはGoogleからの即時の反応は含まれておらず、法律はおそらく初期段階にある。導入されれば、実装スケジュールが設定される前に議会の審査を受けるだろう。規制当局は、最終的な要件を形成するために、企業、子どもの安全擁護者、市民的自由団体と協議する可能性が高い。
また、執行と罰則の問題もある。英国は、法的基準を満たさない大規模テクノロジー企業に多額の罰金を課す意欲を示している。しかし、提案された規則は特定の技術的介入を含むため、政府は罰金が適用される前に、ブロックまたはフラグ付けされた試行された露骨な転送の割合など、測定可能な結果を定義する必要があるかもしれない。それらの詳細が決定されるまで、AppleとGoogleは、報告の説明に沿った自主的な機能を開発し続けながら、注意深く見守るだろう。
この話はまだ展開中であり、今後数週間でさらなる詳細が期待される。明確なのは、英国がアプリレベルの制御や親の監督だけに頼るのではなく、オペレーティングシステムプロバイダーに直接責任を負わせて、子どもがヌード画像にさらされることを防ごうとしていることだ。実装されれば、同様の法的義務を検討している他の法域に前例を設定する可能性がある。
この記事は9to5Macの報道に基づいています。元の記事を読む。
Originally published on 9to5mac.com