連邦レベルのディープフェイク対策が、法律からプラットフォーム執行へ移行する
Take It Down Actに関連する重要なコンプライアンス期限が到来し、AI生成のディープフェイクを含む合意のない性的画像をホストまたは拡散するデジタルプラットフォームには、より厳しい法的義務が課されることになった。2026年5月19日から、連邦取引委員会（FTC）は同法第3条の執行を開始し、対象プラットフォームに対して明確な通報手続きの提供と、通報された素材および同一の複製の48時間以内の削除を求めている。
この転換が重要なのは、法律の焦点が加害コンテンツの作成者や流通者への処罰から、それを流通させるプラットフォームへの運用上の義務付けへ移るためだ。長年、被害者や支援者は、削除システムが断片的すぎるうえに遅く、再投稿された複製を何度も被害者自身が見つけ出すことに依存しすぎていると主張してきた。新しい規則は、その負担を変えることを狙っている。
プラットフォームに求められること
元の文章によれば、デジタルプラットフォームは、被害者が合意のない性的写真や動画、そしてその同一の複製の削除を求められる、簡単で利用しやすい手続きを提供しなければならない。この手続きは、サービスのアカウントを持っていない人にも開かれている必要がある。申請が提出されると、被害者は識別番号を受け取り、それは法執行機関とも共有できる。
48時間以内の削除要件は、最も具体的な運用基準だ。これによりプラットフォームには固定の対応期限が与えられ、測定可能なコンプライアンス基準が生まれる。元資料で言及された書簡の中で、FTC委員長アンドリュー・ファーガソンは、1件あたり53,088ドルの民事罰の可能性を警告した。
FTCはこの警告を、Amazon、Apple、Alphabet、Bumble、Match Group、Discord、Meta、Microsoft、Reddit、TikTok、Xを含む大手テック企業の広範なグループに送ったと報じられている。
この法律が生まれた理由
Take It Down Actは1年前に署名され、未成年者または同意のない成人が関与するディープフェイク画像や性的画像を故意に配布した場合の連邦責任を創設した。今回の執行段階は、その枠組みをプラットフォーム責任へと拡張するものだ。生成画像・動画ツールによって、性的なディープフェイク被害はより安く、より速く、より大規模に拡散しやすくなっている。
元の文章は、オハイオ州コロンバスの37歳の男性の事例を挙げている。彼は120以上のAIプラットフォームとモデルを使って、未成年者や同意のない成人女性の性的画像を作成・配布したとして、この法律の下で最初に有罪判決を受けた人物だと説明されている。この例は、規制当局が抑え込もうとしている分断された生態系を示している。被害はもはや1つのサイトや1つのツールに結びついていない。数十のサービスを並行して広がりうる。
XとGrokの問題
今回のコンプライアンス期限は、Xに対する監視が強まる中でも到来した。ここ数か月、合意のないディープフェイクが広範に拡散したと報じられている。元の文章は、イーロン・マスクのGrokをこの議論の非常に目立つ象徴として位置づけている。単一のモデルが問題の唯一の駆動源であるかどうかにかかわらず、より大きな論点は、生成システムが虐待的コンテンツを供給し、プラットフォームが発見、再投稿、推薦によってそれを増幅してしまうことだ。
プラットフォームに法的焦点が当たるのは、モデレーションの失敗が流通チェーンの一部であることを認めているからだ。たとえ別の場所でモデルが画像を生成しても、それをホストし再流通させるソーシャルシステムが被害規模を決めうる。
改善しうる点と、改善しないかもしれない点
プラットフォームが効率的な受付と複製照合の仕組みを構築すれば、新しい枠組みは被害者に実際の変化をもたらしうる。特に、最初に通報された特定のURLだけでなく、同一の複製そのものを削除するよう求める点が重要だ。被害事案では再投稿が問題になることが多く、被害者に各重複を一つずつ探させるのは、執行を二重の負担にしてしまう。
それでも、元の文章は懐疑論も指摘している。批判者は、この法律が問題を効果的に解決しない可能性や、モデレーション、表現の自由、境界事例をめぐる広範な争いを生む可能性を懸念している。根本にある虐待の生態系は適応的だ。悪意ある行為者は、より小さなプラットフォーム、海外サービス、暗号化された配信経路に移ることができる。そして「同一の複製」への執行は、わずかに改変された派生物や、ピクセル単位では同一でない関連合成コンテンツへの対応よりも容易だ。
提供された資料は、FTCがこうしたより難しいバリエーションにどう対処するかは示しておらず、同委員会が現在、核心となる削除義務を執行していることだけを示している。
プラットフォームの準備状況を試す試金石
大手テック企業にとって、差し迫った課題は思想的なものではなく運用上のものだ。通報を迅速に確認し、重複コンテンツを確実に特定し、非利用者からの申請を処理し、厳しい期限の下でコンプライアンスを文書化できるのか。こうした仕組みには、モデレーション担当、オートメーション、法務の連携が必要になる。大企業にはそのリソースがあるが、被害の規模はそれでもパイプラインを圧迫しうる。
小規模なプラットフォームでは、その負担はさらに大きくなり得る。企業の人員が少ないというだけで、規則が消えるわけではない。そのため、一部のサービスは信頼・安全性のインフラを強化するか、外部のモデレーションツールへの依存を強める可能性がある。
より大きな転換
重要なのは、AIを用いた画像虐待に対する米国の規制が、もはや理論上のものではなくなったことだ。法律の署名から1年後、執行は流通インフラに向けられた。これは、プラットフォーム設計と対応システムが、生成メディアによる被害と切り離せないというワシントンの見方が強まっていることを示している。
次の段階では、FTCが形式上の48時間ルールを実効的な抑止力に変えられるかが問われる。プラットフォームが迅速かつ一貫して対応すれば、新たな義務は、最も有害な合成的虐待の一部が長く残り続けることを減らせるかもしれない。そうでなければ、5月19日はきれいな解決策ではなく、ディープフェイク時代に仲介者がどれだけ責任を負うべきかをめぐる長い闘いの始まりとして記憶されることになるかもしれない。
この記事はGizmodoの報道に基づいています。 元の記事を読む.
Originally published on gizmodo.com
