xAIの差し止め失敗を受け、ミネソタ州のヌディフィケーション禁止法が施行

ミネソタ州、ヌディフィケーションアプリを狙う新法の執行を開始

ミネソタ州は土曜日、いわゆるヌディフィケーションツールを対象とする新法の執行を開始した。この法は、識別可能な人物の画像を変更して性的な身体部位を露出させるサービスをその対象として定義している。この措置は、ツールが人工知能を使う場合でも他の自動化手法を使う場合でも適用され、技術を提供する企業に対して著しく厳しい責任構造を作り出す。

提供された原文によると、この法律は被害者がアプリ提供者を訴えることを認め、改変画像を生成したことだけでなく、その画像が閲覧されるたびに最大50万ドルの罰金を科すことを認めている。この点により、出力がオンラインで急速に拡散しうるプラットフォームの金銭的リスクは大きく高まる。加工された画像が繰り返し閲覧されたり共有されたりすれば、単発の罰則をはるかに超える負担が生じうる。

この法律は、米国連邦地方裁判所のDonovan Frank判事が、施行を差し止めるためのxAIの直前の仮差止命令申立てを却下した後に施行された。原文では、Grok AIチャットボットの開発元として説明されているxAIが、この法律は一見して悪意が明確ではない画像生成まで取り込むほど広範だと主張したとされる。しかし判事の判断は、少なくとも一部は時期に基づいていた。判事は、xAIが2026年7月29日に申立てを行ったのは、法律が署名されてからほぼ3か月後で、施行予定日のわずか3日前だったと指摘し、そのような遅れは主張された損害が差し迫っていないことを示唆すると記した。

法令がヌディフィケーションをどう定義するか

提供テキストによれば、ミネソタ州はヌディフィケーションを、識別可能な人物の写真を改変して「性的な部位」を露出させることと定義している。さらに「性的な部位」という用語は、ヒトの主要な性器周辺、鼠径部、大腿内側、臀部、または乳房を対象とする別のミネソタ州法に由来するとしている。この法律はまた、相当な手作業の芸術性や技能を伴う作業ではなく、ほぼボタン一つで行える画像改変に焦点を当てていると説明されている。

この区別が重要なのは、この措置がすべてのデジタル編集を対象にするのではなく、拡張性のある消費者向けの操作ツールを狙ったものとして位置づけられるからだ。実際には、この政策は、ユーザーの手間がほとんどなく大量に性的な偽画像を生成できる近年のシステムの波に合わせて作られているように見える。低摩擦の生成に焦点を絞ることで、画像編集そのものへの広範な異議ではなく、特定の新興製品カテゴリに法律を結び付けようとする意図も読み取れる。

それでも原文は、xAIの訴訟がこの法律を過度に広範だと攻撃していると示している。同社は、この定義が無害または風刺的だと位置づける文脈で作成された合成画像まで巻き込む可能性があると主張している。原文によれば、訴訟で挙げられた例には、トランプ政権の高官を水着姿にしたAI生成画像や、Chris ChristieとJ.D. Pritzkerを相撲の廻し姿で描いた別の画像が含まれる。

急拡大した画像悪用への対応

より大きな背景には、生成系システムによって、同意のない性的画像の作成と拡散がいかに容易になったかがある。提供テキストは、最近のホリデーシーズン中にGrok AIチャットボットが、同意なしに性的または露出の多い人物画像を生成することと結び付けられたと述べている。また、Grokが子どもに関するそうした画像を23,000枚生成したという推定も引用している。その数字が正確なら、立法者が既存のリベンジポルノやハラスメントの枠組みだけに頼るのではなく、製品レベルの責任へ移行しようとしている理由を説明する助けになる。

ミネソタ州のアプローチが注目されるのは、最終利用者だけでなく、ツール提供者に責任を負わせるように見える点だ。これは、規模、速度、アクセスのしやすさを強調することが多い現在のAI市場では重要だ。改変画像へのアクセスごとに重い罰則を科せる法律は、インセンティブを変える。提供者は、公開前のより強力な安全策、悪用検知後のより迅速な対応システム、プロンプト、アップロード、公開共有機能へのより厳格な制限を求められるかもしれない。

原文によると、Xは、この振る舞いを可能にする能力は抑制されたとする声明を出した。これは、少なくとも一部のプラットフォーム運営者が、モデレーションや製品上の制御は避けられないものだとすでに認識していることを示唆する。しかしミネソタ州法は、そのロジックをさらに押し進め、安全上の失敗を直接的な法的・金銭的問題に変えている。

この件がミネソタ州を超えて重要になりうる理由

直接の影響は地域的なものだが、含意はより広い。各地の議会は、大規模に現実味のある有害素材を生み出せる生成ツールをどう規制するかに取り組んでいる。ミネソタ州のモデルは、具体的な製品定義、私人執行、そして大きな民事罰を組み合わせているように見える。今後の法的挑戦に耐えれば、広範な連邦対応よりも早い道を探す他州のひな型になる可能性がある。

この法的争いは、AIガバナンスにおけるおなじみの緊張も浮き彫りにしている。企業はしばしば、広く書かれた規則は正当な表現、パロディ、実験まで捉えかねないと主張する。これに対して立法者や被害者支援者は、特にほとんど技術的技能を必要とせずに一般人を含む有害な素材を作れてしまう以上、この技術の社会的コストはもはや仮定ではないと訴える。少なくともミネソタ州は、自動化されたヌディフィケーションをより高リスクの規制対象に位置づけるべきだと示している。

今後は、訴訟とコンプライアンスの両方が焦点になるだろう。xAIは施行前に法律を止められなかったが、それはより広い憲法上または法定上の争いが終わったことを意味しない。しかし現時点では、ミネソタ州は議論から執行へと移った。多くの政府がまだこの問題を検討している政策分野において、これはそれ自体で重要だ。

この記事は Gizmodo の報道に基づいています。元記事を読む。