2社が数日の差で、異なる種類のAI悪用を明らかにした
Google と OpenAI はそれぞれ、中国に起源があるとしている作戦を公表したが、両事案は高度なAIツールがデジタル悪用にどのように組み込まれているかの異なる形を示している。Google のケースでは、問題は大規模な消費者詐欺だ。OpenAI のケースでは、世論形成を狙う秘匿的な影響工作である。総合すると、これらの公表は、AIシステムがもはや生産性やソフトウェア開発だけでなく、詐欺と情報工作の産業化においても中核になっていることを示している。
Google の対応は異例に強硬だった。提供されたソース資料によると、同社は「Outsider Enterprise」と呼ぶサイバー犯罪ネットワークを相手取り、米国ニューヨーク南部地区連邦地方裁判所に訴訟を提起した。Google は、このグループが Gemini を使って数十万人の米国人を金融詐欺の標的にしたと主張している。訴状によれば、被告らは Google、YouTube、米国郵便公社、ニューヨークの E-ZPass システムなどのブランドや機関を装った数千の偽サイトを生成できる 131 のソフトウェアキットを作成したという。
ソースが示す規模はかなり大きい。5月の2週間にわたり、ネットワークは Android ユーザーに対して、9,000件の偽サイトと100万件超の不正URLへのリンクを含む 250万件のメッセージを送ったとされる。この作戦は Telegram を通じて調整されていたという。Google は、FBI に加え、AT&T、T-Mobile、Verizon などの主要通信事業者と協力する初の訴訟だとしている。同社は、ドメインの押収やアカウント凍結によって、企業と法執行機関が連携しやすくなる差止命令を求めている。
OpenAI が 2026年6月の脅威レポートで公表した内容は、別の脅威パターンを示している。同社は、中国に拠点があるとされる2つの ChatGPT クラスターを禁止したと発表した。これらは米国の技術政策をめぐる議論に影響を与えようとしていたという。Data Center Bandwagon と名付けられたクラスターの1つは、AIデータセンターの拡張が一般家庭の電気料金を押し上げていると主張する英語のコメント、漫画、加工画像を生成していた。OpenAI によると、これらのコンテンツは、エネルギーや容量の問題に関連するハッシュタグを使う、真正でない可能性が高い X アカウントを通じて拡散された。
さらにソースは、OpenAI がそのキャンペーンの背後にいる主体を、省級当局のために活動する中国の民間テクノロジー企業まで追跡したと付け加えている。これは重大な主張であり、問題を一般的なスパムやフリーランス的な操作から、間接的ではあっても国家に関連するナラティブ形成へと移している。OpenAI の調査結果はまた、安価かつ高速なコンテンツ生成が、全員を説得する必要のない作戦を支えることを示している。必要なのは、あたかも自然発生的に見える素材を大量に流し込み、議論の質感を歪めることだけだ。
この2つの公表を結びつけるのは、出自の主張だけではない。AIツールをめぐって、サイバー犯罪と影響工作がますます融合していることだ。詐欺ネットワークはモデルを使って、フィッシングページ、メッセージ、ブランドなりすましをより説得力のあるものにできる。影響工作の実行者も、同種のシステムを使って、特定の政策争点向けに調整されたコメント、画像、論点を大量生産できる。どちらの場合も、AI は試行錯誤のコストを圧縮する。攻撃者は、これまでより速く、より大規模に、ナラティブ、標的、形式をテストできる。
より広い示唆
- Google は、AIを使った詐欺を、モデレーションだけでなく法的・インフラ上の問題として扱っている。
- OpenAI は、政治的言論におけるAIの悪用を、継続的な脅威報告機能の一部として説明している。
- 両方の公表は、プラットフォーム防御がモデル提供者、通信事業者、法執行機関の連携に依存するようになっていることを示している。
- 従来のスパム、サイバー犯罪、影響工作の境界はますます薄くなっている。
2つの事案の直近の事実は異なり、両社とも独自の調査結果を示している。しかし、戦略的な全体像は、1年前よりも明確になっている。AI悪用はもはや将来の仮説的な問題ではない。消費者詐欺、インフラのなりすまし、政治的ナラティブ操作を含む進行中のキャンペーンに、すでに組み込まれている。つまり、次の段階のAIガバナンスは、製品デモよりも、それらのシステムを構築する企業が武器化の手口を封じ込められるかどうかで評価されることになる。
この記事は The Decoder の報道に基づいています。元記事を読む。
Originally published on the-decoder.com