OpenAI、ChatGPTを利用したロシアの影響工作ネットワークを摘発と発表

OpenAIは秘密の影響工作を阻止したと発表

OpenAIは、ChatGPTを使ってソーシャルメディア向けのコンテンツを生成し、操作者の出自を隠していた秘密のロシア影響工作を阻止したと発表した。提示された報道によると、このネットワークはVPNを通じてロシアからプラットフォームにアクセスし、ロシア人による執筆だと示す可能性のある言語上の手がかりをChatGPTから削除するよう明示的に指示していた。この点が重要なのは、生成AIが単に大量生産に使われただけでなく、文体の洗浄にも使われていたことを示しているからだ。つまり、対象読者には自然に見える内容を作りつつ、その背後の出所を隠していたのである。

このキャンペーンの表向きの目的は、「International Burke Institute」、すなわちIBIという、イスラエルを拠点とするかのように装われたシンクタンクを宣伝することだった。この組織は、ロシアを西側諸国よりも有利に位置づける「主権指数」を含む資料を発信していた。実際には、この作戦は地政学的メッセージと偽の संस्थागत外装の構築を組み合わせ、プロパガンダ的な主張に研究に裏付けられた分析の外観を与えていたように見える。

なじみ深い手法を、より効率的なツールチェーンで

ここで描かれている運用パターンは、過去の情報工作でおなじみだ。見かけ上は独立した発信元を作り、一方を称賛し他方を貶める内容を投稿し、それを複数のプラットフォームに流して、やがて自走的に広がるようにする。AIで変わるのは、そのパイプラインの効率だ。人間のライターや、いかにもコピペしたような翻訳に全面的に頼る代わりに、操作者は素早く投稿を生成し、国ごとに語調を調整し、キャンペーンの出所を暴く可能性のある言語的シグナルを消すことができる。

報道によると、このキャンペーンはX、LinkedIn、Facebook、Substack、Telegramでコンテンツを拡散した。その一部はドイツ語で、例えば「Lahme Ente」というTelegramチャンネルへの投稿では、ウクライナ、欧州連合、ドイツ連邦政府を批判しつつ、ロシアとのより緊密な関係を主張していた。別の操作者は、ドイツ、米国、フランス、ポーランド、トルコ向けの約12のTelegramチャンネルのロゴを作成し、さらに各チャンネルの活動内容についてロシア語の要約を求めていたという。この組み合わせは、単発の投稿をばらまくのではなく、持続的なメディア的資産を構築しようとする協調的な試みを示している。

OpenAIによるこのキャンペーンの説明は、虚偽の権威付けが中心的な手法だったことも示している。提示された文書によれば、2025年9月から2026年5月の間に公開された、専門家に関連するIBIの記事36本のうち34本が他の स्रोतからの転載であり、時には偽の著者クレジットが付されていた。例として挙げられたのは、Cambridge University Pressの論文がNottingham大学の教授に誤って帰属されていたケースだ。別の記事は、Migration Policy Instituteのものがオーストラリアの食品化学教授に帰されていたとされる。これらの詳細は、この作戦が単に意見を流していたのではなく、盗用、誤帰属、機関の模倣によって信頼性を作り出していたことを示している。

到達規模は小さいが、拡張可能な構造

純粋な視聴者数で見ると、このキャンペーンは大きな突破口を開いたようには見えない。報道によれば、個々の投稿の閲覧数は非常に少なく、IBIの公式アカウントの購読者数も少なかった。それでも、ネットワークに関連づけられたTelegramチャンネルは、それぞれ1万から2万人のフォロワーに達していたとされる。OpenAIはこの作戦をBrookings Breakout Scaleで6段階中3と評価しており、複数のプラットフォームに広がり、実際の利用者に届き始めていた初期兆候があることを意味する。

この中間レベルの評価こそ、おそらく物語の中で最も重要な部分だ。キャンペーンはバズしなくても、後で拡張できるインフラを構築しているなら重要になりうる。偽のシンクタンク、複数プラットフォームの配信アカウント、ブランド化されたTelegramチャンネル、多言語ワークフロー、AI支援の編集は、再利用可能な資産だ。いったん組み上がれば、将来の影響工作のコストを下げる。そう考えると、今日の限定的なキャンペーンは、明日のはるかに大きなキャンペーンのプロトタイプとして機能するかもしれない。

ここで生成AIの役割が、構造的により重要になる。提示された報道は、AIが単独で周縁的な作戦を大規模な説得機械に変えたことを示していない。むしろ、AIが操作者のコンテンツ生成、メッセージのローカライズ、文体的な指紋の隠蔽、より広い発信ネットワークの維持を、少ない労力で支えていたことを示している。これは静かだが、より重要かもしれない変化だ。影響工作を、継続しやすく、拡大しやすく、言語や地域ごとに調整しやすいものに変えている。

この公表が重要な理由

OpenAIの公表は、国家関連または政治的動機に結びついた協調的な悪用を特定し排除するAIプラットフォームの記録をさらに積み上げるものだ。記事は、同社がこれ以前にもChatGPTを悪用した複数のロシア影響工作を阻止してきたと述べている。どの停止措置も有益だが、同時に同じ現実を示している。主流の生成ツールは今や争われる情報環境の一部であり、プラットフォームによる執行がその悪用を抑える最前線の一つになっている。

政策立案者や研究者にとって、この事例は不快な非対称性を示している。こうしたキャンペーンを作るのは比較的安価だが、それを検出するには、プラットフォームのテレメトリ、パターン分析、そして外部の観測者には容易に得られないクロスプラットフォームの相関が必要になる。つまり、一般の人々がこうした作戦を知るのは通常後になってからであり、企業が発見内容を公表したときや、調査者が独自に点と点をつなげたときだ。

より広い教訓は、危険は単に合成テキストがインターネットをあふれさせることではない、ということだ。AI生成コンテンツに偽の機関、コピペされた研究、捏造された帰属、そして特定の国の受け手向けに調整された配信システムが結びつくことにこそ、より大きな問題がある。この組み合わせは、低品質のプロパガンダを手続き上は正当なものに見せ、注意を集め、物語を植え付け、同調的なコミュニティが自然拡散できる材料を与えるのに十分な時間を稼げる。

OpenAIの説明によれば、このキャンペーン自体は可視的な到達規模が限定的だった。しかし、同社が「インフラは拡張可能だった」と警告している点こそ注目すべきだ。影響工作は、最初から劇的に成功する必要はない。何が効くのかを学び、手順を固め、説得のコストを下げ続ければよい。その意味で、今回の阻止は閉じられた章というより、次世代のAI活用情報工作がどのようなものになるかを示す兆候に近い。

この記事はThe Decoderの報道に基づいています。元記事を読む。