OpenAIがロシアのChatGPT偽情報工作を摘発、YouTubeにも通じるAI対策とは

OpenAIがロシアのChatGPT偽情報工作を摘発

OpenAIは、ロシアから無断でChatGPTを使った偽情報キャンペーンを展開していたグループを特定し、関連するアカウント群を停止したと公表しました。
The Decoderが報じています。

工作員はVPNでロシア国外からアクセスし、ロシア人と分かる言語的痕跡を消すようChatGPTに指示していたとみられます。
キャンペーンの中心となったのが、イスラエルに拠点があると見せかけた「International Burke Institute（IBI）」という偽シンクタンクです。
IBIは「主権指数」を公表し、ロシアの軍事力を米国よりも高く評価するなど、ロシアに有利で欧米を低く見せる内容でした。

OpenAIの分析では、2025年9月から2026年5月にIBIの専門家名義で公開された36本の記事のうち、34本が他の記事からの転用でした。
著者が別の人物にすり替えられたケースもあり、ケンブリッジ大学出版局の記事がノッティンガム大学の教授の名義で、移民政策研究所の記事がオーストラリアの食品化学教授の名義で出回っていました。

投稿はX、LinkedIn、Facebook、Substack、Telegramに広がりました。
ドイツ向けには「Lahme Ente（鈍い鴨）」というTelegramチャンネルで、ウクライナやEU、ドイツ連邦政府を批判し、ロシアとの関係強化を求める内容がドイツ語で投稿されていました。
別の工作員はドイツや米国、フランス、ポーランド、トルコ向けの十数チャンネルのロゴを作り、活動のロシア語での要約を定期的に依頼していました。

影響は現時点では限定的です。
個々の投稿はほとんど見られておらず、IBI公式アカウントのフォロワー数もわずかでした。
ただ、連携したTelegramチャンネルには各1万〜2万人が集まっていました。
OpenAIはこの工作を、影響度を測る「Brookings Breakout Scale」で6段階中3と評価しました。
複数のプラットフォームに広がり、実際のユーザーへの到達の初期兆候がある段階です。
現在の規模は小さくても、インフラが整っていたため、放置していれば拡大できたとみています。

OpenAIはこれまでにも、ChatGPTを悪用したロシアの工作を公表しています。
2024年6月には「Bad Grammar」という、ロシア・ウクライナ・バルト三国についての政治コメントをTelegramで作らせたネットワークを摘発しました。
2025年には、ドイツ連邦議会選挙を前にドイツ語コンテンツを作らせ、米国やNATOを攻撃しつつAfDを宣伝した「Operation Helgoland Bite」を特定しています。

OpenAIは「自社のプラットフォームで捕捉できたのはこの程度だ」として、中国のAI企業やオープンウェイトモデルが自由に使える状況では、AIによる影響工作の実態はさらに大きい可能性があるとしています。

YouTubeにも同じ手法は向きうる

この工作はYouTube上で起きたわけではありません。
ただし、偽の専門家やシンクタンクを装い、AIで大量の投稿を用意するやり方は、YouTube向けに切り替えるのに大きな障害はありません。
YouTubeもAI生成コンテンツの開示を義務づけており、不自然な投稿や協調的な不正行為はチャンネル停止の対象になります。

日本のチャンネルにとっては、他人の動画や文章をAIで書き換えられて拡散されるリスクがあります。
また、コメント欄などで、特定のメッセージを機械的に繰り返すアカウントを見かけることが増えれば、それも無視しない方がよいでしょう。
プラットフォーム側の対策が進むほど、利用者側の正しい報告が重要になるのがこの分野の特徴です。