「ドッペルゲンガー」作戦：ウクライナを標的とするロシアの影響工作
OpenAI は、ロシア発の「ドッペルゲンガー」作戦に関連するアカウントを停止しました。この作戦は AI を使い、ウクライナに反対するソーシャルメディアのコメント、翻訳、ウェブサイト文面を複数の言語で生成していました。
このケーススタディは、OpenAI の 2024 年 5 月（新しいウィンドウで開く）のレポートで初めて公開されました。
実行主体
当社は、「ドッペルゲンガー」（新しいウィンドウで開く）として知られるロシアの影響工作を代行する人物と関係し、当社のモデルを使用していた 4 つのアカウント群を停止しました。各アカウント群は異なる戦術・技術・手順（TTP）を示しており、複数の機能別チームで構成される作戦の特徴と一致していました。
活動
この活動はヨーロッパと北米の利用者を標的とし、ウェブサイトやソーシャルメディア向けのコンテンツ生成を中心としていました。
第 1 のアカウント群は、英語、フランス語、ドイツ語、イタリア語、ポーランド語の短いコメントを生成していました。これらは、当社のモデルで生成されたとはみられないミーム、動画、リンクとともに 9GAG や X に投稿されていました。一部のミームはインターネット上から転載されており、数年前に作られたものとみられます。
9GAG では、このキャンペーンのコンテンツを投稿するアカウントは通常、有名人や猫のプロフィール画像を使用していました。ミームや動画は、「Random」チャンネルのほか、ペット、スポーツ、ユーモア、さらには恋愛やデートなど、幅広いチャンネルに投稿されていました。
このキャンペーンで生成されたコンテンツを繰り返し投稿していたアカウントが、9GAG の「Motor Vehicles」チャンネルに投稿した、ウクライナに関するコメントとガザに関する動画。ウクライナと米国国境への言及は、当社のモデルで生成されました。動画はニュース映像を組み合わせたものでした。この投稿には 11 件の賛成票と 93 件の反対票が付きました。
このキャンペーンが 9GAG にミームや動画を投稿するたびに、3～5 個のアカウントが、たいてい「ハハハ」や「笑」といった単純なメッセージで返信していました。これらのアカウントはいずれも、このキャンペーンのコンテンツだけに反応していました。その大半は同じ日に作成されていました。こうした行動は他のユーザーから批判的なコメントを招くことが多く、その多くがアカウントを「ボット」だと指摘していました。
上の動画に寄せられたコメント。下の 3 アカウント（最初にコメントしたアカウント）はいずれも 2024 年 4 月下旬に作成され、このキャンペーンの投稿だけに繰り返し投稿、賛成票、コメントを行っていました。偽装を指摘した上の 3 アカウントは 1～10 年前に作成され、幅広い活動履歴がありました。
X では、このキャンペーンのコメントは通常、それぞれ 1、2 件しか投稿していないアカウントから投稿されていました。コメントには通常、「solarpanelfor.sale」のような、一見無作為なリンクが添えられていました。これらのリンクは、ドッペルゲンガーとの関連が繰り返し指摘されている一連のウェブサイトに転送されました。これらのウェブサイトには地域制限があり、標的国の IP アドレスを持つ利用者しか閲覧できませんでした。しかし、運営者の設定ミスにより、一部の英語、ドイツ語、ポーランド語の記事はフランスの IP からしか閲覧できなかったようです。
当社のモデルで生成されたコメントを含む X の投稿。コメントの訳は「衝撃的な行為です！政治を暴力と結び付けてはなりません。必要なのは暴力ではなく対話です」。添えられたリンクは、ドッペルゲンガーのブランドサイト rrn.media のドイツ語版に転送されます。ただし、5 月 20 日時点ではフランスの IP からしか閲覧できませんでした。
おそらく検知を回避するため、このアカウント群はロシアとチェコ共和国の企業に関連するサービスを通じて当社のモデルにアクセスしていました。このサービスは、ロシアの利用者が当社の対応国・地域に関するアクセスポリシー（新しいウィンドウで開く）を回避できるようにすることを目的としていました。当社は、このサービスからの API アクセスを無効にしました。
第 2 のアカウント群はロシア語の記事を英語とフランス語に翻訳していました。ロシア語の文章は独自に作成されたものとみられます。これらの記事の多くは後に、ドッペルゲンガーとの関連が繰り返し指摘されているウェブサイト rrn.media に掲載されました。同じアカウント群は記事に関する短いコメントも生成し、それらは後にソーシャルメディアに掲載されました。
当社のモデルで生成された X の投稿。rrn.media の記事へのリンクが添えられています。
第 3 のアカウント群は、フランス語の記事の生成、校正、修正に使用されていました。記事はその後、同じくドッペルゲンガーとの関連が指摘されているウェブサイト franceeteu.today に掲載されました。
最後のアカウント群はドイツ語で活動していました。このアカウント群は、ドッペルゲンガーのウェブサイト grenzezank.com からコンテンツを取り込み、それを基に、同サイト名を冠した Facebook グループとページ向けの短い投稿を生成していました。
コンテンツ
このキャンペーンがオンラインで公開したコンテンツの大半は、ウクライナ戦争を主題としていました。ウクライナ、米国、NATO、EU を否定的に描く一方、ロシアを肯定的に描いていました。典型的なコメントは、ロシアがヨーロッパ諸国にとって重要な経済パートナーである、ロシアを批判する西側諸国の指導者は自国の有権者の意向を理解していない、ウクライナは脆弱で腐敗しており、敗北寸前である、といった主張を展開していました。
ドッペルゲンガーの実行者は、ヨーロッパの著名な政治家やロシアを批判する人物の風刺画を当社のモデルに生成させようとすることもありました。当社のモデルは、これらのリクエストを拒否しました。
影響評価
当社が特定したドッペルゲンガーのキャンペーンは、いずれも実在する利用者から大きな肯定的反応を得た形跡がありません。
9GAG の典型的な投稿には 5～10 件の賛成票が付きましたが、その大半はこのキャンペーンのコンテンツも投稿していたアカウントからのものでした。一方、反対票は 15～200 件でした。X の典型的な投稿は約 1,000 回共有されていましたが、返信も「いいね」も 0 件でした。この差は極めて大きく、不正な拡散が行われた可能性を示しています。ある投稿には 3 件の返信があり、そのすべてが偽情報だと指摘していました。
X に投稿されたドッペルゲンガーの投稿への返信。
影響工作の影響を最低の 1 から最高の 6 までで評価するブレイクアウト・スケール（新しいウィンドウで開く）を用いると、当社のモデルの使用に関連する活動はカテゴリー 2 と評価されます。これは複数のプラットフォームで投稿活動が見られるものの、いずれでも大規模な拡散や利用者からの顕著な反応がない段階です。