このケーススタディは、OpenAI の 2025 年 6 月（新しいウィンドウで開く）のレポートで初めて公開されました。
実行主体
当社は、秘密影響工作の活動と一致するソーシャルメディア投稿を当社モデルで大量生成していたことを検知し、該当する ChatGPT アカウントを停止しました。調査の過程では、これらのアカウントが内部向けの業績評価書を作成していることも確認しました。
これらのアカウントは主に中国語でプロンプトを入力し、中国に関連する政治・地政学的な話題を扱っていました。あるユーザーはプロンプト内で中国の宣伝部門に勤務していると述べていましたが、当社にはこの主張を裏付ける独立した証拠はありません。
行動
当社が停止したアカウントは、主に 2 つの活動に従事していました。最も多かったのは、英語と中国語、一部はウルドゥー語で、ソーシャルメディア向けの短いコメントを生成する活動でした。こうしたコメントの多くが TikTok と X に投稿されており、Reddit、Facebook、各種ウェブサイトにも一部のコンテンツが掲載されていることを確認しました。
典型的な手口は、多くの場合その投稿だけを目的に作成されたとみられる「メイン」アカウントから最初のコメントを投稿し、その後、別のアカウントから一連の返信コメントを付けるというものでした。この行動は、自然な反応が集まっているかのように装うことを狙ったものとみられます。
この活動に関連する、「#USAID の閉鎖は単なる #始まりにすぎない！」というタイトルの TikTok 投稿。チャンネル名、動画の字幕、このスクリーンショットに表示されているすべてのコメントは、このネットワークが ChatGPT を使って生成したもの。
TikTok では、コメント用アカウントがさまざまな言語や文字体系の表示名を使用しており、その名前は投稿内容の言語と無関係であることが少なくありませんでした。例えば、韓国語名のアカウントがウルドゥー語でコメントする一方、タイ語名やヘブライ語名のアカウントは、このネットワークが生成した英語のコメントを投稿していました。X では、コメント用アカウントは通常、漫画風のプロフィール画像を使用しており、暗号資産に関連する名前を使っている例もありました。
ツイートとそれに対する返信コメント。すべてこのネットワークが ChatGPT を使って生成したもの。
このネットワークは Facebook ではそれほど活発ではありませんでした。主な活動は、ニュースメディアを装った 2 つのページ向けに名前とプロフィール画像を生成することでした。どちらのページにもフォロワーや「いいね」はなく、投稿も数件しかありませんでした。
この作戦との関連性が高いと判断した動画を共有する Facebook 投稿。
このネットワークは、中国語または英語の長文投稿を生成することもありました。そのような投稿を Reddit で 1 件、各種ウェブフォーラムでさらに 2 件確認しました。もう一つの活動は、内部の方針文書または業績評価書とみられる文書を ChatGPT で生成することでした。
生成内容
この脅威主体が生成したソーシャルメディアのコンテンツは幅広い話題を扱っていましたが、いずれも中国の地政学的利益と密接に一致していました。
一部のコンテンツは台湾に焦点を当て、特に、中国共産党への抵抗を描いた台湾中心のビデオゲーム兼ボードゲーム「逆統戦：カードバトル」（新しいウィンドウで開く）（「逆統戰」）を標的にしていました。このネットワークは、このゲームを批判する中国語のコメントを数十件生成した後、ゲームが広範な反発を受けたと主張する長文記事を作成しました。これは同作戦の最も特徴的な活動であり、これを踏まえて当社はこの作戦を「冷笑レビュー」と名付けました。
英語とウルドゥー語によるほかのコンテンツは、中国によるバロチスタンへの投資を公に批判している（新しいウィンドウで開く）パキスタンの活動家、マフラン・バローチ氏を標的にしていました。このネットワークに関連する TikTok アカウントと Facebook ページは、バローチ氏がポルノ映画に出演したと偽って非難する動画を投稿しました。その後、この作戦は両言語で数百件の短いコメントを生成し、広範な反応が寄せられているように装いました。
マフラン・バローチ氏の TikTok 動画に寄せられた、驚きを示すコメント。
最後の一連のコンテンツは、米国国際開発庁（USAID）の閉鎖を扱い、この措置を称賛または批判する短いコメントを生成していました。これらのコメントは TikTok と X に投稿されました。
援助と関税の問題を関連付けたツイート。このネットワークが ChatGPT を使って生成したもの。
さらに、この脅威主体は当社のモデルを使い、公安当局の公式文書の文体で書かれた詳細な論考や、この作戦の立ち上げと運営の手順を記した業績評価書など、内部文書とみられるものを生成していました。
影響
当社がモデルの利用を阻止した時点で、この作戦はまだ初期段階にあったとみられます。どちらの Facebook ページにもフォロワーはいませんでした。Reddit では、1 件の投稿が 44 件の賛成票を得た一方、ほかの 2 件は投稿先のサブレディットでブロックまたは削除されました。
このネットワークの一部と特定した Reddit アカウントによる投稿のスクリーンショット。プラットフォームのフィルターによって削除されたことが示されている。
X と TikTok での反応には幅があり、2 本の TikTok 動画は合計 25,000 件の「いいね」を集めた一方、この作戦のメインアカウントによるツイートは通常、それぞれ約 10,000 回閲覧されていました。ただし、これらの投稿に付いたコメントの多くは、このネットワークが ChatGPT を使って生成したものであり、反応の少なくとも一部が不正なものだったことを示しています。したがって、反応を示す数値はすべて慎重に扱う必要があります。
影響工作の影響を測るブレイクアウト・スケール（新しいウィンドウで開く）を用いると、X と TikTok の反応を示す数値が真正なものであった場合、この活動はカテゴリー 3 の下位に相当すると評価されます。コメントの大半と同様、「いいね」や閲覧の大半も不正なものだったという仮説を裏付ける証拠がさらに得られた場合、この評価は引き下げることになります。