「Spamouflage」作戦：中国関連の影響工作
OpenAI は、AI を使ってソーシャルメディア活動の調査、投稿生成、未報告だったウェブサイトのデバッグを行っていた中国発の工作「Spamouflage」に関連するアカウントを停止しました。
このケーススタディは、OpenAI の 2024 年 5 月（新しいウィンドウで開く）のレポートで初めて公開されました。
実行主体
当社は、中国発の工作「Spamouflage（新しいウィンドウで開く）」に関連する少数のアカウントを停止しました。Meta（新しいウィンドウで開く） は、この工作を「中国の法執行機関に関係する個人」によるものとしています。この工作によるソーシャルメディア活動の一部について、FBI（新しいウィンドウで開く） は中国公安部内の一部門によるものとしています。
活動
このネットワークは世界中の人々、特に在外中国人や中国政府を批判する人々を標的にしていました。主に中国語でコンテンツを生成し、英語、日本語、韓国語も少量生成していました。
このネットワークは当社のモデルを使用して、コードのデバッグ、ソーシャルメディア分析に関する助言の取得、ニュースや時事問題の調査を行ったほか、ブログフォーラムやソーシャルメディアに投稿するコンテンツを生成していました。
例えば 2023 年には、当社のモデルを使い、ウェブサイト revealscum.com の WordPress テーマを設定するコードをデバッグしていました。このウェブサイトは、中国政府を批判する在外中国人に対する中国語の批判や、その個人情報を掲載していました。同サイトは、こうした批判者を「売国奴」と呼んでいました。コンテンツ自体は、当社のモデルを使って生成されたものではありません。
「汉奸」（「売国奴」）というタイトルのページを表示したウェブサイト revealscum.com のスクリーンショット。このサイトで標的とされた人々の顔にはぼかしを入れています。
このキャンペーンは、ソーシャルメディアのプラットフォームやフォーラムに投稿するコンテンツの作成にも、当社のモデルを使用していました。例えば 2023 年後半には、日本が福島の原子力発電所から処理水を放出して海洋環境を損なっていると非難する記事を生成していました。当社は、Medium、Blogspot、ameblo.jp などのプラットフォームでこれらの記事を確認しました。
2024 年 4 月には、中国の反体制派である蔡霞氏を批判する一連の英語コメントを投稿していました。当社は、最初のコメントを投稿した 1 件の X アカウントと、残りを返信として投稿した別のアカウント群を特定しました。実在する利用者のアカウントからの返信は確認されませんでした。
Spamouflage が当社のモデルで生成したコンテンツを使い、蔡霞氏を攻撃した投稿と返信。リポストも「いいね」もない点に注目してください。元の投稿に付いた 10 件のコメントはすべて、Spamouflage が生成したコンテンツを使用するアカウントから投稿されていました。
このキャンペーンは、ソーシャルメディアの開発者アカウントの申請方法を調べたり、中国政府を批判する人々のソーシャルメディア投稿の要約を求めたりするなど、公開情報の調査にも当社のモデルを使用していました。
このネットワークが生成したコンテンツ全体のうち、人工知能を使用したものはごく一部にとどまっていたとみられます。例えば、当社のモデルで生成したコンテンツを投稿していたと特定された X や Medium のアカウントの多くは、それ以上の量のコンテンツを英語と中国語で手作業により作成していたとみられます。これは、不自然な英語表現などから判断できます。こうしたコンテンツは、AI 生成コメントを投稿する前後の両方で投稿されていました。
4 月 19 日に AI 生成コンテンツを投稿したアカウントの一つによる、2024 年 4 月 22 日の投稿。テキストと画像はどちらも手作業で作成されたとみられます。
コンテンツ
このキャンペーンが生成したコンテンツの多くは中国語でした。テーマは、中国政府による国際的な法執行協力の称賛から、米国における先住民への虐待に対する批判まで多岐にわたりました。一部のコンテンツは、「Volt Typhoon」として知られる中国のハッカー集団の活動を暴露したとして、米国政府と Microsoft を批判していました。
英語のコンテンツもありました。その多くは、俳優でチベット活動家の Richard Gere 氏や、反体制派の蔡霞氏など、中国政府を公然と批判する著名人を非難するものでした。2023 年後半に英語、日本語、中国語、韓国語、ロシア語で生成された少数の記事は、日本が福島の原子力発電所（新しいウィンドウで開く）からの放出によって太平洋を汚染していると非難していました。これは、中国の影響工作で長年繰り返されてきたテーマです。
活動の一部を成す小規模なアカウント群は、中国公安部長のウズベキスタン訪問を好意的に評価する中国語コメントの生成に注力していました。これは、Spamouflage が過去に取り上げたことが知られていないテーマです。この工作による以前のソーシャルメディア活動の一部を中国公安部によるものとした FBI の判断（新しいウィンドウで開く）を踏まえると、注目に値します。
このネットワークの活動の一部には、オペレーター個人の関心が反映されていたとみられます。例えば、あるオペレーターはカメラレンズの調査に当社のモデルを使用していました。別のオペレーターは、中国共産党員向けの試験課題とみられるものを完成させるために、当社のモデルを使用していました。
影響評価
Spamouflage は、2019 年に初めて公に報告されて（新しいウィンドウで開く）以来、世界で最も集中的に研究されてきた影響工作の一つです。しかし、その活動が実在する人々に届いたとの報告は、これまでほとんどありません。
AI 生成コンテンツの使用によっても、この状況は変わらなかったとみられます。当社の調査で特定したブログ、記事、ソーシャルメディアアカウントのいずれも、実在する人々から多数の反応やフォローを獲得していませんでした。場合によっては、確認できる指標上、投稿を閲覧したのは当社の調査チームだけでした。
影響工作の影響度を 1（最低）から 6（最高）で評価するブレイクアウト・スケール（新しいウィンドウで開く）に照らすと、この工作はカテゴリー 2 と評価されます。多数のプラットフォームで投稿活動が見られる一方、ネットワーク外の人々によって大幅に拡散された証拠はありません。
指標
当社は、このキャンペーンに関連する以下のドメインを特定しました。
revealscum.com