メインコンテンツにスキップ
OpenAI

2025年2月1日

安全性

「資金提供による不満」作戦:影響工作

AI で英語のソーシャルメディア投稿やスペイン語の記事を生成していた、中国発とみられるアカウントの OpenAI による利用停止

読み込んでいます...

この事例は、OpenAI の 2025 年 2 月⁠(新しいウィンドウで開く)のレポートで初めて公開されました。

活動主体

OpenAI は、当社のモデルを使って英語の短いコメントやスペイン語の長文ニュース記事を生成していた ChatGPT アカウントの利用を停止しました。この活動が行われていた時間帯は、中国本土の業務時間と一致していました。スペイン語の記事は、ラテンアメリカのニュースサイトに掲載されていました。ほぼすべてのウェブサイトが、記事の執筆者としてある個人の名前を記載していました。一部の記事では、署名欄でその人物と中国企業の Jilin Yousen Culture Communication Co, Ltd(优森文化有限公司)との関係が示されていました。

行動

これらのアカウントは、中国語で ChatGPT に指示を出し、主に中国本土の業務時間中に活動していました。一部の活動は、OpenAI が 5 月に報告した「スパモフラージュ⁠」と呼ばれる秘密裏の影響工作と一致していました。反体制派で、中国共産党中央党校の元教授である蔡霞氏を批判する、短い英語のコメントや画像を生成していました。このコンテンツはその後、米国やインドの人々を装ったアカウントによって X に投稿されました。

「資金提供による不満」のアカウントが生成したツイート

これらのアカウントが OpenAI のモデルを使って生成し、4 つの異なる X アカウントで投稿したツイートです。

活動がこれだけであれば、「スパモフラージュ」との関連性が高いと結論づけていたかもしれません。しかし、これらのアカウントは短いコメントに加えて、米国を批判するスペイン語の長文記事も生成していました。この活動は、ペルーでの 2024 年 APEC 会議の開催が近づくにつれて、特に活発になりました。この活動主体は、一般公開されている中国語の記事を翻訳し、内容を膨らませるよう OpenAI のモデルに指示して、記事を生成していました。

これらの記事はその後、主にペルーのほか、メキシコやエクアドルなど、ラテンアメリカのニュースサイトに掲載されました。多くの場合、ニュースサイトは、これらのアカウントが ChatGPT でコンテンツを生成したその日のうちに記事を掲載していました。ほぼすべての掲載媒体が、同じ人物を記事の執筆者として記載していました。一部の媒体は、その人物を、OpenAI が中国企業とみている会社の法定代表者として紹介していました。

中国の活動主体とみられる者が、影響工作の一環としてラテンアメリカの主要メディアに記事を掲載することに成功した事例を、OpenAI が確認したのは今回が初めてです。一部の記事は、対価の支払いによって掲載された可能性があります。公開情報の調査で特定した記事の 1 つには、「スポンサー提供」と記載されていました。また、この活動主体は、ラテンアメリカの報道機関が発行したスペイン語の領収書に関する記述の翻訳にも ChatGPT を使っており、有料での掲載を示唆しています。

「資金提供による不満」の活動で生成されたスポンサー記事

この活動主体が生成し、ウェブサイト wapa[.]pe に掲載された記事のスクリーンショットです。「スポンサー提供」、つまりスポンサーコンテンツであるとの記載に注目してください。

スポンサーコンテンツを利用していたとみられることと、米国の政治や政策に対する否定的な姿勢を踏まえ、OpenAI はこの活動を「資金提供による不満」と名付けました。

生成内容

この活動主体は、主に 2 種類のコンテンツを生成していました。英語と中国語による蔡霞氏への短い批判文と、スペイン語の長文記事です。

蔡霞氏への批判を生成する際、オペレーターは通常、同氏が投稿したツイートや動画、または同氏についてのメディア報道への返答を ChatGPT に求めていました。コメントの中には、台湾、インターネット、中国の文学や歴史といった分野における同氏の専門性に疑問を呈するものがありました。ビザに関する不正があったと非難するものもありました。

スペイン語の長文記事は、主に時事問題や速報を基に、米国の社会的・政治的分断に焦点を当てていました。話題は格差、政治的暴力、差別、性差別に加え、犯罪報道や米国の外交政策への批判などに及んでいました。薬物使用やホームレス問題といった社会的危機も、主要な話題となっていました。オペレーターは多くの場合、こうした危機や問題を、米国の指導層や社会の機能不全を示すものとして描いていました。活動はおおむね特定の政党に偏らず、米国の二大政党をともに批判していました。

影響

ソーシャルメディア上で蔡霞氏を標的にしたコンテンツが、一般ユーザーから大きな反応を得たという証拠は確認されていません。このコンテンツを投稿したソーシャルメディアのアカウントは、概してフォロワーが少なく、反応もごくわずかでした。

ただし、中国発の影響工作が、米国を批判する長文記事をラテンアメリカのメディアに掲載させることに成功した事例を、OpenAI が確認したのは今回が初めてです。少なくとも一部は掲載料の支払いによって実現した可能性がありますが、これは、OpenAI の知る限りこれまで報告されていなかった手法です。より一般的なソーシャルメディアでの活動と並行して行われ、はるかに多くの人々に届いた可能性があります。ただし、読者の反応を独自に確認することはできていません。

影響工作の影響度を 1(最低)から 6(最高)で評価するブレイクアウト・スケール⁠(新しいウィンドウで開く)に照らすと、ラテンアメリカのニュースサイトが幅広い読者層を持つことから、この活動はカテゴリー 4(主要メディアへの波及)に該当すると考えられます。

この活動に関連して掲載された記事の見出し

以下の記事は、この活動主体が OpenAI のモデルを使って生成したコンテンツと一致することが確認されています。

  • ウクライナへの戦争支援で米国が利益を得る仕組みの醜い真実(La Republica、ペルー)

  • 米国のホームレス問題の悲惨な現実(Wapa、ペルー)

  • パレスチナ人活動家に対する米国の制裁の狂った論理(El Popular、ペルー)

  • 男らしさをめぐる不条理な光景(Libero、ペルー)

  • 至るところに広がる影(El Popular、ペルー)

  • 米国の政党上層部による民主主義の軽視(El Popular、ペルー)

  • 選挙期間中の演説の不透明さと世論操作(Libero、ペルー)

  • ホテル労働者のストライキと闘い(La Republica、ペルー)

  • 米国の制裁の無力さと自ら招いた限界(El Universal、メキシコ)

  • フェンタニルに支配された人々の声なき叫び(La Republica、ペルー)

  • ハリケーン「ヘリーン」:米国の政治家による虚偽の発言と陰謀論(Wapa、ペルー)

  • 関税の霧:トランプ氏の近視眼的な政策と米国経済の未来(La Republica、ペルー)

  • 米国社会の食料安全保障の問題と学校への影響(Extra、エクアドル)

  • 米国の悲劇:真実が隠蔽されるとき(Expreso、エクアドル)

  • 米国における子どもの安全の危機(La Republica、ペルー)

  • ブルックリンに落ちる暴力の影(El Plural、スペイン)

  • 殺人犯のぜいたく:納税者が費用を負担する手術(El Universal、メキシコ)

  • イスラエルへの支援と人道危機の軽視(La Republica、ペルー)

  • 米国の選挙における破壊的な競争(Wapa、ペルー)