このケーススタディは、OpenAI の 2025 年 6 月（新しいウィンドウで開く）付レポートで初めて公開されました。
実行主体
Meta から寄せられた情報を受け、中国発の影響工作（新しいウィンドウで開く）に関連する複数の ChatGPT アカウントを停止しました。この作戦では、米国の政治言論における対立的なテーマについて両陣営を支持する、分断をあおるソーシャルメディアコンテンツが生成されていました。これには、X や Bluesky など複数のプラットフォームに投稿された文章や、AI で生成したプロフィール画像が含まれます。
行動
このネットワークは複数の用途で当社のモデルを使用していましたが、主な用途は関税への賛否を示すソーシャルメディア上のコメントの生成でした。これらのアカウントは、オーディエンスの反応を最大化できる最適な投稿時間を当社のモデルに尋ねており、計画的な拡散戦術を取っていたことがうかがえます。
この脅威アクターが当社のモデルで文章を生成し、関税をめぐる議論の両方の立場をそれぞれ後押しした 2 件のツイート。
次に、これらのアカウントは当社の画像生成機能でデザイン性の高いロゴを作成し、それをプロフィール画像として使用することで、複数のソーシャルプラットフォーム上に架空の人物像を構築していました。特に、現米政権に批判的な米国退役軍人という人物像の構築に注力していました。
このネットワークが生成したコンテンツを投稿していた Bluesky アカウント。「正義を求める退役軍人」のロゴは、当社のモデルで生成されました。
最後に、これらのアカウントは、Tweepy、Nitter、Bluesky の公開 API などのツールを使って、X や Bluesky などのソーシャルプラットフォームからユーザープロフィール、フォロワー一覧、その他の個人データを抽出するためのコードや手法を繰り返し要求していました。さらに、プロフィールデータから個人の特徴や所属組織を分析する方法について当社のモデルに助言を求めていました。これは、人物の分類や、人間関係、属性の推定に利用された可能性があります。
生成内容
これらのアカウントは、米国の政治言論を幅広く取り上げ、分断をあおるコンテンツを生成していました。多くの場合、同じ作業セッション内で対立する両方の立場のコンテンツを生成していました。既知の影響工作で用いられる手法と同様に、特定の思想的立場を推進するのではなく、既存の政治的分断につけ込むことを狙ったものとみられます。コンテンツの量と米国向けメッセージへの注力を踏まえ、当社はこの作戦を「スパムおじさん」と名付けました。
架空の人物が投稿した、当社のモデルで文章を生成したツイート。
影響
影響工作の効果を測るブレイクアウト・スケール（新しいウィンドウで開く）では、カテゴリー 2、すなわち複数のプラットフォームで活動しているものの、拡散の突破口はなく、反応もないかごくわずかと評価されます。当社のモデルで生成したコンテンツを投稿していたソーシャルメディアアカウントには、本物のユーザーからの反応がほとんどありませんでした。このネットワークが X に投稿したコンテンツの大半には、いいねやリポストがほとんど、あるいはまったく付かず、一定の反応があったのは数件のみでした。一部のソーシャルメディアアカウントには数千人のフォロワーがいましたが、その信頼性は確認できませんでした。また、フォロワー数が投稿への反応につながっている様子もありませんでした。