「VAGue Focus」作戦：ソーシャルエンジニアリングと影響工作
OpenAI は、ソーシャルエンジニアリング、監視関連の調査、批判者を標的とした影響工作に AI を利用していたアカウントを停止しました。
この事例研究は、OpenAI の 2025 年 6 月（新しいウィンドウで開く）の報告書で初めて公表されました。
行為主体
OpenAI は、少数の ChatGPT アカウントで構成されたネットワークを停止しました。これらのアカウントは、当社のモデルを使ってソーシャルメディアの投稿を生成し、データセットを分析するほか、ソーシャルエンジニアリングの試みと見られるメールやメッセージを中国語から英語に翻訳していました。これらのアカウントは当社のモデルに中国語で指示を出しており、主に中国本土の業務時間帯に活動していました。
生成されたメッセージは、地政学を専門とする 3 つの組織、「Focus Lens News」「BrightWave Media Europe」「Visionary Advisory Group」（VAG）の従業員からの連絡を装っていました。また、これらの ChatGPT アカウントは、上記 3 組織に関連する X アカウントの投稿やプロフィールと一致する文章を生成していました。脅威アクターは別のやり取りで、これらの組織を情報収集・分析活動の隠れみのと説明していました。OpenAI は、これらの名称に基づき、この作戦を「VAGue Focus」と名付けました。
行動
この作戦では、主に 4 つの活動に ChatGPT が利用されていました。第一に、これらのアカウントは主に、秘密裏の影響工作の一環と見られるオンライン上の架空の人物について、ソーシャルメディアの投稿やプロフィールを当社のモデルで生成していました。生成された投稿は、ジャーナリストや地政学アナリストを装った X アカウントから発信されていました。
この脅威アクターが ChatGPT で生成し、自らのコンテンツを継続的に発信していた X アカウントから投稿したツイート。
第二に、政権幹部の指名に関する米国上院議員宛ての書簡を推敲・翻訳していました。これらの書簡が実際に送付されたかどうかは、独自に確認できていません。
第三に、コンピューターネットワークへの攻撃や侵入に用いるツールについて、一連の基礎的な質問をしていました。当社のモデルは、それらの用途や機能に関する一般的な説明のみを提供していました。これらの質問は、本報告書の後半で取り上げるサイバー攻撃者の質問ほど高度ではなく、専門知識の水準が低いことを示唆しています。
最後に、利用者は、身元不明の相手と関係を築き、最終的に情報を引き出すためと見られるメッセージを、中国語から英語に翻訳するよう定期的に依頼していました。これらのメッセージの一部は、ソーシャルメディア上でジャーナリストや研究者への返信として投稿されていました。ほかには、ダイレクトメッセージと思われるものもあり、オンライン検索では見つかりませんでした。
この作戦に関連する X アカウントが、面識のない研究者に X 上で公開メッセージを送り、接触を図った例。
生成内容
このネットワークの主な目的は、欧州やトルコを拠点とする専門家を装って情報を収集することだったと見られます。工作の実行者は、生成してオンラインに投稿したコンテンツの中で、「Focus Lens News」を、欧州に拠点を置き、分析と報道を専門とする独立した組織と説明していました。一方で実行者は、この看板は実際には情報の収集・分析・拡散を進めるための隠れみのだとも述べていました。
ソーシャルメディアのプロフィールにリンクされていたウェブサイトによると、Visionary Advisory Group はトルコに所在し、地政学分野の専門的なコンサルティングサービスを提供する組織です。実行者は当社のモデルを使い、VAG Group が米国の経済・金融政策に関する情報を求めており、インタビューに応じれば 1 時間あたり 2,000 ドルを支払う用意があるとする指示文を、中国語から英語に翻訳していました。また、機密文書の提供に対して報酬を支払うという申し出も翻訳していました。
VAG Group のウェブサイトにはトルコ語版と英語版があり、英語版の「お問い合わせ」ページのメニューには、「お問い合わせ」を意味する中国語の「聯絡」が表示されています。これは、このドメイン全体で唯一の中国語の表記でした。
VAG Group の「お問い合わせ」ページのスクリーンショット。ドロップダウンメニューに「お問い合わせ」を意味する中国語の「聯絡」が表示されています。
このネットワークのコンテンツの一部は、より広範な影響工作の宣伝資料のようなものでした。そこでは、この作戦で機械学習、自然言語処理、自動データスクレイピングを使い、ソーシャルメディア上の影響力のある発信者や話題を特定したと主張していました。ただし、当社はこの主張を独自に検証できていません。
影響
この活動に関連するソーシャルメディアのアカウントは、オンライン上で一般ユーザーから大きな反応を得ることはありませんでした。Focus Lens News の X アカウントだけは 17,000 人という相当数のフォロワーを抱えていました。ただし、このアカウントは 2014 年 11 月に別の名前で作成され、3 日間ツイートした後、2024 年半ばまで投稿が途絶えていました。これは、乗っ取られて別の目的に転用されたアカウントに典型的なパターンであり、フォロワー数の評価には注意が必要です。
影響工作（IO）の影響度を測るブレイクアウト尺度（新しいウィンドウで開く）を用いると、この作戦のうち公開された活動は、カテゴリー 2 の下位に相当すると評価できます。複数のプラットフォームで活動していたものの、実際のユーザーがコンテンツを取り上げたり、広く共有したりした証拠はほとんどありません。この作戦におけるソーシャルエンジニアリングやその他の秘密裏の活動については、その影響を評価するための証拠が不足しています。