AI を利用した「偽装組織・人物」による工作の阻止

過去 2 年半にわたり、私たちは脅威アクターが私たちのモデルをどのように悪用しようとしたか、サイバー攻撃、秘密裏の影響工作（IO）、詐欺、その他の利用ポリシー違反に関わる数多くの事例や手法について報告してきました。こうした報告書を公開する目的は、脅威アクターが AI を利用しようとする動きについて、私たちが観測した実態を規制当局、同業他社、広く社会に伝え、彼らが悪用しようとする脆弱性を明らかにすることです。

私たちは最近、ロシアとイランに由来する 2 件の影響工作に使われたアカウントを停止しました。いずれも、従来の手法や技術と私たちのモデルを組み合わせ、巧妙に偽装した組織や人物の活動を支えていました。彼らはそうした組織や人物を介することで発信元を隠し、地政学や紛争に関するメッセージを標的とする人々に届けていました。イランの工作では、7 人の架空の「ジャーナリスト」を使い、世界各地の中小オンラインメディアに長文記事の掲載を売り込んでいました。一方、ロシアの工作では、事情を知らないラテンアメリカの人々を取り込み、現地で「シンクタンク」を運営させていたと見られます。

どちらの工作も多面的で、目的を達成するためにさまざまな戦術を試していました。イランの工作では、長文記事に加え、主に米国とイランの戦争に関するソーシャルメディアのコメントを大量に生成していました。ロシアの工作では、「シンクタンク」の支配に加え、「流出」を装った偽文書や音声用の台本を作成しており、その一部がオンラインで拡散していることを私たちは確認しました。どちらの工作も、内部報告書の作成に AI を多用していました。特にロシアの工作では、これが最大の用途でした。いずれの事例でも、オペレーターの成果を誇張するため、疑わしい、あるいは明らかに欺瞞的な手法が使われていました。

これらの工作で最も目を引くのは、AI 登場以前の複雑な影響工作と非常によく似ていながら、一部の業務を容易にするために AI を利用していた点です。イランの工作が運用した架空のジャーナリストには、偽ジャーナリスト「アリス⁠（新しいウィンドウで開く）・ドノバン氏⁠（新しいウィンドウで開く）」との共通点がありました。この人物はロシア軍情報機関の隠れみので、その名義の記事が 2016～2017 年に複数の欧米メディアに掲載されていました。2020 年には、ロシアのインターネット・リサーチ・エージェンシーの過去の活動に関係した人物らが、「PeaceData⁠（新しいウィンドウで開く）」という偽の「ニュース」メディアを運営し、事情を知らない世界各地のジャーナリストを取り込んで記事を執筆させていました。

今回の工作は、その情報が届き得る範囲の広さも異例でした。影響工作を 1（最低）から 6（最高）で評価する拡散度尺度（Breakout Scale）⁠（新しいウィンドウで開く）では、ロシア発の工作はカテゴリー 5に該当すると評価しています。私たちが報告を開始して以来、阻止した工作がカテゴリー 5 に達したのは初めてです。イラン発の工作はカテゴリー 4に達しました。両者とも、ソーシャルメディアに投稿するだけにとどまらず、主流メディアにコンテンツを掲載させることに成功していました。なお、そのすべてが私たちのモデルで生成されたわけではありません。これは、過去 2 年半に私たちが摘発した 30 件の秘密裏の影響工作で観測してきた傾向と一致しています。偽アカウントによるソーシャルメディアでの拡散に頼るのではなく、実在のメディアへの掲載を狙う工作ほど、潜在的な到達範囲と影響が大きくなる傾向があります。

2024 年初頭以降に私たちが摘発した 30 件の影響工作を、主な拡散手段（ソーシャルメディア、工作主体が運営するウェブサイト、外部メディア）と拡散度尺度の評価で分類したマトリクス。ウェブサイトを運営し、ソーシャルメディアで宣伝するなど、複数の手段を使った工作は、活動の中核と見られる手段に基づいて分類しています。

AI は、こうした偽装組織・人物による工作の規模と効率を高め、より自然な言語表現や高度な編集を可能にします。オペレーターはその利点を生かし、事情を知らない従業員や編集者などを利用して、誰が何の目的で作成したのかをまったく知らない人々に、自分たちのコンテンツを届けることができます。これらの工作はまた、目的達成のために脅威アクターが偽の人物や組織を利用する手口の複雑さと巧妙さを示しています。組織全体で強固な防御を維持するには、脅威アクターがこうした活動で悪用する脆弱性と、それがどのように情報の受け手や到達範囲の拡大につながるのかを理解することが不可欠です。

一方、偽装組織・人物による工作は秘密裏に行われるからこそ、責任ある形で実態を公開されることに特に弱いという側面もあります。「アリス・ドノバン氏」と「PeaceData」は、いずれも実態が暴かれた後に活動を停止しました。だからこそ、私たちがこれらの偽装工作を報告する目的は、さらなる調査と阻止を容易にし、工作の継続を難しくすることにあります。

ラテンアメリカ各地で影響工作を展開するロシア発の活動主体。

私たちは、ロシアに由来する一群の ChatGPT アカウントを停止しました。これらのアカウントは、ラテンアメリカ各国を標的とする秘密裏の影響工作に関連した、さまざまな作業に ChatGPT を利用していました。活動の多くは同地域でウクライナの評判を損なうことを狙っていたと見られますが、一部は、特にアルゼンチンとボリビアで、現地の政治的な結果に影響を及ぼそうとするものでした。オペレーターの大半はロシア語でプロンプトを入力していました。1 人はスペイン語を使っていましたが、その人物もロシアにいたと見られます。私たちはこの事例に関する情報を関係当局と共有しました。

オペレーターは主に 3 つの作業に ChatGPT を使っていました。自分たちの活動と、自分たちの手柄としてもっともらしく説明できる他者の活動についての内部報告書の作成、工作用コンテンツの作成、そしてラテンアメリカの自称「調査プラットフォーム」である社会調査センター（SRC）の活動実績に関する報告書の作成です。彼らは「ミア・クラーク氏」という架空の人物を通じて SRC を支配していたと見られます。この名前にちなみ、私たちはこの工作を「ダーク・クラーク」と名付けました。私たちはロシアからのモデルへのアクセスを認めていないため、彼らは VPN を使ってサービスに接続していました。

内部報告では、ウクライナや現地の指導者をおとしめるため、ラテンアメリカ各地で偽情報を拡散したとオペレーターは主張していました。これらの偽情報の一部は、公開情報を調査する⁠（新しいウィンドウで開く）研究者ら⁠（新しいウィンドウで開く）によって、「Politology」または「La Compania」と呼ばれるロシアの組織によるものとされています。この組織は、ロシアの新興財閥エフゲニー・プリゴジン氏が設立したワグネル・グループなどの後継組織だと報じられています。オペレーターはまた、Politology やワグネルに関する公開報道の翻訳や説明を私たちのモデルに求めていました。その頻度は、ほかのロシア発ネットワークに関する質問を大きく上回っていました。

この工作は 2 つの点で異例でした。第一に、ラテンアメリカの人々を取り込み、SRC のために働かせることに成功していたと見られます。ロシアのオペレーターによる SRC の報告には、給与体系、採用、解雇などの決定に関する記述がありました。これは、同センターに協力していたのではなく、支配していたことを示唆しています。入手できた証拠によると、ラテンアメリカにいる SRC の従業員は、自分たちがロシアの集団のために働いているとは認識していませんでした。私たちが最近摘発した別のロシア関連の「シンクタンク」とは異なり、SRC は取り込んだスタッフを通じて、コンテンツの大半を独自に制作していたと見られます。偽装した身元や組織を運用する試みとしては、過去 2 年半に私たちが阻止した中で最も複雑な事例です。

第二に、一部の公開情報は、「ダーク・クラーク」の偽情報が、ファクトチェック⁠（新しいウィンドウで開く）や公式の否定声明⁠（新しいウィンドウで開く）を引き出すほど広く拡散したことを示しています。これは、過去 2 年間に私たちが阻止したどの影響工作よりも深く社会に浸透したことを示唆しています。工作主体がペルーで流布したと主張する偽情報の 1 つは、ウクライナとポーランドの間の公然たる緊張をあおることにもつながりました。

オペレーターによる ChatGPT の主な用途は、身元不明の上司に提出する内部報告書の作成と更新でした。これらの定期報告書には、ラテンアメリカ各地で秘密裏の影響工作を展開する取り組みが記されていました。主な活動は 3 つありました。ウクライナを中傷し、ウクライナ軍の兵員募集を妨げる活動、特にボリビアとアルゼンチンを中心とする特定国の内政への干渉、そして SRC の運営です。大半の事例では、脅威アクターが私たちのモデルで工作用コンテンツを作成する様子は確認されず、工作について報告するためにのみ利用していました（少数の例外は後述します⁠）。

報告書には戦術の詳細が豊富に記され、ウクライナや各国の指導者、特にアルゼンチン、ボリビア、エクアドルの大統領を、工作によってどのようにおとしめようとしていたかが明らかになりました。一部の報告には、現地の人々をだまして、オペレーターが攻撃材料として利用できる活動を行わせる試みが記されていました。ほかには、オペレーターが拡散したと主張する偽の「流出情報」についての記述もありました。

2 つの事例では、オペレーターと「Politology」に関する公開報道とを結び付ける証拠がありました。オペレーターは、2024 年にアルゼンチンのハビエル・ミレイ大統領を標的とする 2 件の工作を実施したと報告していました。第一に、ミレイ氏が飼い犬のためにカルティエの宝石付き首輪を購入したという虚偽の情報を拡散したと述べていました。第二に、現地の協力者に報酬を払い、ブエノスアイレスに反ミレイ氏の落書きをさせたと主張していました。これら 2 つの活動は、流出文書を根拠に、「Politology」と「La Compania」によるものだと公に⁠（新しいウィンドウで開く）報じられています⁠（新しいウィンドウで開く）。

これまでロシアの影響工作との関連が指摘されていない偽情報は、ほかにも数多くあります。たとえばオペレーターは、2026 年 5 月にペルーのリマ地方教育局を装う偽のメールアドレスを作成したと主張していました。そのアドレスを使い、管内の学校に対して、同国の「文化と言語の多様性の日」（5 月 21 日）にウクライナをテーマとする行事を開催するよう指示しました。メールには、20 世紀のウクライナ民族主義者で評価の分かれるステパン・バンデラ氏などに言及するよう、明確な指示が含まれていました。同氏は一部のウクライナ人から独立運動の象徴と見なされる一方、ロシアやポーランドではファシズムや戦時中の対敵協力、残虐行為と結び付けられています。オペレーターによると、一部の学校は偽のメールアドレスに返信し、行事の実施を報告しただけでなく、写真まで提供したといいます。

さらにオペレーターは、ペルーとポーランドのメディアにこの行事に関する記事を掲載させ、ウクライナが極端な民族主義思想を「輸出」しているとの主張を添えることで、怒りの声を引き起こしたと主張しました。公開情報を検索したところ、この主張に合致する記事が、ペルーの報道機関⁠（新しいウィンドウで開く）各社⁠（新しいウィンドウで開く）や、ポーランドの報道機関⁠（新しいウィンドウで開く）各社⁠（新しいウィンドウで開く）、さらにハンガリー⁠（新しいウィンドウで開く）の英語メディアで確認されました（一部の記事はその後削除されています）。一部の⁠（新しいウィンドウで開く）記事⁠（新しいウィンドウで開く）には、ポーランド選出の欧州議会議員の反応も掲載されていました。この議員は「反ポーランド的な態度」を示す人々を、ポーランドで好ましからざる人物に指定すべきだと提案していました。こうしてロシア発の偽情報は、ウクライナ人とポーランド人の間にある歴史的な緊張を利用すると同時に、その緊張をさらにあおりました。

同様に 6 月には、別の偽メールアドレスを使ってエクアドルの学校をだまし、ダニエル・ノボア大統領と、民間軍事会社ブラックウォーターの元責任者エリック・プリンス氏への忠誠を誓う式典を開催させたと、オペレーターは主張しました。オペレーターは、この事件がエクアドル国内で怒りを呼び、政府が偽情報を否定せざるを得なくなったことで、かえって全国に広まったと主張しました。この件でも公開情報の調査により、主張とよく似た内容がエクアドルの⁠（新しいウィンドウで開く）報道機関⁠（新しいウィンドウで開く）による記事⁠（新しいウィンドウで開く）や報道⁠（新しいウィンドウで開く）で確認され、エクアドル教育相による詳細な反論⁠（新しいウィンドウで開く）も見つかりました。

オペレーターは、虚偽の話に信ぴょう性を持たせるため、さまざまな手法を使っていました。内部報告によると、3 月にはエクアドルを標的とする 2 種類の偽情報を拡散しました。一方では、在エクアドルのウクライナ領事のものとする偽音声を使い、同領事がエクアドル人を侮辱する発言をしたと主張していました。私たちの公開情報調査では、この主張と正確に一致する TikTok 投稿が見つかりましたが、反応は限定的だったようです。もう一方の報告には、実在するニュースチャンネルのロゴを付けた偽動画を X と TikTok で拡散したとありました。動画は、ノボア政権がウクライナで戦わせるために若い男性を募集していると主張するものでした。エクアドルのファクトチェック機関⁠（新しいウィンドウで開く）は 4 月上旬、この説明に合致する工作について報告しています。

2026 年 4 月 8 日に投稿された TikTok 動画。この工作で作成したとされる、ウクライナ領事の声を装った偽音声が使われています。

別の内部報告には、反政府デモが最高潮に達していた 5 月下旬に、ボリビアで偽情報を拡散したと記載されていました。オペレーターは、この工作の目的を、デモを巡る危機を悪化させることだと明記していました。この工作では、国営水道会社 EPSAS の従業員を装う偽の録音音声が使われました。内容は、政府が行政上の首都ラパスへの給水を停止し、非常事態を宣言しようとしているというものでした。私たちの公開情報調査では、同じ主張が虚偽であることを示す検証記事⁠（新しいウィンドウで開く）と、EPSAS による公式の否定声明⁠（新しいウィンドウで開く）が見つかりました。

ほかの内部報告には、公開情報では裏付けを得られなかった偽情報も含まれていました。すでに削除されていたか、拡散しなかった可能性があります。たとえばオペレーターは、ブラジル人のインフルエンサー兼モデルがウクライナ大使館の関係者によってウクライナへ人身売買され、キーウで殺害されたという話を 1 月に拡散したと主張していました。6 月には、ボリビアで別の偽音声を拡散したと主張しました。今回はボリビア中央銀行の職員を装い、同銀行がまもなく現金の引き出しを制限すると警告する内容でした。また、同国の炭化水素庁を装い、自家用車向けの燃料販売が制限されると警告する偽の書簡を拡散したとも主張していました。

ほかの報告では、オペレーターが実際には関与していなくても自分たちの手柄にできる出来事を標的国で見つけるため、私たちのモデルに支援を求めていました。たとえばアルゼンチンについては、フォークランド諸島（マルビナス諸島）を巡る国連の委員会会合で、同国の外相が自分たちの工作で広めた内容を引用したと主張しました。同諸島には自決権の原則が適用されない、また英国が現地で不釣り合いに大規模な軍事展開を維持しているという論点を広めたのは自分たちだと、オペレーターは主張しました。実際には、いずれの論点も長年⁠（新しいウィンドウで開く）にわたり⁠（新しいウィンドウで開く）、アルゼンチンの公式見解の一部となっていました。同様に 6 月、ブラジルのメディアは、軍に入隊するためウクライナへ渡航したブラジル国民がロシア軍の捕虜となり、その後テレビで、だまされて戦闘に参加させられたと述べた事例を報道しました⁠（新しいウィンドウで開く）。ChatGPT を使っていたオペレーターは、この報道が自分たちの工作のメッセージを再現したものだと主張しようとしましたが、実際には捕虜本人の動画を引用したもの⁠（新しいウィンドウで開く）でした。これは、オペレーターが外部の人々ではなく、自分たちの雇用主を対象に影響工作を仕掛けようとしていたことを示唆しています。

オペレーターの報告の一部には、社会調査センター（ロシア語名：Центр социологических исследований）という、自称「調査プラットフォーム」への言及がありました。SRC のウェブサイトによると、同センターはラテンアメリカのインド系移民社会と、インドと同地域の国々との関係を主な調査対象としています。

内部報告からは、オペレーターがこのシンクタンクに単に協力していたのではなく、支配していたことがうかがえました。たとえば、採用や解雇の決定、給与体系、人員計画、進行中の調査プロジェクトについて言及していました。特に重要なのは、オペレーターが「ミア・クラーク氏」という架空の人物を作り、工作のソーシャルメディア活動の運営と、ラテンアメリカの現地スタッフとのやり取りを担当させていたと記していた点です。入手できた証拠からは、現地の従業員はロシアの工作のために働いているとはまったく知らず、善意で調査業務を行っていたと考えられます。事情を知らない人々を仲介役として利用するこの手法は、プリゴジン氏の人脈との関連が指摘された過去のロシアの工作「PeaceData」と非常によく似ています。これは Meta が 2020 年に摘発した⁠（新しいウィンドウで開く）工作です。

ロシアのオペレーターの報告から判断すると、ラテンアメリカの現地スタッフは地域各地の専門家や論評家にインタビューを行い、その結果を基に調査論文を作成していました。テーマは、BRICS に関する世論の幅広い分析から、ジャイール・ボルソナロ氏とルイス・イナシオ・ルラ・ダシルバ氏の各大統領在任期におけるブラジル経済の詳細な比較まで多岐にわたっていました。ロシアのオペレーターが、調査結果の公開前にプロジェクトの進捗報告を作成していた場合もあり、制作過程に深く関与していたことがうかがえます。SRC のウェブサイトでは 60 本を大きく上回る数の記事を確認し、その大半は独自に執筆されたものと見られました。この点で「ダーク・クラーク」は、私たちが最近摘発した別のロシア発の工作とは異なります。その工作もシンクタンクを隠れみのにしていましたが、コンテンツの大半は盗用でした。今回の事例からは、ラテンアメリカ全域に人脈を持つ、より長期的に維持できる偽装組織を構築しようとする意図がうかがえます。

ロシアのオペレーターは、SRC の活動を宣伝するため、ソーシャルメディア上にアカウントなどのネットワークを構築しようとしたと主張しました。報告によると、世界の異なる地域にいるオペレーターが同じアカウントにアクセスしようとした結果、アカウントに制限がかかり、ソーシャルメディア活動に支障が生じました。その痕跡は公開情報でも確認できます。たとえば、SRC の主要な X アカウントの透明性情報では、所在地がドイツと表示されていましたが（VPN 利用による可能性があります）、接続元はロシア連邦の App Store となっていました。一方、Instagram アカウントの 1 つでは、管理者の所在地がベネズエラと表示されていました。私たちが確認した SRC 名義の Facebook アカウント 3 件は、いずれも管理者の所在地情報が表示されるのに必要なフォロワー数に達していませんでした。

左は社会調査センターに関連する X アカウントです。透明性情報には、ロシア連邦のアプリストア経由で接続していると表示されています。右は SRC の Instagram アカウントで、所在地はベネズエラとなっています。

オペレーターは、特に LinkedIn で問題があったと報告しました。SRC を代表する偽アカウントを作成したことを明記したうえで、そのアカウントのネットワーク構築に苦戦したと述べています。報告によると、解決策はさらに偽アカウントを作成して最初のアカウントをフォローし、信頼できるように見せかけることでした。8 月 17 日時点で、同じ社会調査センターの名称やロゴを使った LinkedIn アカウントには 961 人のフォロワーがいました。スタッフ数を 200～500 人と称していましたが、掲載されていた従業員は 2 人だけでした。

オペレーターは、AI で報告書を更新するだけでなく、工作に使う文章の構成や作成について、私たちのモデルに支援を求めることもありました。たとえば、偽情報に使うアクセント、語彙、組織特有の文体が、それぞれの国に合っているかを確認するための依頼がありました。こうした作業が全体に占める割合は、比較的小さいものでした。この工作には、ラテンアメリカ出身でスペイン語を母語とする人物が少なくとも 1 人含まれていたと見られ、AI による言語支援の必要性が低かったためかもしれません。

たとえば、ロシア語を使うオペレーターの 1 人は、在パナマのウクライナ名誉領事が汚職に関与しているように見せる書簡を、ロシア語で起草するようモデルに依頼しました。その後、スペイン語を使うオペレーターが、この書簡をスペイン語に翻訳し、添付する音声用の台本を生成するようモデルに依頼しました。書簡の本文と一致する写真に、オペレーターの台本と一致するナレーションを付けたものが、TikTok に投稿されました。投稿したアカウントは報道機関を名乗り、パナマのTVN Noticias⁠（新しいウィンドウで開く） のロゴを使用していました。この TikTok チャンネルのフォロワーは 1 人だけで、この偽情報を投稿した後は更新が止まりました。

この工作で本文が生成された書簡を掲載した TikTok 投稿。ナレーションの台本も、同じ工作で生成されました。

別の機会には、ロシアにいるスペイン語を使うオペレーターが、ノボア氏がエクアドルの貧困層を侮辱したとするロシア語の台本をモデルに渡し、エクアドルのスペイン語に翻訳するよう依頼しました。3 件目の事例では、同じ利用者が 3 月に、「International Security Solutions FZE」という会社とエクアドル在住の個人との間で交わす、スペイン語の契約書案の校正をモデルに依頼しました。契約は、ウクライナでインフラサービスを提供するという名目でした。利用者の質問は、表現やレイアウトを改善する方法が中心で、どの語句を太字にすべきかという質問も含まれていました。

文言が確定すると、この契約書に関する利用者のプロンプト入力は終わりました。しかし公開情報の調査では、その後、この「契約書」の画像がソーシャルメディアで拡散された⁠（新しいウィンドウで開く）ことが確認されています。この画像は、ノボア政権が偽装企業と協力してエクアドル人をだまし、ウクライナ軍に入隊させたという主張を補強するために使われました。この偽情報は、4 月上旬にファクトチェック⁠（新しいウィンドウで開く）が行われるほど広がりました。検証した機関は、この会社は「エクアドルの会社・証券・保険監督庁の登記簿に記載されていない」と結論付けています。

この工作の影響は、特に慎重に評価する必要があります。前述のとおり、オペレーターの主な手法の 1 つは、自分たちの工作とは無関係の活動を自分たちの手柄にすることでした。そのため、内部報告に記された影響についての自己申告を、そのまま受け取ることはできません。同様に、彼らが流布したと主張する偽情報の一部は、公開情報の調査では見つかりませんでした。非公開の経路で拡散されたか、すでに削除されたか、実際には投稿されなかった可能性があります。

ただし、公開情報の証拠により、彼らの主張の一部は裏付けることができました。工作主体が拡散したと主張する偽情報の一部は、その後ファクトチェック機関に取り上げられ、各国政府によって否定されました。対応に値するほど広く拡散していたことがうかがえます。また別の事例では、この工作で生成されたものとよく一致するコンテンツをオンラインで確認できました。特に注目すべきなのは、ペルーの学校をだまし、バンデラ氏を取り上げる行事を開催させたという主張です。この件はその後、ラテンアメリカと欧州の両方で報道され、少なくとも 1 人のポーランド選出欧州議会議員の発言につながったと見られます。

影響工作を 1（最低）から 6（最高）で評価する拡散度尺度（Breakout Scale）⁠（新しいウィンドウで開く）では、この工作はカテゴリー 5に該当すると評価しています。複数の国の政治家による公の発言につながったことを示唆する証拠があるためです。私たちが報告を開始して以来、阻止した工作がカテゴリー 5 に達したのは初めてです。

偽の著者名義でオンラインニュースメディアに長文記事を掲載させる、イラン発の工作。

私たちは、イランに由来する一群の ChatGPT アカウントを停止しました。これらのアカウントはペルシャ語でプロンプトを入力し、ペルシャ語と英語のコンテンツを生成していました。実行主体は VPN を使って ChatGPT にアクセスし、所在地を隠していました。

この工作では、私たちのモデルを使い、長文記事や編集者向けの売り込み文面の推敲、ソーシャルメディアのコメント生成、内部報告書の推敲を行っていました。オペレーターは 7 つの異なる著者名義で記事の掲載を売り込んでいたため、私たちはこの工作を「偽りの署名」と名付けました。長文記事は、米国とイランの紛争を中心に扱っていました。コメントの大半も同じ紛争を扱っていました。一部は米国政治に関するものでしたが、それらも通常、紛争という広い文脈に沿った内容でした。

主要な活動ごとに、確認できた影響には大きな差がありました。世界各地のおよそ十数のオンラインメディアで、この工作で使われた著者名義による記事が 100 本近く公開または転載されていることを確認しました。これらは中小規模のメディアで、主に国際情勢、地政学、中東の出来事を扱っていました。一方、ソーシャルメディアのコメントには、いいね、共有、さらなる返信といった反応を多く得たものは見当たりませんでした。実際、オペレーターの内部報告では、ソーシャルメディアでの影響を測るために、誤解を招く計算方法が使われていました。自分たちの活動が効果的に見えるよう、数値を水増ししようとした可能性があります。

活動全体は、商業目的の主体が依頼を受けて影響工作を実施している場合と整合的でしたが、具体的な実行主体は特定できませんでした。私たちはこの事例に関する情報を関係当局と共有しました。

この工作で最も広範囲に届いた活動は、米国とイランの紛争を巡る地政学について、英語の長文記事を ChatGPT に確認・推敲させるものでした。典型的なプロンプトでは、特定のオンラインメディアの投稿基準に照らして英語の草稿を評価し、基準を満たすための修正案を出すようモデルに求めていました。オペレーターは修正内容を承認すると、そのオンラインメディアの編集者に記事の掲載を売り込むためのメールを生成するよう、モデルに依頼していました。

売り込みのメールには、アーヴィン・B・ホスキンス氏、ノア・ラミントン氏、ソフィア・ゴンザレス氏、マイケル・ハリソン氏、エリカ・フュージア氏、ジェニー・ウィリアムズ氏、アリス・ジョンソン氏という 7 つの架空の著者名が使われていました。一部の記事に添えてオンラインで公開された略歴によると、それぞれの人物は欧米のジャーナリストを名乗り、多くの場合、国際政治、中東、人権、紛争を専門としていました。ほとんどは米国人を装っていましたが、ノア・ラミントン氏の略歴にはニュージーランド在住と記されていました。このうち「マイケル・ハリソン氏」については、オペレーターが略歴そのものを作成するようモデルに依頼していました。（なお、Meta が 3 月に阻止した⁠（新しいウィンドウで開く）イランの影響工作にも、「マイケル・ハリソン氏」という架空のジャーナリストが登場していました。）

これらの架空の人物の一部には、実在するかのように見せるため、複数のソーシャルメディアにアカウントが用意されていました。たとえば、マイケル・ハリソン氏には Medium、X、Facebook のアカウントがありました。アーヴィン・B・ホスキンス氏には、X、Facebook、Instagram、Threads のアカウントがありました。この人物はプロフィールで「米国人のフリーライター」と名乗っていましたが、ソーシャルメディアの透明性情報では、アカウントの所在地はイランとなっていました。

上は架空の人物アーヴィン・ホスキンス氏の Instagram プロフィールです。左下は X のアカウント透明性情報で、西アジアの Android アプリを使用していることが示されています。右下は Instagram のアカウント透明性情報で、所在地はイランと表示されています。Meta は 8 月にこの Instagram アカウントを停止しました。

公開情報の調査手法を使い、十数を超えるメディアに、オペレーターが使っていたいずれかの著者名義で掲載された記事を 100 本近く確認しました。これらのメディアは一般に国際情勢、地政学、中東の出来事を中心に扱い、ときには反戦や進歩主義の立場から論じていました。確認できた最も古い記事は 2025 年 7 月、最も新しい記事は 2026 年 10 月に公開されていました。米国とイランの紛争勃発後、記事の公開頻度は大幅に増加しました。

2025 年 7 月から 2026 年 9 月までの記事を、著者とテーマ別にまとめたタイムライン。2026 年 3 月以降、米国とイランの関係を扱う記事が集中しています。

2026 年 2 月から 7 月にかけて、さまざまなオンラインメディアに、この工作と関連する著者名義で掲載された記事の見出しの例。

その後、少なくとも一部の記事は、掲載先メディアのソーシャルメディアアカウントでも紹介されました。これにより、イランのオペレーターは、本来であれば届かなかった人々に接触する機会を得た可能性があります。

脅威アクターは記事の作成に加え、地政学や政治に関するコメントを英語またはペルシャ語でまとめて生成するよう、ChatGPT に依頼していました。典型的な手法は、ソーシャルメディア投稿の文章やスクリーンショットを入力し、自分たちの全体的な方針に沿った返信を複数生成するようモデルに求めるものでした。生成された返信はオンラインに投稿され、多くの場合、投稿の間隔は数分以内でした。オペレーターの内部報告には、手動と自動の両方の投稿に言及がありましたが、この自動化に私たちのモデルが使われたことを示す証拠はありません。

この工作で生成され、7 月に投稿された英語のツイート（左）とペルシャ語のツイート（右）。英語のコメントは、米国がイランへの「大規模攻撃」を準備していると警告する英語のツイートへの返信です。画像内の英語コメントはすべて 10 分間に投稿されました。ペルシャ語のコメントは、米国によるイラン攻撃についてのペルシャ語ツイートへの返信で、13 分以内に投稿されました。

こうしたコメントの一括生成には、工作主体自身のニュース記事を紹介するソーシャルメディア投稿への返信を作る活動も含まれていました。その際、オペレーターは自分たちの記事を紹介する投稿のスクリーンショットを入力し、記事を称賛したり支持したりするコメントを生成していました。記事の人気を高く見せる狙いがあったと考えられます。

米国の地域ニュースページが、工作で生成された記事を共有した Facebook 投稿と、その投稿に対して同じ工作で生成されたコメント。

一括生成されたコメントの大半は、より広くイラン、米国、イスラエル間の紛争を取り上げていました。利用者は、ミサイル攻撃、停戦、外交上の駆け引きなどに関するコメントを求め、米国を侵略者、イスラエルを米国にとって信頼できない同盟国、イランを屈せずに抵抗する被害者として描くよう指定していました。特に多かったのは、イラン体制に批判的な英国拠点の衛星放送局 Iran International の投稿に対する返信です。オペレーターは、敵対的なペルシャ語の返信を 24 回を超えて一括生成していました。一部の一括生成では、米国の政治問題に関するソーシャルメディア投稿への返信も作成されましたが、これらも通常、紛争という広い文脈に沿ったものでした。

米国政治に関する投稿への返信として、この工作で生成された Instagram コメント。

これらの返信のうち、少数が実際にオンラインに投稿されたことを確認しました。それよりはるかに多くの返信は、公開情報の検索では見つかりませんでした。投稿されなかったか、すでに削除されたアカウントから投稿された可能性があります。（たとえば、架空のジャーナリスト 3 人、エリカ・フュージア氏、アリス・ジョンソン氏、ジェニー・ウィリアムズ氏は、公開された略歴に X のユーザー名を記載していましたが、2026 年 8 月時点ではすべて凍結されていました。）実際にコメントを投稿していたアカウントの一部は、欧米人らしい名前を使っていましたが、所在地はイランと表示されていました。

上記のコメントを投稿した Instagram アカウントの透明性情報。所在地がイランであることを示しています。

実際の投稿を確認できた返信も、通常は該当する投稿へのコメント全体の少数にとどまっていました。これは、一般利用者による正規の反応の中で、オペレーターの声が支配的ではなかったことを示唆しています。また、多くの反応を集めた様子もありませんでした。実際、工作による返信に付いた「いいね」の多くは、その工作自体に関連するアカウントからのものでした。私たちはこの事例に関する情報を、反応の全体像を評価するうえで最も適した立場にある業界パートナーと共有しました。

自分たちの活動をより人気があるように見せる試みは、一般向けの投稿にとどまりませんでした。オペレーターはコンテンツ生成に加え、ソーシャルメディア工作に関する内部報告書と見られる文書の推敲を、ChatGPT に依頼することもありました。典型的には、一連の統計データをモデルに渡し、体裁の整ったプレゼンテーション資料にまとめるよう求めていました。

AI を使って自分たちの⁠（新しいウィンドウで開く）自己評価⁠（新しいウィンドウで開く）を作成する工作を私たちが阻止したのは、今回が初めてではありません。イランのオペレーターによる自己評価で最も目を引いたのは、その評価方法でした。「影響」を測る主な指標は、自分たちが返信した元の投稿の閲覧数でした。返信そのものの閲覧数ではありません。返信の投稿前と、投稿後のある時点で閲覧数を数えていましたが、どれだけ時間を置いたかは明示されていませんでした。この計算では、元の投稿の人気やほかのコメントなど、別の要因によって生じた可能性のある閲覧が考慮されていませんでした。そのため、工作の影響を示す数値は大幅に誇張されていました。オペレーターがより適切な計算方法を知らなかったか、あえて使わなかったことがうかがえます。

実際には、公開情報の観測から得られる証拠に基づくと、この工作の 2 つの主要活動は、及ぼしたと考えられる影響の大きさが大きく異なっていました。

私たちが確認できたソーシャルメディア上の返信は、一般に、いいね、閲覧、コメントの数が少なく、1 桁か 2 桁にとどまっていました。前述のとおり、これらの返信は通常、該当する投稿へのコメント全体の少数にすぎませんでした。影響工作を 1（最低）から 6（最高）で評価する拡散度尺度（Breakout Scale）⁠（新しいウィンドウで開く）では、この活動はカテゴリー 2と評価しています。複数のプラットフォームにコメントは投稿されていましたが、それ以上に広く拡散したり、返信欄を支配したりできた形跡はほとんどありませんでした。

対照的に、架空のジャーナリストは、複数のメディアに記事を掲載させることに成功しており、中には多数のフォロワーを持つメディアもありました。たとえば、この工作の記事を掲載したオンラインメディアの 1 つには、2026 年 8 月時点で Facebook に 200 万人近く、X に 35 万 5,000 人近く、Instagram に 54 万 4,000 人超のフォロワーがいました。複数のメディアへ継続的に広がったことから、この活動はカテゴリー 4と評価しています。