「悪文法」：ロシア関連の Telegram コメント活動

このケーススタディは、OpenAI の2024 年 5 月⁠（新しいウィンドウで開く）のレポートで初公開されました。

当社のモデルを使ってコメントを作成し、Telegram に投稿していた、これまで報告されていないアカウントネットワークを停止しました。当社は、この活動がロシア出身者によるものだと特定しました。Telegram に重点を置いていること、不自然な英語を繰り返し投稿していること、オーディエンスの獲得に苦戦していることから、当社はこのネットワークを「悪文法」と名付けました。

このネットワークは、ロシア、ウクライナ、米国、モルドバ、バルト諸国のオーディエンスを対象に、ロシア語と英語のコンテンツを発信していました。

このネットワークは、当社のモデルと Telegram アカウントを使い、コメントを大量投稿する仕組みを構築していました。まず実行者は、Telegram への投稿を自動化するために設計されたとみられるコードのデバッグに、当社のモデルを使用しました。次に、特定の Telegram 投稿への返信として、ロシア語と英語のコメントを生成しました。最後に、少なくとも 12 個の Telegram アカウントを使って、そのコメントを投稿したとみられます。

英語では、米国の政治的立場の左右両派に属する、さまざまな属性の架空の人物になりきったコメントを、当社のモデルで生成していました。ロシア語では、人物像の設定よりもテーマを重視した指示を多用していました。

このネットワークは主に、少数の Telegram チャンネルの投稿にコメントしていました。最も多く言及されたのは親ロシア派チャンネルの @Slavyangrad で、英語チャンネルの @police_frequency と @SGTNewsNetwork が続きました。（後者は保守派の米国退役軍人を装っていますが、11 月に Meta が報告⁠（新しいウィンドウで開く）したところでは、実際にはイラン発のものでした。）2 月の活動サンプルでは、このネットワークは、次に言及数の多い 10 チャンネルの合計に比べ、これら 3 チャンネルへの返信を 2 倍の頻度で生成しようとしていました。

このキャンペーンは、少数の政治テーマに焦点を当てた短いコメントを生成していました。Telegram に英語とロシア語で投稿された主な話題は、ウクライナ戦争、モルドバとバルト諸国の政治情勢、米国政治でした。

Telegram の典型的なロシア語コメントでは、ウクライナとモルドバの大統領について、汚職、国民の支持不足、西側の「干渉」に自国民を売り渡したことなどを非難していました。Telegram の英語コメントは、移民、経済的困窮、その日の最新ニュースなどを取り上げていました。こうしたコメントでは、時事問題を引き合いに出し、米国はウクライナを支援すべきではないと主張することがよくありました。

同じ投稿に複数の人物像でコメントし、相反する見解を示すこともありました。双方の立場を装うこの「二つの顔」を使い分ける手法は、過去のロシアの工作でも確認されており、特定のオーディエンスを引き付けたり、分断を促したりする狙いがある可能性があります。

3 月 22 日のモスクワでのテロ攻撃とタジキスタン国籍の 4 人の拘束後、このキャンペーンはタジキスタンに焦点を当てた新たな Telegram アカウント群を使い始めました。投稿されたコメントでは、タジク人とロシア人の結束や、ロシア法の尊重を呼びかけていました。

生成 AI の登場以前から、影響工作（IO）ではコメントの大量投稿が一般的な手法として使われていました。「悪文法」は新しい手法でコメントを生成していましたが、その配信システムは反応を集めるのに苦戦していました。

「いいね」や返信が付いたコメントはごくわずかでした。このネットワークのコメントが各投稿への返信の多数を占めることは通常ありませんでした。仮に他の意見をかき消すことが目的だったとしても、それは達成できていませんでした。

このネットワークは時折、当社のモデルを使って、別の Telegram ユーザーとの私信とみられる文章も生成していました。ただし、その内容からは、暗号資産詐欺師と会話していたことがうかがえます。

影響工作（IO）の効果を最低 1 から最高 6 までの尺度で評価するブレイクアウト・スケール⁠（新しいウィンドウで開く）に照らすと、これはカテゴリー 1 に該当します。活動は単一のプラットフォームへの投稿にとどまり、ネットワーク外の人々によって大幅に拡散された形跡はありません。