「爛文法」：與俄羅斯有關聯的 Telegram 留言活動

本案例研究最初刊載於 OpenAI 的2024 年 5 月⁠(在新視窗中開啟)報告。

我們封禁了一個先前未被揭露的帳號網路；該網路利用我們的模型建立留言，再將留言發布到 Telegram。我們發現此活動與來自俄羅斯的人士有關聯。鑑於該網路以 Telegram 為活動重心、反覆發布文法錯誤的英語內容，且難以吸引受眾，我們將其命名為「爛文法」。

此網路以俄語和英語內容鎖定俄羅斯、烏克蘭、美國、摩爾多瓦及波羅的海國家的受眾。

此網路利用我們的模型和 Telegram 帳號，建立了一套洗版留言流程。首先，操作者使用我們的模型，為一段顯然旨在自動於 Telegram 發文的程式碼除錯。接著，他們產生俄語和英語留言，回覆特定的 Telegram 貼文。最後，他們似乎使用了至少十多個 Telegram 帳號發布這些留言。

在英語內容方面，操作者利用我們的模型，以多個虛假人物的口吻產生留言；這些人物來自不同人口群體，涵蓋美國政治光譜的兩端。在俄語內容方面，他們偏好以主題為導向、較少依賴人物設定的指示。

此網路主要在少數幾個 Telegram 頻道的貼文下留言。最常被提及的是親俄頻道 @Slavyangrad，其次是英語頻道 @police_frequency 和 @SGTNewsNetwork。（後者假冒一名保守派美國退伍軍人，但 Meta 曾於 11 月報告⁠(在新視窗中開啟)，該頻道實際上源自伊朗。）在 2 月份的一份活動樣本中，此網路嘗試為這三個頻道產生回覆的次數，是其餘十個最常被提及頻道合計次數的兩倍。

此活動產生聚焦於少數政治議題的簡短留言。無論英語或俄語，其在 Telegram 發布的內容主要涉及烏克蘭戰爭、摩爾多瓦與波羅的海國家的政治局勢，以及美國政治。

典型的俄語 Telegram 留言指控烏克蘭和摩爾多瓦總統貪腐、缺乏民意支持，並為了西方的「干預」而背叛自己的人民。英語 Telegram 留言聚焦於移民、經濟困境和當日突發新聞等議題。這些留言經常借用時事背景，主張美國不應支持烏克蘭。

有時，多個人物會在同一篇貼文下留言，提出相互衝突的觀點。這種假扮政治光譜兩端聲音的「兩面派」手法，過去也曾出現在俄羅斯的行動中，可能顯示其意圖吸引特定受眾，或加劇分裂。

3 月 22 日莫斯科發生恐怖攻擊、四名塔吉克公民遭拘留後，此活動開始使用一批以塔吉克為重點的新 Telegram 帳號。其發布的留言呼籲塔吉克人與俄羅斯人團結，並尊重俄羅斯法律。

在生成式 AI 出現之前，洗版留言就已是影響力行動常用的手法。「爛文法」雖以新手法產生留言，但其散播系統難以吸引互動。

其留言幾乎都沒有獲得任何按讚或回覆。此網路的留言通常只占單篇貼文回覆的少數；換言之，若其目標是淹沒其他觀點，它並未成功。

此網路偶爾會使用我們的模型產生看似是與另一名 Telegram 使用者往來的私人訊息，但產生的文字顯示，它似乎是在與一名加密貨幣詐騙者聊天。

我們使用突破規模量表⁠(在新視窗中開啟)評估影響力行動的影響；該量表分為 1 級（最低）至 6 級（最高）。我們將此行動評為第 1 級，其特徵是僅在單一平台發布內容，且沒有證據顯示網路外部人士曾大幅擴散其內容。