「Spamouflage」行動：與中國有關的影響力活動

本案例研究原載於 OpenAI 的 2024 年 5 月⁠（在新視窗中開啟）報告。

我們封禁了少量與源自中國、稱為 「Spamouflage」⁠（在新視窗中開啟）的行動有關的帳戶。Meta⁠（在新視窗中開啟） 認為這項行動與「中國執法部門相關人士」有關。美國聯邦調查局⁠（在新視窗中開啟）認為，這項行動的部分社交媒體活動與中國公安部轄下某個單位有關。

這個網絡以全球受眾為目標，尤其是海外華人及中國政府的批評者。其生成的內容主要為中文，另有較少量的英文、日文及韓文內容。

該網絡使用我們的模型除錯程式碼、尋求社交媒體分析方面的建議、研究新聞和時事，以及生成其後發佈至網誌討論區和社交媒體的內容。

例如，該網絡在 2023 年使用我們的模型，為設定 revealscum.com 網站 WordPress 佈景主題的程式碼除錯。該網站以中文發佈批評文章及個人資料，針對批評中國政府的海外華人。網站將這些批評者稱為「漢奸」。這些內容本身並非使用我們的模型生成。

這項活動亦使用我們的模型建立內容，再發佈至社交媒體平台及討論區。例如，這項行動在 2023 年末生成文章，指控日本排放福島發電廠廢水，破壞海洋環境。我們在 Medium、Blogspot 和 ameblo.jp 等平台發現這些文章。

2024 年 4 月，這項活動發佈了一系列英文留言，批評中國異見人士 Cai Xia。我們發現一個 X 帳戶發佈首則留言，另有一批帳戶以回覆形式發佈其餘留言。我們沒有發現任何真實帳戶回覆這些留言。

這項活動亦使用我們的模型進行開源研究，例如查詢如何申請社交媒體開發者帳戶，或要求摘要中國政府批評者的社交媒體帖文。

人工智能似乎只佔該網絡整體產出的一小部分。例如，我們發現許多曾發佈模型生成內容的 X 和 Medium 帳戶，也發佈了更多看似以中英文人手撰寫的內容（例如當中使用了不地道的英文）。在發佈由人工智能生成的留言前後，這些帳戶均有發佈此類內容。

這項活動生成的內容大多為中文。題材涵蓋讚揚中國政府的國際執法合作，以及批評美國侵害美洲原住民等。部分內容批評美國政府和 Microsoft 揭露稱為「Volt Typhoon」的中國黑客組織之活動。

另有一些內容以英文撰寫。這些內容通常批評知名的中國政府批評者，例如演員兼西藏運動人士 Richard Gere，以及異見人士 Cai Xia。2023 年末生成的少量英文、日文、中文、韓文及俄文文章，指控日本排放福島核電廠⁠（在新視窗中開啟）廢水，污染太平洋水域——這是中國影響力行動長期採用的主題。

一小批活動集中生成中文正面留言，內容關於中國公安部部長訪問烏茲別克。過往未有資料顯示 Spamouflage 曾處理這個主題；鑑於美國聯邦調查局認為⁠（在新視窗中開啟）這項行動早前的部分社交媒體活動與中國公安部有關，這一點值得留意。

該網絡的部分活動似乎反映了操作代理的個人興趣。例如，一名操作代理使用我們的模型研究相機鏡頭。另一名操作代理則使用我們的模型，完成一份看似為中國共產黨黨員而設的測試作業。

自 2019 年首次被公開描述⁠（在新視窗中開啟）以來，Spamouflage 一直是全球研究最深入的影響力行動之一。過往極少有報告指其活動觸及真實受眾。

採用人工智能生成內容似乎沒有改變這種情況。在調查中被我們識別為相關活動一部分的網誌、文章和社交媒體帳戶，沒有任何一個獲得大量真人互動或追蹤。在某些個案中，現有指標顯示其帖文的唯一瀏覽者是我們的調查團隊。

我們採用突破量表⁠（在新視窗中開啟）評估影響力行動的影響。該量表按 1（最低）至 6（最高）評級；我們會把這項行動評為第 2 類，即在多個平台發佈內容，但沒有證據顯示內容獲網絡以外的人士大幅放大傳播。

我們發現以下網域與這項活動有關。

• revealscum.com