“Spamouflage”行动：与中国有关联的影响力活动

本案例研究最初发表于 OpenAI 的2024 年 5 月⁠（在新窗口中打开）报告。

我们封禁了少量与源自中国、名为“Spamouflage”⁠（在新窗口中打开）的行动有关联的账号。Meta⁠（在新窗口中打开） 将该行动归因于“与中国执法部门有关联的个人”。FBI⁠（在新窗口中打开） 将该行动的部分社交媒体活动归因于中国公安部下属的一个部门。

该网络以全球受众为目标，尤其针对海外华人和中国政府的批评者。其生成的内容以中文为主，另有少量英语、日语和韩语内容。

该网络使用我们的模型调试代码、寻求社交媒体分析方面的建议、研究新闻与时事，并生成随后发布到博客论坛和社交媒体上的内容。

例如，2023 年，该网络使用我们的模型调试代码，为 revealscum.com 网站设置 WordPress 主题。该网站以中文发布针对批评中国政府的海外华人的批判性内容和个人信息。该网站称这些批评者为“汉奸”。这些内容本身并非使用我们的模型生成。

该活动还使用我们的模型创作内容，随后将其发布到社交媒体平台和论坛。例如，2023 年末，该行动生成文章，指控日本排放福岛核电站废水，破坏海洋环境。我们在 Medium、Blogspot 和 ameblo.jp 等平台上发现了这些文章。

2024 年 4 月，该活动发布了一系列批评中国异见人士 Cai Xia 的英文评论。我们发现，一个 X 账号发布了第一条评论，另有一组账号以回复形式发布了其余评论。我们未发现任何真实账号回复这些评论。

该活动还使用我们的模型开展开源研究，例如了解如何申请社交媒体开发者账号，或要求总结中国政府批评者发布的社交媒体帖子。

人工智能生成的内容似乎只占该网络全部产出的一小部分。例如，我们发现的许多发布模型生成内容的 X 和 Medium 账号，还发布了数量更多、似乎由人工用中英文创作的内容（例如，其中不地道的英语用法便说明了这一点）。在发布 AI 生成的评论前后，这些账号都曾发布此类内容。

该活动生成的内容大多为中文。内容主题广泛，从赞扬中国政府开展国际执法合作，到批评美国虐待美洲原住民。部分内容批评美国政府和 Microsoft 揭露名为“Volt Typhoon”的中国黑客组织的活动。

另一些内容则使用英语。这些内容通常批评中国政府的知名批评者，例如演员兼西藏活动人士 Richard Gere，以及异见人士 Cai Xia。2023 年末生成的少量英语、日语、中文、韩语和俄语文章指控日本排放福岛核电站⁠（在新窗口中打开）废水，污染太平洋水域——这是中国影响力行动长期使用的主题。

其中一小组活动集中生成中文正面评论，内容涉及中国公安部长访问乌兹别克斯坦。据我们所知，Spamouflage 以前从未涉及这一主题；鉴于 FBI 曾将该行动早期的部分社交媒体活动归因于中国公安部⁠（在新窗口中打开），这一点值得关注。

该网络的部分活动似乎反映了操作代理的个人兴趣。例如，一名操作代理使用我们的模型研究相机镜头。另一名操作代理使用我们的模型完成了一份看似面向中国共产党党员的测试作业。

自2019 年首次被公开披露⁠（在新窗口中打开）以来，Spamouflage 一直是全球研究最为深入的影响力行动之一。几乎从未有报道称其活动触及了真实受众。

AI 生成内容的使用似乎并未改变这一局面。在调查中被我们认定与该行动有关的博客、文章和社交媒体账号中，没有任何一个获得大量真实用户的互动或关注。在某些情况下，现有指标显示，其帖子仅被我们的调查团队浏览过。

我们使用突破度量表⁠（在新窗口中打开）评估影响力行动的影响。该量表将行动分为 1 级（最低）到 6 级（最高）。我们认为这是一次 2 级行动：其在多个平台上发布内容，但没有证据表明网络之外的人群对其进行了显著传播。

我们发现以下域名与该活动有关联。

• revealscum.com