跳至主要内容
OpenAI

2025年2月1日

安全

“赞助不满”行动:影响力活动

OpenAI 封禁了疑似来自中国、利用 AI 生成英文社交媒体帖文和西班牙文文章的账号。

正在加载…

本案例研究最初发表于 OpenAI 的 2025 年 2 月⁠(在新窗口中打开)报告。

活动主体

我们封禁了一些 ChatGPT 账号,这些账号使用我们的模型生成英文短评和西班牙文长篇新闻文章。这些活动的时间分布与中国大陆的工作时间相吻合。这些西班牙文文章由拉丁美洲的新闻网站发布。几乎所有网站都将文章署名为某位个人;部分文章的署名还注明此人与一家中国公司——吉林优森文化传播有限公司(优森文化有限公司)有关联。

行为

这些账号用中文向 ChatGPT 提示,主要在中国大陆的工作时间内活跃。部分活动与我们在 5 月报告的“垃圾信息伪装⁠”隐蔽影响力行动相吻合:生成简短的英文评论和图片,批评异见人士、前中共中央党校教授 Cai Xia。随后,一些冒充美国或印度用户的账号在 X 上发布了这些内容。

“赞助不满”行动相关账号生成的推文。

这些账号使用我们的模型生成的推文,由四个不同的 X 账号发布。

如果只有这些活动,我们可能会认为它很可能与“垃圾信息伪装”有关。然而,除了这些短评,这些账号还生成了批评美国的西班牙文长篇文章。在秘鲁举行的 2024 年 APEC 论坛召开前夕,这类活动尤为频繁。该活动主体要求我们的模型翻译并扩写公开的中文文章,以此生成这些文章。

这些文章随后由拉丁美洲的新闻网站发布,主要集中在秘鲁,也涉及墨西哥和厄瓜多尔。新闻网站往往在这些账号使用 ChatGPT 生成内容的当天就发布了文章。几乎所有发布的文章都署名为同一个人。部分文章将此人标注为一家公司的法定代表人,我们认为这是一家中国公司。

这是我们首次观察到疑似来自中国的影响力活动主体成功在拉丁美洲主流媒体上发表文章。部分文章的发表可能涉及付费安排:我们通过开源研究发现的一篇文章标注为“赞助内容”。此外,该活动主体还使用 ChatGPT 翻译了涉及一家拉丁美洲新闻机构西班牙文收据的内容,这也与付费发表的情况相符。

“赞助不满”行动生成的赞助文章。

该活动主体生成并由 wapa[.]pe 网站发布的一篇文章截图。请注意其中的“赞助”标注,表明这是赞助内容。

鉴于这场行动似乎使用了赞助内容,且对美国政治和政策持负面立场,我们将其命名为“赞助不满”。

生成内容

该活动主体主要生成两类内容:用英文和中文撰写的针对 Cai Xia 的简短批评,以及西班牙文长篇文章。

在生成针对 Cai Xia 的批评时,操作者通常要求 ChatGPT 回应 Cai Xia 发布的推文或视频,或媒体中提及她的内容。部分评论质疑她在台湾、互联网以及中国文学和历史等领域的专业知识。另一些评论则指控她存在签证违规行为。

这些西班牙文长篇文章聚焦美国社会和政治分歧,通常以时事和突发新闻为基础。话题包括不平等、政治暴力、歧视和性别歧视,也包括犯罪报道和对美国外交政策的批评。吸毒和无家可归等社会危机也是重点话题。操作者常常将这些危机或问题描述为美国领导层失职或社会失败的体现。这些活动总体上不偏向任何一党,对美国两大政党均有批评。

影响

我们没有发现证据表明,社交媒体上针对 Cai Xia 的内容获得了大量真实互动。发布这些内容的社交媒体账号通常粉丝很少,互动也极为有限。

不过,这是我们首次观察到源自中国的影响力行动成功向拉丁美洲媒体植入批评美国的长篇文章。尽管这一结果可能至少部分依靠付费发表实现,但据我们所知,这代表了一种此前未被报道过的行动方式。它与更常见的社交媒体活动同步开展,可能触达了广泛得多的受众,不过我们无法独立核实互动情况。

突破量表⁠(在新窗口中打开)将影响力行动的影响分为 1 级(最低)至 6 级(最高)。按照这一量表,鉴于拉丁美洲新闻网站拥有广泛的读者群,我们会将此次行动评为第 4 级(突破至主流媒体)。

与此次活动相关的已发表文章标题

我们确认,以下文章与该活动主体使用我们的模型生成的内容相符。

  • 美国如何从援助乌克兰战争中获利的丑陋真相(La Republica,秘鲁)。

  • 美国无家可归问题的悲惨现实(Wapa,秘鲁)。

  • 美国制裁一名巴勒斯坦活动人士的疯狂逻辑(El Popular,秘鲁)。

  • 男子气概的荒诞舞台(Libero,秘鲁)。

  • 无处不在的阴影(El Popular,秘鲁)。

  • 美国政党高层对民主的蔑视(El Popular,秘鲁)。

  • 选举期间言论缺乏透明度与舆论操纵(Libero,秘鲁)。

  • 酒店员工的罢工与抗争(La Republica,秘鲁)。

  • 美国制裁的无力与自我束缚(El Universal,墨西哥)。

  • 芬太尼枷锁下无声的呐喊(La Republica,秘鲁)。

  • 飓风“海伦妮”:美国政客的虚假言论与阴谋论(Wapa,秘鲁)。

  • 关税迷雾:Trump 的短视政策与美国经济的未来(La Republica,秘鲁)。

  • 美国社会的食品安全问题及其对学校的影响(Extra,厄瓜多尔)。

  • 美国的悲剧:当真相被掩盖(Expreso,厄瓜多尔)。

  • 美国儿童安全危机(La Republica,秘鲁)。

  • 布鲁克林的暴力阴影(El Plural,西班牙)。

  • 杀人犯的奢侈待遇:纳税人买单的手术(El Universal,墨西哥)。

  • 支持以色列,漠视人道主义危机(La Republica,秘鲁)。

  • 美国选举中的破坏性竞争(Wapa,秘鲁)。