本案例研究最初发表于 OpenAI 的《2025 年 6 月》（在新窗口中打开）报告。
行动方
我们封禁了一批 ChatGPT 账户。我们发现，这些账户使用我们的模型批量生成社交媒体帖子，其行为与一项隐蔽影响力行动相符。在调查过程中，我们还发现这些账户起草内部绩效评估。
这些账户主要使用中文提示词，内容聚焦于与中国相关的政治和地缘政治话题。一名用户在提示词中称自己供职于中国宣传部门，但我们没有独立证据核实这一说法。
行为
我们封禁的账户主要从事两类工作。其中产量最大的一类是用英语和中文生成简短的社交媒体评论，另有少量乌尔都语评论。我们发现其中许多评论被发布在 TikTok 和 X 上，另有一些内容出现在 Reddit、Facebook 和多个网站上。
一种典型模式是先由一个“主”账户发布初始评论，该账户通常似乎专为发布这条评论而创建；随后，其他账户会发布一系列回复。这种行为似乎意在营造用户自然互动的假象。
与此次活动有关的一则 TikTok 帖子，标题为“关闭 #USAID 只是一个 #开始！”。此截图中可见的频道名称、视频字幕和所有评论均由该网络使用 ChatGPT 生成。
在 TikTok 上，发表评论的账户使用多种语言和文字的用户名，而且往往与其所发内容的语言无关。例如，一个使用韩文名称的账户发布了乌尔都语评论，而使用泰文和希伯来文名称的账户则发布了由该网络生成的英语评论。在 X 上，发表评论的账户通常使用卡通头像，有些账户的名称还与加密货币有关。
一条推文及其回复评论，均由该网络使用 ChatGPT 生成。
该网络在 Facebook 上不太活跃。其活动主要是为两个伪装成新闻媒体的公共主页生成名称和头像。这两个公共主页都没有粉丝或点赞，各自也只有寥寥数篇帖子。
分享某段视频的 Facebook 帖子；我们认定该视频可能与此次行动有关。
该网络偶尔也会生成较长的中文或英文帖子。我们在 Reddit 上发现了一篇此类帖子，在多个网络论坛上还发现了另外两篇。第二类工作是使用 ChatGPT 生成疑似内部政策或绩效评估文件。
生成内容
该威胁行为者生成的社交媒体内容涉及多个话题，均与中国的地缘战略利益高度一致。
部分内容聚焦台湾，具体针对《逆统战》（在新窗口中打开）（“逆統戰”）。这是一款以台湾为中心、设想反抗中国共产党的电子游戏和桌游。该网络生成了数十条批评这款游戏的中文评论，随后又发布了一篇长文，声称该游戏遭到广泛抵制。这是此次行动最具辨识度的活动，因此我们将其命名为“冷嘲式评论”行动。
其他英语和乌尔都语内容则针对巴基斯坦活动人士 Mahrang Baloch；她曾公开批评中国在俾路支省的投资（在新窗口中打开）。与该网络有关的一个 TikTok 账户和一个 Facebook 公共主页发布了一段视频，诬称 Baloch 曾出演色情影片。随后，该行动以这两种语言生成了数百条短评，以营造广泛互动的假象。
Mahrang Baloch 的 TikTok 视频下表示震惊的评论。
最后一组内容聚焦于关闭美国国际开发署（USAID），并生成简短评论，对此举或褒或贬。这些评论被发布在 TikTok 和 X 上。
该网络使用 ChatGPT 生成的推文，将援助问题与关税问题联系起来。
最后，这些威胁行为者使用我们的模型生成疑似内部文件，包括一篇仿照公安机关公文风格撰写的详细文章，以及一份绩效评估，说明建立和运作此次行动所采取的步骤。
影响
我们阻断此次行动使用我们的模型时，它似乎仍处于初期阶段。两个 Facebook 公共主页都没有粉丝。在 Reddit 上，一篇帖子获得了 44 个赞，而另外两篇则在其发布的子版块中被屏蔽或删除。
一个 Reddit 账户所发帖子的截图；我们认定该账户属于这一网络，截图显示帖子已被平台过滤器移除。
X 和 TikTok 上的互动情况差异较大：两段 TikTok 视频共获得 25,000 个赞，而此次行动的主账户所发推文通常每条约有 10,000 次浏览。不过，这些帖子下的许多评论都是该网络使用 ChatGPT 生成的，表明至少部分互动并非真实用户行为。因此，所有互动数据都应谨慎看待。
根据衡量影响力行动影响的突破量表（在新窗口中打开），如果 X 和 TikTok 上的互动数据真实可信，我们会将此次行动评为第 3 类的较低水平。如果有更多证据支持这样一种推测，即与大多数评论一样，大多数点赞和浏览也并非真实用户行为，我们会下调这一评级。