“蹩脚语法”：与俄罗斯有关联的 Telegram 评论活动

本案例研究最初发表于 OpenAI 的《2024 年 5 月报告》⁠（在新窗口中打开）。

我们封禁了一个此前未被报道的账号网络，该网络利用我们的模型创建评论，随后将其发布到 Telegram。我们确认该活动与俄罗斯人员有关联。鉴于该网络专注于 Telegram、反复发布语法错误的英语内容且难以吸引受众，我们将其称为“蹩脚语法”。

该网络以俄罗斯、乌克兰、美国、摩尔多瓦和波罗的海三国的受众为目标，发布俄语和英语内容。

该网络利用我们的模型和 Telegram 账号搭建了一条评论灌水流水线。首先，运营者利用我们的模型调试代码；这些代码显然旨在自动向 Telegram 发帖。随后，他们生成俄语和英语评论，回复特定的 Telegram 帖子。最后，他们似乎使用了至少十几个 Telegram 账号发布这些评论。

在英语内容中，运营者利用我们的模型，以多个虚假人设的口吻生成评论。这些人设来自不同人口群体，分属美国政治光谱的两端。在俄语内容中，他们更偏好围绕主题、较少依赖人设的指令。

该网络主要评论少数几个 Telegram 频道发布的帖子。被提及最多的是亲俄频道 @Slavyangrad，其次是英语频道 @police_frequency 和 @SGTNewsNetwork。（后者假扮成一名保守派美国退伍军人，但在 11 月，Meta 报告称⁠（在新窗口中打开），该频道实际上源自伊朗。）在抽取的 2 月活动样本中，该网络尝试为这三个频道生成回复的次数，是其余被提及次数最多的 10 个频道总和的两倍。

该活动生成的简短评论集中在少数几个政治主题上。无论英语还是俄语，该网络在 Telegram 上发布的内容主要涉及乌克兰战争、摩尔多瓦和波罗的海三国的政治局势，以及美国政治。

Telegram 上典型的俄语评论指责乌克兰和摩尔多瓦总统腐败、缺乏民众支持，并为了西方的“干涉”而背叛本国人民。Telegram 上的英语评论主要关注移民、经济困境和当日突发新闻等话题。这些评论经常借时事背景宣称美国不应支持乌克兰。

有时，多个不同人设会评论同一篇帖子，表达相互矛盾的观点。这种假扮对立双方发声的“两面派”手法此前也曾出现在俄罗斯的行动中，可能表明其意图吸引特定受众或挑起分裂。

3 月 22 日莫斯科发生恐怖袭击，四名塔吉克斯坦公民被拘留后，该活动开始启用一批主要关注塔吉克斯坦的新 Telegram 账号。其发布的评论呼吁塔吉克族与俄罗斯人团结一致，并尊重俄罗斯法律。

早在生成式 AI 出现之前，评论灌水就已是影响行动常用的手法。尽管“蹩脚语法”采用新手法生成评论，其分发系统却难以吸引互动。

其评论几乎没有获得点赞或回复。该网络的评论在任何一篇帖子的回复中通常只占少数，这意味着，即便其目标是压制其他观点，也未能得逞。

该网络偶尔会利用我们的模型生成疑似私信的内容，可能用于与另一名 Telegram 用户交流；但生成的文本表明，该网络似乎是在和一名加密货币诈骗者聊天。

我们使用突破性量表⁠（在新窗口中打开）评估影响行动的影响力。该量表分为 1 级（最低）至 6 级（最高）；我们将此案例评为第 1 级，其特点是仅在单个平台上发布内容，且没有证据表明网络外人员对其进行了显著放大。