本案例研究最初发表于 OpenAI 的2024 年 5 月(在新窗口中打开)报告。
行动方
我们封禁了少量账号,这些账号与国际虚拟媒体联盟(IUVM)(在新窗口中打开)相关人员有关。IUVM 是一家伊朗实体,自 2018 年以来一直受到开源研究界关注。
行为
该行动面向全球受众,主要生成英语和法语内容。该行动使用我们的模型生成和校对文章(在新窗口中打开)、标题和网站标签。这些内容随后发布在 IUVM 当前的网站 iuvmpress.co 上(IUVM 早期使用的域名已于 2020 年被 FBI 查封(在新窗口中打开))。
文章通常在发布前一天创建;网站标签则在发布前一刻创建,很可能采用了自动化方式。有一次,我们发现一组网站标签中包含我们模型的回复信息,表明其可能采用了自动化方式(或者只是校对不严)。

iuvmpress.co 发布的一篇文章上的标签。请注意前两个标签,其中包含我们模型的回复。
内容
该网络生成的内容包括长篇文章、标题和网站标签。这些内容通常反对美国和以色列,并赞扬巴勒斯坦人、伊朗和“抵抗轴心”。
影响评估
由于社交媒体平台屡次下架相关内容和账号(在新窗口中打开),加之FBI 查封其域名(在新窗口中打开),IUVM 的网络影响力已经减弱。除其网站外,截至 2024 年 5 月 23 日,我们还在 TikTok、VKontakte 和 Odnoklassniki 上发现了使用 IUVM 品牌的账号。这些社交媒体账号分别拥有 10、76 和 274 名关注者或订阅者。
我们采用突破量表(在新窗口中打开)评估影响力行动(IO)的影响。该量表按 1 级(最低)至 6 级(最高)评分;我们将此次行动评为 2 类行动,其特点是在多个平台发布内容,但均未实现破圈传播或获得显著的受众互动。
指标
我们发现以下域名与此次行动有关。
iuvmpress.co
iuvmarchive.org