跳至主要内容
OpenAI

2024年5月1日

安全

IUVM:与伊朗有关联的影响力内容网络

OpenAI 封禁了与源自伊朗的“IUVM”行动有关的账号。该行动利用 AI 生成和翻译亲伊朗、反以色列和反美国的网站内容。

正在加载…

本案例研究最初发表于 OpenAI 的2024 年 5 月⁠(在新窗口中打开)报告。

行动方

我们封禁了少量账号,这些账号与国际虚拟媒体联盟(IUVM)⁠(在新窗口中打开)相关人员有关。IUVM 是一家伊朗实体,自 2018 年以来一直受到开源研究界关注。

行为

该行动面向全球受众,主要生成英语和法语内容。该行动使用我们的模型生成和校对文章⁠(在新窗口中打开)、标题和网站标签。这些内容随后发布在 IUVM 当前的网站 iuvmpress.co 上(IUVM 早期使用的域名已于 2020 年被 FBI 查封⁠(在新窗口中打开))。

文章通常在发布前一天创建;网站标签则在发布前一刻创建,很可能采用了自动化方式。有一次,我们发现一组网站标签中包含我们模型的回复信息,表明其可能采用了自动化方式(或者只是校对不严)。

iuvmpress.co 发布的一篇文章上的标签。请注意前两个标签,其中包含我们模型的回复。

iuvmpress.co 发布的一篇文章上的标签。请注意前两个标签,其中包含我们模型的回复。

内容

该网络生成的内容包括长篇文章、标题和网站标签。这些内容通常反对美国和以色列,并赞扬巴勒斯坦人、伊朗和“抵抗轴心”。

影响评估

由于社交媒体平台屡次下架相关内容和账号⁠(在新窗口中打开),加之FBI 查封其域名⁠(在新窗口中打开),IUVM 的网络影响力已经减弱。除其网站外,截至 2024 年 5 月 23 日,我们还在 TikTok、VKontakte 和 Odnoklassniki 上发现了使用 IUVM 品牌的账号。这些社交媒体账号分别拥有 10、76 和 274 名关注者或订阅者。

我们采用突破量表⁠(在新窗口中打开)评估影响力行动(IO)的影响。该量表按 1 级(最低)至 6 级(最高)评分;我们将此次行动评为 2 类行动,其特点是在多个平台发布内容,但均未实现破圈传播或获得显著的受众互动。

指标

我们发现以下域名与此次行动有关。

  • iuvmpress.co

  • iuvmarchive.org