跳到主要內容
OpenAI

2024年5月1日

安全機制

IUVM:與伊朗有關的影響力內容網絡

OpenAI 封禁了與源自伊朗的「IUVM」行動有關的帳戶,該行動利用 AI 生成及翻譯親伊朗、反以色列和反美的網站內容。

正在載入...

本案例研究最初刊載於 OpenAI 的 2024 年 5 月⁠(在新視窗中開啟)報告。

行動者

我們封禁了少量帳戶,這些帳戶與國際虛擬媒體聯盟(IUVM)⁠(在新視窗中開啟)相關人士有關。IUVM 是一個伊朗組織,自 2018 年起一直受到開源情報社群研究。

行為

這項行動以全球受眾為目標,主要生成英文和法文內容。該行動利用我們的模型生成和校對文章⁠(在新視窗中開啟)、標題及網站標籤。這些內容其後發佈於 IUVM 目前的網站 iuvmpress.co(IUVM 早期使用的網域已於 2020 年遭 FBI 扣押⁠(在新視窗中開啟))。

文章通常在發佈前一天建立;網站標籤則在發佈前一刻建立,很可能是自動生成。我們曾發現一組網站標籤包含模型的回應訊息,顯示內容可能由自動化流程生成(也可能只是校對不周)。

iuvmpress.co 所刊文章的標籤。請留意首兩個標籤,當中包含我們模型的回應。

iuvmpress.co 所刊文章的標籤。請留意首兩個標籤,當中包含我們模型的回應。

內容

這個網絡生成的內容包括長篇文章、標題和網站標籤。這些內容通常反美、反以色列,並讚揚巴勒斯坦人、伊朗及「抵抗軸心」。

影響評估

IUVM 多次遭社交媒體平台下架⁠(在新視窗中開啟),其網域亦遭 FBI 扣押⁠(在新視窗中開啟),令其網上影響力減弱。截至 2024 年 5 月 23 日,除其網站外,我們亦在 TikTok、VKontakte 和 Odnoklassniki 發現以 IUVM 為品牌的帳戶。這些社交媒體帳戶分別有 10、76 和 274 名追蹤者或訂閱者。

我們採用突破量表⁠(在新視窗中開啟)評估影響力行動(IO)的影響。該量表由 1 級(最低)至 6 級(最高);我們將此行動評為第 2 級,意即行動者曾在多個平台發佈內容,但未能在任何平台取得突破或引起受眾顯著互動。

指標

我們確認以下網域與這項行動有關。

  • iuvmpress.co

  • iuvmarchive.org