跳至主要內容
OpenAI

2024年5月1日

安全

IUVM:與伊朗有關的影響力內容網路

OpenAI 封禁了與源自伊朗的「IUVM」行動有關的帳號;該行動利用 AI 生成及翻譯親伊朗、反以色列和反美的網站內容。

載入中…

本案例研究最初刊載於 OpenAI 的 2024 年 5 月⁠(在新視窗中開啟)報告。

行為者

我們封禁了少數與國際虛擬媒體聯盟(IUVM)⁠(在新視窗中開啟)相關人士有關的帳號。IUVM 是一個伊朗實體,自 2018 年起便受到開源情報社群的研究。

行為

這項行動以全球受眾為目標,主要生成英語和法語內容。該行動使用我們的模型生成及校對文章⁠(在新視窗中開啟)、標題和網站標籤。這些內容隨後發布於 IUVM 目前的網站 iuvmpress.co(IUVM 先前使用的網域已於 2020 年遭 FBI 查扣⁠(在新視窗中開啟))。

文章通常在發布前一天製作;網站標籤則在發布前一刻建立,很可能是自動生成的。有一次,我們發現一組網站標籤包含我們模型的回覆訊息,顯示這些標籤可能是自動生成的(也可能只是校對不周)。

iuvmpress.co 所發布文章上的標籤。請注意前兩個標籤,其中包含我們模型的回覆。

iuvmpress.co 所發布文章上的標籤。請注意前兩個標籤,其中包含我們模型的回覆。

內容

這個網路生成的內容包括長篇文章、標題和網站標籤。這些內容通常反美、反以色列,並讚揚巴勒斯坦人、伊朗及「抵抗軸心」。

影響評估

由於社群媒體帳號屢次遭到下架⁠(在新視窗中開啟),加上網域被 FBI 查扣⁠(在新視窗中開啟),IUVM 的網路影響力已經減弱。除了自有網站外,截至 2024 年 5 月 23 日,我們還在 TikTok、VKontakte 和 Odnoklassniki 上發現以 IUVM 為品牌的帳號。這些社群媒體帳號分別有 10、76 和 274 名追蹤者或訂閱者。

我們使用突破度量表⁠(在新視窗中開啟)評估影響力行動的成效。該量表分為 1(最低)至 6(最高)級;我們將這項行動評為第 2 類,代表其雖在多個平台發布內容,卻未在任何平台破圈或引發顯著的受眾互動。

指標

我們確認以下網域與這項行動有關。

  • iuvmpress.co

  • iuvmarchive.org