本案例研究最初刊載於 OpenAI 的 2024 年 5 月(在新視窗中開啟)報告。
行動者
我們封禁了少量帳戶,這些帳戶與國際虛擬媒體聯盟(IUVM)(在新視窗中開啟)相關人士有關。IUVM 是一個伊朗組織,自 2018 年起一直受到開源情報社群研究。
行為
這項行動以全球受眾為目標,主要生成英文和法文內容。該行動利用我們的模型生成和校對文章(在新視窗中開啟)、標題及網站標籤。這些內容其後發佈於 IUVM 目前的網站 iuvmpress.co(IUVM 早期使用的網域已於 2020 年遭 FBI 扣押(在新視窗中開啟))。
文章通常在發佈前一天建立;網站標籤則在發佈前一刻建立,很可能是自動生成。我們曾發現一組網站標籤包含模型的回應訊息,顯示內容可能由自動化流程生成(也可能只是校對不周)。

iuvmpress.co 所刊文章的標籤。請留意首兩個標籤,當中包含我們模型的回應。
內容
這個網絡生成的內容包括長篇文章、標題和網站標籤。這些內容通常反美、反以色列,並讚揚巴勒斯坦人、伊朗及「抵抗軸心」。
影響評估
IUVM 多次遭社交媒體平台下架(在新視窗中開啟),其網域亦遭 FBI 扣押(在新視窗中開啟),令其網上影響力減弱。截至 2024 年 5 月 23 日,除其網站外,我們亦在 TikTok、VKontakte 和 Odnoklassniki 發現以 IUVM 為品牌的帳戶。這些社交媒體帳戶分別有 10、76 和 274 名追蹤者或訂閱者。
我們採用突破量表(在新視窗中開啟)評估影響力行動(IO)的影響。該量表由 1 級(最低)至 6 級(最高);我們將此行動評為第 2 級,意即行動者曾在多個平台發佈內容,但未能在任何平台取得突破或引起受眾顯著互動。
指標
我們確認以下網域與這項行動有關。
iuvmpress.co
iuvmarchive.org