本案例研究最初刊載於 OpenAI 的 2024 年 5 月(在新視窗中開啟)報告。
行為者
我們封禁了少數與國際虛擬媒體聯盟(IUVM)(在新視窗中開啟)相關人士有關的帳號。IUVM 是一個伊朗實體,自 2018 年起便受到開源情報社群的研究。
行為
這項行動以全球受眾為目標,主要生成英語和法語內容。該行動使用我們的模型生成及校對文章(在新視窗中開啟)、標題和網站標籤。這些內容隨後發布於 IUVM 目前的網站 iuvmpress.co(IUVM 先前使用的網域已於 2020 年遭 FBI 查扣(在新視窗中開啟))。
文章通常在發布前一天製作;網站標籤則在發布前一刻建立,很可能是自動生成的。有一次,我們發現一組網站標籤包含我們模型的回覆訊息,顯示這些標籤可能是自動生成的(也可能只是校對不周)。

iuvmpress.co 所發布文章上的標籤。請注意前兩個標籤,其中包含我們模型的回覆。
內容
這個網路生成的內容包括長篇文章、標題和網站標籤。這些內容通常反美、反以色列,並讚揚巴勒斯坦人、伊朗及「抵抗軸心」。
影響評估
由於社群媒體帳號屢次遭到下架(在新視窗中開啟),加上網域被 FBI 查扣(在新視窗中開啟),IUVM 的網路影響力已經減弱。除了自有網站外,截至 2024 年 5 月 23 日,我們還在 TikTok、VKontakte 和 Odnoklassniki 上發現以 IUVM 為品牌的帳號。這些社群媒體帳號分別有 10、76 和 274 名追蹤者或訂閱者。
我們使用突破度量表(在新視窗中開啟)評估影響力行動的成效。該量表分為 1(最低)至 6(最高)級;我們將這項行動評為第 2 類,代表其雖在多個平台發布內容,卻未在任何平台破圈或引發顯著的受眾互動。
指標
我們確認以下網域與這項行動有關。
iuvmpress.co
iuvmarchive.org