「零 Zeno」行動：與以色列有關的影響力活動

本案例研究最初刊載於 OpenAI 的 2024 年 5 月⁠（在新視窗中開啟）報告。

我們封禁了一批由以色列操控的帳戶。這些帳戶被用於為一項遍及 X、Facebook、Instagram、網站及 YouTube 的影響力行動生成和編輯內容。該網絡由以色列政治活動管理公司 STOIC 操控。為向斯多葛學派創始人 Zeno 致意，並反映該網絡獲得的互動極少，我們將其暱稱為「零 Zeno」。

此行動以英文和希伯來文內容鎖定加拿大、美國和以色列的受眾。5 月初，該行動開始以英文內容鎖定印度受眾。該行動似乎也正準備開展針對加納受眾的影響力活動。

該行動利用我們的模型生成網絡文章和社交媒體留言，然後發布至多個平台，尤其是 Instagram、Facebook 和 X。

該行動亦利用我們的模型，按年齡、性別和地點等特定變數，為社交媒體建立虛構人物及個人簡介，並調查曾公開評論以色列 Histadrut 工會的人士。我們的模型拒絕因應這些提示提供個人資料。

此網絡生成的內容被發布至多個社交媒體平台。大西洋理事會數碼鑑證研究實驗室⁠（在新視窗中開啟）透過開源研究，在 Facebook、Instagram 和 X 發現該網絡的部分內容；這些帳戶被停用後，該行動便取得新帳戶。其他內容出現在四個冒充倡議團體的網站上，聲稱關注加沙衝突，以及猶太教和伊斯蘭教信眾之間關係等更廣泛議題：uc4canada.com、the-good-samaritan.com、ufnews.io 和 nonagenda.com。

在某些情況下，我們發現此行動的虛假帳戶在該行動自行發布的社交媒體帖文下留言，可能是為了營造受眾參與互動的假象。

發布此網絡內容的許多社交媒體帳戶，其頭像似乎以較早期的人工智能技術生成，即生成對抗網絡（GAN）。這類圖片可輕易從互聯網下載。儘管這類圖片很容易生成，我們仍發現此網絡內有多個社交媒體帳戶使用同一張圖片。有時，兩個或以上使用相同頭像的帳戶會回覆同一則社交媒體帖文。

此行動分為多個不同主題的活動，其中大多與加沙衝突，以及猶太教和伊斯蘭教信眾之間關係等更廣泛議題略有關聯。5 月，我們在一些以印度選舉為重點的活動展開後不足 24 小時內將其瓦解。

2 月的開源研究⁠（在新視窗中開啟）指出，此網絡曾批評聯合國在巴勒斯坦的救援機構——聯合國近東巴勒斯坦難民救濟和工程處（UNRWA）。DFRLab 3 月發表的報告⁠（在新視窗中開啟）重點提到針對加拿大的內容，這些活動帖文批評當地被其稱為「激進伊斯蘭主義者」的人士。另一組內容以美國大學為重點，指控支持巴勒斯坦的示威者宣揚反猶太主義和恐怖主義。第四組內容以卡塔爾為重點，將其在美國的投資描述為對美國生活方式的威脅。第五組內容生成希伯來文社交媒體帖文。這些帖文通常讚揚 Histadrut 工會組織及其領導層。最後，該網絡於 5 月開始生成以印度為重點的留言，批評執政的印度人民黨，並讚揚反對黨國大黨。

有時，該網絡似乎會把帳戶由一個主題轉向另一個主題。例如，先前發布加拿大相關內容的帳戶，後來把重點轉向美國、印度或 Histadrut，甚至同時涵蓋多個主題。

此網絡製作的部分內容以回覆形式發布於社交媒體，對象包括政治光譜兩端的西方知名人物。這些回覆通常與原帖毫無關係。例如，一則聲稱卡塔爾正在「大舉收購」美國的留言，被用來回覆一則關於前總統 Trump 音樂喜好的帖文。

除了其自身的虛假帳戶外，「零 Zeno」的活動似乎幾乎沒有、甚至完全沒有獲得任何互動。（許多帳戶已被 Meta 和 X 停用，因此目前的互動數據未必能反映全貌。）

我們採用突破規模量表⁠（在新視窗中開啟）評估影響力行動的影響。該量表以 1（最低）至 6（最高）評級；我們將此行動評為第 2 類，即曾在多個平台和網站發布內容，但沒有證據顯示內容受到網絡以外的人士顯著放大。

我們識別出以下與「零 Zeno」活動有關的網域。

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io