「Zero Zeno」行動：與以色列有關聯的影響力活動

本案例研究最初刊載於 OpenAI 的 2024 年 5 月⁠(在新視窗中開啟)報告。

我們封禁了一批從以色列營運的帳號，這些帳號被用於為一項橫跨 X、Facebook、Instagram、網站及 YouTube 的影響力行動生成及編輯內容。該網路由以色列政治活動管理公司 STOIC 營運。為向斯多葛學派創始人致意，並反映該網路獲得的互動寥寥無幾，我們將其暱稱為「Zero Zeno」。

此行動以英語及希伯來語內容鎖定加拿大、美國和以色列的受眾。5 月初，此行動開始以英文內容鎖定印度受眾。此行動似乎也在準備針對迦納受眾發起資訊作戰活動。

此行動使用我們的模型生成網路文章和社群媒體留言，再將其發布至多個平台，尤其是 Instagram、Facebook 和 X。

此行動也使用我們的模型，依據年齡、性別和地點等變數建立虛構的社群媒體人物身分及個人簡介，並調查曾公開評論以色列勞工總會的以色列民眾。面對這些提示，我們的模型拒絕提供個人資訊。

此網路生成的內容發布於多個社群媒體平台。大西洋理事會數位鑑識研究實驗室⁠(在新視窗中開啟)透過開源研究，在 Facebook、Instagram 和 X 上辨識出此網路的部分內容；這些帳號遭停用後，該行動便取得新帳號。其他內容出現在四個網站上。這些網站佯裝成關注加薩衝突，以及猶太教與伊斯蘭教信仰者之間關係等廣泛議題的倡議團體：uc4canada.com、the-good-samaritan.com、ufnews.io 和 nonagenda.com。

在某些案例中，我們發現此行動的假帳號會在該行動自行發布的社群媒體貼文下留言，可能是為了營造受眾互動的假象。

許多發布此網路內容的社群媒體帳號，其大頭照似乎是以較早期的一種人工智慧技術生成：生成對抗網路（GAN）。這類圖片很容易從網路下載。儘管這類圖片很容易生成，我們仍發現此網路中有多個社群媒體帳號使用同一張圖片。有時，兩個或更多使用相同大頭照的帳號會回覆同一則社群媒體貼文。

此行動分為多個主題活動，其中大多與加薩衝突，以及猶太教與伊斯蘭教信仰者之間關係的廣泛議題略有關聯。5 月，我們在一項聚焦印度選舉的活動開始後不到 24 小時內，便阻止了其中部分活動。

2 月的開源研究⁠(在新視窗中開啟)指出，此網路曾批評聯合國巴勒斯坦難民救濟機構 UNRWA。DFRLab 3 月的報告⁠(在新視窗中開啟)特別提到聚焦加拿大的內容，這些內容批評該活動貼文所稱的當地「激進伊斯蘭主義者」。另一組活動聚焦美國的大學，指控支持巴勒斯坦的抗議者宣揚反猶主義和恐怖主義。第四組活動聚焦卡達，將其在美國的投資描繪成對美國生活方式的威脅。第五組活動生成希伯來文社群媒體貼文。這些貼文通常讚揚以色列勞工總會及其領導層。最後，該網路在 5 月開始生成聚焦印度的留言，批評執政的印度人民黨，並讚揚在野的印度國民大會黨。

該網路有時似乎會將帳號從一個主題轉向另一個主題，例如原先發布加拿大相關內容的帳號，之後轉而聚焦美國、印度或以色列勞工總會，甚至同時涵蓋多個主題。

此網路生成的部分內容以回覆形式發布於社群媒體，對象包括政治光譜兩端的西方知名人物。這些回覆通常與原始貼文毫無關聯。例如，有一則聲稱卡達正在「收購」美國的留言，竟被用來回覆一則討論前總統 Trump 音樂偏好的貼文。

除了來自其自身的虛假帳號外，「Zero Zeno」的活動似乎幾乎未獲得任何互動。（許多帳號已遭 Meta 和 X 停用，因此目前的互動數據可能無法呈現全貌。）

我們使用突破規模量表⁠(在新視窗中開啟)評估資訊作戰的影響；該量表以 1（最低）至 6（最高）分級。我們將此行動評為第 2 級，特徵是在多個平台和網站發布內容，但沒有證據顯示其內容曾獲網路外部人士大幅擴散。

我們確認以下網域與「Zero Zeno」的活動有關聯。

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io