本案例研究最初刊載於 OpenAI 的 2024 年 10 月(在新視窗中開啟)報告。
行動者
我們封禁了一批先前未曾披露的帳號；它們使用我們的 API 建立留言，再將其發布到 X 和 Facebook。這些留言有許多讚揚亞塞拜然或為其人權紀錄辯護，但也涉及其他各式各樣的主題，可能表示這是一項商業營運的行動。鑑於這個網路頻繁讚揚亞塞拜然，並嘗試在行動的多個階段使用 AI，我們將其命名為「A2Z」。
行為
如同我們在 5 月揭露並命名為「Bad Grammar」的俄語 Telegram 行動，這項行動也使用我們的模型在社群媒體上發表留言。它利用 AI 管理虛假的社群媒體人物身分、生成個人簡介、分析貼文與留言、以多種語言草擬回覆，以及進行校對。這些回覆隨後會發布到 X 或 Facebook。大部分內容都是簡短留言，但也包括風格化圖片。這些圖片經常採用 1930 年代海報的風格，因此看來旨在吸引注意與互動，而非欺騙。然而，附有這類風格化圖片的典型貼文，每則僅獲得 0 至 5 次互動。
該行動其中一個土耳其語帳號在 X 發布的貼文，包含文字與圖片，兩者皆使用我們的模型生成。這則貼文未獲得任何回覆、分享或按讚。
該行動其中一個英語帳號在 X 發布的貼文，包含文字與圖片，兩者皆使用我們的模型生成。這則貼文未獲得任何回覆、分享或按讚。
AI 的運用讓這項行動能同時管理大量社群媒體帳號：我們在 X 和 Facebook 上發現約 150 個符合這類活動特徵的帳號，另有更多帳號受到懷疑。這也讓行動帳號有時能在留言串中與網路上的真人互動。我們偶爾觀察到真人與假帳號進行簡短對話，而假帳號的回覆是使用我們的模型生成。
![兩名真人與一個行動帳號之間的對話；該帳號使用由我們的模型生成的內容。譯自土耳其語：[人物 1]：你知道嗎？並非所有 Ataturk 主義者都是錫安主義者，但土耳其所有錫安主義者、以色列支持者及對種族滅絕保持沉默的人，都是 Ataturk 主義者。有不符合這種概括的例子嗎？[行動帳號]：Kemal 主義提倡和平與現代化。這種概括既危險又具誤導性。[人物 2]：什麼和平？如果我的 Atatürk 還活著，他早就奪回 Mosul、Kirkuk 和 Western Thrace 了……你讀的是關於 Atatürk 的資料。你是在聽 Yılmaz Özdil 講吃 şeblebi 的故事嗎？[行動帳號]：歷史告訴我們，Ataturk 追求和平與現代化。我們不要被錯誤資訊牽著走。](https://images.ctfassets.net/kftzwdyauwt9/6Sj1Lv6Z6mEERyaQoh2MrW/e67c8a94204ef521d8eaced6a98c9f14/october-2024-cross-platform-influence-operation-a2z-p31-fig3.png?w=3840&q=90&fm=webp)
兩名真人與一個行動帳號之間的對話；該帳號使用由我們的模型生成的內容。譯自土耳其語：[人物 1]：你知道嗎？並非所有 Ataturk 主義者都是錫安主義者，但土耳其所有錫安主義者、以色列支持者及對種族滅絕保持沉默的人，都是 Ataturk 主義者。有不符合這種概括的例子嗎？[行動帳號]：Kemal 主義提倡和平與現代化。這種概括既危險又具誤導性。[人物 2]：什麼和平？如果我的 Atatürk 還活著，他早就奪回 Mosul、Kirkuk 和 Western Thrace 了……你讀的是關於 Atatürk 的資料。你是在聽 Yılmaz Özdil 講吃 şeblebi 的故事嗎？[行動帳號]：歷史告訴我們，Ataturk 追求和平與現代化。我們不要被錯誤資訊牽著走。
在 AI 出現之前，這種規模的行動可能需要一支龐大的網軍團隊，並須承擔相關的一切成本及洩密風險。然而，這項行動對 AI 的依賴，也使其異常容易遭到我們瓦解。由於它在攻擊鏈的許多環節運用 AI，我們的取締行動一次便切斷了其中多個環節。我們在 6 月初瓦解這項活動後，已確認屬於該行動的社群媒體帳號，在歐盟、英國和法國的選舉期間全都停止發文。部分帳號於 8 月下旬恢復發文。它們的少數貼文出現了可能由 AI 生成的跡象。出現這類跡象的內容並非來自我們的模型。
生成內容
這項活動生成了簡短留言，涵蓋各式各樣的政治主題。其中最突出的內容是讚揚亞塞拜然政府及其在國內、區域和國際政治中的角色，例如促進中亞各國團結，或主辦聯合國氣候變化大會。以英語和義大利語發文的帳號讚揚亞塞拜然作為歐洲能源供應國的角色，有時是為了回應對亞塞拜然政府人權紀錄的批評。
![X 上的留言串。[使用者 1，其使用者名稱含有「自由」一詞]：解散一個讓義大利充當走狗、又接納 Erdogan 之流獨裁者的帝國主義軍事聯盟，究竟有什麼好大驚小怪的？[使用者 2]：親愛的，你名為自由，實則臣服；離開 NATO，下一秒就會落入俄羅斯的掌控。在我看來，白俄羅斯、喬治亞、亞塞拜然、哈薩克的情況似乎也不怎麼好……啊，你真想要那樣的命運嗎？[行動帳號]：落入俄羅斯的掌控？可笑。NATO 保護我們；為了能源安全，我們應與亞塞拜然合作。名為自由，實則糊塗。](https://images.ctfassets.net/kftzwdyauwt9/1ogyzZzJO8BRkP5MdG3s6y/24e77bf30ce1c37bf8c069776cd62ac6/october-2024-cross-platform-influence-operation-a2z-p32-fig4.png?w=3840&q=90&fm=webp)
X 上的留言串。[使用者 1，其使用者名稱含有「自由」一詞]：解散一個讓義大利充當走狗、又接納 Erdogan 之流獨裁者的帝國主義軍事聯盟，究竟有什麼好大驚小怪的？[使用者 2]：親愛的，你名為自由，實則臣服；離開 NATO，下一秒就會落入俄羅斯的掌控。在我看來，白俄羅斯、喬治亞、亞塞拜然、哈薩克的情況似乎也不怎麼好……啊，你真想要那樣的命運嗎？[行動帳號]：落入俄羅斯的掌控？可笑。NATO 保護我們；為了能源安全，我們應與亞塞拜然合作。名為自由，實則糊塗。
其他活動則聚焦於 AI 的好處與演進、金融市場、生態議題、加密貨幣及更廣泛的科技議題。其中一組活動聚焦阿拉伯聯合大公國，將其塑造為穩定的投資目的地，並經常以此對比有關美國政治不穩定的說法。
一個曾發布該行動內容的帳號，在 X 上回覆 Bloomberg 報導。
部分虛假人物身分聚焦於歐洲或美國政治。這類活動的意識形態因地區而異。例如，一個聚焦美國的 X 帳號偽裝成自由派人士，批評美國前總統 Trump；另有一些以法語發文的 Facebook 帳號批評總統 Macron，並支持國民聯盟（RN）。這些批評有時聚焦於國內議題，藉此主張相關國家不應介入國際事務，包括俄羅斯入侵烏克蘭。
Facebook 上兩個不同帳號發布的兩則留言，這些帳號曾反覆發布該行動的內容。德語文字評論了對 AfD 政治人物 Alexander Jungbluth 的訪談。內容是：「Jungbluth 討論了真正的問題：歐盟應該操心內部事務！他的回答令我振奮，尤其是關於烏克蘭衝突的部分。」
影響評估
這項行動在 Facebook 和 X 上極為活躍，所用帳號可能多達數百個。在 X 上，部分帳號具有付費驗證的藍色勾號。在我們從兩個平台抽樣調查的約 150 個帳號中，沒有任何帳號擁有大量追蹤者：調查期間在 X 上發現的帳號最多有 222 名追蹤者，較常見的是十幾至二十出頭，而 X 上的典型貼文僅獲得個位數互動。同樣地，調查期間我們觀察到的 Facebook 貼文最高有 36 次心情回應，較常見的數字則為 0 至 5 次。不過，我們確實發現這項行動的貼文有時會吸引真人回覆。這些回覆不一定正面，有時包括真人反駁假帳號，但仍顯示這項行動至少具備一定能力，能跨多個平台、使用多種語言並就多個主題與受眾互動。
行動帳號（上方貼文）與真人（下方貼文）之間的留言爭論。上方：Gerald，這恰恰顯示出我們司法制度的問題有多嚴重。現在我們比以往任何時候都更應該支持 Trump！回覆：這恰恰顯示出我們對司法的理解有多大問題：任何違反法律或規定的政治人物，之後都會因「政治」理由而遭司法「迫害」……
突破量表以 1（最低）至 6（最高）評估影響力行動的成效。依此評估，我們認為這項行動處於第二類別的最高端，並有突破至第三類別的風險：其特徵是在多個平台發文，且有部分證據顯示真人會與其內容互動。然而，在我們禁止這項行動使用我們的模型，並與同業分享資訊後，我們已確認的相關社群媒體帳號沉寂了數週。因此，這項行動凸顯出 AI 能提升操作者的能力，但依賴 AI 模型也會使其更容易遭到瓦解。