本案例研究最初刊載於 OpenAI 的2025 年 6 月(在新視窗中開啟)報告。
行動者
根據 Meta 同業提供的線索，我們封禁了多個與一項源自中國的影響力行動(在新視窗中開啟)有關的 ChatGPT 帳號。該行動針對美國政治論述中的爭議議題，生成支持對立雙方、加劇分化的社群媒體內容，包括在 X 和 Bluesky 等平台發布的文字及 AI 生成個人檔案圖片。
行為
該網路利用我們的模型執行多項任務，主要是生成支持或批評關稅的社群媒體留言。這些帳號要求我們的模型提供可提升受眾互動的最佳發文時間，顯示其採用了經過算計的放大傳播策略。
這兩則推文的文字由該威脅行動者使用我們的模型生成，分別支持關稅辯論的不同立場。
其次，這些帳號利用我們的圖像生成功能製作風格化標誌，再將其用作個人檔案圖片，在各社群平台塑造虛構人物。這些帳號尤其著重塑造批評美國現政府的美國退伍軍人形象。
發布該網路所生成內容的 Bluesky 帳號。「退伍軍人爭取正義」標誌是使用我們的模型生成的。
最後，這些帳號持續要求提供程式碼及方法，以使用 Tweepy、Nitter 和 Bluesky 的公開 API 等工具，從 X 和 Bluesky 等社群平台擷取個人資料，例如使用者個人檔案、追蹤者名單及其他詳細資訊。此外，這些帳號也使用我們的模型尋求指引，以協助分析個人檔案資料中的個人特徵及組織關係，可能用於將個人分類，或推斷其關係與屬性。
生成結果
這些帳號製作了涵蓋美國政治論述的煽動對立內容，且經常在同一批行動工作階段中生成。這與已知影響力行動採用的手法一致；其目的看來可能是利用既有的政治分歧，而非宣揚特定意識形態立場。由於內容數量龐大且聚焦於對美國受眾傳播訊息，我們將這項行動稱為「垃圾郵件大叔」。
虛構人物發布的推文，文字由我們的模型生成。
影響
依據衡量影響力行動成效的突破規模量表(在新視窗中開啟)，我們將此行動評為第 2 類：活動橫跨多個平台，但未能突破原有受眾圈，或僅獲得極少互動。發布由我們模型生成之內容的社群媒體帳號，幾乎未獲得真實使用者的互動。該網路在 X 發布的大多數貼文幾乎沒有或完全沒有獲得按讚或轉發，只有少數貼文得到一些互動。部分社群媒體帳號擁有數千名追蹤者，但我們無法評估這些追蹤者的真實性，而且追蹤者人數似乎並未轉化為貼文互動。