「九—長破折號線」行動：區域影響活動
OpenAI 封禁了與一項此前未有報道、源自中華人民共和國的行動相關的帳戶。我們將該行動稱為「九—長破折號線」，其利用人工智能製作有關南海、香港及美國政治的區域影響內容。
本案例研究最初刊載於 OpenAI 的2025 年 10 月（在新視窗中開啟）報告。
行動者
我們封禁了一個由少量 ChatGPT 帳戶組成的網絡。這些帳戶可能與一項源自中國的秘密影響行動有關，並利用我們的模型為一項跨平台秘密影響行動生成內容。這些帳戶生成的內容主要包括：聲稱越南對南海環境造成影響的英語社交媒體貼文、批評菲律賓總統 Ferdinand Marcos 的英語貼文，以及評論參與香港民主運動的政治人物和社運人士的粵語社交媒體貼文。此外，這項行動亦生成了少量有關美國政治議題的英語內容。
散播這些內容的社交媒體帳戶，與一項長期運作、源自中國並稱為「Spamouflage」的行動有若干相似之處。我們曾於 2024 年 5 月報道該行動使用 ChatGPT 的情況，但未發現兩者之間存在技術關聯。最新貼文分享的部分影片，先前已被澳洲戰略政策研究所識別為另一項行動的內容；該行動亦與早期的 Spamouflage 活動相似。
行為
這個網絡似乎主要集中大量生成社交媒體貼文，內容涉及在南海／西菲律賓海與中國存在領土爭議的國家。中國透過一道稱為「九段線」的廣闊界線，聲稱對該區大部分範圍擁有主權。這項主張在國際法下備受爭議，亦遭越南、菲律賓等國家拒絕承認。鑑於上述背景，加上這項行動的貼文採用了含長破折號的人工智能生成文字，我們將其命名為「九—長破折號線」。這些貼文主要在 X 上發佈。
這項行動利用我們的模型生成內容（包括長破折號）而製作的推文。
除了生成社交媒體留言外，行動者亦使用我們的模型執行部分研究及偵察工作。相關工作包括識別小眾博客和論壇，以及歐洲、美國或東南亞監管較寬鬆的網上論壇和社交媒體平台。此外，他們亦要求提供常見藏族姓名的清單。我們曾在其他案例中觀察到同類行為，當時這些姓名被用於操作代理的虛假社交媒體帳戶。這類活動與使用傳統搜尋器相似，所得結果亦大致相同，反映威脅行動者以人工智能進行研究和生成內容，雖然更為方便，卻不一定提升了其能力。
這個網絡一項較新穎的用法，是要求提供社交媒體增長策略的建議，包括如何發起 TikTok 挑戰，並吸引其他人發佈關於 #MyImmigrantStory 標籤的內容。這個標籤沿用已久且廣受使用，該行動很可能試圖借助其人氣。他們要求我們的模型構思內容，再為 TikTok 貼文生成文字稿，並推薦配合貼文使用的背景音樂和圖片。我們利用開源技術，識別出發佈於 TikTok 的相關內容。
這項行動利用我們的模型生成文字而製作的 TikTok 貼文。
生成內容
這個網絡生成的英語社交媒體貼文涵蓋多項議題，從聲稱越南對南海環境造成影響，以至美國的芬太尼危機。許多貼文聲稱菲律賓總統 Marcos 被發現吸毒，並指控他採用操縱選舉的手段。與指控 Marcos 吸毒的貼文一同分享的影片並非由我們的模型生成；菲律賓政府早已斥其為深度偽造或經數碼篡改的影片。許多發佈由我們模型生成內容的 X 帳戶已被停權。
這項行動生成的推文文字，聲稱菲律賓總統 Marcos 被揭發捲入「毒品醜聞」。
這項行動生成的推文文字，聲稱總統 Marcos 採用操縱選舉的手段。
這些帳戶亦要求生成大批粵語留言，並將其發佈到 X 和 Instagram。這些留言批評或貶低參與香港民主運動的政治人物和社運人士，例如 Jimmy Lai、Nathan Law 及 Agnes Chow。這些貼文似乎企圖詆毀上述人士，將他們描繪成罪犯或叛徒。另有一些貼文支持香港的國家安全法律。
一個較不尋常的案例中，一名操作代理先在 X 發佈批評香港民主派政治人物的留言，其後再生成回覆，讚揚同一批人物。批評留言和回覆分別由兩個不同的 X 帳戶發佈。
這項行動生成的一則支持性回覆，回應該行動另一個帳戶發佈的批評推文。原推文寫道：「難道 Jimmy Lai 和 Jeffrey Ngo 在海外取得所謂的『庇護』，就能洗白自己嗎？🤔 禍港罪犯不是英雄，只是用『政治難民』包裝自己的『逃犯』身分！因果循環，遲早要還，根本不存在『免罪金牌』。」回覆寫道：「這兩人有勇氣站出來說出真相，至少比現時萬馬齊喑的香港環境光明得多。」請注意，原推文的所有互動均來自這個網絡營運的帳戶。
影響
儘管這項行動在多個平台生成了大量社交媒體留言，我們根據影響力行動成效突破量表，將其評為第 2 類：活動遍及多個平台，但未能突破原有受眾圈層，或只有極少互動。大多數貼文和社交媒體帳戶只獲得極少互動，甚至完全沒有互動。這個網絡在 X 和 Instagram 生成的貼文，其回覆或轉發往往只來自同一網絡的操作代理所控制的其他社交媒體帳戶。
這些社交媒體帳戶使用的虛假身分明顯經過協調，但手法並不高明。它們的行為特徵與其他源自中國的秘密影響行動相似，例如發佈過往行動曾散播的標籤、圖片或影片，並使用圖庫圖片作為個人檔案相片或採用預設社交媒體帳號名稱，因此很容易被識別。Philstar.com 留意到這些帳戶跨平台持續大量活動，並獨立發現及報道了該網絡在 X 上的部分帳戶；即使我們封禁其 ChatGPT 帳戶後，這些帳戶仍繼續運作。