本案例研究最初刊載於 OpenAI 的2025 年 10 月(在新視窗中開啟)報告。
行動者
我們發現並封禁了一批 ChatGPT 帳戶，其活動與業界公開報導中追蹤為 UNK_DROPPITCH（Proofpoint）及 UTA0388（Volexity）的威脅組織有所重疊；至少有一個案例顯示，用於註冊 ChatGPT 帳戶的電子郵件地址，據報也曾用來傳送網路釣魚郵件。
操作這些帳戶的威脅行動者呈現出符合中華人民共和國情報需求之網路行動的特徵：使用中文，並鎖定臺灣半導體產業、美國學術界與智庫，以及與批評中共的族群和政治團體有關的組織；這些團體有時被稱為「五毒」。
我們的模型並未帶來新的攻擊能力。這些操作者似乎主要使用我們的模型來逐步提升現有工作流程的效率，尤其是撰寫網路釣魚內容，以及偵錯或修改其工具。
行為
這些行動者使用 ChatGPT 執行兩項主要任務：以多種語言產生網路釣魚活動內容，包括簡體中文、繁體中文、英文及日文；以及協助開發工具與惡意軟體。他們的開發工作顯示，行動者具備一定技術能力，但手法並不成熟；例如，他們曾討論使用 AES 保護 C2 流量的多個面向與細節，卻仍採用簡單的靜態金鑰。
這些行動者用來建立網路釣魚內容的操作手冊詳盡且公式化，符合鎖定明確特定族群的做法。一般而言，他們會以學術界、業界或會議人士的身分，產生簡潔且正式有禮的電子郵件。這些威脅行動者經常要求調整語氣、將用詞改為地區慣用語，或加入特定機構的相關資訊。這些有針對性的微幅修改，顯示他們致力提升初稿品質；然而，威脅行動者未能修正部分會露出破綻的細節，例如簽名檔中不合情理的範例聯絡資料。
他們要求提供可加快例行作業的程式碼片段與檢查清單。他們要求提供程式碼，以測試供簡易信標式輪詢使用的加密傳輸（HTTPS、TLS）；草擬 Go 與 PowerShell 程式碼片段，用於列舉處理程序、依執行檔名稱終止程序或收集環境資訊；並將通用掃描工具整合至 bash／PowerShell 包裝指令碼。
他們也要求模型建議簡單的混淆及作業安全（OPSEC）微調方式，例如重新命名函式、調整標頭或隱藏字串。在多次工作階段中，他們逐步打造符合低至中度成熟惡意軟體特徵的基本命令與控制原型，包括保持連線迴圈、透過 HTTP(S) 下達最精簡的任務，以及以 JSON 為基礎的任務／結果封裝。
該行動者部分 Go 開發活動的實作細節，與業界針對 GOVERSHELL（Volexity）或 HealthKick（Proofpoint）惡意軟體的報告有所重疊，顯示他們曾嘗試利用模型支援其主要惡意軟體的開發。
除了身分設定與工具開發工作外，這些操作者也研究可透過 DeepSeek 進一步實現的自動化。這項活動類似於大規模網路釣魚自動化的探索工作，例如分析網頁內容，自動產生電子郵件目標名單，並為每個辨識出的潛在目標產生可能令其感興趣的內容。我們無法獨立確認這些行動者是否實際採用了任何這類自動化技術；若有，也無法確認他們最終使用了哪個模型。
產出
這些行動者試圖使用我們的模型規劃並反覆改進加密 C2 元件、遠端命令執行工作流程，以及配合在地文化調整的接觸內容；他們最重視的是速度與在地化，而非新的攻擊能力。他們產生的模型輸出，似乎旨在支援 OpenAI 平台以外多個作業領域的活動：
加密 C2 與遠端執行：要求草擬或修復 Go 用戶端—伺服器程式碼，功能包括 AES-GCM 等訊息加密、工作階段金鑰更新、系統資訊信標，以及可透過標準 Web 通訊協定或 WebSocket 通道發出 PowerShell 命令的伺服器主控台。
流量保護與 OPSEC 微調：相關要求包括提供程式碼，以支援從一般 WebSocket 改用安全 WebSocket（wss://），以及從 HTTP 改用 HTTPS；在部分測試中停用憑證檢查；透過 CDN／TLS 前端讓流量融入正常流量；並處理較大的訊息，同時避免用戶端當機。
偵察與處理程序控制：要求提供透過 PowerShell 探查防毒軟體、列舉處理程序的相關資訊，以及終止特定 Edge／WebView2 處理程序的方法。
通用掃描工具設定：要求說明如何在商用 Linux 基礎架構上安裝及使用 nuclei、fscan 等開放原始碼工具，並儲存結果供日後檢視。
網路釣魚與接觸內容：以多種語言為學術界或業界聯絡人撰寫具說服力的電子郵件，包括符合當地慣例的主旨與文風。
這些活動對應至 LLM ATT&CK 類別，包括 LLM 優化酬載製作、LLM 強化異常偵測規避、LLM 輔助入侵後活動、LLM 輔助偵察與探索，以及 LLM 輔助社交工程。
影響
我們已停用所有與這項活動相關的帳戶，並與業界合作夥伴分享相關指標。這些行動者主要希望逐步提升現有工作流程的效率，包括製作可直接寄送的網路釣魚郵件，以及縮短例行程式碼和自動化工作的反覆修改週期。我們未發現任何證據顯示，模型輸出帶來了超越已有充分公開紀錄之技術的能力；我們的模型並未帶來新的攻擊能力。他們試圖透過模型協助取得的行動手法優勢，來自語言流暢度、在地化與持續調整：可能減少語言錯誤、更快完成串接程式碼，並在發生問題時更迅速調整。