本個案研究原載於 OpenAI 的 2025 年 10 月（在新視窗中開啟）報告。
行動者
我們發現並封禁了一批 ChatGPT 帳戶，這些帳戶涉及的活動與業界公開報道中追蹤為 UNK_DROPPITCH（Proofpoint）及 UTA0388（Volexity）的威脅組織有所重疊；至少有一宗個案顯示，用於註冊 ChatGPT 帳戶的電郵地址，據報亦曾用於發送網絡釣魚訊息。
操控這些帳戶的威脅行動者呈現出符合為中國情報需求服務的網絡行動特徵：使用中文，並以台灣半導體業、美國學術界及智庫，以及與批評中共的族群和政治團體相關的組織為目標；這些團體有時被稱為「五毒」。
我們的模型並未帶來新型攻擊能力。這些操作者似乎主要利用我們的模型，逐步提升現有工作流程的效率，尤其是編寫網絡釣魚內容，以及除錯或修改其工具。
行為
這些行動者使用 ChatGPT 執行兩項主要工作：為網絡釣魚活動製作多語言內容，包括簡體及繁體中文、英文和日文；以及協助開發工具和惡意程式。其開發工作顯示，行動者具備一定技術能力，但手法並不高明；例如，他們討論了使用 AES 保護 C2 流量的多個層面和細節，卻仍然使用簡單的靜態密鑰。
這些行動者用於製作網絡釣魚內容的操作手冊詳盡而公式化，顯示其目標是界定明確的特定群體。他們通常會以學者、業界人士或會議代表的身分，製作簡潔而正式有禮的電郵。這些威脅行動者經常要求調整語氣、改用符合地區習慣的用詞，或加入特定機構的資料。儘管這些針對性的細微修改顯示，他們曾刻意提升初稿質素，但威脅行動者仍未修正部分暴露破綻的細節，例如簽名欄中不合常理的示例聯絡資料。
他們要求提供可加快日常工作的程式碼片段和核對清單。他們要求提供程式碼，以測試用於簡單信標式輪詢的加密傳輸（HTTPS、TLS）；草擬 Go 及 PowerShell 程式碼片段，用於列舉程序、按可執行檔名稱終止程序，或收集環境資料；並將通用掃描器接入 bash／PowerShell 包裝指令碼。
他們亦要求模型提出簡單的混淆處理及行動安全（OPSEC）改進，例如重新命名函數、微調標頭或隱藏字串。在多個對話中，他們逐步開發符合低至中等成熟度惡意程式特徵的基本命令與控制原型，包括保持連線迴圈、透過 HTTP(S) 下達最低限度的任務，以及以 JSON 為基礎的任務／結果封裝。
該行動者部分以 Go 為基礎的開發活動，其實作細節與業界對 GOVERSHELL（Volexity）或 HealthKick（Proofpoint）惡意程式的報道有所重疊，顯示他們曾嘗試利用模型支援主要惡意程式的開發。
除建立人物身分及開發工具外，這些操作者亦研究可透過 DeepSeek 進一步實現的自動化功能。這些活動類似於自動化大規模網絡釣魚的探索工作，例如分析網頁內容，自動建立電郵目標名單，並為每個已識別的潛在目標製作可能引起其興趣的內容。我們無法獨立確認這些行動者是否曾推行任何此類自動化方案；即使有，也無法確認他們最終使用了哪個模型。
輸出結果
這些行動者嘗試利用我們的模型規劃及反覆改進加密 C2 元件、遙距命令執行工作流程，以及按文化背景調整的接觸內容；其重點在於速度和本地化，而非取得新的攻擊能力。他們生成的模型輸出，似乎旨在支援 OpenAI 平台以外多個行動領域的活動：
加密 C2 及遙距執行：要求草擬或修復 Go 客戶端—伺服器程式碼，加入 AES-GCM 等訊息加密、工作階段重新產生密鑰、系統資料信標，以及可透過標準網絡協定或 WebSocket 通道發出 PowerShell 命令的伺服器主控台。
流量保護及 OPSEC 調整：要求提供程式碼，以支援由普通 WebSocket 轉用安全 WebSocket（wss://），以及由 HTTP 轉用 HTTPS；在部分測試中停用憑證檢查；透過 CDN／TLS 前端混入正常流量；並處理較大型訊息而不會令客戶端崩潰。
偵察及程序控制：要求提供與透過 PowerShell 偵測防毒軟件、列舉程序，以及終止特定 Edge／WebView2 程序相關的資料。
通用掃描工具設定：要求提供操作指引，以便在商用 Linux 基礎設施上安裝及使用 nuclei、fscan 等開源工具，並儲存結果供日後檢視。
網絡釣魚及接觸內容：以多種語言草擬具說服力的電郵，寄給學術界或業界聯絡人，包括按當地慣例調整的主旨和文體。
這些活動對應多個 LLM ATT&CK 類別，包括 LLM 優化載荷製作、LLM 增強型異常偵測規避、LLM 輔助入侵後活動、LLM 輔助偵察與發現，以及 LLM 輔助社交工程。
影響
我們已停用所有與這些活動相關的帳戶，並與業界合作夥伴分享相關指標。這些行動者主要希望逐步提升現有工作流程的效率，包括製作可直接發送的網絡釣魚電郵，以及縮短日常程式碼和自動化工作的反覆修改週期。我們沒有發現任何證據顯示，模型輸出帶來了超越公開文獻所詳載技術的能力；我們的模型並未帶來新型攻擊能力。他們尋求透過模型協助取得的技術優勢，來自語言流暢度、本地化及持續修正能力：這很可能減少語言錯誤、加快編寫整合程式碼，並在出現問題時更迅速作出調整。