本案例研究最初刊載於 OpenAI 的2025 年 10 月(在新視窗中開啟)報告。
行動者
我們發現並封鎖了一批 ChatGPT 帳戶；其韓語使用者曾試圖利用我們的模型進行惡意軟體及指揮與控制（C2）開發。我們在調查中觀察到的指標與 Trellix 的報告有所重疊；該報告將類似活動與針對南韓外交機構的魚叉式網路釣魚行動、XenoRAT 惡意軟體的部署，以及使用 GitHub 儲存庫進行 C2 活動連結起來。
這些活動與 Trellix 報告描述的情況有所重疊，包括使用韓語、活動時間符合 UTC+8 與 UTC+9 時區，以及相似的行動主題與議題；這些特徵符合資安社群對北韓（DPRK）行動者的認知。然而，我們無法獨立判定其歸屬，而且我們也禁止從北韓存取我們的服務。
行為
這些帳戶主要以韓語與我們的模型互動，呈現出結構化的工作流程，且許多帳戶僅在短暫的特定時段內活躍。這些帳戶似乎各自專注於特定用途，例如將 Chrome 擴充功能轉換成 Safari 版本以發布至 Apple App Store、設定 Windows Server VPN，或開發 macOS Finder 擴充功能，而非由每個帳戶橫跨多個技術領域。
我們觀察到他們與模型互動的內容包括 Windows API 掛鉤、存取瀏覽器憑證與 Cookie 的工作流程（DPAPI），以及仿冒 reCAPTCHA 等以假亂真的驗證頁面。我們也發現以韓語撰寫的網路釣魚郵件草稿，內容通常以加密貨幣為主題，並偽裝成政府或金融服務供應商發出的訊息。
此外，這些行動者還試用 pCloud、file.io 等雲端儲存服務、GDrive 直接連結建立與 API 指令碼，以及 GitHub 的原始內容擷取和 Token 處理等功能。我們並未發現任何證據顯示，Trellix 所述行動中使用的惡意二進位檔是透過我們的模型生成。同一批操作者可能一邊使用我們的模型，一邊透過開發者與雲端平台部署酬載。
生成結果
威脅行動者生成了旨在支援多個行動領域的模型輸出，包括：
植入程式及類 RAT 開發：探索反射式 DLL 載入、記憶體內執行及 Windows API 掛鉤技術。
憑證竊取程序：生成、修改及偵錯指令碼，透過 Chrome／Edge 的 DPAPI 工作流程擷取瀏覽器加密金鑰、Cookie 與已儲存的密碼。
網路釣魚與誘餌：撰寫疑似韓語網路釣魚內容，通常以加密貨幣、政府機構或金融服務供應商為主題；並試驗 HTML 混淆及 reCAPTCHA 代理轉送，以製作逼真的登入頁面。
macOS 開發框架：提出 Finder 與 Safari 擴充功能開發相關要求，並生成 App Store 隱私權政策範本。
加密貨幣操作：排解 API 呼叫與錢包互動問題。
其中許多要求屬於雙重用途活動的灰色地帶。這些技術可用於軟體偵錯、密碼學或瀏覽器開發等完全正當的用途，但經威脅行動者改作他用後，意義便截然不同。
影響
我們已停用與此次行動相關的所有帳戶，並與合作夥伴分享相關指標。我們未發現任何證據顯示，存取模型讓這些行動者獲得了超越現有公開資源的新能力。