此案例研究原載於 OpenAI 的2025 年 10 月（在新視窗中開啟）報告。
行動者
我們發現並封禁了一批 ChatGPT 帳戶。這些帳戶的韓語操作者試圖使用我們的模型開發惡意軟件及指揮與控制（C2）系統。我們在個案調查中觀察到的指標，與 Trellix 一份報告所述情況有所重疊。該報告把類似活動與針對南韓外交機構的魚叉式網絡釣魚活動、XenoRAT 惡意軟件的部署，以及使用 GitHub 儲存庫進行 C2 操作聯繫起來。
相關活動與 Trellix 報告所述情況有所重疊，包括使用韓語、活動時段與 UTC+8 及 UTC+9 時區相符，以及相似的行動模式和主題。這些特徵符合保安業界對北韓（DPRK）行動者的認知，但我們無法獨立判定其歸屬。此外，我們亦封鎖來自北韓的用戶存取我們的服務。
行為
這些帳戶主要以韓語與我們的模型互動，並採用結構化的工作流程，許多帳戶只在短暫而集中的時段內活躍。這些帳戶似乎各自專注於特定用途，而非由每個帳戶涉足多個技術領域，例如把 Chrome 擴充功能轉換為 Safari 版本以在 Apple App Store 發佈、設定 Windows Server VPN，或開發 macOS Finder 擴充功能。
我們觀察到他們與模型互動，內容包括 Windows API 掛鈎、存取瀏覽器憑證及 Cookie 的工作流程（DPAPI），以及仿冒 reCAPTCHA 等偽裝驗證頁面。我們亦發現以韓語撰寫的網絡釣魚電郵草稿，內容往往以加密貨幣為主題，並偽裝成政府機構或金融服務供應商發出的訊息。
此外，這些行動者亦試驗了 pCloud、file.io 等雲端儲存服務、建立 GDrive 直接連結及編寫 API 指令碼，以及 GitHub 的原始內容擷取和 Token 處理等功能。我們沒有發現任何證據，顯示 Trellix 所述活動使用的惡意二進制檔案是透過我們的模型生成。同一批操作者可能在透過開發者及雲端平台準備載荷的同時，亦使用我們的模型。
生成結果
威脅行動者生成的模型輸出旨在支援多個行動範疇，包括：
植入程式及類 RAT 開發：探索反射式 DLL 載入、記憶體內執行及 Windows API 掛鈎技術。
憑證盜竊程序：利用 Chrome／Edge DPAPI 工作流程，生成、修改及除錯指令碼，以擷取瀏覽器加密金鑰、Cookie 和已儲存的密碼。
網絡釣魚及誘餌：草擬疑似韓語網絡釣魚內容，主題通常涉及加密貨幣、政府機構或金融服務供應商；並試驗 HTML 混淆技術及代理 reCAPTCHA，以製作逼真的登入頁面。
macOS 開發框架：提出有關開發 Finder 和 Safari 擴充功能的要求，並生成 App Store 私隱政策範本。
加密貨幣操作：排查 API 呼叫及錢包互動問題。
這些要求中有許多屬於雙重用途活動的灰色地帶。這些活動可以有完全正當的用途，例如軟件除錯、密碼學或瀏覽器開發；但當威脅行動者將其改作其他用途時，意義便截然不同。
影響
我們已停用與這次行動有關的所有帳戶，並與合作夥伴分享相關指標。我們沒有發現任何證據，顯示模型存取權提供了公開資源以外的新能力。