本案例研究最初发表于 OpenAI 的2025 年 10 月（在新窗口中打开）报告。
行为主体
我们发现并封禁了一批 ChatGPT 账号，其参与的活动与公开报道中业内追踪为 UNK_DROPPITCH（Proofpoint）和 UTA0388（Volexity）的威胁组织存在重叠；据报道，至少有一个用于注册 ChatGPT 账号的电子邮件地址也曾被用于发送网络钓鱼邮件。
操控这些账号的威胁行为者呈现出与服务于中国情报需求的网络行动相符的特征：使用中文，并将目标对准台湾半导体行业、美国学术界和智库，以及与批评中共的族群和政治团体有关的组织。这些团体有时被称为“五毒”。
我们的模型并未带来新的攻击能力。这些操作者似乎主要利用我们的模型提升现有工作流的局部效率，尤其是编写网络钓鱼内容，以及调试或修改其工具。
行为
这些行为者使用 ChatGPT 完成两项主要任务：一是用多种语言生成网络钓鱼活动内容，包括简体中文、繁体中文、英语和日语；二是协助开发工具和恶意软件。他们的开发工作表明，其技术能力尚可，但手段并不高明。例如，他们讨论了使用 AES 保护 C2 流量的多个方面和细节，却仍然使用简单的静态密钥。
这些行为者用于创建网络钓鱼内容的行动手册详尽且程式化，表明其目标受众范围界定得十分具体。通常，他们会以学者、行业人士或会议代表的身份，生成简洁且措辞正式礼貌的电子邮件。这些威胁行为者经常要求调整语气、将用词替换为地区惯用表达，或加入对特定机构的提及。虽然这些有针对性的细微修改表明，他们在努力提高初始内容的质量，但威胁行为者未能纠正一些暴露破绽的细节，例如签名栏中不合常理的示例联系方式。
他们要求提供可加快日常任务处理速度的代码片段和检查清单。他们请求编写代码，以测试用于简单信标式轮询的加密传输（HTTPS、TLS）；设计用来枚举进程、按可执行文件名终止进程或收集环境详情的 Go 和 PowerShell 代码片段；并将常见扫描器接入 bash／PowerShell 包装脚本。
他们还要求模型提出简单的混淆和行动安全（OPSEC）改进建议，例如重命名函数、调整标头或隐藏字符串。在多次会话中，他们逐步构建与成熟度较低至中等的恶意软件相符的基础命令与控制原型，包括保活循环、通过 HTTP(S) 进行最低限度的任务下发，以及基于 JSON 的任务／结果封装。
该行为者的一些 Go 开发活动在实现细节上与业内关于 GOVERSHELL（Volexity）或 HealthKick（Proofpoint）恶意软件的报告存在重叠，表明他们曾尝试使用模型辅助开发其主要恶意软件。
在进行身份设定和工具开发的同时，这些操作者还研究了可通过 DeepSeek 实现的进一步自动化。这类活动类似于对大规模网络钓鱼自动化的探索，例如分析网页内容，自动生成电子邮件目标名单，同时为识别出的每个潜在目标生成可能令其感兴趣的内容。我们无法独立确认这些行为者是否实施了此类自动化；如果确有实施，也无法确认他们最终使用了哪个模型。
生成结果
这些行为者试图使用我们的模型规划并迭代加密 C2 组件、远程命令执行工作流和根据当地文化定制的外联内容；他们主要看重速度和本地化，而非获得新的攻击能力。他们生成的模型输出似乎意在支持其离开我们平台后在多个行动领域开展活动：
加密 C2 与远程执行：要求起草或修复 Go 客户端—服务器代码，加入 AES-GCM 等消息加密、会话密钥轮换、系统信息信标，以及可通过标准 Web 协议或基于 WebSocket 的通道下发 PowerShell 命令的服务器控制台。
流量保护与 OPSEC 调整：相关请求包括编写代码，以支持从普通 WebSocket 转向安全 WebSocket（wss://），以及从 HTTP 转向 HTTPS；在部分测试中禁用证书检查；通过 CDN／TLS 前端混淆流量；以及在不导致客户端崩溃的情况下处理更大的消息。
侦察与进程控制：请求提供与使用 PowerShell 发现防病毒软件、枚举进程以及终止特定 Edge／WebView2 进程有关的信息。
常见扫描工具配置：寻求操作指导，以便在商用 Linux 基础设施上安装和使用 nuclei、fscan 等开源工具，并保存结果供后续审查。
网络钓鱼与外联内容：以多种语言为学术界或行业联系人起草具有说服力的电子邮件，包括根据当地规范调整的主题行和写作风格。
这些活动对应多个 LLM ATT&CK 类别，包括 LLM 优化的载荷制作、LLM 增强的异常检测规避、LLM 辅助的入侵后活动、LLM 辅助的侦察与发现，以及 LLM 辅助的社会工程。
影响
我们停用了与这类活动有关的所有账号，并与行业合作伙伴分享了相关指标。这些行为者主要试图提升现有工作流的局部效率，包括制作可直接发送的网络钓鱼邮件，以及缩短日常代码和自动化任务的迭代周期。我们没有发现任何证据表明，模型输出带来了超出已有充分公开记录的技术之外的能力；我们的模型并未带来新的攻击能力。他们寻求通过模型辅助获得的技战术优势来自语言流畅度、本地化和持续调整能力：可能减少语言错误、更快编写粘合代码，并在出错时更迅速地调整。