本案例研究最初发表于 OpenAI 的 2025 年 2 月（在新窗口中打开）报告。
行为主体
我们封禁了一批账户，其活动可能与公开报道的朝鲜民主主义人民共和国（DPRK）相关威胁行为主体有关。其中一些账户开展的活动所涉及的战术、技术与程序（TTP），与名为 VELVET CHOLLIMA（又名 Kimsuky、Emerald Sleet）（在新窗口中打开）的威胁组织一致；另一些账户则可能与某个行为主体有关，可靠来源评估认为该主体与 STARDUST CHOLLIMA（又名 APT38、Sapphire Sleet）（在新窗口中打开）存在关联。我们在收到一家可信行业合作伙伴的线索后发现了这些账户。
行为
这些被封禁的账户主要利用我们的工具获取可能与网络入侵工具或行动有关的信息。它们还对加密货币相关主题表现出兴趣，这可能与牟利活动有关。这种兼具牟利和网络攻击性质的活动，是 DPRK 相关威胁组织的典型特征。
模型回复
这些行为主体使用我们的模型协助编程和调试，并研究与安全相关的开源代码。这包括协助调试和开发可用于远程桌面协议（RDP）暴力破解攻击的公开工具与代码，以及协助使用开源远程管理工具（RAT）。
在调试 macOS 的自动启动扩展点（ASEP）位置和技术时，该行为主体暴露了用于暂存二进制文件（已编译的可执行文件）的 URL；当时，这些文件似乎尚未被安全厂商识别。我们将这些暂存 URL 提交给在线扫描服务，以便与安全社区共享。如今，多家厂商已能可靠检测这些二进制文件，从而为潜在受害者提供保护。
以下活动示例已映射至此前为 MITRE ATT&CK® 框架（在新窗口中打开）提出的 LLM 主题扩展：
询问各种应用程序中的漏洞：LLM 辅助侦察。
开发和排查基于 C# 的 RDP 客户端，以实施暴力破解攻击：LLM 辅助开发。
索要绕过安全警告以实现未授权 RDP 访问的代码：LLM 辅助开发。
索要大量 PowerShell 脚本，用于建立 RDP 连接、上传和下载文件、从内存执行代码以及混淆 HTML 内容：LLM 增强型脚本技术；LLM 增强型异常检测规避。
讨论创建和部署经过混淆的载荷以供执行：LLM 优化型载荷构造。
寻找针对加密货币投资者和交易者开展定向网络钓鱼与社会工程攻击的方法，以及更通用的网络钓鱼内容：LLM 支持的社会工程。
编写网络钓鱼邮件和通知，诱使用户泄露敏感信息：LLM 支持的社会工程。
研究开源远程管理工具（RAT）：LLM 辅助的入侵后活动。
影响
该行为主体的提示和查询主要基于现有开源信息，而模型生成的回复要么没有提供任何新的能力，要么拒绝作答。我们封禁了与该威胁行为主体相关的账户，并与安全社区共享其载荷，以进一步阻断其行动。