Agentes de ameaças cibernéticas: pesquisa de intrusão assistida por IA

Este estudo de caso foi publicado originalmente no relatório da OpenAI de fevereiro de 2025⁠(abre em uma nova janela).

Banimos contas que apresentavam atividades possivelmente associadas a agentes de ameaças ligados à República Popular Democrática da Coreia (RPDC), identificados em relatos públicos. Algumas dessas contas realizaram atividades envolvendo TTPs compatíveis com um grupo de ameaças conhecido como VELVET CHOLLIMA (também conhecido como Kimsuky e Emerald Sleet)⁠(abre em uma nova janela), enquanto outras contas estavam possivelmente relacionadas a um agente que, segundo a avaliação de uma fonte confiável, tinha vínculos com o STARDUST CHOLLIMA (também conhecido como APT38 e Sapphire Sleet)⁠(abre em uma nova janela). Detectamos essas contas após recebermos uma denúncia de um parceiro confiável do setor.

As contas banidas usavam nossas ferramentas principalmente para buscar informações provavelmente relacionadas a ferramentas ou operações de invasão cibernética. Elas também demonstraram interesse em temas relacionados a criptomoedas, provavelmente em conexão com atividades motivadas por ganhos financeiros. Essa combinação de atividades financeiras e cibernéticas é típica de grupos de ameaças associados à RPDC.

Os agentes usaram nossos modelos para obter auxílio na programação e na depuração, além de pesquisar códigos de fonte aberta relacionados à segurança. Isso incluiu auxílio na depuração e no desenvolvimento de ferramentas e códigos disponíveis publicamente que poderiam ser usados em ataques de força bruta contra o Protocolo de Área de Trabalho Remota (RDP), bem como orientações sobre o uso de ferramentas de administração remota (RATs) de código aberto.

Ao depurar locais e técnicas de pontos de extensibilidade de inicialização automática (ASEP) para MacOS, o agente revelou URLs de preparação de binários (arquivos executáveis compilados) que, na época, pareciam ser desconhecidos pelos fornecedores de segurança. Enviamos as URLs de preparação a um serviço de verificação on-line para facilitar o compartilhamento com a comunidade de segurança. Agora, os binários são detectados de forma confiável por diversos fornecedores, oferecendo proteção a possíveis vítimas.

Veja abaixo uma amostra de atividades mapeadas para extensões relacionadas a LLM propostas anteriormente para a estrutura MITRE ATT&CK^®⁠(abre em uma nova janela):

• Perguntas sobre vulnerabilidades em diversos aplicativos: reconhecimento orientado por LLM.

• Desenvolvimento e solução de problemas de um cliente RDP baseado em C# para viabilizar ataques de força bruta: desenvolvimento auxiliado por LLM.

• Solicitação de código para contornar alertas de segurança e obter acesso não autorizado via RDP: desenvolvimento auxiliado por LLM.

• Solicitação de diversos scripts do PowerShell para conexões RDP, upload e download de arquivos, execução de código na memória e ofuscamento de conteúdo HTML: técnicas de scripting aprimoradas por LLM; evasão da detecção de anomalias aprimorada por LLM.

• Discussão sobre a criação e a implantação de cargas úteis ofuscadas para execução: criação de cargas úteis otimizada por LLM.

• Busca de métodos para realizar phishing direcionado e engenharia social contra investidores e operadores de criptomoedas, além de conteúdo de phishing mais genérico: engenharia social apoiada por LLM.

• Criação de e-mails e notificações de phishing para manipular usuários e fazê-los revelar informações confidenciais: engenharia social apoiada por LLM.

• Pesquisa de ferramentas de administração remota (RATs) de código aberto: atividade pós-comprometimento assistida por LLM.

Os prompts e as consultas do agente se baseavam principalmente em informações de código aberto já existentes, e os resultados gerados pelo modelo não ofereciam nenhuma capacidade nova ou eram recusas de resposta. Banimos as contas associadas ao agente de ameaça e compartilhamos suas cargas úteis com a comunidade de segurança para dificultar ainda mais suas operações.