Operação cibernética: suporte a phishing e scripts

Este estudo de caso foi publicado originalmente no relatório de outubro de 2025⁠(abre em uma nova janela) da OpenAI.

Identificamos e banimos um conjunto de contas do ChatGPT envolvidas em atividades que coincidiam com relatos públicos sobre grupos de ameaças monitorados pelo setor como UNK_DROPPITCH (Proofpoint) e UTA0388 (Volexity). Em pelo menos um caso, o endereço de e-mail usado para cadastrar uma conta do ChatGPT também teria sido usado para enviar mensagens de phishing.

Os agentes de ameaças que operavam essas contas apresentavam características compatíveis com operações cibernéticas realizadas para atender a requisitos de inteligência da RPC: uso do idioma chinês e ataques direcionados ao setor de semicondutores de Taiwan, a universidades e think tanks dos EUA e a organizações ligadas a grupos étnicos e políticos críticos ao PCC, por vezes chamados de "cinco venenos".

Nosso modelo não introduziu novos recursos ofensivos. Os operadores parecem ter usado nossos modelos principalmente para obter ganhos graduais de eficiência em fluxos de trabalho existentes, sobretudo na criação de conteúdo de phishing e na depuração ou modificação de suas ferramentas.

Os agentes usaram o ChatGPT para realizar duas tarefas principais: gerar conteúdo para campanhas de phishing em vários idiomas, incluindo chinês simplificado e tradicional, inglês e japonês, e ajudar a desenvolver ferramentas e malware. O trabalho de desenvolvimento era compatível com o de um agente tecnicamente competente, mas pouco sofisticado. Por exemplo, eles discutiram vários aspectos e nuances do uso de AES para proteger o tráfego de C2, mas ainda usaram uma chave estática simples.

O método dos agentes para criar conteúdo de phishing era detalhado e baseado em fórmulas, condizente com ataques direcionados a um perfil demográfico bem definido. Normalmente, eles geravam um e-mail conciso e formalmente cortês, adotando a identidade de alguém do meio acadêmico, de uma empresa ou de uma conferência. Os agentes de ameaças frequentemente pediam ajustes de tom, a substituição de termos por variantes regionais ou a inclusão de referências institucionais específicas. Embora essas pequenas edições direcionadas indiquem um esforço coordenado para melhorar a qualidade do conteúdo inicial, os agentes de ameaças não corrigiram alguns indícios reveladores, como dados de contato fictícios pouco plausíveis incluídos nos blocos de assinatura.

Eles solicitaram trechos de código e listas de verificação que acelerassem tarefas rotineiras. Eles solicitaram código para testar transportes criptografados (HTTPS, TLS) em sondagens simples no estilo beacon; esboçaram trechos em Go e PowerShell para enumerar processos, encerrá-los pelo nome do executável ou coletar dados do ambiente; e integraram scanners comuns a wrappers de bash/PowerShell.

Eles também pediram ao modelo sugestões de ofuscação simples e pequenos ajustes de segurança operacional (OPSEC), como renomear funções, alterar cabeçalhos ou ocultar strings. Ao longo de várias sessões, avançaram rumo a protótipos básicos de comando e controle, compatíveis com malware de maturidade baixa a intermediária, incluindo loops de keep-alive, atribuição mínima de tarefas por HTTP(S) e envelopes de tarefas/resultados baseados em JSON.

Detalhes de implementação em algumas das atividades de desenvolvimento do agente com Go coincidem com relatos do setor sobre malwares monitorados como GOVERSHELL (Volexity) ou HealthKick (Proofpoint), indicando que eles usaram modelos para tentar apoiar o desenvolvimento de seu malware principal.

Paralelamente ao trabalho com identidades e ao desenvolvimento de ferramentas, os operadores pesquisaram outras formas de automação que poderiam ser realizadas com o DeepSeek. Essa atividade se assemelhava a um trabalho exploratório para automatizar phishing em massa, por exemplo, analisando conteúdo da web para gerar automaticamente uma lista de destinatários de e-mail, além de conteúdo que provavelmente interessaria a cada possível alvo identificado. Não podemos confirmar de forma independente se os agentes deram continuidade a alguma dessas automações nem qual modelo teriam usado, caso o tenham feito.

Os agentes tentaram usar nossos modelos para planejar e aprimorar componentes de C2 criptografados, fluxos de execução remota de comandos e abordagens adaptadas a contextos culturais, priorizando velocidade e localização em vez de novos recursos ofensivos. Eles geraram respostas do modelo aparentemente destinadas a apoiar atividades fora de nossa plataforma em várias áreas operacionais:

• C2 criptografado e execução remota: solicitações para elaborar ou corrigir código cliente-servidor em Go com criptografia de mensagens, como AES-GCM, renovação de chaves de sessão, beacons de informações do sistema e um console de servidor para emitir comandos do PowerShell por protocolos web padrão ou por um canal baseado em WebSocket.

• Proteção de tráfego e ajustes de OPSEC: as solicitações incluíam código para viabilizar a migração de WebSockets simples para WebSockets seguros (wss://) e de HTTP para HTTPS; desativar verificações de certificado em alguns testes; disfarçar o tráfego por meio de uma CDN/interface TLS; e processar mensagens maiores sem travar o cliente.

• Reconhecimento e controle de processos: solicitações de informações relacionadas à detecção de antivírus via PowerShell, à enumeração de processos e ao encerramento de processos específicos do Edge/WebView2.

• Configuração de scanners comuns: instruções para instalar e usar ferramentas de código aberto, como nuclei e fscan, em infraestrutura Linux comercial e salvar os resultados para análise posterior.

• Conteúdo de phishing e abordagem: elaboração de e-mails persuasivos em vários idiomas para contatos acadêmicos ou empresariais, incluindo assuntos e estilos adaptados às normas locais.

Essas atividades correspondem a categorias do LLM ATT&CK, incluindo LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery e LLM-Assisted Social Engineering.

Desativamos todas as contas associadas a essa atividade e compartilhamos os indicadores relevantes com parceiros do setor. Os agentes buscavam principalmente ganhos graduais de eficiência em fluxos de trabalho existentes, incluindo a produção de e-mails de phishing prontos para envio e ciclos de iteração mais curtos para código e automação de rotina. Não encontramos evidências de que as respostas do modelo tenham viabilizado recursos além de técnicas públicas amplamente documentadas; nosso modelo não introduziu novos recursos ofensivos. A vantagem operacional buscada com o auxílio do modelo vinha da fluência linguística, da localização e da persistência: provavelmente menos erros de idioma, código de integração produzido mais rapidamente e ajustes mais ágeis quando algo falhava.