Operação cibernética: apoio a phishing e criação de scripts

Este estudo de caso foi publicado originalmente no relatório da OpenAI de outubro de 2025⁠(abre numa nova janela).

Identificámos e banimos um conjunto de contas do ChatGPT envolvidas em atividades coincidentes com as de grupos de ameaça identificados publicamente pelo setor como UNK_DROPPITCH (Proofpoint) e UTA0388 (Volexity). Em pelo menos um caso, o endereço de e-mail usado para registar uma conta do ChatGPT terá também sido usado para enviar mensagens de phishing.

Os agentes de ameaça que operavam estas contas apresentavam características compatíveis com operações cibernéticas ao serviço dos requisitos dos serviços de informações da RPC: uso da língua chinesa e ataques dirigidos ao setor dos semicondutores de Taiwan, ao meio académico e aos grupos de reflexão dos EUA, bem como a organizações associadas a grupos étnicos e políticos críticos do PCC, por vezes descritos como os «cinco venenos».

O nosso modelo não introduziu novas capacidades ofensivas. Os operadores parecem ter usado os nossos modelos sobretudo para obter ganhos incrementais de eficiência nos fluxos de trabalho existentes, em especial na criação de conteúdos de phishing e na depuração ou modificação das suas ferramentas.

Os intervenientes usaram o ChatGPT para duas tarefas principais: gerar conteúdos para campanhas de phishing em vários idiomas, incluindo chinês simplificado e tradicional, inglês e japonês, e ajudar a desenvolver ferramentas e malware. O trabalho de desenvolvimento era compatível com um interveniente tecnicamente competente, mas pouco sofisticado. Por exemplo, debateram vários aspetos e nuances do uso de AES para proteger o tráfego de C2, mas continuaram a usar uma chave estática simples.

O método usado pelos intervenientes para criar conteúdos de phishing era detalhado e estereotipado, em linha com um ataque dirigido a um grupo demográfico muito específico. Normalmente, geravam um e-mail conciso e formalmente cortês, assumindo a identidade de alguém ligado ao meio académico, ao setor empresarial ou a uma conferência. Os agentes de ameaça pediam frequentemente para ajustar o tom, substituir termos por variantes regionais ou acrescentar referências institucionais específicas. Embora estas pequenas edições direcionadas sugiram um esforço concertado para melhorar a qualidade do conteúdo inicial, os agentes de ameaça não corrigiram alguns pormenores denunciadores, como dados de contacto fictícios pouco plausíveis incluídos nos blocos de assinatura.

Pediram excertos de código e listas de verificação que acelerassem tarefas rotineiras. Pediram código para testar transportes encriptados (HTTPS, TLS) destinados a consultas simples do tipo beacon; esboçaram excertos em Go e PowerShell para enumerar processos, terminá-los pelo nome do executável ou recolher dados do ambiente; e integraram scanners comuns em wrappers de bash/PowerShell.

Também pediram ao modelo que sugerisse pequenos ajustes de ofuscação e segurança operacional (OPSEC): mudar os nomes de funções, alterar cabeçalhos ou ocultar cadeias de texto. Ao longo de várias sessões, procuraram desenvolver protótipos básicos de comando e controlo compatíveis com malware de maturidade baixa a média, incluindo ciclos de keep-alive, atribuição mínima de tarefas por HTTP(S) e envelopes de tarefas/resultados baseados em JSON.

Os pormenores de implementação de algumas das atividades de desenvolvimento em Go coincidem com informações do setor sobre o malware identificado como GOVERSHELL (Volexity) ou HealthKick (Proofpoint), o que sugere que usaram modelos para tentar apoiar o desenvolvimento do seu malware principal.

Em paralelo com a criação destas identidades e o desenvolvimento de ferramentas, os operadores investigaram outras formas de automatização que poderiam concretizar através do DeepSeek. Esta atividade assemelhava-se a um trabalho exploratório para automatizar o phishing em massa, por exemplo, analisando conteúdos Web para gerar automaticamente uma lista de destinatários de e-mail e conteúdos suscetíveis de interessar a cada potencial alvo identificado. Não conseguimos confirmar de forma independente se os intervenientes avançaram com alguma destas formas de automatização nem, caso o tenham feito, que modelo acabaram por usar.

Os intervenientes tentaram usar os nossos modelos para planear e aperfeiçoar componentes de C2 encriptados, fluxos de trabalho de execução remota de comandos e contactos adaptados ao contexto cultural, privilegiando a rapidez e a localização em vez de novas capacidades ofensivas. Geraram respostas dos modelos que pareciam destinar-se a apoiar atividades fora da nossa plataforma em várias áreas operacionais:

• C2 encriptado e execução remota: pedidos para criar ou corrigir código cliente-servidor em Go com encriptação de mensagens, como AES-GCM, renovação de chaves de sessão, beacons com informações do sistema e uma consola de servidor para emitir comandos PowerShell através de protocolos Web padrão ou de um canal baseado em WebSocket.

• Proteção do tráfego e ajustes de OPSEC: os pedidos incluíam código para permitir a migração de WebSockets simples para WebSockets seguros (wss://) e de HTTP para HTTPS; desativar a verificação de certificados em alguns testes; dissimular o tráfego através de uma CDN ou de uma interface TLS; e processar mensagens maiores sem provocar falhas no cliente.

• Reconhecimento e controlo de processos: pedidos de informações relacionadas com a deteção de antivírus através do PowerShell, a enumeração de processos e a terminação de processos específicos do Edge/WebView2.

• Configuração de ferramentas comuns de análise: instruções para instalar e usar ferramentas de código aberto, como nuclei e fscan, numa infraestrutura Linux comercial e guardar os resultados para análise posterior.

• Conteúdos de phishing e contacto: redação, em vários idiomas, de e-mails persuasivos dirigidos a contactos do meio académico ou empresarial, incluindo assuntos e um estilo adaptados às normas locais.

Estas atividades correspondem a categorias LLM ATT&CK, incluindo criação de payloads otimizados por LLM, evasão à deteção de anomalias melhorada por LLM, atividade pós-comprometimento assistida por LLM, reconhecimento e descoberta assistidos por LLM e engenharia social assistida por LLM.

Desativámos todas as contas associadas a esta atividade e partilhámos os indicadores relevantes com parceiros do setor. Os intervenientes procuraram sobretudo ganhos incrementais de eficiência nos fluxos de trabalho existentes, incluindo a produção de e-mails de phishing prontos a enviar e ciclos de iteração mais curtos para código e automatizações de rotina. Não encontrámos indícios de que as respostas dos modelos tenham proporcionado capacidades além das técnicas públicas bem documentadas; o nosso modelo não introduziu novas capacidades ofensivas. A vantagem operacional procurada através da assistência dos modelos resultava da fluência linguística, da localização e da persistência: provavelmente menos erros linguísticos, criação mais rápida de código de integração e ajustes mais céleres quando algo falhava.