Operação cibernética: ferramentas de malware de agentes russófonos
A OpenAI baniu contas provavelmente ligadas a grupos criminosos russófonos que usavam IA para criar carregadores de malware, camadas de evasão, scripts de roubo de credenciais e infraestrutura de C2.
Este estudo de caso foi publicado originalmente no relatório de outubro de 2025(abre em uma nova janela) da OpenAI.
Agente
Banimos contas do ChatGPT que tentavam usar o modelo para ajudar a desenvolver e aperfeiçoar malware, incluindo um trojan de acesso remoto, ladrões de credenciais e recursos para evitar a detecção. Essas contas parecem estar associadas a grupos criminosos russófonos, pois observamos a publicação de evidências de suas atividades em um canal do Telegram dedicado a esses agentes. Com base em nossa investigação, avaliamos que essa atividade estava ligada a um operador de língua russa que gerenciava várias contas e usava proxies e infraestrutura de hospedagem efêmera.
Comportamento
Esse agente de ameaça usou várias contas do ChatGPT principalmente para criar protótipos e solucionar problemas de componentes técnicos que viabilizam ações pós-exploração e roubo de credenciais, atividades bem conhecidas desse tipo de agente. O modelo recusou solicitações diretas para gerar conteúdo malicioso. Assim, o uso típico do modelo pelo operador consistia em obter componentes de código, como a conversão de executáveis compilados em shellcode, o desenvolvimento de carregadores em memória ou a análise de credenciais de navegadores, que o agente de ameaça provavelmente reuniu em fluxos de trabalho maliciosos.
O agente de ameaça também usou nossos modelos para gerar código de ofuscação e padrões de "crypter", como inserção de instruções de preenchimento e sequências inúteis, monitoramento da área de transferência e utilitários simples de exfiltração, como um bot do Telegram para uploads e scripts de compactação e envio. Esses resultados não são inerentemente maliciosos, a menos que sejam usados dessa forma por um agente de ameaça fora de nossa plataforma.
O agente de ameaça usou o ChatGPT sobretudo para tarefas técnicas, como PE / API Win32 em baixo nível, manipulação de cookies com DPAPI / AES-GCM e automação do Chrome DevTools / CDP. O agente de ameaça fez solicitações de diferentes níveis de sofisticação: muitos prompts exigiam conhecimento profundo da plataforma Windows e depuração iterativa, enquanto outros automatizavam tarefas comuns, como geração de senhas em massa e candidaturas de emprego por script. O operador usou um pequeno número de contas do ChatGPT e aprimorou o mesmo código ao longo de várias conversas, um padrão compatível com desenvolvimento contínuo, e não com testes ocasionais.
Respostas
Nossos modelos não foram usados para executar ferramentas nem fluxos de trabalho de agentes de ameaça, e não podemos verificar de forma independente nenhuma atividade fora da plataforma. Esse agente de ameaça tentou usar nossos modelos para desenvolver e aperfeiçoar ferramentas ofensivas e fluxos de trabalho operacionais que parecem viabilizar o roubo de credenciais e criptoativos, a execução furtiva de código e o gerenciamento de infraestrutura clandestina.
Especificamente, usou o ChatGPT para gerar e aprimorar código funcional e orientações de implantação para execução em memória e carregadores de shellcode; formas de contornar UAC / SmartScreen / Mark-of-the-Web; estruturas-base para extração de credenciais / cookies de navegadores e descriptografia vinculada a aplicativos; análise de carteiras em LevelDB e ferramentas para sequestro / substituição da área de transferência com exfiltração; e componentes de acesso remoto (RAT), incluindo vídeo e emulação de entrada. Em conformidade com suas salvaguardas, nossos modelos recusaram solicitações claramente maliciosas e sem nenhuma aplicação legítima.
Exemplos representativos dessas atividades podem ser mapeados para o framework LLM ATT&CK da seguinte forma:
Atividade | Categoria do framework LLM ATT&CK |
|---|---|
Conversão de EXEs em shellcode independente de posição; criação de carregadores em memória (VirtualAlloc / WriteProcessMemory / thread remota); conversões entre linguagens para cadeias de ferramentas de carregadores. | Criação de payloads otimizada por LLM |
Inserção de camadas de ofuscação / compactadores, crypters e técnicas provavelmente criadas para alterar assinaturas PE ou ocultar payloads de soluções AV/EDR de outras formas. | Evasão da detecção de anomalias aprimorada por LLM |
Geração de scripts e código programático provavelmente criados para extrair / descriptografar credenciais e cookies de navegadores, analisar bancos LevelDB de carteiras, monitorar ou substituir o conteúdo da área de transferência e exfiltrar dados por canais de bots, como o Telegram. | Atividade pós-comprometimento assistida por LLM |
Criação e aprimoramento de infraestrutura de C2 e tunelamento, incluindo proxies reversos, configurações de SOCKS5 / OpenVPN, tunelamento de área de trabalho remota e orientações de depuração / implantação para streaming remoto e emulação de entrada. | Caracterização de infraestrutura orientada por LLM |
Impacto
Desativamos todas as contas associadas a essa atividade e compartilhamos os indicadores relevantes com parceiros do setor. Não encontramos evidências de que o acesso aos nossos modelos tenha proporcionado a esses agentes novas capacidades ou orientações que eles não pudessem obter de diversas fontes disponíveis publicamente. Nossos modelos recusaram solicitações diretas de exploits e keyloggers.