Manual do lado positivo: atividade de provável origem chinesa voltada a pessoas dos EUA

Este estudo de caso foi publicado originalmente no relatório da OpenAI de fevereiro de 2026⁠(abre em uma nova janela) sobre o combate a usos maliciosos de IA.

Banimos um pequeno grupo de contas do ChatGPT, provavelmente originárias da China, que usavam nossos modelos para solicitar informações sobre pessoas dos EUA, fóruns e localizações de prédios federais, obter orientações sobre software de troca de rostos e gerar e-mails em inglês que pareciam tentativas de engenharia social. Os usuários enviavam solicitações aos nossos modelos em chinês, estavam ativos principalmente durante o horário comercial da China continental e usavam VPNs para acessar nossa plataforma.

As contas geraram rascunhos de e-mails que se apresentavam como mensagens de funcionários de uma empresa sediada em Hong Kong chamada "Nimbus Hub Consulting". No entanto, as solicitações aos nossos modelos usavam caracteres do chinês simplificado (normalmente usados na China continental), e não do chinês tradicional (normalmente usados em Hong Kong), o que sugere que os operadores estavam, na verdade, na China continental. Além disso, uma conta gerou um e-mail se passando por um representante de uma organização de relações públicas sediada em Xangai que promove intercâmbios econômicos e culturais entre os EUA e Xangai. Como o nome da empresa faz referência a "Nimbus", que significa nuvem de chuva ou halo, chamamos essa operação de "Manual do lado positivo".

As contas geraram rascunhos de e-mails em inglês dirigidos a autoridades estaduais dos EUA ou a analistas de políticas que atuavam nas áreas de negócios e finanças. As mensagens pareciam convidar esses destinatários a participar de consultorias remuneradas, descritas como atividades de interpretação de políticas e aconselhamento estratégico para seus clientes. Os usuários pediam que os rascunhos de e-mails fossem concisos, claros e profissionais, com assuntos que criassem uma sensação de urgência e usassem estímulos psicológicos sutis.

Além disso, as contas do ChatGPT usaram nossos modelos para buscar informações gerais, e nosso modelo respondeu com base em fontes disponíveis publicamente. Isso incluiu consultas sobre os seguintes temas:

• A localização de repartições do governo federal dos EUA, incluindo suas sedes, e uma lista de estados ordenada pela concentração de órgãos e funcionários federais.

• Distribuição dos funcionários federais dos EUA por estado.

• Pessoas dos EUA, como apresentadores da Voz da América, incluindo suas entrevistas anteriores e temas de interesse.

• Fóruns e sites comumente usados por profissionais e pessoas em busca de emprego no setor de economia e finanças dos EUA.

Vale destacar que uma conta pediu orientações sobre como baixar e instalar no computador uma plataforma de manipulação facial chamada FaceFusion, usada para troca de rostos e outros aprimoramentos de mídia. Na atividade registrada no ChatGPT, os usuários declararam a intenção de usar especificamente o recurso de troca de rostos em tempo real. Pediram orientações de instalação passo a passo, sem linguagem técnica, e afirmaram ser iniciantes em programação, por isso as instruções precisavam ser simples. Enviaram uma captura de tela com as especificações de hardware do computador para auxiliar na instalação. O modelo respondeu com informações extraídas do site e da documentação do FaceFusion, disponíveis publicamente.

As instruções para gerar rascunhos de e-mails com nossos modelos se assemelhavam a um manual⁠(abre em uma nova janela) de engenharia social usado em abordagens de serviços de inteligência estrangeiros, e não a mensagens comuns de recrutamento. Para cada rascunho de e-mail, os usuários solicitavam as seguintes seções:

Estabelecer legitimidade: Apresentavam a "Nimbus Hub" como uma empresa profissional de consultoria estratégica com sólida expertise em geopolítica e políticas transnacionais. Incluíam um link para o site da Nimbus Hub (veja a captura de tela abaixo).

Personalizar e bajular o alvo: Instruíam o modelo a citar explicitamente a experiência do destinatário no setor público como prova de que ele era a pessoa ideal para a função. Em um caso, a conta enviou capturas de tela do perfil no LinkedIn de uma pessoa dos EUA que morava em Xangai e instruiu o modelo a personalizar o rascunho do e-mail com base nos textos das capturas sobre as experiências pessoais e a trajetória dessa pessoa.

Acumular incentivos: A oferta de consultoria costumava ser apresentada como uma oportunidade lucrativa de trabalho on-line, com bônus por desempenho e recompensas por indicação, mas sem esclarecer em que o trabalho realmente consistia.

Usar linguagem tranquilizadora e reduzir a percepção de risco: Frequentemente afirmavam que o trabalho era tranquilo, tinha pagamentos em dia e era confidencial.

Transferir rapidamente a comunicação para fora da plataforma: Sempre tentavam levar os destinatários do e-mail para uma primeira videoconferência por WhatsApp, Zoom ou Teams.

As interações dessas redes com os modelos, neste caso, não eram tecnicamente sofisticadas, e suas solicitações às vezes pareciam pedidos plausíveis de redação de convites de recrutamento ou de instalação legítima de software. No entanto, a tática dos usuários de se esconder atrás de uma identidade corporativa falsa e seu interesse em temas geopolíticos indicam uma possível intenção de recrutar pessoas para atividades hostis.

Com base no uso do ChatGPT por essas contas, não havia evidências de que os alvos tivessem respondido aos convites. Não conseguimos determinar de forma independente se os convites por e-mail foram de fato enviados ou se algum dos destinatários visados respondeu.

Diversos governos democráticos (por exemplo, EUA⁠(abre em uma nova janela), Reino Unido⁠(abre em uma nova janela) e Austrália⁠(abre em uma nova janela)) alertaram que serviços de inteligência estrangeiros estão tentando recrutar funcionários e ex-funcionários públicos, passando-se por empresas de consultoria e outras entidades em redes sociais e profissionais. Pode ser difícil distinguir mensagens comuns de recrutamento dessas abordagens direcionadas de engenharia social, pois elas compartilham algumas características. No entanto, contatos legítimos costumam ser estruturados para processos de seleção mais demorados e trazem informações verificáveis sobre o cargo, dados confiáveis sobre o empregador, faixas de remuneração compatíveis com o mercado e links para anúncios de vagas reais. Em resumo, se parece bom demais para ser verdade, provavelmente não é verdade.