Operação "Falso Testemunho": falso serviço de recuperação de valores se passa por autoridades
A OpenAI baniu contas muito provavelmente originadas no Camboja que usavam IA para se passar por serviços de recuperação de valores, escritórios de advocacia e autoridades, visando vítimas de fraude.
Este estudo de caso foi publicado originalmente no relatório de fevereiro de 2026(abre em uma nova janela) da OpenAI sobre o combate ao uso mal-intencionado de IA.
Responsáveis
Banimos um grupo de contas do ChatGPT que usavam nossos modelos para se passar por escritórios de advocacia fictícios, além de advogados reais e autoridades policiais dos EUA, em um golpe de recuperação de valores voltado a vítimas de fraude. Essa atividade muito provavelmente se originou no Camboja e condiz com reportagens recentes sobre operações criminosas de golpes lideradas por chineses no país.
Comportamento
As contas usavam o ChatGPT para apoiar uma operação fraudulenta de recuperação de valores perdidos em golpes, baseada em escritórios de advocacia falsos e na apropriação da identidade de pessoas e instituições confiáveis, como advogados reais e o Centro de Denúncias de Crimes na Internet (IC3) do FBI.
1. Contato: Os golpistas usavam o ChatGPT para criar conteúdo que supostamente vinha de pelo menos seis escritórios de advocacia falsos. Parte desse conteúdo era então publicada por contas em redes sociais e em anúncios on-line que promoviam serviços fictícios de recuperação de valores perdidos em golpes. Diversos indícios em fontes abertas sugeriam que os escritórios eram fraudulentos, incluindo a ausência de comprovação de registro na ordem estadual de advogados, o uso de domínios da web incompatíveis, endereços físicos aparentemente inexistentes nos dados de contato e orientações para contatar advogados por aplicativos de mensagens.
Os golpistas usavam nossos modelos para gerar conteúdo para redes sociais que promovia falsos serviços de recuperação de valores perdidos em golpes.
2. Persuasão: Os golpistas tentavam ganhar a confiança de seus alvos gerando comentários que buscavam imitar o tom e o profissionalismo de advogados especializados em ajudar vítimas de golpes a recuperar valores perdidos. Eles geravam conteúdo atribuído a identidades fictícias de advogados. Identificamos algumas dessas identidades em vários sites, nos quais as fotos de perfil aparentemente haviam sido retiradas de redes sociais ou geradas por IA. Em alguns casos, o golpista reutilizava as mesmas identidades de "advogados" em vários supostos escritórios de advocacia. Um dos sites que identificamos se passava pelo IC3.
Os dados de contato publicados nesses diversos sites fraudulentos direcionavam os visitantes a aplicativos de mensagens privadas, como o Telegram. Em mensagens aos alvos redigidas com o ChatGPT, os golpistas alegavam falsamente atuar sob a supervisão do Tribunal Penal Internacional e diziam que nenhuma taxa seria cobrada até que todos os valores da vítima fossem recuperados com sucesso.
3. Golpe: Os golpistas tentavam obter dinheiro dos alvos solicitando taxas e depósitos antes de qualquer "recuperação". Isso incluía orientar os alvos a pagar uma "taxa de serviço" de 15% antes de receber os valores supostamente recuperados, solicitar depósitos para ativar uma conta e cobrar "taxas de consulta". As mensagens dos golpistas aos alvos, redigidas com o ChatGPT, incluíam instruções para enviar pagamentos em criptomoedas e fornecer capturas de tela das confirmações de transação como comprovantes de pagamento.
Um site que se passa pela unidade IC3 do FBI e está ligado a esse golpe. Ao clicar em "registrar uma denúncia", os visitantes eram direcionados a uma conta no Telegram que também usava essa identidade indevidamente.
Execução
A operação usava nossos modelos para apoiar várias etapas de seu fluxo de trabalho, como gerar conteúdo promocional para redes sociais e mensagens de abordagem não solicitadas aos alvos. No entanto, o uso mais comum do ChatGPT pelos golpistas era traduzir mensagens enviadas e recebidas dos alvos em aplicativos de mensagens privadas, incluindo pedidos para escrever uma resposta em "inglês americano" ou no estilo de um advogado.
Algumas das contas envolvidas no golpe também usavam nossos modelos para criar materiais enganosos destinados a reforçar sua credibilidade. Isso incluía registros profissionais e carteiras de filiação à ordem de advogados falsos, além de acordos de confidencialidade fraudulentos para desencorajar as vítimas a buscar ajuda externa.
Uma carteira falsa de filiação à Associação de Advogados do Estado de Nova York, gerada com nossos modelos. Informações ocultadas pelos investigadores da OpenAI.
Impacto
A avaliação do impacto exige cautela, pois uma das principais fontes de evidências são os próprios textos inseridos pelos golpistas. Esses textos sugerem que os golpistas podem ter tirado milhares de dólares de vítimas individuais, mas não podemos verificar essas alegações de forma independente. O FBI e pelo menos um escritório de advocacia cuja identidade foi usada indevidamente emitiram alertas públicos sobre esse golpe. Autoridades do FBI alertaram que a operação visa públicos vulneráveis, principalmente idosos, explorando o estado emocional das vítimas de golpes e seu desejo de recuperar rapidamente os valores perdidos.
As políticas da OpenAI proíbem rigorosamente o uso de conteúdo gerado por nossas ferramentas para fraudes ou golpes. Estamos empenhados em colaborar com outras empresas do setor e com as autoridades para entender como a IA está influenciando o comportamento de agentes mal-intencionados e para interromper ativamente golpes que abusam de nossos serviços.