Operações de golpe: redes de fraude on-line

Este estudo de caso foi publicado originalmente no relatório da OpenAI de outubro de 2025⁠(abre em uma nova janela).

Redes provavelmente originárias do Camboja, de Mianmar e da Nigéria vêm usando o ChatGPT de forma indevida em aparentes tentativas de cometer fraudes on-line.

Temos o compromisso de identificar, prevenir e interromper tentativas de usar nossos modelos indevidamente para fins nocivos. Entre esses abusos estão os golpes, em que detectamos e banimos agentes mal-intencionados que tentam usar nossos modelos para enganar e fraudar pessoas. Nos últimos três meses, interrompemos redes de golpes provavelmente originárias do Camboja, de Mianmar e da Nigéria. Como indício do papel que a IA pode desempenhar no combate à fraude, ao investigar esses padrões de abuso, também vimos muitas pessoas usando nossos modelos para ajudá-las a identificar golpes. Este relatório aborda os dois casos de uso.

O uso indevido de nossos modelos para viabilizar golpes vai de agentes isolados tentando cometer fraudes a operações persistentes e em grande escala, provavelmente ligadas a grupos do crime organizado. Independentemente da origem e das táticas específicas, as atividades relacionadas a golpes que interrompemos geralmente seguem um padrão comum, que chamamos de abordagem (contato não solicitado), persuasão (tentativa de gerar entusiasmo ou pânico) e bote (obtenção de dinheiro ou informações valiosas).

Esses golpistas começam disseminando conteúdo, gerado por IA ou não, em serviços de mensagens e na internet, inclusive por meio de anúncios em redes sociais. Em seguida, tentam despertar em quem responde o entusiasmo por uma oportunidade lucrativa ou o medo de uma perda financeira iminente e exploram essa emoção para convencer o alvo a entregar dinheiro ou informações confidenciais.

Também observamos muitos casos em que nossos modelos provavelmente ajudaram a proteger pessoas contra fraudes. Vimos evidências de pessoas usando o ChatGPT milhões de vezes por mês para identificar e evitar golpes on-line. Em todas as operações de golpe deste relatório, vimos o modelo ajudar pessoas a identificar corretamente o golpe e orientá-las sobre medidas de segurança adequadas. Nossa estimativa atual é que o ChatGPT seja usado para identificar golpes com uma frequência até três vezes maior do que para aplicá-los.

Exemplo de um investigador da OpenAI colando no ChatGPT uma captura de tela de uma mensagem SMS fraudulenta que recebeu e usando o modelo com sucesso para identificá-la como golpe. Nesse caso, os agentes da ameaça tentaram se passar por recrutadores do TikTok.

Desde nosso último relatório, reforçamos nossa capacidade de detectar e interromper golpes. Interrompemos outras redes de golpes que pareciam se originar no Camboja, em Mianmar e na Nigéria. Em conjunto com nossas intervenções anteriores, essas desativações nos permitem identificar algumas tendências emergentes em diversas operações de golpe de diferentes países.

A maior parte das atividades de golpe que interrompemos consistia em incorporar a IA a métodos já existentes, em vez de criar novos métodos centrados na IA. Todas as operações de golpe que identificamos e banimos neste ano usaram a IA principalmente como ferramenta de escala e eficiência. Isso geralmente incluía o uso de nossos modelos para traduzir, redigir mensagens e criar conteúdo para redes sociais.

Por exemplo, recentemente banimos operações de golpe provavelmente originárias do Camboja e da Nigéria que se passavam por "empresas de investimento" na tentativa de fraudar vítimas em vários países. Os golpistas criaram sites e anúncios on-line para promover as empresas falsas e usaram contas provavelmente inautênticas em redes sociais, que se passavam por especialistas em negociação, para convidar pessoas a participar de grupos privados de mensagens. Prometendo oportunidades de ganhos lucrativos e sem risco, os agentes da ameaça tentavam induzir possíveis vítimas a fazer pagamentos em plataformas fictícias de negociação. Em todos os golpes, os golpistas usaram nossos modelos principalmente para gerar e traduzir correspondências, criar conteúdo para seus sites e contas em redes sociais e realizar pesquisas básicas.

Em outro caso, banimos uma central de golpes muito provavelmente localizada em Mianmar que usava nossos modelos tanto para gerar conteúdo para seus esquemas fraudulentos quanto para realizar tarefas administrativas cotidianas. Isso incluía organizar horários, redigir comunicados internos, distribuir mesas de trabalho e vagas em dormitórios e gerenciar contas financeiras. Alguns operadores perguntaram sobre as penas criminais aplicadas a pessoas flagradas cometendo golpes on-line.

Nem todos os golpistas que impedimos usavam nossos modelos da mesma forma ou com o mesmo grau de complexidade. A maioria das interações dos golpistas com o ChatGPT envolvia tarefas relativamente simples, como tradução, mas algumas operações de golpe eram mais ambiciosas e elaboradas.

Por exemplo, uma operação de golpe que interrompemos, provavelmente originária do Camboja, usou nossos modelos para gerar biografias detalhadas de falsos especialistas em investimentos e funcionários fictícios de falsas empresas de negociação. Em seguida, os golpistas pediram ao ChatGPT que escrevesse mensagens para redes sociais com a voz desses personagens. Com frequência, os agentes da ameaça inseriam em nosso modelo mensagens que pareciam ter recebido de seus alvos e pediam ao modelo que continuasse a conversa como o personagem falso.

Uma segunda operação de golpe, também provavelmente originária do Camboja, começou usando nossos modelos para gerar mensagens SMS de contato não solicitado, enviadas em massa a números de telefone dos EUA. Uma dessas mensagens foi enviada a um investigador da OpenAI, em um caso semelhante ao que relatamos em junho. Essas mensagens SMS incluíam convites para participar de grupos do WhatsApp, posteriormente banidos, cujos nomes se assemelhavam ao de uma empresa de investimentos legítima.

Com base em uma série de mensagens do WhatsApp enviadas ao investigador da OpenAI, se um possível alvo entrasse em um desses grupos, logo presenciaria uma "conversa" entre cerca de seis contas diferentes, todas falando sobre investimentos. Uma delas se passava pelo "especialista em investimentos", enquanto as demais se passavam por investidores com diferentes níveis de confiança e experiência. Toda essa conversa era gerada pelos golpistas, que a traduziam de uma só vez do chinês, provavelmente para criar a impressão de um grupo dinâmico de investidores entusiasmados e bem-sucedidos. Por fim, o "especialista em investimentos" sugeria que o alvo também tentasse investir.

Separadamente, uma operação de fraude de investimentos muito provavelmente originária da Nigéria pediu ao modelo orientações passo a passo sobre como usar anúncios em redes sociais para alcançar pessoas ricas na América Latina, ocultar sua localização e contornar restrições das plataformas de redes sociais. Para isso, direcionavam o modelo aos termos de serviço públicos de uma plataforma e pediam que avaliasse se o conteúdo proposto para o anúncio estava em conformidade.

Golpistas, especialmente os de grandes centrais de golpes, são persistentes. Muitas vezes, eles reagem às intervenções tentando retomar as atividades que violam nossas políticas, mas alteram alguns aspectos do comportamento, provavelmente para evitar novas detecções. Essa é uma das razões pelas quais é importante compartilhar com o setor informações sobre a evolução dessas atividades, como ocorreu quando a OpenAI e a Meta compartilharam, cada uma, informações sobre agentes de ameaças que contribuíram para novas investigações e medidas de fiscalização.

Possivelmente em resposta às intervenções ou a discussões mais amplas na internet sobre sinais que podem revelar o uso de IA, vimos golpistas tentarem disfarçar o uso de IA em conteúdo on-line e nas comunicações com seus alvos. Isso inclui operações de golpe provavelmente originárias do Camboja que orientavam o modelo a remover travessões das respostas.

Em um caso, os golpistas tentaram explicar uma desativação em grande escala de seus ativos em redes sociais inventando uma desculpa para o banimento. O caso envolvia a central de golpes provavelmente originária do Camboja descrita acima, que operava por SMS e WhatsApp. Depois que o WhatsApp baniu os "grupos de investimento" ligados à operação, os operadores começaram a gerar mensagens alegando que esses grupos haviam sido denunciados injustamente por um concorrente, provavelmente para justificar os banimentos.

Captura de tela de uma mensagem do WhatsApp enviada a um investigador da OpenAI pela operação de golpe ligada ao Camboja após a desativação realizada pelo WhatsApp.