Operações de burla: redes de fraude online

Este estudo de caso foi originalmente publicado no relatório de outubro de 2025⁠(abre numa nova janela) da OpenAI.

Redes provavelmente oriundas do Camboja, de Mianmar e da Nigéria abusaram do ChatGPT no que parecem ser tentativas de defraudar pessoas online.

Estamos empenhados em identificar, prevenir e impedir tentativas de utilização abusiva dos nossos modelos para fins prejudiciais. Entre esses abusos estão as burlas, no âmbito das quais detetamos e banimos agentes mal-intencionados que tentam utilizar indevidamente os nossos modelos para enganar e defraudar pessoas. Nos últimos três meses, desmantelámos redes de burlas provavelmente oriundas do Camboja, de Mianmar e da Nigéria. Numa demonstração do papel que a IA pode desempenhar no combate à fraude, ao investigarmos estes padrões de abuso também vimos muitas pessoas utilizarem os nossos modelos para as ajudar a identificar burlas. Este relatório aborda ambos os casos de utilização.

A utilização abusiva dos nossos modelos para apoiar burlas vai desde indivíduos isolados que tentam cometer fraude até operações persistentes e em larga escala, provavelmente ligadas a grupos de criminalidade organizada. Independentemente da sua origem e das táticas específicas, a atividade relacionada com burlas que impedimos segue normalmente um padrão comum: o contacto (abordagem não solicitada), o estímulo (tentativa de gerar entusiasmo ou pânico) e o golpe (obtenção de dinheiro ou informações valiosas).

Estes burlões começam por disseminar conteúdos, gerados por IA ou não, em serviços de mensagens e na Internet, nomeadamente através de anúncios nas redes sociais. Depois, procuram despertar em quem responde entusiasmo por uma oportunidade lucrativa ou receio de uma perda financeira iminente, explorando essa emoção para convencer o alvo a entregar dinheiro ou informações sensíveis.

Também observámos muitos casos em que os nossos modelos provavelmente ajudaram a proteger pessoas contra fraudes. Encontrámos provas de que, milhões de vezes por mês, as pessoas utilizam o ChatGPT para as ajudar a identificar e evitar burlas online. Em todas as operações de burla deste relatório, vimos o modelo ajudar pessoas a identificar corretamente a burla e a aconselhá-las sobre medidas de segurança adequadas. A nossa estimativa atual é que o ChatGPT seja utilizado para identificar burlas até três vezes mais do que para as realizar.

Exemplo de um investigador da OpenAI a colar no ChatGPT uma captura de ecrã de uma mensagem SMS fraudulenta que recebeu e a utilizar com êxito o modelo para a identificar como burla. Neste caso, os agentes da ameaça tentaram fazer-se passar por recrutadores do TikTok.

Desde o nosso último relatório, reforçámos a nossa capacidade de detetar e impedir burlas. Desmantelámos outras redes de burlas que pareciam ser oriundas do Camboja, de Mianmar e da Nigéria. Em conjunto com as nossas intervenções anteriores, estas desativações permitem-nos identificar algumas tendências emergentes em várias operações de burla de diferentes países.

A maioria da atividade fraudulenta que impedimos centrou-se na integração da IA em métodos de burla existentes, e não na criação de novos métodos em torno da IA. Todas as operações de burla que identificámos e banimos este ano utilizaram a IA sobretudo como ferramenta para ganhar escala e eficiência. Isto incluiu normalmente a utilização dos nossos modelos para traduzir, escrever mensagens e criar conteúdos para as redes sociais.

Por exemplo, banimos recentemente operações de burla provavelmente oriundas do Camboja e da Nigéria que se faziam passar por «empresas de investimento» numa tentativa de defraudar vítimas em vários países. Os burlões criaram sites e anúncios online para promover as empresas falsas e utilizaram contas de redes sociais provavelmente não autênticas, fazendo-se passar por especialistas em negociação financeira, para convidar pessoas a aderir a grupos privados de mensagens. Prometendo oportunidades de lucro elevado e sem riscos, os agentes da ameaça procuravam então levar potenciais vítimas a fazer pagamentos para plataformas fictícias de negociação financeira. Em todas as burlas, os burlões utilizaram os nossos modelos sobretudo para gerar e traduzir correspondência, criar conteúdos para os seus sites e contas de redes sociais e realizar pesquisas básicas.

Noutro caso, banimos um centro de burlas muito provavelmente localizado em Mianmar, que utilizava os nossos modelos tanto para gerar conteúdos destinados aos seus esquemas fraudulentos como para realizar tarefas empresariais quotidianas. Estas tarefas incluíam organizar horários, redigir comunicados internos, atribuir secretárias e alojamentos e gerir contas financeiras. Alguns operadores perguntaram quais eram as sanções penais aplicáveis a quem fosse apanhado a realizar burlas online.

Nem todos os burlões cuja atividade impedimos utilizaram os nossos modelos da mesma forma ou com o mesmo grau de complexidade. A maioria das interações dos burlões com o ChatGPT envolvia tarefas relativamente simples, como tradução, mas algumas operações de burla eram mais ambiciosas e elaboradas.

Por exemplo, uma operação de burla que desmantelámos, provavelmente oriunda do Camboja, utilizava os nossos modelos para gerar biografias pormenorizadas de falsos especialistas em investimentos e funcionários fictícios de falsas empresas de negociação financeira. Os burlões pediram depois ao ChatGPT que escrevesse mensagens para as redes sociais usando a voz dessas personagens. Frequentemente, os agentes da ameaça introduziam no nosso modelo mensagens que pareciam ter recebido dos seus alvos e pediam-lhe que continuasse a conversa assumindo a identidade falsa.

Uma segunda operação de burla, também provavelmente oriunda do Camboja, começou por utilizar os nossos modelos para gerar mensagens SMS de contacto não solicitado, enviadas em massa para números de telefone dos EUA. Uma dessas mensagens foi enviada a um investigador da OpenAI, num caso semelhante ao que comunicámos em junho. Estas mensagens SMS incluíam convites para aderir a grupos do WhatsApp, entretanto banidos, cujos nomes se assemelhavam ao de uma empresa de investimento legítima.

Com base numa série de mensagens do WhatsApp enviadas ao investigador da OpenAI, se um potencial alvo aderisse a um destes grupos, rapidamente assistiria a uma «conversa» entre cerca de meia dúzia de contas diferentes, todas a falar de investimentos. Uma delas fazia-se passar pelo «especialista em investimentos», enquanto as restantes fingiam ser investidores com diferentes níveis de confiança e experiência. Toda esta conversa era gerada pelos burlões, que a traduziam de uma só vez a partir do chinês, provavelmente para criar a impressão de um grupo dinâmico de investidores entusiastas e bem-sucedidos. Por fim, o «especialista em investimentos» sugeria que o alvo também experimentasse investir.

Separadamente, uma operação de burla de investimento muito provavelmente oriunda da Nigéria pediu ao modelo instruções passo a passo sobre como utilizar anúncios nas redes sociais para chegar a pessoas abastadas na América Latina, ocultar a sua localização e contornar restrições das plataformas de redes sociais. Para isso, encaminhava o modelo para os termos de serviço públicos de uma plataforma e pedia-lhe que verificasse se o conteúdo proposto para os anúncios estava em conformidade.

Os burlões, sobretudo os centros de burlas de grande escala, são persistentes. Muitas vezes, perante uma intervenção, tentam retomar a atividade que viola as regras, alterando alguns aspetos do seu comportamento, provavelmente para evitar novas deteções. Esta é uma das razões pelas quais é importante partilhar, em todo o setor, informações sobre a evolução da sua atividade, como aconteceu quando a OpenAI e a Meta partilharam informações sobre agentes da ameaça que contribuíram para novas investigações e medidas de aplicação das regras.

Possivelmente em resposta às intervenções ou ao debate online mais amplo sobre os sinais que podem denunciar a utilização de IA, vimos burlões tentarem disfarçar o uso de IA nos conteúdos online e nas comunicações com os alvos. Isto inclui operações de burla provavelmente oriundas do Camboja que instruíam o modelo a remover travessões das respostas.

Num dos casos, os burlões tentaram explicar uma desativação em larga escala dos seus recursos nas redes sociais inventando uma desculpa para terem sido banidos. Tratava-se do centro de burlas provavelmente oriundo do Camboja que operava através de SMS e do WhatsApp, descrito acima. Depois de o WhatsApp banir os «grupos de investimento» ligados à operação, os operadores começaram a gerar mensagens nas quais alegavam que esses grupos tinham sido falsamente denunciados por um concorrente, provavelmente para justificar os banimentos.

Captura de ecrã de uma mensagem do WhatsApp enviada pela operação de burla ligada ao Camboja a um investigador da OpenAI após a desativação realizada pelo WhatsApp.