Fraude com isco romântico: processos de «pig butchering» assistidos por IA
A OpenAI baniu contas que pareciam ter origem no Camboja e usavam IA para traduzir e gerar conversas de fraudes românticas e de investimento.
Este estudo de caso foi originalmente publicado no relatório da OpenAI de fevereiro de 2025(abre numa nova janela).
Agente
Banimos um conjunto de contas do ChatGPT que traduziam e geravam comentários curtos em japonês, chinês e inglês. Esta atividade parece ter tido origem no Camboja e era compatível com uma fraude romântica e de investimento (também conhecida como «pig butchering»). A Meta identificou recentemente atividade relacionada(abre numa nova janela) na sua plataforma, aparentemente proveniente de um centro de fraudes recém-criado no Camboja.
Comportamento
Esta rede utilizava os nossos modelos para traduzir e gerar comentários curtos. A principal língua dos agentes parece ter sido o chinês. Os conteúdos eram produzidos em várias línguas, sobretudo japonês e chinês, mas também inglês.
Os agentes utilizavam os nossos modelos para duas atividades principais. Em primeiro lugar, geravam comentários que eram publicados em plataformas de redes sociais, incluindo o Facebook, o X e o Instagram. Cada conta de rede social apresentava normalmente uma ou mais fotografias de perfil de uma jovem. Avaliamos que, pelo menos, algumas destas fotografias foram copiadas de modelos ou influenciadoras reais, em vez de terem sido geradas por IA.
A maioria dos comentários gerados foi publicada em resposta a publicações de pessoas reais nas redes sociais. Algumas das publicações às quais os operadores respondiam tinham meses ou anos. Esta operação visava normalmente homens cujos perfis públicos indicavam terem mais de 40 anos, muitas vezes profissionais de saúde. A operação respondia frequentemente a publicações sobre golfe, o que sugere uma estratégia deliberada de seleção de alvos. Ocasionalmente, os burlões publicavam conteúdos sobre questões políticas ou temas da atualidade.
Comentário no Facebook gerado por este agente através dos nossos modelos e publicado em resposta a um comentário sobre golfe de uma pessoa que não parecia estar ligada a esta operação. A fotografia de perfil da conta fraudulenta foi copiada de uma influenciadora norte-americana de moda e beleza. A publicação original já tinha mais de um mês quando a conta fraudulenta comentou.
Comentário gerado pelos nossos modelos e publicado por uma conta verificada no X, em resposta a uma publicação de uma conta que não parecia estar ligada a esta fraude. A fotografia de perfil da conta foi copiada da mesma influenciadora norte-americana de moda e beleza. A publicação original tinha quase seis meses.
Em segundo lugar, e com maior frequência, os operadores geravam comentários curtos que pareciam excertos de uma conversa online. Normalmente, traduziam comentários do chinês para uma língua-alvo (japonês ou inglês), ou da língua-alvo para chinês. Isto é compatível com a utilização do modelo pelos burlões sobretudo para traduzir conversas em curso.
Por vezes, as contas pediam ao modelo que gerasse uma resposta num determinado tom, por exemplo, o de uma jovem sedutora. Por vezes, eram fornecidos dados biográficos pormenorizados para orientar as respostas do modelo, incluindo o nome, a formação académica, a profissão, a localização e os passatempos da personagem fictícia. Estas biografias referiam normalmente que a personagem fictícia fazia alguns investimentos online.
Os burlões parecem ter utilizado muitas ferramentas e plataformas diferentes para interagir com os seus alvos. A nossa investigação encontrou indícios da utilização de ferramentas como o LINE, o WhatsApp, o X, o Facebook, o Instagram, vários outros serviços de mensagens, a funcionalidade «Ocultar o meu e-mail» da Apple(abre numa nova janela) e plataformas de criptomoedas e câmbio de divisas.
Resultados
Com base na perspetiva específica que temos sobre esta atividade, os burlões parecem ter seguido um processo habitual para levar os seus alvos da interação ao investimento fraudulento:
Interação pública: os burlões comentavam as publicações dos alvos nas redes sociais. Estes comentários terminavam muitas vezes com uma pergunta como: «O que pensa sobre [assunto]?», provavelmente para aumentar a probabilidade de interação. Num pequeno número de casos, comentavam política, mas falavam mais frequentemente sobre golfe.
Provável troca de mensagens diretas: em seguida, os burlões geravam comentários curtos e informais. Embora não tenhamos visibilidade total sobre como e onde eram utilizados, os comentários eram compatíveis com uma situação em que o burlão e o alvo começavam a trocar mensagens diretas.
Mensagens seguras: pouco depois, muitas vezes no espaço de poucos dias, os burlões geravam mensagens que sugeriam passar para uma aplicação de mensagens mais segura. Por vezes, justificavam-no dizendo que o burlão não confiava nas redes sociais; noutras ocasiões, apresentavam uma desculpa logística, como estarem prestes a ir para um local onde não teriam acesso às redes sociais.
Envolvimento romântico: os burlões escreviam e traduziam mensagens cada vez mais afetuosas e íntimas. Se os alvos pedissem fotografias da «mulher» com quem conversavam, os burlões inventavam desculpas.
Envolvimento financeiro: os burlões escreviam e traduziam mensagens em que se gabavam de ter ganhado muito dinheiro com investimentos online em divisas, criptomoedas ou ouro. Isto era muitas vezes apresentado como resultado de terem seguido os conselhos de um familiar que trabalhava no setor financeiro. O burlão incentivava o alvo a começar a investir da mesma forma e oferecia-se para o orientar ao longo do processo.
Fraude: os burlões escreviam e traduziam mensagens para tentar convencer a vítima a transferir dinheiro para uma aplicação de negociação, incentivando-a ao enaltecer os lucros que estava a obter. Sempre que a vítima tentava levantar os seus «lucros», o burlão apresentava uma desculpa, como a necessidade de pagar uma comissão.
Este padrão de atividade é compatível com informações disponíveis publicamente(abre numa nova janela) sobre o modo como estas fraudes costumam funcionar.
Impacto
Esta atividade parece ter incluído muitas tentativas falhadas e insucessos. Algumas das conversas que os burlões processaram através dos nossos modelos terminaram com o alvo a denunciar a atividade como fraude ou a dizer ao burlão para o deixar em paz. Também identificámos publicações dos burlões nas redes sociais que não geraram qualquer interação.
No entanto, algumas conversas mencionavam milhares de dólares, ou montantes equivalentes noutras moedas, como valor das transações individuais. Dada a forma como estes operadores utilizaram os nossos modelos, não conseguimos determinar se estas transações financeiras foram realizadas. Contudo, as referências nas conversas sugerem que, pelo menos em alguns casos, os burlões conseguiram defraudar os seus alvos.
As políticas da OpenAI proíbem estritamente a utilização dos resultados das nossas ferramentas para cometer fraudes ou burlas. Estamos empenhados em colaborar com outras empresas do setor e com as autoridades para compreender como a IA é utilizada em comportamentos maliciosos e impedir ativamente atividades fraudulentas que abusem dos nossos serviços. Em conformidade com este compromisso, partilhámos informações sobre as redes fraudulentas que desmantelámos com outras empresas do setor e com as autoridades competentes.