Golpe com isca romântica: fluxos de "abate de porcos" auxiliados por IA
A OpenAI baniu contas que pareciam operar a partir do Camboja e usavam IA para traduzir e gerar conversas de golpes românticos e de investimento.
Este estudo de caso foi publicado originalmente no relatório da OpenAI de fevereiro de 2025(abre em uma nova janela).
Agente
Banimos um conjunto de contas do ChatGPT que traduziam e geravam comentários curtos em japonês, chinês e inglês. Essa atividade parece ter se originado no Camboja e era compatível com um golpe romântico e de investimento, também conhecido como "abate de porcos". A Meta identificou recentemente atividades relacionadas(abre em uma nova janela) em sua plataforma que pareciam ter origem em um centro de golpes recém-criado no Camboja.
Comportamento
Essa rede usou nossos modelos para traduzir e gerar comentários curtos. O principal idioma dos agentes parece ter sido o chinês. O conteúdo foi gerado em vários idiomas, principalmente japonês e chinês, mas também inglês.
Os agentes usaram nossos modelos em duas atividades principais. Primeiro, eles geravam comentários que eram publicados abertamente em plataformas de redes sociais, como Facebook, X e Instagram. Cada conta de rede social geralmente exibia uma ou mais fotos de perfil de uma jovem. Avaliamos que pelo menos algumas dessas fotos foram copiadas de modelos ou influenciadoras reais, em vez de terem sido geradas por IA.
A maioria dos comentários gerados foi publicada em resposta aos posts de pessoas reais nas redes sociais. Alguns dos posts aos quais os operadores responderam tinham meses ou anos. Essa operação geralmente visava homens cujos perfis públicos indicavam ter mais de 40 anos, muitos deles profissionais da área médica. A operação respondia com frequência a posts sobre golfe, o que sugere uma estratégia deliberada de seleção de alvos. Às vezes, os golpistas publicavam sobre questões políticas ou acontecimentos recentes.
Comentário no Facebook gerado por esse agente com nossos modelos e publicado em resposta ao comentário sobre golfe de uma pessoa que não parecia estar ligada à operação. A foto do perfil da conta usada no golpe foi copiada de uma influenciadora de moda e beleza dos EUA. Quando a conta publicou o comentário, o post original já tinha mais de um mês.
Comentário gerado por nossos modelos e publicado por uma conta verificada no X em resposta ao post de uma conta que não parecia estar ligada a esse golpe. A foto do perfil foi copiada da mesma influenciadora de moda e beleza dos EUA. O post original tinha quase seis meses.
Em segundo lugar, e com mais frequência, os operadores geravam comentários curtos que pareciam trechos de uma conversa online. Isso geralmente envolvia traduzir comentários do chinês para um idioma-alvo, japonês ou inglês, ou do idioma-alvo para o chinês. Isso é compatível com o uso do modelo pelos golpistas principalmente para traduzir conversas em andamento.
Às vezes, as contas pediam ao modelo que gerasse uma resposta em determinado tom, como o de uma jovem paqueradora. Às vezes, forneciam muitos detalhes biográficos para orientar as respostas do modelo, como nome, formação, profissão, localização e hobbies da identidade falsa. Essas biografias geralmente mencionavam que a identidade falsa fazia alguns investimentos online.
Os golpistas parecem ter usado muitas ferramentas e plataformas diferentes para interagir com seus alvos. Nossa investigação encontrou indícios de que eles usavam ferramentas como LINE, WhatsApp, X, Facebook, Instagram, vários outros serviços de mensagens, o recurso "Ocultar Meu E-mail" da Apple(abre em uma nova janela) e plataformas de criptomoedas e câmbio.
Resultados
Com base na visão específica que tivemos dessa atividade, os golpistas parecem ter seguido um fluxo comum para levar os alvos do contato inicial ao investimento fraudulento:
Interação pública: os golpistas comentavam nos posts dos alvos nas redes sociais. Esses comentários muitas vezes terminavam com uma pergunta como "O que você acha de [assunto]?", provavelmente para aumentar a chance de interação. Em alguns poucos casos, comentavam sobre política, mas falavam com mais frequência sobre golfe.
Provável troca de mensagens diretas: em seguida, os golpistas geravam comentários curtos em tom de conversa. Embora não tenhamos visibilidade completa de como e onde eles eram usados, os comentários eram compatíveis com uma situação em que o golpista e o alvo começavam a trocar mensagens diretas.
Mensagens seguras: pouco depois, muitas vezes em questão de dias, os golpistas geravam mensagens sugerindo a mudança para um aplicativo de mensagens mais seguro. Às vezes, justificavam isso dizendo que não confiavam nas redes sociais. Em outras ocasiões, davam uma desculpa logística, como afirmar que estavam prestes a ir a um lugar onde não teriam acesso a elas.
Envolvimento romântico: os golpistas escreviam e traduziam mensagens cada vez mais afetuosas e íntimas. Quando os alvos pediam fotos da "mulher" com quem estavam conversando, os golpistas davam desculpas.
Envolvimento financeiro: os golpistas escreviam e traduziam mensagens nas quais se gabavam de ter ganhado muito dinheiro investindo online em câmbio, criptomoedas ou ouro. Isso muitas vezes era apresentado como resultado de seguir os conselhos de um parente que trabalhava no setor financeiro. O golpista incentivava o alvo a começar a investir da mesma maneira e se oferecia para orientá-lo durante o processo.
Fraude: os golpistas escreviam e traduziam mensagens para convencer a vítima a transferir dinheiro para um aplicativo de negociação, incentivando-a ao exaltar o lucro que ela supostamente estava obtendo. Sempre que a vítima tentava sacar seus "lucros", o golpista dava uma desculpa, como a necessidade de pagar uma taxa.
Esse padrão de atividade é compatível com relatos disponíveis publicamente(abre em uma nova janela) sobre como esses golpes costumam funcionar.
Impacto
Essa atividade parece ter incluído muitas tentativas frustradas e fracassos. Algumas das conversas processadas pelos golpistas em nossos modelos terminaram com o alvo denunciando a atividade como golpe ou mandando o golpista deixá-lo em paz. Também identificamos posts dos golpistas nas redes sociais que não tiveram interação alguma.
No entanto, algumas conversas mencionavam valores de milhares de dólares, ou o equivalente em outras moedas, como montante de transações individuais. Devido ao modo como esses operadores usaram nossos modelos, não temos visibilidade sobre a realização dessas transações financeiras. No entanto, as referências nas conversas sugerem que, em pelo menos alguns casos, os golpistas conseguiram fraudar seus alvos.
As políticas da OpenAI proíbem estritamente o uso de conteúdo gerado por nossas ferramentas para fraudes ou golpes. Temos o compromisso de colaborar com outras empresas do setor e com as autoridades para entender como a IA é usada em comportamentos maliciosos e combater ativamente golpes que abusam de nossos serviços. Em consonância com esse compromisso, compartilhamos informações sobre as redes de golpes que desarticulamos com outras empresas do setor e com as autoridades competentes.