Operação «Número Errado»: burla de tarefas assistida por IA
A OpenAI baniu contas provavelmente originárias do Camboja que usavam IA para apoiar processos de burla dirigidos a pessoas no Reino Unido.
Este estudo de caso foi originalmente publicado no relatório de junho de 2025(abre numa nova janela) da OpenAI.
Interveniente
Banimos contas do ChatGPT que geravam breves mensagens de recrutamento em inglês, espanhol, suaíli, quiniaruanda, alemão e crioulo haitiano. Estas mensagens ofereciam aos destinatários salários elevados por tarefas triviais, como colocar gostos em publicações nas redes sociais, e incentivavam-nos a recrutar outras pessoas. A operação parecia ser altamente centralizada e ter provavelmente origem no Camboja.
Com ferramentas de tradução baseadas em IA, conseguimos investigar e impedir rapidamente a utilização dos serviços da OpenAI nesta campanha.
Comportamento
A maioria dos comentários da rede dizia respeito a tarefas de tradução. Usavam o ChatGPT para traduzir frases de conversação entre chinês e vários outros idiomas, sobretudo inglês, espanhol, quiniaruanda, suaíli, alemão e crioulo haitiano. Estas tarefas alternavam geralmente entre traduzir para chinês uma mensagem recebida e traduzir uma resposta do chinês para o idioma original.
Algumas destas mensagens assemelhavam-se a anúncios de emprego não solicitados, que ofereciam uma remuneração horária elevada por pouco trabalho. Uma dessas mensagens foi distribuída por SMS para o que parecia ser um conjunto aleatório de números de telemóvel do Reino Unido, um dos quais pertencia a um investigador da OpenAI. Demos a esta operação o nome «Número Errado», em homenagem ao SMS inicial.
SMS enviado aleatoriamente a um investigador da OpenAI, gerado com o ChatGPT.
Os agentes da ameaça pareciam recorrer a várias plataformas de mensagens. O SMS inicial encaminhava os destinatários para o WhatsApp, onde aqueles que respondiam eram depois remetidos para um «mentor» no Telegram. Alguma atividade também fazia referência à aplicação de mensagens BonChat. As primeiras mensagens introdutórias enviadas através destes canais não pareciam ter sido geradas com os nossos modelos. Eram mensagens genéricas que provavelmente se adequariam a qualquer conversa.
Mensagem enviada pelo WhatsApp na sequência do SMS. Esta mensagem não parece ter sido gerada pelos nossos modelos.
Muitas das tarefas de tradução envolviam comunicações que alegadamente provinham de representantes de supostas empresas «empregadoras». Os mesmos nomes de empresas surgiram repetidamente em várias conversas do ChatGPT abrangidas por esta investigação. Entre elas encontravam-se a Hyesung Advertising(abre numa nova janela) e a Lightning Shared Scooter Co (LSSC)(abre numa nova janela). Relatos públicos identificaram a Hyesung e a LSSC como alegados esquemas de tarefas. Embora não tenhamos verificado de forma independente a natureza destas entidades, a nossa investigação concluiu que as mensagens alegadamente provenientes das mesmas eram geradas por utilizadores do ChatGPT de língua chinesa, provavelmente a operar a partir do Camboja.
Resultados
As empresas que esta rede alegava representar abrangiam uma grande variedade de setores, desde a negociação de ações ao aluguer de trotinetes e à venda de gostos nas redes sociais. Um claro sinal de alerta era a oferta de mais de 5 $ por um único gosto no TikTok; em contrapartida, a nossa análise manual de mercados online mostrou que alguns vendedores de gostos nas redes sociais cobram menos de 10 $ por 1000 gostos.
Ao combinarmos indicadores externos à plataforma com observações internas, identificámos um padrão de atuação recorrente. Para facilitar a compreensão desta tática e simplificar a sua classificação, descrevemos este padrão como: o toque (contacto não solicitado), o entusiasmo (gerar interesse) e o golpe (extorquir dinheiro):
O toque (contacto não solicitado): a rede gera conteúdos destinados a abordagens não solicitadas, geralmente oferecendo salários invulgarmente elevados por pouco trabalho ou prometendo retornos elevados em investimentos na bolsa. Estas ofertas incluem remunerações elevadas por tarefas simples, como colocar gostos em publicações nas redes sociais, ou oportunidades de investimento lucrativas.
O entusiasmo (gerar interesse): a rede traduz conversas, provavelmente entre o operador e os seus «funcionários». Estas trocas incluem pormenores logísticos sobre as tarefas, mas são frequentemente intercaladas com mensagens motivacionais sobre rendimentos e potenciais bónus.
O golpe (extorquir dinheiro): a rede gera e/ou envia conteúdos que pressionam o «funcionário» ou «investidor» a contribuir com dinheiro para desbloquear recompensas maiores. Isto assume várias formas, incluindo um «depósito» inicial, compras de criptomoeda e «taxas de processamento».
Exemplo de uma mensagem de contacto não solicitado gerada com o ChatGPT e distribuída por esta rede. A mensagem foi enviada simultaneamente para oito números de telefone, nenhum dos quais constava da lista de contactos do destinatário. Um dos destinatários saiu imediatamente do grupo.
Mensagem enviada pela rede através do Telegram a uma potencial vítima, instruindo-a a comprar 20 £ em criptomoeda e a transferi-la para um comerciante não identificado.
Relatos públicos(abre numa nova janela) sugerem que algumas destas empresas cobravam aos novos recrutas taxas de adesão avultadas e utilizavam depois parte desses fundos para pagar aos «funcionários» existentes apenas o suficiente para os manter envolvidos. Esta estrutura é característica das burlas de tarefas(abre numa nova janela).
Impacto
É difícil quantificar o verdadeiro alcance desta rede, dada a nossa visibilidade limitada. No entanto, relatos externos à plataforma(abre numa nova janela) e conversas em que «funcionários» exigiam reembolsos indicam que pelo menos algumas pessoas pagaram a estes alegados empregadores. Também observámos utilizadores genuínos a defender as empresas nas redes sociais, o que sugere algum grau de envolvimento no mundo real.