Operacions d'estafa: xarxes de frau en línia

Aquest estudi de cas es va publicar originalment a l'informe d'octubre de 2025⁠(s'obre en una finestra nova) d'OpenAI.

Xarxes probablement originàries de Cambodja, Myanmar i Nigèria que feien un ús indegut de ChatGPT en el que semblen intents d'estafar persones per internet.

Ens dediquem a identificar, prevenir i desarticular els intents d'utilitzar indegudament els nostres models amb finalitats perjudicials. Entre aquests abusos hi ha les estafes: detectem i bloquegem els actors maliciosos que intenten utilitzar indegudament els nostres models per enganyar i estafar persones. Durant els darrers tres mesos, hem desarticulat xarxes d'estafes probablement originàries de Cambodja, Myanmar i Nigèria. Com a mostra del paper que pot tenir la IA en la lluita contra el frau, mentre investigàvem aquests patrons d'abús també hem vist moltes persones que utilitzaven els nostres models per identificar estafes. Aquest informe analitza tots dos casos d'ús.

L'ús indegut dels nostres models per facilitar estafes va des d'actors individuals que intenten cometre frau fins a operacions persistents i a gran escala, probablement vinculades a grups de crim organitzat. Independentment de l'origen i les tàctiques concretes, l'activitat relacionada amb estafes que hem desarticulat sol seguir un patró comú, que anomenem el contacte (aproximació en fred), l'impacte (intentar generar entusiasme o pànic) i l'estocada (obtenir diners o informació valuosa).

Aquests estafadors comencen escampant contingut, generat amb IA o no, per serveis de missatgeria i internet, fins i tot mitjançant anuncis a les xarxes socials. Després intenten despertar en qui respon entusiasme per una oportunitat lucrativa o por d'una pèrdua econòmica imminent, i aprofiten aquesta emoció per convèncer l'objectiu que lliuri diners o informació sensible.

També hem observat molts casos en què els nostres models probablement han ajudat a protegir persones del frau. Hem trobat proves que les persones utilitzen ChatGPT per identificar i evitar estafes en línia milions de vegades al mes; en totes les operacions d'estafa d'aquest informe, hem vist com el model ajudava les persones a identificar correctament l'estafa i els recomanava mesures de seguretat adequades. Actualment, estimem que ChatGPT s'utilitza per identificar estafes fins a tres vegades més sovint que per cometre-les.

Exemple d'un investigador d'OpenAI que enganxa a ChatGPT una captura de pantalla d'un SMS fraudulent que havia rebut i utilitza el model per identificar-lo correctament com una estafa. En aquest cas, els actors maliciosos van intentar fer-se passar per reclutadors de TikTok.

Des del nostre darrer informe, hem reforçat la nostra capacitat per detectar i desarticular estafes. Hem desarticulat més xarxes d'estafes que semblaven originàries de Cambodja, Myanmar i Nigèria. Juntament amb les actuacions anteriors, aquestes desarticulacions ens permeten identificar tendències emergents en diverses operacions d'estafa de diferents països.

La major part de l'activitat fraudulenta que vam desarticular se centrava a incorporar la IA a estratègies d'estafa ja existents, en lloc de crear-ne de noves al voltant de la IA. Totes les operacions d'estafa que hem identificat i bloquejat aquest any utilitzaven principalment la IA com a eina d'escalabilitat i eficiència. Habitualment, això incloïa utilitzar els nostres models per traduir, redactar missatges i crear contingut per a les xarxes socials.

Per exemple, fa poc vam bloquejar operacions d'estafa probablement originàries de Cambodja i Nigèria que es feien passar per "empreses d'inversió" per intentar estafar víctimes de diversos països. Els estafadors van crear llocs web i anuncis en línia per promocionar les empreses falses, i van utilitzar comptes de xarxes socials probablement fraudulents, que es feien passar per experts en inversió, per convidar persones a grups de missatgeria privats. Amb la promesa d'oportunitats de guanyar molts diners sense cap risc, els actors maliciosos intentaven induir les possibles víctimes a fer pagaments en plataformes d'inversió fictícies. En totes aquestes estafes, els estafadors utilitzaven els nostres models principalment per generar i traduir correspondència, crear contingut per als seus llocs web i comptes de xarxes socials, i fer recerques bàsiques.

En un altre cas, vam bloquejar un centre d'estafes situat molt probablement a Myanmar que utilitzava els nostres models tant per generar contingut per als seus esquemes fraudulents com per dur a terme tasques empresarials quotidianes. Això incloïa organitzar horaris, redactar comunicats interns, assignar taules de treball i places als dormitoris, i gestionar comptes financers. Alguns operadors van preguntar quines penes comportava que enxampessin algú cometent estafes en línia.

No tots els estafadors que vam aturar utilitzaven els nostres models de la mateixa manera ni amb el mateix grau de complexitat. La majoria de les interaccions dels estafadors amb ChatGPT consistien en tasques relativament senzilles, com ara traduir, però algunes operacions d'estafa eren més ambicioses i elaborades.

Per exemple, una operació d'estafa que vam desarticular, probablement originària de Cambodja, utilitzava els nostres models per generar biografies detallades d'experts en inversió i empleats ficticis d'empreses d'inversió falses. Després, els estafadors demanaven a ChatGPT que redactés missatges per a les xarxes socials amb la veu d'aquests personatges. Sovint, els actors maliciosos introduïen al nostre model missatges que semblaven haver rebut dels seus objectius i li demanaven que continués la conversa assumint la identitat falsa.

Una segona operació d'estafa, també probablement originària de Cambodja, va començar utilitzant els nostres models per generar SMS de captació en fred que s'enviaven massivament a números de telèfon dels EUA. Un d'aquests missatges es va enviar a un investigador d'OpenAI, en un cas similar al que vam descriure al juny. Aquests SMS incloïen invitacions per unir-se a grups de WhatsApp, bloquejats posteriorment, els noms dels quals s'assemblaven al d'una empresa d'inversió legítima.

Segons una sèrie de missatges de WhatsApp enviats a l'investigador d'OpenAI, quan un possible objectiu s'unia a un d'aquests grups, de seguida presenciava una "conversa" entre mitja dotzena de comptes diferents que parlaven d'inversions. Un es feia passar per l'"expert en inversió", mentre que la resta es feien passar per inversors amb diferents graus de confiança i experiència. Els estafadors havien generat tota la conversa i l'havien traduït del xinès en un sol bloc, probablement per crear la impressió d'un grup dinàmic d'inversors entusiastes i reeixits. Finalment, l'"expert en inversió" suggeria a l'objectiu que també provés d'invertir.

D'altra banda, una operació d'estafa d'inversió molt probablement originària de Nigèria va demanar al model instruccions pas a pas sobre com utilitzar anuncis a les xarxes socials per arribar a persones riques de l'Amèrica Llatina, ocultar la seva ubicació i eludir les restriccions de les plataformes socials. Per fer-ho, dirigien el model a les condicions del servei públiques d'una plataforma i li demanaven que comprovés si el contingut publicitari proposat les complia.

Els estafadors, especialment els centres d'estafes a gran escala, són persistents. Molt sovint, responen a les mesures contra la seva activitat intentant reprendre les infraccions, però modificant alguns aspectes del seu comportament, probablement per evitar que els tornin a detectar. Aquest és un dels motius pels quals és important compartir amb tot el sector informació sobre l'evolució de la seva activitat, com quan OpenAI i Meta van compartir dades sobre actors maliciosos que van contribuir a noves investigacions i mesures coercitives.

Potser en resposta a les desarticulacions o a converses més àmplies a internet sobre els indicis que poden revelar l'ús d'IA, hem vist estafadors que intentaven dissimular que utilitzaven IA en el contingut en línia i en les comunicacions amb els seus objectius. Això inclou operacions d'estafa probablement originàries de Cambodja que indicaven al model que eliminés els guions llargs de les respostes.

En un cas, els estafadors van intentar justificar una desarticulació a gran escala dels seus recursos a les xarxes socials inventant-se una excusa per als bloquejos. Es tractava del centre d'estafes descrit anteriorment, probablement originari de Cambodja, que operava per SMS i WhatsApp. Després que WhatsApp bloquegés els "grups d'inversió" vinculats a l'operació, els operadors van començar a generar missatges que afirmaven que un competidor havia denunciat falsament aquells grups, probablement per justificar els bloquejos.

Captura de pantalla d'un missatge de WhatsApp enviat a un investigador d'OpenAI per l'operació d'estafa vinculada a Cambodja després de la desarticulació per part de WhatsApp.