Operació "Fals testimoni": un fals servei de recuperació de fons que suplantava les autoritats

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de febrer de 2026⁠(s'obre en una finestra nova) sobre la interrupció dels usos maliciosos de la IA.

Vam bloquejar un grup de comptes de ChatGPT que utilitzaven els nostres models per fer-se passar per despatxos d'advocats ficticis, així com per suplantar advocats reals i forces de l'ordre dels Estats Units, en una estafa de recuperació de fons adreçada a víctimes de frau. Aquesta activitat molt probablement es va originar a Cambodja i coincideix amb informacions públiques recents sobre operacions d'estafa al país dirigides per delinqüents xinesos.

Els comptes utilitzaven ChatGPT per donar suport a una operació fraudulenta de recuperació de diners perduts en estafes, basada en falsos despatxos d'advocats i en la suplantació de persones i entitats de confiança, com ara advocats reals i el Centre de Denúncies de Delictes a Internet (IC3) de l'FBI.

1. Contacte: Els estafadors utilitzaven ChatGPT per crear contingut que suposadament provenia d'almenys sis despatxos d'advocats falsos. Part d'aquest contingut es publicava després en comptes de xarxes socials i anuncis en línia que promocionaven serveis ficticis de recuperació de diners perduts en estafes. Diversos indicis obtinguts de fonts obertes suggerien que els despatxos eren fraudulents: no hi havia constància que estiguessin col·legiats en cap estat, utilitzaven dominis web incongruents, les adreces postals de contacte no semblaven existir i s'indicava que calia contactar amb els advocats a través d'aplicacions de missatgeria.

2. Captació: Els estafadors intentaven guanyar-se la confiança de les víctimes generant comentaris que miraven d'imitar el to i la professionalitat d'advocats especialitzats a ajudar víctimes d'estafes a recuperar els diners perduts. Generaven contingut que suposadament provenia d'identitats fictícies d'advocats. Vam identificar algunes d'aquestes identitats en diversos llocs web, on les fotos de perfil aparentment s'havien extret de xarxes socials o s'havien generat amb IA. En alguns casos, l'estafador reutilitzava les mateixes identitats d'"advocats" en diversos suposats despatxos. Un dels llocs web que vam identificar es feia passar per l'IC3.

Les dades de contacte publicades en aquests llocs web fraudulents dirigien els visitants a aplicacions de missatgeria privada, com ara Telegram. En missatges adreçats a les víctimes i redactats amb ChatGPT, els estafadors afirmaven falsament que actuaven sota la supervisió del Tribunal Penal Internacional i deien que no cobrarien cap honorari fins que s'haguessin recuperat tots els fons de la víctima.

3. Estafa: Els estafadors intentaven obtenir diners de les víctimes demanant honoraris i dipòsits abans de qualsevol "recuperació". Això incloïa indicar a les víctimes que havien de pagar una "comissió de servei" del 15 % abans de rebre els fons suposadament recuperats, demanar dipòsits per activar un compte i cobrar "honoraris de consulta". Els missatges dels estafadors a les víctimes redactats amb ChatGPT incloïen instruccions per fer pagaments amb criptomonedes i aportar captures de pantalla de les confirmacions de les transaccions com a comprovants de pagament.

L'operació utilitzava els nostres models per donar suport a diverses parts del seu flux de treball, com ara generar contingut promocional per a xarxes socials i missatges de contacte no sol·licitats adreçats a les víctimes. Tanmateix, els estafadors utilitzaven ChatGPT sobretot per traduir els missatges que enviaven a les víctimes i els que en rebien en aplicacions de missatgeria privada, amb peticions com ara redactar una resposta en "anglès nord-americà" o amb l'estil d'un advocat.

Alguns dels comptes fraudulents també utilitzaven els nostres models per crear materials enganyosos destinats a reforçar la seva credibilitat. Això incloïa inscripcions falses en registres d'advocats i carnets falsos de col·legis d'advocats, així com acords de confidencialitat ficticis per dissuadir les víctimes de buscar ajuda externa.

Cal prudència a l'hora d'avaluar l'impacte, perquè una de les principals fonts d'evidència són els mateixos textos introduïts pels estafadors. Aquests textos suggereixen que els estafadors podrien haver estafat milers de dòlars a víctimes individuals, però no podem verificar aquestes afirmacions de manera independent. L'FBI i almenys un dels despatxos d'advocats suplantats han emès alertes públiques sobre aquesta estafa. Responsables de l'FBI van advertir que l'operació s'adreça a col·lectius vulnerables, especialment a la gent gran, i s'aprofita de l'estat emocional de les víctimes d'estafes i del seu desig de recuperar ràpidament els diners perduts.

Les polítiques d'OpenAI prohibeixen estrictament utilitzar el contingut generat per les nostres eines per cometre fraus o estafes. Ens comprometem a col·laborar amb altres empreses del sector i amb les autoritats per entendre com influeix la IA en el comportament dels actors maliciosos i per interrompre activament les estafes que fan un ús abusiu dels nostres serveis.