Estafes romàntiques: processos d'estafa facilitats per la IA

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de febrer de 2026⁠(s'obre en una finestra nova) sobre les actuacions per frenar els usos maliciosos de la IA.

Des que vam començar a informar, fa un any⁠(s'obre en una finestra nova), de les nostres actuacions contra xarxes d'estafa que volien fer un ús indegut dels nostres models, hem desmantellat moltes operacions fraudulentes de diferents parts del món. Entre aquestes hi havia estafes de "tasques", que enganyen les víctimes perquè ingressin diners per accedir a uns guanys inexistents per tasques trivials, i estafes d'inversió, que les convencen d'invertir diners en empreses d'inversió inexistents.

Un tipus d'estafa habitual des de molt abans de l'arribada de la IA és l'estafa romàntica, en què els estafadors es fan passar per una possible parella i intenten convèncer la víctima que ha trobat l'amor abans de començar a demanar-li cada vegada més diners. La primera actuació contra estafes que vam fer pública afectava una operació criminal acabada de crear a Cambodja, que havia fet servir ChatGPT per generar missatges per a una estafa romàntica. Alguns d'aquests missatges es van difondre a les xarxes socials. Des d'aleshores, hem frustrat diversos intents d'estafa romàntica. Tal com vam explicar al juny⁠(s'obre en una finestra nova), aquestes estafes i d'altres solen seguir un patró comú en l'ús de la IA, que dividim en el contacte (contactar en fred), l'emoció (despertar sentiments) i l'estocada (extreure diners).

El contacte (contactar en fred): l'estafador genera contingut pensat per cridar l'atenció de la possible víctima apel·lant als seus interessos. Per exemple, l'estafa de la "matança del porc" que vam denunciar l'any passat s'adreçava sovint a homes nord-americans d'entre 40 i 49 anys del sector mèdic, responent a les seves publicacions sobre golf a les xarxes socials. Altres operacions feien servir SMS no sol·licitats, missatges de contractació falsos o, en el cas més recent d'estafa romàntica que hem investigat (descrit més avall), anuncis a les xarxes socials. En tots els casos, els actors maliciosos feien servir ChatGPT per generar missatges que poguessin resultar més atractius i que, a diferència dels de les estafes tradicionals, no delatessin tan fàcilment que els autors no eren parlants nadius.

L'emoció (despertar sentiments): l'estafador genera contingut pensat per provocar emocions intenses en la víctima i fer-la més fàcil de manipular. Les estafes romàntiques busquen que la víctima se senti atreta per l'estafador. Altres estafes poden intentar que la víctima s'entusiasmi amb un negoci potencialment lucratiu, tingui por de perdre una oportunitat o s'alarmi davant d'un suposat risc legal o una factura pendent. De vegades, l'emoció es pot incorporar al mateix missatge de contacte.

L'estocada (extreure diners): l'estafador genera contingut pensat per convèncer la víctima que li lliuri diners. Els motius que s'al·leguen poden variar molt. Per exemple, les estafes romàntiques poden demanar a la víctima que inverteixi en el negoci de la persona estimada o que li doni diners per superar una crisi econòmica. Les estafes de "tasques" diuen a les víctimes que ingressin diners per poder accedir als diners (ficticis) que creuen haver guanyat. Les estafes d'inversió diuen a les víctimes que destinin els seus diners a inversions inexistents.

Com suggereix aquesta seqüència, la xarxa de distribució és un component essencial de les estafes. Les diverses operacions fraudulentes que hem desemmascarat enviaven els missatges de contacte per SMS, aplicacions de missatgeria xifrada, publicacions a les xarxes socials, anuncis en línia o una combinació de tots aquests canals. És ben conegut que les estafes anteriors a l'era de la IA feien servir correus electrònics⁠(s'obre en una finestra nova), trucades telefòniques⁠(s'obre en una finestra nova) o fins i tot, al segle XIX, cartes⁠(s'obre en una finestra nova) i telegrames⁠(s'obre en una finestra nova). Moltes estafes recorren a una distribució indiscriminada, però algunes semblen intentar seleccionar les víctimes amb precisió. Per exemple, l'estafa de la "matança del porc" que vam denunciar el febrer de 2025⁠(s'obre en una finestra nova) se centrava en temes com el golf; una altra estafa romàntica feia servir anuncis a les xarxes socials per arribar a homes joves d'Indonèsia; i les estafes de suplantació de famosos⁠(s'obre en una finestra nova) solen fer-se passar per una persona famosa i després adreçar-se als seus grups de fans. Tot i que el caràcter fragmentari de les proves dificulta comparar de manera fiable les diferents estafes que hem frenat, considerem que el mètode de distribució triat (per exemple, indiscriminat o dirigit) té un paper important en la capacitat de cada estafa d'arribar a les víctimes i explotar-les, independentment de fins a quin punt l'operació hagi fet servir la IA per a les diferents funcions.