Romantické podvody: Postupy pri romantických podvodoch s podporou AI

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z februára 2026⁠(otvorí sa v novom okne) o marení škodlivého využívania AI.

Odkedy sme pred rokom⁠(otvorí sa v novom okne) začali informovať o našich zásahoch proti podvodným sieťam, ktoré sa pokúšali zneužívať naše modely, zneškodnili sme mnoho podvodných operácií z rôznych častí sveta. Patrili medzi ne „úlohové“ podvody, pri ktorých páchatelia presviedčajú obete, aby zaplatili za prístup k neexistujúcim zárobkom za jednoduché úlohy, a investičné podvody, pri ktorých obete presviedčajú, aby vložili peniaze do neexistujúcich investičných spoločností.

Jedným z bežných typov podvodu, ktorý existoval dávno pred érou AI, je romantický podvod. Podvodníci sa pri ňom vydávajú za potenciálneho partnera a snažia sa svoju obeť presvedčiť, že našla lásku. Následne od nej žiadajú čoraz viac peňazí. Prvý zásah proti podvodom, o ktorom sme informovali, sa týkal novozaloženej zločineckej operácie v Kambodži. Tá používala ChatGPT na generovanie správ pre romantický podvod a niektoré z nich šírila na sociálnych sieťach. Odvtedy sme prekazili rôzne pokusy o romantické podvody. Ako sme napísali v júni⁠(otvorí sa v novom okne), tieto aj ďalšie podvody pri využívaní AI zvyčajne sledujú rovnaký vzorec. Rozlišujeme v ňom tri fázy: oslovenie (nadviazanie nevyžiadaného kontaktu), vyvolanie emócií a vylákanie peňazí.

Oslovenie (nadviazanie nevyžiadaného kontaktu): podvodník generuje obsah, ktorým chce upútať pozornosť potenciálnej obete tým, že osloví jej záujmy. Napríklad podvod typu „výkrm prasaťa“, o ktorom sme informovali minulý rok, často cielil na amerických mužov vo veku 40 až 49 rokov pracujúcich v zdravotníctve. Podvodníci reagovali na ich príspevky o golfe na sociálnych sieťach. Iné operácie využívali nevyžiadané SMS správy, falošné pracovné ponuky alebo, ako v našom najnovšom prípade romantického podvodu opísanom nižšie, reklamy na sociálnych sieťach. V každom prípade páchatelia používali ChatGPT na generovanie správ, ktoré mohli byť pútavejšie a menej nápadne prezrádzať, že ich autor nie je rodeným hovoriacim, než správy pri tradičných podvodoch.

Vyvolanie emócií: podvodník generuje obsah, ktorý má v obeti vyvolať silné emócie, a tým uľahčiť manipuláciu s ňou. Pri romantických podvodoch je cieľom vzbudiť v obeti náklonnosť k podvodníkovi. Pri iných podvodoch sa páchatelia môžu snažiť v obeti vyvolať nadšenie z potenciálne výnosného obchodu, strach z premeškanej príležitosti alebo obavy z údajných právnych problémov či nezaplateného účtu. Niekedy môže už samotná úvodná správa okrem oslovenia vyvolávať aj emócie.

Vylákanie peňazí: podvodník generuje obsah, ktorým chce obeť presvedčiť, aby mu odovzdala peniaze. Uvádzané dôvody môžu byť veľmi rôznorodé. Pri romantických podvodoch môžu napríklad obeť žiadať, aby investovala do podnikania milovanej osoby alebo jej poskytla peniaze na prekonanie finančnej krízy. Pri „úlohových“ podvodoch obetiam hovoria, aby zaplatili za prístup k (fiktívnym) peniazom, o ktorých si myslia, že ich zarobili. Pri investičných podvodoch obete nabádajú, aby vložili peniaze do neexistujúcich investícií.

Ako z tohto postupu vyplýva, kľúčovou súčasťou podvodov je distribučná sieť. Rôzne podvodné operácie, ktoré sme odhalili, posielali úvodné správy prostredníctvom SMS, šifrovaných komunikačných aplikácií, príspevkov na sociálnych sieťach, online reklám alebo kombinácie všetkých týchto kanálov. Podvody z obdobia pred AI sú známe využívaním e-mailov⁠(otvorí sa v novom okne), telefonátov⁠(otvorí sa v novom okne) či dokonca, v devätnástom storočí, listov⁠(otvorí sa v novom okne) a telegramov⁠(otvorí sa v novom okne). Mnohé podvody využívajú plošné oslovovanie, no pri niektorých zrejme ide o snahu o presné zacielenie. Napríklad podvod typu „výkrm prasaťa“, o ktorom sme informovali vo februári 2025⁠(otvorí sa v novom okne), sa sústredil na témy ako golf. Iný romantický podvod využíval reklamy na sociálnych sieťach na zacielenie na mladých mužov v Indonézii. Pri podvodoch s celebritami⁠(otvorí sa v novom okne) sa páchatelia zvyčajne vydávajú za známu osobnosť a potom cielia na skupiny jej fanúšikov. Hoci útržkovitosť dôkazov sťažuje spoľahlivé porovnanie rôznych podvodov, ktoré sme prekazili, podľa nášho hodnotenia zohráva zvolený spôsob distribúcie (napríklad plošný alebo cielený) významnú úlohu v tom, či podvod dokáže úspešne zasiahnuť a zneužiť svoje obete. Platí to bez ohľadu na mieru využívania AI pri rôznych činnostiach operácie.