Podvody založené na romantických vztazích: postupy s využitím AI

Tato případová studie původně vyšla ve zprávě OpenAI z února 2026⁠(otevře se v novém okně) o potírání škodlivého využívání AI.

Od doby, kdy jsme před rokem⁠(otevře se v novém okně) začali informovat o zásazích proti podvodným sítím, které se snažily zneužívat naše modely, jsme zastavili řadu podvodných operací z různých částí světa. Patřily mezi ně podvody s „úkoly“, při nichž podvodníci přesvědčují oběti, aby zaplatily za přístup k neexistujícím výdělkům za jednoduché úkoly, i investiční podvody, při nichž oběti přimějí vložit peníze do neexistujících investičních společností.

Jedním z běžných typů podvodu, který existoval dávno před nástupem AI, je podvod založený na romantickém vztahu. Podvodníci se vydávají za potenciálního partnera a snaží se oběť přesvědčit, že našla svou lásku. Poté od ní začnou žádat stále více peněz. Náš první zveřejněný zásah proti podvodům se týkal nově vzniklé zločinecké operace v Kambodži. Ta pomocí ChatGPT vytvářela zprávy pro podvod založený na romantickém vztahu a některé z nich šířila na sociálních sítích. Od té doby jsme překazili různé další pokusy o podvody založené na romantických vztazích. Jak jsme uvedli v červnu⁠(otevře se v novém okně), tyto i další podvody při využívání AI obvykle sledují podobný vzorec, který rozdělujeme do tří fází: oslovení (nevyžádaný kontakt), emoce (vyvolání citové reakce) a vylákání peněz.

Oslovení (nevyžádaný kontakt): Podvodník vytváří obsah, který má upoutat pozornost potenciální oběti tím, že oslovuje její zájmy. Například podvod typu „výkrm a porážka prasat“, o němž jsme informovali loni, často cílil na americké muže ve věku 40 až 49 let pracující ve zdravotnictví. Podvodníci reagovali na jejich příspěvky o golfu na sociálních sítích. Jiné operace využívaly nevyžádané SMS, falešné náborové zprávy nebo – v našem nejnovějším případu podvodu založeného na romantickém vztahu, popsaném níže – reklamy na sociálních sítích. Ve všech případech pachatelé používali ChatGPT k vytváření zpráv, které mohly být poutavější než zprávy u tradičních podvodů a méně prozrazovaly, že jejich autor není rodilý mluvčí.

Emoce (vyvolání citové reakce): Podvodník vytváří obsah, který má v oběti vyvolat silné emoce, a usnadnit tak manipulaci. Podvody založené na romantickém vztahu se snaží dosáhnout toho, aby oběť pocítila k podvodníkovi přitažlivost. Jiné podvody se mohou snažit vzbudit nadšení z potenciálně výnosného obchodu, strach z promarněné příležitosti nebo obavy z údajných právních problémů či nezaplaceného účtu. Někdy se podvodníci snaží vyvolat emoce už v úvodní zprávě.

Vylákání peněz: Podvodník vytváří obsah, který má oběť přesvědčit, aby mu předala peníze. Uváděné důvody se mohou výrazně lišit. U podvodů založených na romantickém vztahu může být oběť například požádána, aby investovala do podnikání milované osoby nebo jí poslala peníze na překonání finanční krize. Podvody s „úkoly“ obětem tvrdí, že musí vložit peníze, aby získaly přístup k (fiktivním) výdělkům, o nichž se domnívají, že si je vydělaly. Investiční podvody oběti vybízejí, aby vložily peníze do neexistujících investic.

Jak tento postup ukazuje, zásadní součástí podvodů je distribuční síť. Různé podvodné operace, které jsme odhalili, oslovovaly oběti prostřednictvím SMS, šifrovaných komunikačních aplikací, příspěvků na sociálních sítích, online reklam nebo kombinací všech těchto kanálů. Podvody z doby před nástupem AI jsou nechvalně známé využíváním e-mailů⁠(otevře se v novém okně), telefonátů⁠(otevře se v novém okně), a v devatenáctém století dokonce dopisů⁠(otevře se v novém okně) a telegramů⁠(otevře se v novém okně). Mnoho podvodů se šíří plošně a bez přesného zacílení, některé se však zjevně snaží oslovit konkrétní skupiny. Například podvod typu „výkrm a porážka prasat“, o němž jsme informovali v únoru 2025⁠(otevře se v novém okně), se zaměřoval na témata, jako je golf. Jiný podvod založený na romantickém vztahu cílil prostřednictvím reklam na sociálních sítích na mladé muže v Indonésii. Při podvodech se zneužitím identity celebrit⁠(otevře se v novém okně) se pachatelé obvykle vydávají za známou osobnost a pak se zaměřují na skupiny jejích fanoušků. Dílčí povaha důkazů sice ztěžuje spolehlivé srovnání různých podvodů, proti nimž jsme zasáhli, podle našeho hodnocení však zvolený způsob šíření (například plošný nebo cílený) významně ovlivňuje, nakolik podvod dokáže své oběti úspěšně oslovit a zneužít. To platí bez ohledu na míru, v jaké operace využívala AI k jednotlivým činnostem.