Operace „Rande jako návnada“: podvod využívající AI a cílený na lidi hledající lásku

Tato případová studie původně vyšla ve zprávě OpenAI z února 2026⁠(otevře se v novém okně) o potírání škodlivého využívání AI.

Zablokovali jsme skupinu účtů ChatGPT a jednoho zákazníka API, kteří naše modely využívali k provozování částečně automatizovaného podvodu kombinujícího romantické vztahy a plnění úkolů. Pravděpodobně tak připravovali o peníze stovky obětí měsíčně. Tato činnost s vysokou pravděpodobností pocházela z Kambodže a odpovídá nedávným veřejným zprávám⁠(otevře se v novém okně) o zločineckých podvodných operacích v této zemi vedených Číňany. V ojedinělých případech se jednotliví uživatelé sami označili za pracovníky podvodných center v Kambodži. Například když žádali model o daňové poradenství, uvedli jako své povolání „podvodník“.

Síť využívala ChatGPT a přístup k našim modelům přes API k rozsáhlému, částečně automatizovanému podvodu kombinujícímu romantické vztahy a plnění úkolů. Řídila se strukturovanými postupy a provozním modelem připomínajícím prodej založený na oslovování neznámých zákazníků.

1. Oslovení: V úvodní fázi operace využívala své účty ChatGPT k vytváření propagačních textů pro luxusní seznamovací a eskortní službu s názvem „Romantický klub“. Tyto texty pak zveřejňovala na sociálních sítích jako placené reklamy. Podvodníci cílili na indonéské muže se zájmem o obsah týkající se luxusního životního stylu. V reklamách používali klíčová slova jako „golf“, „jachty“ a „špičková gastronomie“. Reklamy obsahovaly odkazy na AI chatbota, který dostal pokyn vydávat se za flirtující recepční. Domnělá recepční požádala potenciální oběti, aby si z nabídky vybraly typ ženy a vztahu, a poté je pomocí sledovací URL a slevového kódu přesměrovala na Telegram.

2. Emoce: Na Telegramu operace kombinovala práci lidských operátorů využívajících ChatGPT s automatizací prostřednictvím API. Falešné recepční pokračovaly v konverzaci stále romantičtějším a sexuálně otevřenějším jazykem. Poté potenciálním obětem nabídly, aby se připojily k online seznamovacím platformám „Kód lásky“ a „Sexuální akce“. Platforma zobrazovala profily údajných „dostupných dívek“ a proud oznámení vytvořených pomocí AI, která fiktivním klientům gratulovala k dokončení „misí“, odemknutí bonusů a získání cen.

Po získání důvěry předala falešná recepční konverzaci „mentorovi“. Ten pomocí ChatGPT vytvářel a překládal citově manipulativní zprávy, jimiž tlačil na oběti, aby splnily sérii „úkolů“ či „misí“. Každý další úkol vyžadoval stále vyšší platby bankovním převodem nebo prostřednictvím digitálních peněženek, například za nákup „VIP karty“, podporu „vybrané dívky“ v soutěži nebo zaplacení zálohy na hotel. Obrázek falešné recepční seznamovací platformy „Kód lásky“, který podvodník vytvořil pomocí ChatGPT.

3. Vylákání peněz: V závěrečné fázi se podvodníci snažili získat větší platbu, kterou označovali jako „porážku“. Vymýšleli si přitom další poplatky, například „kompenzační vyrovnání“ nebo „ověřovací zálohy“. Soudě podle zpráv, které podvodníci vkládali do ChatGPT, oběť poté, co poslala maximální možnou částku, zablokovali na Telegramu a případ označili za uzavřený. Kopie dopisu, který podvodník sdílel s ChatGPT. Oběti v něm sděluje, že musí zaplatit 20 500 000 Rp (12 000 dolarů) za nápravu smyšlené chyby při zpracování dat v systému Kód lásky, ale že obdrží 35% „bonus“ ve výši 39 860 000 Rp. Citlivé údaje začernili vyšetřovatelé OpenAI.

Kromě podvodů založených na romantických vztazích operace naše modely využívala také jako pomoc při každodenním provozu. Podvodníci například žádali ChatGPT o návody k technickým úkolům, jako je integrace API OpenAI nebo aktualizace webu falešné seznamky, o analýzu finančních účtů a o vytváření denních zpráv. Ty každé oběti přiřazovaly podvodníky vypočítanou hodnotu „porážky“ – odhad částky, kterou se měli pokusit vylákat v závěrečné fázi.

V jiných případech podvodníci žádali ChatGPT o překlad zpráv mezi čínsky mluvícími vedoucími a indonésky mluvícími pracovníky podvodného centra a o sledování výkonu oddělení nazvaných „Získávání kontaktů“, „Tým recepce“ a „Tým vedoucích“.

Při hodnocení dopadu této sítě je třeba postupovat obezřetně. Naším hlavním zdrojem důkazů jsou vstupy, které zadávali sami podvodníci. Tyto vstupy naznačují, že podvodníci mohli komunikovat se stovkami potenciálních obětí současně a získávat tisíce dolarů denně. Nedokážeme však nezávisle ověřit, zda tato tvrzení odpovídala skutečnosti.

Zásady OpenAI přísně zakazují využívat výstupy našich nástrojů k podvodům. Usilujeme o spolupráci s dalšími firmami v oboru a příslušnými orgány, abychom porozuměli tomu, jak AI ovlivňuje chování pachatelů, a aktivně potírali podvodné aktivity zneužívající naše služby.