Operácia „Rande ako návnada“: Podvod s podporou AI zameraný na ľudí hľadajúcich lásku

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z februára 2026⁠(otvorí sa v novom okne) o marení škodlivého využívania AI.

Zablokovali sme skupinu účtov ChatGPT a jedného zákazníka API, ktorí využívali naše modely na prevádzkovanie poloautomatizovaného podvodu kombinujúceho romantické vzťahy a plnenie úloh. Pravdepodobne pri ňom mesačne okradli stovky obetí. Táto aktivita s veľkou pravdepodobnosťou pochádzala z Kambodže a zodpovedá nedávnym verejným správam⁠(otvorí sa v novom okne) o zločineckých podvodných operáciách vedených Číňanmi v tejto krajine. V ojedinelých prípadoch sa jednotliví používatelia sami označili za pracovníkov podvodných centier v Kambodži, napríklad keď od modelu žiadali daňové poradenstvo a ako svoje povolanie uviedli „podvodník“.

Sieť využívala ChatGPT a prístup k našim modelom cez API na rozsiahly poloautomatizovaný podvod kombinujúci romantické vzťahy a plnenie úloh. Riadila sa štruktúrovaným pracovným postupom a prevádzkovým modelom pripomínajúcim predajné kampane založené na nevyžiadanom oslovovaní.

1. Oslovenie: V úvodnej fáze získavania obetí operácia využívala svoje účty ChatGPT na generovanie propagačných textov pre luxusnú zoznamovaciu a eskortnú službu s názvom „Romantický klub“. Tieto texty sa potom zverejňovali na sociálnych sieťach ako platené reklamy. Podvodníci cielili na indonézskych mužov so záujmom o obsah o luxusnom životnom štýle. V reklamách používali kľúčové slová ako „golf“, „jachty“ a „zážitková gastronómia“. Reklamy obsahovali odkazy na AI chatbota, ktorý dostal pokyn vystupovať ako flirtujúca recepčná. Údajná recepčná vyzvala potenciálne obete, aby si z ponuky vybrali typ ženy a vzťahu. Potom ich pomocou sledovacej URL adresy a promo kódu presmerovala na Telegram.

2. Vyvolanie emócií: Na Telegrame operácia kombinovala ľudských operátorov používajúcich ChatGPT s automatizáciou cez API. Fiktívne recepčné pokračovali v konverzácii čoraz romantickejším a sexuálne explicitnejším jazykom a následne potenciálnym obetiam ponúkli registráciu na online zoznamovacích platformách s názvami „Kód lásky“ a „Sexuálna akcia“. Platforma zobrazovala profily údajne „dostupných dievčat“ a priebežne zverejňovala oznámenia vygenerované AI, ktoré gratulovali fiktívnym klientom k splneniu „misií“, odomknutiu bonusov a získaniu cien.

Po vybudovaní dôvery odovzdala fiktívna recepčná konverzáciu „mentorovi“. Ten používal ChatGPT na generovanie a preklad emocionálne manipulatívnych správ, ktorými tlačil na obete, aby splnili sériu „úloh“ alebo „misií“. Každá ďalšia úloha vyžadovala vyššie platby bankovým prevodom alebo cez digitálne peňaženky, napríklad za nákup „VIP karty“, podporu „vybraného dievčaťa“ v súťaži či zaplatenie zálohy za hotel. Obrázok fiktívnej recepčnej zoznamovacej platformy „Kód lásky“, ktorý podvodník vytvoril pomocou ChatGPT.

3. Vylákanie peňazí: V záverečnej fáze sa podvodníci pokúšali získať väčšiu platbu, ktorú označovali ako „záverečný úlovok“. Vymýšľali si pritom ďalšie poplatky, napríklad „vyrovnanie náhrady škody“ alebo „overovacie vklady“. Podľa správ, ktoré podvodníci vkladali do ChatGPT, obeť po zaslaní maximálnej možnej sumy zablokovali na Telegrame a prípad označili za uzavretý. Kópia listu, ktorý podvodník zdieľal s ChatGPT. Obeti v ňom oznamuje, že musí zaplatiť 20 500 000 Rp (12 000 USD) za opravu fiktívnej chyby spracovania údajov v systéme Kód lásky, no dostane 35 % „bonus“ vo výške 39 860 000 Rp. Údaje začiernili vyšetrovatelia OpenAI.

Okrem romantických podvodov operácia využívala naše modely aj na pomoc pri každodennom riadení svojich činností. To zahŕňalo žiadosti o návody v ChatGPT na vykonávanie technických úloh, ako je integrácia API OpenAI alebo aktualizácia webu falošnej zoznamovacej služby, analýzu finančných účtov a generovanie denných výkazov. V nich sa každej obeti priraďovala hodnota „záverečného úlovku“ vypočítaná podvodníkmi – odhad sumy, ktorú sa od nej pokúsia vylákať na záver.

V iných prípadoch podvodníci žiadali ChatGPT o preklad správ medzi čínsky hovoriacimi vedúcimi a indonézsky hovoriacimi pracovníkmi podvodného centra a o sledovanie výkonnosti oddelení s názvami „Získavanie kontaktov“, „Recepčný tím“ a „Tím vedúcich“.

Pri posudzovaní dosahu tejto siete je potrebná opatrnosť. Naším hlavným zdrojom dôkazov sú vstupy od samotných podvodníkov. Tieto vstupy naznačujú, že podvodníci mohli súčasne komunikovať so stovkami potenciálnych obetí a získavať tisíce dolárov denne. Nedokážeme však nezávisle overiť, či boli tieto tvrdenia pravdivé.

Pravidlá OpenAI prísne zakazujú využívať výstupy našich nástrojov na podvody. Usilujeme sa spolupracovať s partnermi v odvetví a príslušnými orgánmi, aby sme porozumeli tomu, ako AI ovplyvňuje správanie škodlivých aktérov, a aktívne marili podvodné aktivity zneužívajúce naše služby.