Operace „Křivý svědek“: Falešná služba vymáhání peněz vydávající se za úřady

Tato případová studie původně vyšla ve zprávě OpenAI z února 2026⁠(otevře se v novém okně) o potírání zneužívání AI.

Zablokovali jsme skupinu účtů ChatGPT, které pomocí našich modelů vystupovaly jako fiktivní advokátní kanceláře a vydávaly se za skutečné advokáty a americké orgány činné v trestním řízení. Šlo o podvodnou nabídku navrácení peněz cílenou na oběti podvodů. Tato činnost velmi pravděpodobně pocházela z Kambodže a odpovídá nedávno zveřejněným zprávám o podvodných zločineckých operacích, které v této zemi řídí Číňané.

Tyto účty používaly ChatGPT k podpoře podvodu slibujícího navrácení peněz ztracených při podvodech. Operace byla založena na falešných advokátních kancelářích a vydávání se za důvěryhodné subjekty, například skutečné advokáty a Centrum FBI pro hlášení internetové kriminality (IC3).

1. Oslovení: Podvodníci pomocí ChatGPT vytvářeli obsah, který měl údajně pocházet od nejméně šesti falešných advokátních kanceláří. Část tohoto obsahu se následně objevila na účtech na sociálních sítích a v online reklamách propagujících fiktivní služby navrácení peněz obětem podvodů. Na podvodný charakter těchto kanceláří poukazovalo několik indicií z veřejně dostupných zdrojů: chybějící doklady o oprávnění od příslušné státní advokátní komory, používání nesourodých webových domén, uvádění zřejmě neexistujících poštovních adres v kontaktních údajích a pokyny ke kontaktování advokátů prostřednictvím chatovacích aplikací.

2. Získání důvěry: Podvodníci se snažili získat důvěru oslovených lidí generováním komentářů, které napodobovaly tón a profesionální vystupování advokátů specializujících se na pomoc obětem podvodů při vymáhání ztracených peněz. Generovali obsah, který měl údajně pocházet od osob vystupujících jako advokáti. Některé z těchto identit jsme identifikovali na různých webech. Jejich profilové obrázky byly zřejmě převzaté ze sociálních sítí nebo vygenerované pomocí AI. V některých případech podvodník používal stejné identity „advokátů“ u několika údajných advokátních kanceláří. Jeden z nalezených webů se vydával za IC3.

Kontaktní údaje zveřejněné na těchto podvodných webech odkazovaly návštěvníky na aplikace pro soukromou komunikaci, například Telegram. Ve zprávách pro oslovené oběti, které podvodníci připravovali pomocí ChatGPT, nepravdivě tvrdili, že působí pod dohledem Mezinárodního trestního soudu a že nebudou účtovat žádné poplatky, dokud se nepodaří získat zpět veškeré peníze oběti.

3. Vylákání peněz: Podvodníci se snažili z oslovených lidí vylákat peníze požadováním poplatků a záloh ještě před jakýmkoli „navrácením peněz“. Požadovali například zaplacení 15% „poplatku za službu“ před vyplacením údajně získaných peněz, vklady na aktivaci účtu a „poplatky za konzultaci“. Zprávy podvodníků určené obětem a připravené pomocí ChatGPT obsahovaly pokyny k odeslání plateb v kryptoměnách a k doložení platby snímky obrazovky s potvrzením transakce.

Operace využívala naše modely v několika fázích svého postupu, například k vytváření propagačního obsahu pro sociální sítě a nevyžádaných zpráv k oslovení potenciálních obětí. Nejčastěji však podvodníci používali ChatGPT k překladu zpráv posílaných obětem i zpráv od nich v aplikacích pro soukromou komunikaci. Zadávali přitom i požadavky na napsání odpovědi v „americké angličtině“ nebo ve stylu advokáta.

Část podvodných účtů používala naše modely také k vytváření klamavých materiálů, které měly posílit jejich důvěryhodnost. Šlo například o falešné záznamy o registraci advokátů a falešné členské průkazy advokátních komor i o podvodné dohody o mlčenlivosti, které měly oběti odradit od hledání pomoci jinde.

Při hodnocení dopadu je nutná opatrnost, protože jedním z hlavních zdrojů důkazů jsou vstupy zadávané samotnými podvodníky. Tyto vstupy naznačují, že podvodníci mohli jednotlivé oběti připravit o tisíce dolarů. Tato tvrzení však nemůžeme nezávisle ověřit. FBI a nejméně jedna advokátní kancelář, za kterou se podvodníci vydávali, před tímto podvodem veřejně varovaly. Představitelé FBI varovali, že operace cílí na zranitelné skupiny, zejména seniory, a zneužívá emočního rozpoložení obětí podvodů a jejich touhy rychle získat ztracené peníze zpět.

Pravidla OpenAI přísně zakazují využívání výstupů našich nástrojů k podvodům. Jsme odhodláni spolupracovat s dalšími firmami v oboru a s příslušnými orgány, abychom porozuměli tomu, jak AI ovlivňuje jednání škodlivých aktérů, a aktivně potírali podvodnou činnost zneužívající naše služby.