Podvod s úkoly: falešná práce s recenzemi za pomoci AI

Tato případová studie byla původně zveřejněna ve zprávě z února 2025⁠(otevře se v novém okně) společnosti OpenAI.

Zablokovali jsme skupinu účtů ChatGPT, které překládaly krátké komentáře mezi urdštinou a angličtinou. Tyto komentáře odpovídaly podvodu s „úkoly⁠(otevře se v novém okně)“, při němž je obětem nabídnuta velmi dobře placená práce, ale před získáním přístupu k údajnému „výdělku“ musí do systému vložit vlastní peníze. Zdálo se, že tato činnost pochází z Kambodže. Oběti těchto podvodů obvykle přijdou jak o „výdělek“, tak o vlastní peníze. Tuto činnost jsme začali vyšetřovat na základě upozornění od společnosti Meta.

Tato síť používala naše modely především k překladům krátkých komentářů mezi urdštinou a angličtinou, které odpovídaly komunikaci podvodníka s oběťmi. Odhalili jsme zmínky o komunikaci přes Telegram (zjevně jejich hlavní platformu), WhatsApp a SMS i na různých pracovních fórech a ve skupinách, kde bylo možné zveřejňovat pracovní nabídky.

Zdálo se, že podvodníci vystupovali především ve dvou rolích. První byl „náborář“: nevyžádaně oslovoval potenciální zájemce a zveřejňoval inzeráty na dobře placenou práci na dálku. Druhou a aktivnější rolí byl „mentor“, který navazoval na oslovení „náboráře“ a vysvětloval oběti, jak má svou práci vykonávat. Mentoři velmi často zmiňovali školení na Telegramu.

Podvodníci občas používali naše modely také ke korekturám textů webových stránek. Zdá se, že tyto weby napodobovaly názvy a vzhled luxusních značek z oblasti designu, módy a cestování. Osoby v roli „mentora“ tvrdily, že provádějí nábor jménem těchto značek. Weby tedy nejspíš sloužily k tomu, aby podvod působil důvěryhodněji.

Podle omezených informací, které máme k dispozici, podvodníci při převádění zájemců od prvního kontaktu k podvodu zřejmě postupovali podle běžného scénáře:

1. Pracovní inzerát: Z jejich pokynů a vygenerovaných výstupů vyplývá, že podvodníci nejprve zveřejňovali pracovní nabídky na různých internetových fórech. Při náboru obvykle nabízeli práci na dálku a za malé množství práce slibovali poměrně vysokou odměnu, například 300 dolarů denně plus bonusy za několik hodin práce. Tyto nabídky obvykle zveřejňovala osoba v roli „náboráře“.

2. Nábor: Podvodníci poté generovali komentáře v roli „mentora“, který prostřednictvím různých komunikačních aplikací kontaktoval potenciální pracovníky a tvrdil, že spolupracuje s „náborářem“. „Mentor“ se vydával za zaměstnance jedné z luxusních značek, pro které tato skupina vytvořila web. Úkol popisovali jako přidávání pětihvězdičkových recenzí na weby těchto luxusních značek, údajně s cílem zlepšit jejich hodnocení od zákazníků.

3. Ujišťování: Podvodníci ve vygenerovaných výstupech často ujišťovali oběti, že jde o legitimní práci, protože ji vykonávají pro dlouholetou společnost. Pokud oběť projevila obavy, podvodník tvrdil, že i on už se v minulosti stal obětí podvodu, ale tato příležitost je bezpečná.

4. Školení: Pokud měla oběť nadále zájem, vygenerované výstupy naznačovaly, že jí „mentor“ nabídne školení, obvykle na Telegramu. Oběť nejprve získala přístup ke „školicímu účtu“, na kterém měla denně splnit 25 až 35 úkolů spočívajících v přidávání recenzí. Na „školicím účtu“ oběť viděla, jak její „výdělek“ rychle roste.

5. Nadšení: Pokud oběť ve školení pokračovala, vygenerované výstupy často naznačovaly, že dostane „speciální“ nebo „nejvyšší“ úkol s recenzí, za který získá vyšší bonus. „Mentor“ zdůrazňoval, jak vzácný takový úkol je a jaké má oběť štěstí.

6. „Aktivační poplatek“: Jakmile „výdělek“ oběti dosáhl určité částky, „mentor“ jí podle vygenerovaných výstupů sdělil, že před jeho výběrem musí zaplatit „aktivační poplatek“. Podvodník ji v případě potřeby nabádal, aby si peníze půjčila od přátel nebo rodiny.

7. Nátlak: Vygenerované výstupy ukázaly, že pokud se oběť zdráhala zaplatit, podvodník byl stále agresivnější. Vyvíjel na ni nátlak srovnáváním s jinými, výkonnějšími pracovníky a tvrdil, že pokud nezaplatí, o výdělek přijde.

8. Výmluvy: Pokud vygenerované výstupy naznačovaly, že oběť zaplatila, podvodník uváděl řadu výmluv, proč si nemůže výdělek vybrat. Často tvrdil, že musí vložit další peníze.

Některé konverzace ukázaly, že oběti byly velmi skeptické. Část komentářů generovaných podvodníky byla formulována hlasem mentora, který se ptal, proč mu oběť přestala psát. To naznačuje, že tento podvod měl pravděpodobně celkově nízkou úspěšnost. Některé konverzace a zprávy na internetu však naznačují, že přinejmenším část obětí do těchto podvodů skutečně vložila peníze. Činnost, která probíhá mimo naše nástroje, nemůžeme nezávisle ověřit.

Zásady společnosti OpenAI přísně zakazují používat výstupy z našich nástrojů k podvodům. Jsme odhodláni spolupracovat s dalšími subjekty v oboru a s úřady, abychom porozuměli vlivu AI na jednání škodlivých aktérů a aktivně potírali podvodné aktivity zneužívající naše služby. V souladu s tímto závazkem jsme informace o podvodných sítích, jejichž činnost jsme narušili, sdíleli s dalšími subjekty v oboru a příslušnými úřady, abychom posílili společnou bezpečnost.