Operace „Špatné číslo“: podvod s úkoly za pomoci AI

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z června 2025⁠(otevře se v novém okně).

Zablokovali jsme účty ChatGPT, které vytvářely krátké náborové zprávy v angličtině, španělštině, svahilštině, rwandštině, němčině a haitské kreolštině. Tyto zprávy nabízely příjemcům vysoké odměny za triviální úkoly, například označování příspěvků na sociálních sítích jako „To se mi líbí“, a vybízely je k náboru dalších lidí. Operace působila jako vysoce centralizovaná a pravděpodobně pocházela z Kambodže.

Díky překladatelským nástrojům využívajícím AI jsme mohli rychle vyšetřit a narušit využívání služeb OpenAI v této kampani.

Většina požadavků této sítě se týkala překladů. ChatGPT používali k překládání konverzačních vět mezi čínštinou a několika dalšími jazyky, především angličtinou, španělštinou, rwandštinou, svahilštinou, němčinou a haitskou kreolštinou. Tyto úlohy obvykle střídaly překlad příchozí zprávy do čínštiny a překlad odpovědi z čínštiny zpět do původního jazyka.

Část těchto zpráv připomínala pracovní nabídky rozesílané naslepo a slibovala vysokou hodinovou odměnu za minimum práce. Jedna taková zpráva byla prostřednictvím SMS rozeslána na zdánlivě náhodně vybraná britská mobilní čísla. Jedno z nich patřilo vyšetřovateli OpenAI. Podle úvodní SMS jsme tuto operaci nazvali „Špatné číslo“.

Zdálo se, že aktéři hrozby využívají několik komunikačních platforem. Úvodní SMS příjemce vyzývala, aby pokračovali přes WhatsApp, odkud byli ti, kteří odpověděli, přesměrováni k „mentorovi“ na Telegramu. V některých aktivitách se objevovala také komunikační aplikace BonChat. Nezdálo se, že by úvodní zprávy zasílané v počáteční fázi přes tyto kanály byly vytvořeny pomocí našich modelů. Šlo o rutinní zprávy, které bylo pravděpodobně možné použít v každé konverzaci.

Řada překladatelských úloh se týkala komunikace, která údajně pocházela od zástupců domnělých „zaměstnavatelů“. V mnoha konverzacích ChatGPT zahrnutých do tohoto vyšetřování se opakovaně objevovaly stejné názvy společností. Patřily mezi ně společnosti Hyesung Advertising⁠(otevře se v novém okně) a Lightning Shared Scooter Co (LSSC)⁠(otevře se v novém okně). Veřejně dostupné zprávy označují společnosti Hyesung a LSSC za údajné podvodné projekty založené na plnění úkolů. Povahu těchto subjektů jsme sice nezávisle neověřili, naše vyšetřování však zjistilo, že zprávy, které od nich údajně pocházely, vytvářeli čínsky mluvící uživatelé ChatGPT, kteří pravděpodobně působili z Kambodže.

Společnosti, které tato síť údajně zastupovala, působily v široké škále odvětví – od obchodování s akciemi přes pronájem skútrů až po prodej označení „To se mi líbí“ na sociálních sítích. Jasným varovným signálem byla nabídka více než 5 dolarů za jediné označení videa na TikToku jako „To se mi líbí“. Při ruční kontrole online tržišť jsme přitom zjistili, že někteří prodejci takových označení na sociálních sítích účtují méně než 10 dolarů za 1 000 označení.

Kombinací ukazatelů z externích platforem s interními poznatky jsme odhalili opakující se pracovní postup. Pro lepší pochopení této taktiky a snazší klasifikaci popisujeme tento vzorec jako: ťuknutí (první kontakt), jiskra (vyvolání nadšení) a žihadlo (vylákání peněz):

1. Ťuknutí (první kontakt): Síť vytváří obsah určený k nevyžádanému oslovování. Obvykle nabízí neobvykle vysokou odměnu za minimum práce nebo slibuje vysoké výnosy z investic na akciovém trhu. Tyto nabídky zahrnují vysokou odměnu za jednoduché úkoly, například označování příspěvků na sociálních sítích jako „To se mi líbí“, nebo lukrativní investiční příležitosti.

2. Jiskra (vyvolání nadšení): Síť překládá konverzace, pravděpodobně mezi operátorem a jeho „zaměstnanci“. Tyto rozhovory obsahují organizační podrobnosti o úkolech, ale často je prokládají motivační zprávy o výdělcích a možných bonusech.

3. Žihadlo (vylákání peněz): Síť vytváří nebo rozesílá obsah, který na „zaměstnance“ či „investora“ vyvíjí nátlak, aby vložil peníze a získal tak přístup k vyšším odměnám. Může to mít několik podob, například počáteční „vklad“, nákup kryptoměn nebo „manipulační poplatky“.

Veřejně dostupné zprávy⁠(otevře se v novém okně) naznačují, že některé z těchto společností vybíraly od nových členů vysoké vstupní poplatky a část těchto peněz následně používaly k vyplácení stávajících „zaměstnanců“ v takové výši, aby je udržely aktivní. Tato struktura je charakteristická pro podvody s úkoly⁠(otevře se v novém okně).

Vzhledem k našemu omezenému přehledu je obtížné vyčíslit skutečný dosah této sítě. Zprávy z externích platforem⁠(otevře se v novém okně) a konverzace, v nichž „zaměstnanci“ požadovali vrácení peněz, však naznačují, že alespoň někteří lidé těmto údajným zaměstnavatelům zaplatili. Na sociálních sítích jsme také zaznamenali skutečné uživatele, kteří tyto společnosti hájili, což naznačuje určitou míru reálného zapojení.