Podvod s úlohami: falošné recenzie s pomocou AI

Táto prípadová štúdia bola pôvodne publikovaná v správe OpenAI z februára 2025⁠(otvorí sa v novom okne).

Zablokovali sme skupinu účtov ChatGPT, ktoré prekladali krátke komentáre medzi urdčinou a angličtinou spôsobom typickým pre podvod s „úlohami⁠(otvorí sa v novom okne)“. Pri ňom obetiam ponúknu dobre platenú prácu, no pred sprístupnením údajných „zárobkov“ musia do systému vložiť vlastné peniaze. Zdá sa, že táto činnosť pochádzala z Kambodže. Obete pri týchto podvodoch zvyčajne prídu o „zárobky“ aj o vlastné peniaze. Túto činnosť sme začali vyšetrovať na základe upozornenia od spoločnosti Meta.

Táto sieť používala naše modely najmä na preklad krátkych komentárov medzi urdčinou a angličtinou, ktoré zodpovedali rozhovorom podvodníkov s obeťami. Identifikovali sme zmienky o komunikácii cez Telegram, ktorý bol zrejme ich hlavnou platformou, ako aj cez WhatsApp, SMS a rôzne pracovné fóra a skupiny, kde bolo možné zverejňovať pracovné ponuky.

Zdá sa, že podvodníci vystupovali najmä v dvoch úlohách. Prvou bol „náborový pracovník“, ktorý nevyžiadanými správami a inzerátmi ponúkal dobre platenú prácu na diaľku. Druhou úlohou, ktorá vytvárala väčší objem aktivity, bol „mentor“. Ten nadviazal na prvotné oslovenie „náborového pracovníka“ a vysvetľoval obeti, ako má vykonávať svoju prácu. Mentori veľmi často odkazovali na školenia cez Telegram.

Podvodníci príležitostne používali naše modely aj na jazykovú korektúru textov webových sídel. Zdá sa, že tieto webové sídla napodobňovali názvy a vzhľad luxusných značiek z oblasti dizajnu, módy a cestovania. Osoby vystupujúce ako „mentori“ tvrdili, že robia nábor v mene týchto značiek. Webové sídla teda pravdepodobne slúžili na zvýšenie dôveryhodnosti podvodu.

Na základe nášho obmedzeného prehľadu sa zdá, že podvodníci pri premieňaní oslovených ľudí na obete postupovali podľa bežného scenára:

1. Zverejnenie pracovnej ponuky: Z ich zadaní a vygenerovaných textov vyplýva, že podvodníci začínali zverejňovaním pracovných ponúk na rôznych online fórach. Pri nábore zvyčajne ponúkali prácu na diaľku a za malé množstvo práce sľubovali pomerne vysokú mzdu, napríklad 300 dolárov denne plus odmeny za niekoľko hodín práce. Ponuky zvyčajne zverejňovala osoba vystupujúca ako „náborový pracovník“.

2. Nábor: Podvodníci potom v úlohe „mentora“ generovali správy, ktorými cez rôzne komunikačné aplikácie kontaktovali potenciálnych pracovníkov a tvrdili, že spolupracujú s „náborovým pracovníkom“. „Mentor“ sa vydával za pracovníka jednej z luxusných značiek, pre ktoré podvodníci vytvorili webové sídlo. Úlohu opisovali ako pridávanie päťhviezdičkových recenzií na webové sídla týchto luxusných značiek, údajne s cieľom zlepšiť ich hodnotenie zákazníkmi.

3. Ubezpečovanie: Podvodníci vo vygenerovaných textoch často ubezpečovali obete, že práca je legitímna, pretože ju vykonávajú v mene dlhoročnej spoločnosti. Ak obeť prejavila obavy, podvodník tvrdil, že aj on už bol v minulosti podvedený, no táto príležitosť je bezpečná.

4. Školenie: Ak obeť naďalej prejavovala záujem, podľa vygenerovaných textov jej „mentor“ ponúkol školenie, zvyčajne cez Telegram. Obeť najskôr získala prístup k „školiacemu účtu“, na ktorom mala denne splniť 25 až 35 úloh súvisiacich s recenziami. Na „školiacom účte“ obeť videla, ako jej „zárobky“ rýchlo rastú.

5. Vzbudenie nadšenia: Ak obeť pokračovala v školení, podľa vygenerovaných textov často dostala „špeciálnu“ alebo „najvyššiu“ recenznú úlohu s vyššou odmenou. „Mentor“ zdôrazňoval, aká je táto úloha vzácna a aké má obeť šťastie.

6. „Aktivačný poplatok“: Keď „zárobky“ obete dosiahli určitú výšku, „mentor“ jej podľa vygenerovaných textov oznámil, že na ich výber musí zaplatiť „aktivačný poplatok“. Podvodník ju v prípade potreby nabádal, aby si peniaze požičala od priateľov alebo rodiny.

7. Nátlak: Z vygenerovaných textov vyplynulo, že ak obeť odmietala zaplatiť, podvodník bol čoraz agresívnejší. Vyvíjal na ňu tlak porovnávaním s inými, výkonnejšími pracovníkmi a tvrdil, že ak nezaplatí, príde o svoje zárobky.

8. Výhovorky: Ak vygenerované texty naznačovali, že obeť zaplatila, podvodník uvádzal rôzne dôvody, prečo si nemôže vybrať zárobky, a často tvrdil, že musí zaplatiť ďalšie peniaze.

Niektoré rozhovory ukázali, že oslovení ľudia boli veľmi skeptickí. Časť textov vygenerovaných podvodníkmi bola napísaná hlasom mentora, ktorý sa pýtal, prečo obeť prestala komunikovať. To naznačuje, že celková úspešnosť tohto podvodu bola pravdepodobne nízka. Niektoré rozhovory a správy na internete však naznačujú, že aspoň niektoré obete do týchto podvodov skutočne vložili peniaze. Činnosť mimo našich nástrojov nedokážeme nezávisle overiť.

Zásady OpenAI prísne zakazujú používať výstupy našich nástrojov na páchanie podvodov. Spolupracujeme s partnermi z odvetvia a príslušnými orgánmi, aby sme pochopili, ako AI ovplyvňuje škodlivé správanie, a aktívne narúšali podvodné aktivity zneužívajúce naše služby. V súlade s týmto záväzkom sme partnerom z odvetvia a príslušným orgánom poskytli informácie o podvodných sieťach, ktorých činnosť sme narušili, aby sme spoločne posilnili bezpečnosť.