Podvodné operácie: Siete online podvodov

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z októbra 2025⁠(otvorí sa v novom okne).

Siete pravdepodobne pochádzajúce z Kambodže, Mjanmarska a Nigérie zneužívali ChatGPT pri zdanlivých pokusoch podvádzať ľudí na internete.

Usilujeme sa odhaľovať, predchádzať a brániť pokusom o zneužitie našich modelov na škodlivé účely. Medzi tieto prípady zneužitia patria podvody, pri ktorých odhaľujeme a blokujeme škodlivých aktérov pokúšajúcich sa zneužiť naše modely na klamanie a okrádanie ľudí. Za posledné tri mesiace sme narušili činnosť podvodných sietí, ktoré pravdepodobne pochádzali z Kambodže, Mjanmarska a Nigérie. Pri skúmaní týchto spôsobov zneužitia sme zároveň videli mnoho ľudí, ktorí pomocou našich modelov odhaľovali podvody, čo poukazuje na úlohu, akú môže AI zohrávať v boji proti nim. Táto správa sa venuje obom spôsobom použitia.

Zneužívanie našich modelov na podporu podvodov siaha od jednotlivcov pokúšajúcich sa podvádzať až po rozsiahle a dlhodobé operácie, ktoré sú pravdepodobne prepojené so skupinami organizovaného zločinu. Bez ohľadu na pôvod a konkrétnu taktiku má narušená podvodná činnosť zvyčajne spoločný priebeh, ktorý označujeme ako kontakt (nevyžiadané oslovenie), rozrušenie (snaha vyvolať nadšenie alebo paniku) a úder (vylákanie peňazí alebo cenných informácií).

Podvodníci začínajú šírením obsahu vytvoreného pomocou AI aj bez nej v komunikačných službách a na internete, a to aj prostredníctvom reklám na sociálnych sieťach. V každom, kto odpovie, sa potom snažia vyvolať buď nadšenie z výnosnej príležitosti, alebo strach z bezprostrednej finančnej straty a túto emóciu využívajú na presvedčenie obete, aby im odovzdala peniaze alebo citlivé informácie.

Zaznamenali sme aj mnoho prípadov, keď naše modely pravdepodobne pomohli ľudí ochrániť pred podvodmi. Každý mesiac zaznamenávame milióny prípadov, keď ľudia pomocou ChatGPT odhaľujú online podvody a vyhýbajú sa im. Pri každej podvodnej operácii opísanej v tejto správe sme videli, ako model pomohol ľuďom správne rozpoznať podvod a odporučil im vhodné bezpečnostné opatrenia. Podľa nášho súčasného odhadu sa ChatGPT používa na odhaľovanie podvodov až trikrát častejšie než na ich páchanie.

Príklad, ako vyšetrovateľ OpenAI vložil do ChatGPT snímku obrazovky podvodnej SMS správy, ktorú dostal, a pomocou modelu ju úspešne identifikoval ako podvod. V tomto prípade sa útočníci vydávali za náborových pracovníkov TikToku.

Od vydania poslednej správy sme posilnili svoju schopnosť odhaľovať podvody a narúšať ich. Narušili sme činnosť ďalších podvodných sietí, ktoré zrejme pochádzali z Kambodže, Mjanmarska a Nigérie. Tieto zásahy nám spolu s predchádzajúcimi umožňujú identifikovať nové trendy naprieč viacerými podvodnými operáciami z rôznych krajín.

Väčšina podvodnej činnosti, ktorú sme narušili, spočívala v začlenení AI do existujúcich podvodných postupov, nie vo vytváraní nových postupov založených na AI. Všetky podvodné operácie, ktoré sme tento rok identifikovali a zablokovali, využívali AI predovšetkým ako nástroj na rozšírenie činnosti a zvýšenie efektivity. Naše modely zvyčajne používali na preklady, písanie správ a tvorbu obsahu pre sociálne siete.

Nedávno sme napríklad zablokovali podvodné operácie pravdepodobne pochádzajúce z Kambodže a Nigérie, ktoré sa vydávali za „investičné spoločnosti“ a snažili sa okradnúť obete vo viacerých krajinách. Podvodníci vytvorili webové stránky a online reklamy propagujúce falošné spoločnosti a prostredníctvom zrejme neautentických účtov na sociálnych sieťach, ktoré sa vydávali za odborníkov na obchodovanie, pozývali ľudí do súkromných četových skupín. Útočníci sľubovali výnosné príležitosti na zárobok bez rizika a snažili sa potenciálne obete presvedčiť, aby vložili peniaze na fiktívne obchodné platformy. Pri všetkých podvodoch využívali podvodníci naše modely najmä na tvorbu a preklad korešpondencie, vytváranie obsahu pre svoje webové stránky a účty na sociálnych sieťach a na základný prieskum.

V inom prípade sme zablokovali podvodné centrum, ktoré sa s vysokou pravdepodobnosťou nachádzalo v Mjanmarsku a používalo naše modely na tvorbu obsahu pre svoje podvodné schémy aj na každodenné prevádzkové úlohy. Patrilo k nim zostavovanie rozvrhov, príprava interných oznámení, prideľovanie pracovných miest a ubytovania či správa finančných účtov. Niektorí operátori sa pýtali na tresty hroziace ľuďom pristihnutým pri páchaní online podvodov.

Nie všetci podvodníci, ktorých činnosť sme narušili, používali naše modely rovnakým spôsobom alebo s rovnakou mierou zložitosti. Väčšinu interakcií podvodníkov s ChatGPT tvorili pomerne jednoduché úlohy, napríklad preklady, no niektoré podvodné operácie boli ambicióznejšie a prepracovanejšie.

Jedna narušená podvodná operácia, ktorá pravdepodobne pochádzala z Kambodže, napríklad používala naše modely na vytváranie podrobných životopisov falošných investičných odborníkov a vymyslených zamestnancov falošných obchodných spoločností. Podvodníci potom požiadali ChatGPT, aby písal správy na sociálne siete v štýle týchto postáv. Útočníci často zadávali nášmu modelu správy, ktoré zrejme dostali od svojich cieľov, a žiadali ho, aby pokračoval v rozhovore v úlohe falošnej osoby.

Druhá podvodná operácia, ktorá tiež pravdepodobne pochádzala z Kambodže, začala naše modely používať na tvorbu nevyžiadaných SMS správ hromadne odosielaných na telefónne čísla v USA. Jednu z nich dostal vyšetrovateľ OpenAI, podobne ako v prípade, o ktorom sme informovali v júni. Tieto SMS správy obsahovali pozvánky do skupín na WhatsAppe, ktoré boli neskôr zablokované a ktorých názvy pripomínali legitímnu investičnú spoločnosť.

Zo série správ na WhatsAppe odoslaných vyšetrovateľovi OpenAI vyplýva, že keby sa potenciálna obeť pridala do jednej z týchto skupín, rýchlo by sa stala svedkom „rozhovoru“ medzi šiestimi rôznymi účtami, ktoré diskutovali o investovaní. Jeden z účtov sa vydával za „investičného odborníka“, ostatné za investorov s rôznou mierou sebadôvery a skúseností. Celý rozhovor vytvorili podvodníci a následne ho v jednom bloku preložili z čínštiny, pravdepodobne aby vyvolali dojem aktívnej skupiny nadšených a úspešných obchodníkov. „Investičný odborník“ napokon navrhol, aby investovanie vyskúšala aj potenciálna obeť.

Iná investičná podvodná operácia, ktorá s vysokou pravdepodobnosťou pochádzala z Nigérie, žiadala model o podrobný návod, ako pomocou reklám na sociálnych sieťach osloviť bohatých ľudí v Latinskej Amerike, zamaskovať svoju polohu a obísť obmedzenia platforiem sociálnych sietí. Jej operátori pritom model odkazovali na verejne dostupné podmienky používania platformy a žiadali ho, aby posúdil súlad navrhovaného reklamného obsahu s týmito podmienkami.

Podvodníci, najmä rozsiahle podvodné centrá, sú vytrvalí. Na zásah veľmi často reagujú pokusom obnoviť svoju činnosť porušujúcu pravidlá, pričom menia niektoré prvky svojho správania, pravdepodobne v snahe vyhnúť sa ďalšiemu odhaleniu. Aj preto je dôležité v rámci odvetvia zdieľať poznatky o vývoji ich činnosti. OpenAI a Meta si napríklad vzájomne poskytli informácie o útočníkoch, ktoré prispeli k ďalšiemu vyšetrovaniu a presadzovaniu pravidiel.

Možno v reakcii na zásahy alebo širšie online diskusie o znakoch prezrádzajúcich použitie AI sme zaznamenali pokusy podvodníkov zakryť využívanie AI v online obsahu a komunikácii s obeťami. Patria sem podvodné operácie pravdepodobne pochádzajúce z Kambodže, ktoré modelu prikazovali odstraňovať z výstupov dlhé pomlčky.

V jednom prípade sa podvodníci pokúsili vysvetliť rozsiahle zablokovanie svojich účtov na sociálnych sieťach vymyslenou výhovorkou. Išlo o vyššie opísané podvodné centrum pravdepodobne pochádzajúce z Kambodže, ktoré pôsobilo prostredníctvom SMS a WhatsAppu. Keď WhatsApp zablokoval „investičné skupiny“ prepojené s touto operáciou, jej prevádzkovatelia začali vytvárať správy s tvrdením, že skupiny nepravdivo nahlásil konkurent, zrejme aby tak zdôvodnili ich zablokovanie.

Snímka obrazovky správy na WhatsAppe, ktorú podvodná operácia prepojená s Kambodžou poslala vyšetrovateľovi OpenAI po zásahu WhatsAppu.