Operacija »Napačna številka«: prevara z nalogami ob podpori UI

Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz junija 2025⁠(odpre se v novem oknu).

Blokirali smo račune ChatGPT, ki so ustvarjali kratka sporočila za pridobivanje sodelavcev v angleščini, španščini, svahiliju, kinjaruandščini, nemščini in haitijski kreolščini. Ta sporočila so prejemnikom ponujala visoko plačilo za preprosta opravila, kot je všečkanje objav na družbenih omrežjih, ter jih spodbujala, naj pridobijo še druge. Operacija je bila očitno močno centralizirana in je verjetno izvirala iz Kambodže.

Z orodji za prevajanje, ki jih poganja UI, smo lahko hitro preiskali in prekinili uporabo storitev OpenAI v tej kampanji.

Večina sporočil omrežja je bila povezana s prevajalskimi nalogami. ChatGPT so uporabljali za prevajanje pogovornih povedi med kitajščino in več drugimi jeziki, predvsem angleščino, španščino, kinjaruandščino, svahilijem, nemščino in haitijsko kreolščino. Pri teh nalogah so praviloma izmenično prevajali prejeto sporočilo v kitajščino in odgovor iz kitajščine nazaj v izvirni jezik.

Del teh sporočil je spominjal na oglase za delo, poslane brez predhodnega stika, ki so za zelo malo dela ponujali visoko urno plačilo. Eno takšnih sporočil je bilo prek SMS-a poslano navidez naključnemu naboru mobilnih številk v Združenem kraljestvu; ena je pripadala preiskovalcu pri OpenAI. Operacijo smo v spomin na prvi SMS poimenovali »Napačna številka«.

Kaže, da so akterji grožnje uporabljali več platform za sporočanje. Prvi SMS je prejemnike usmeril na WhatsApp, nato pa so tiste, ki so se odzvali, napotili k »mentorju« na Telegramu. Pri nekaterih dejavnostih je bila omenjena tudi aplikacija za sporočanje BonChat. Kaže, da uvodna sporočila, poslana prek teh kanalov, niso bila ustvarjena z našimi modeli. Šlo je za rutinska sporočila, ki bi jih bilo verjetno mogoče uporabiti v vsakem pogovoru.

Številne prevajalske naloge so vključevale komunikacijo, ki naj bi prihajala od predstavnikov domnevnih podjetij »delodajalcev«. V številnih pogovorih v ChatGPT, zajetih v tej preiskavi, so se vedno znova pojavljala ista imena podjetij. Med njimi sta bili družbi Hyesung Advertising⁠(odpre se v novem oknu) in Lightning Shared Scooter Co (LSSC)⁠(odpre se v novem oknu). Javno dostopna poročila so Hyesung in LSSC označila kot domnevni prevari z nalogami. Čeprav narave teh subjektov nismo neodvisno preverili, je naša preiskava pokazala, da so sporočila, ki naj bi prihajala od njih, ustvarili kitajsko govoreči uporabniki ChatGPT, ki so verjetno delovali iz Kambodže.

Podjetja, ki naj bi jih to omrežje zastopalo, so delovala v številnih panogah, od trgovanja z delnicami in izposoje skirojev do prodaje všečkov na družbenih omrežjih. Jasen opozorilni znak je bila ponudba več kot 5 USD za en sam všeček na TikToku; za primerjavo je naš ročni pregled spletnih tržnic pokazal, da nekateri prodajalci všečkov na družbenih omrežjih za 1.000 všečkov zaračunajo manj kot 10 USD.

Z združitvijo kazalnikov zunaj platforme z internimi opažanji smo prepoznali ponavljajoč se vzorec poteka dela. Da bi izboljšali razumevanje te taktike in poenostavili njeno razvrščanje, vzorec opisujemo takole: prvi stik (nenapovedan stik), navdušenje (vzbuditev zanimanja) in udarec (izvabljanje denarja):

1. Prvi stik (nenapovedan stik): Omrežje ustvarja vsebino za nagovarjanje brez predhodnega stika, pri čemer navadno ponuja neobičajno visoko plačilo za zelo malo dela ali obljublja visoke donose od borznih naložb. Ponudbe vključujejo visoko plačilo za preprosta opravila, kot je všečkanje objav na družbenih omrežjih, ali donosne naložbene priložnosti.

2. Navdušenje (vzbuditev zanimanja): Omrežje prevaja pogovore, verjetno med Operatorjem in njegovimi »zaposlenimi«. Ti pogovori vključujejo logistične podrobnosti o nalogah, pogosto pa jih prekinjajo motivacijska sporočila o zaslužku in morebitnih dodatkih.

3. Udarec (izvabljanje denarja): Omrežje ustvarja in/ali pošilja vsebino, ki na »zaposlenega« ali »vlagatelja« pritiska, naj prispeva denar in si tako odklene večje nagrade. To se pojavlja v več oblikah, vključno z začetnim »pologom«, nakupi kriptovalut in »stroški obdelave«.

Javno dostopna poročila⁠(odpre se v novem oknu) kažejo, da so nekatera od teh podjetij novim sodelavcem zaračunavala visoke pristopnine, nato pa del tega denarja namenila za ravno dovolj visoka izplačila obstoječim »zaposlenim«, da so ti še naprej sodelovali. Takšna struktura je značilna za prevare z nalogami⁠(odpre se v novem oknu).

Zaradi omejenega vpogleda je dejanski doseg tega omrežja težko oceniti. Vendar poročila zunaj platforme⁠(odpre se v novem oknu) in pogovori, v katerih so »zaposleni« zahtevali vračilo denarja, kažejo, da so vsaj nekateri posamezniki tem domnevnim delodajalcem plačali. Opazili smo tudi pristne uporabnike, ki so podjetja zagovarjali na družbenih omrežjih, kar kaže na določeno stopnjo dejanske vključenosti.