Prevarantske operacije: mreže spletnih goljufij

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI za oktober 2025⁠(odpre se v novem oknu).

Mreže, ki verjetno izvirajo iz Kambodže, Mjanmara in Nigerije, so zlorabljale ChatGPT pri domnevnih poskusih spletnega goljufanja ljudi.

Zavezani smo prepoznavanju, preprečevanju in onemogočanju poskusov zlorabe naših modelov v škodljive namene. Med te zlorabe sodijo prevare, pri katerih odkrivamo in blokiramo zlonamerne akterje, ki poskušajo naše modele zlorabiti za zavajanje in goljufanje ljudi. V zadnjih treh mesecih smo onemogočili prevarantske mreže, ki so verjetno izvirale iz Kambodže, Mjanmara in Nigerije. Med preiskovanjem teh vzorcev zlorabe smo opazili tudi veliko ljudi, ki so si z našimi modeli pomagali prepoznati prevare, kar kaže na vlogo, ki jo lahko ima UI v boju proti goljufijam. To poročilo obravnava oba načina uporabe.

Zloraba naših modelov za izvajanje prevar sega od posameznikov, ki poskušajo goljufati, do obsežnih in vztrajnih operacij, verjetno povezanih z organiziranimi kriminalnimi združbami. Ne glede na izvor in konkretne taktike dejavnosti, povezane s prevarami, ki smo jih onemogočili, običajno sledijo skupnemu vzorcu: prvi stik (nenaročeno nagovarjanje), čustveni pritisk (vzbujanje navdušenja ali panike) in udarec (pridobivanje denarja ali dragocenih podatkov).

Prevaranti najprej razširjajo vsebine, ustvarjene z UI ali brez nje, po storitvah za sporočanje in spletu, med drugim tudi z oglasi v družbenih omrežjih. Nato poskušajo pri vsakomur, ki se odzove, vzbuditi bodisi navdušenje nad donosno priložnostjo bodisi strah pred skorajšnjo finančno izgubo ter to čustvo izkoristiti, da tarčo prepričajo v izročitev denarja ali občutljivih podatkov.

Opazili smo tudi veliko primerov, ko so naši modeli ljudem verjetno pomagali, da so se obvarovali pred goljufijami. Zasledili smo dokaze, da ljudje ChatGPT milijonkrat na mesec uporabijo za prepoznavanje spletnih prevar in zaščito pred njimi. Pri vsaki prevarantski operaciji v tem poročilu smo opazili, da je model ljudem pomagal pravilno prepoznati prevaro in jim svetoval ustrezne varnostne ukrepe. Po naši trenutni oceni se ChatGPT za prepoznavanje prevar uporablja do trikrat pogosteje kot za njihovo izvajanje.

Primer preiskovalca družbe OpenAI, ki je v ChatGPT prilepil posnetek zaslona prejetega prevarantskega sporočila SMS in z modelom uspešno ugotovil, da gre za prevaro. V tem primeru so se akterji groženj izdajali za TikTokove kadrovike.

Od zadnjega poročila smo okrepili svoje zmogljivosti za odkrivanje in onemogočanje prevar. Onemogočili smo še več prevarantskih mrež, za katere se je zdelo, da izvirajo iz Kambodže, Mjanmara in Nigerije. Skupaj s prejšnjimi ukrepi nam te odstranitve omogočajo prepoznavanje nekaterih nastajajočih trendov v več prevarantskih operacijah iz različnih držav.

Večina prevarantskih dejavnosti, ki smo jih onemogočili, je bila osredotočena na vključevanje UI v obstoječe prevarantske priročnike, ne pa na ustvarjanje novih pristopov, zasnovanih okoli UI. Vse prevarantske operacije, ki smo jih letos odkrili in blokirali, so UI uporabljale predvsem kot orodje za večji obseg in učinkovitost. To je običajno vključevalo uporabo naših modelov za prevajanje, pisanje sporočil in ustvarjanje vsebin za družbena omrežja.

Pred kratkim smo na primer blokirali prevarantske operacije, ki so verjetno izvirale iz Kambodže in Nigerije ter so se izdajale za »investicijska podjetja«, da bi ogoljufale žrtve v več državah. Prevaranti so za promocijo lažnih podjetij ustvarili spletna mesta in oglase ter prek domnevno lažnih računov v družbenih omrežjih, ki so se predstavljali kot trgovalni strokovnjaki, ljudi vabili v zasebne skupine za sporočanje. Akterji groženj so z obljubami o donosnih priložnostih za zaslužek brez tveganja poskušali potencialne žrtve prepričati v nakazila na izmišljene trgovalne platforme. Pri vseh teh prevarah so prevaranti naše modele uporabljali predvsem za ustvarjanje in prevajanje korespondence, pripravo vsebin za svoja spletna mesta in račune v družbenih omrežjih ter osnovno raziskovanje.

V drugem primeru smo blokirali prevarantski center, ki je bil zelo verjetno v Mjanmaru in je naše modele uporabljal tako za ustvarjanje vsebin za goljufive sheme kot za opravljanje vsakodnevnih poslovnih nalog. To je vključevalo urejanje urnikov, pripravo notranjih obvestil, dodeljevanje delovnih miz in ležišč ter upravljanje finančnih računov. Nekateri izvajalci so spraševali o kaznih za osebe, zalotene pri izvajanju spletnih prevar.

Vsi prevaranti, ki smo jih onemogočili, naših modelov niso uporabljali na enak način ali z enako stopnjo zahtevnosti. Večina interakcij prevarantov s ChatGPT je zajemala razmeroma preprosta opravila, kot je prevajanje, nekatere prevarantske operacije pa so bile ambicioznejše in bolj izpopolnjene.

Ena od onemogočenih prevarantskih operacij, ki je verjetno izvirala iz Kambodže, je na primer naše modele uporabljala za ustvarjanje podrobnih življenjepisov lažnih naložbenih strokovnjakov in izmišljenih zaposlenih v lažnih trgovalnih podjetjih. Prevaranti so nato ChatGPT prosili, naj napiše objave za družbena omrežja v slogu teh izmišljenih oseb. Akterji groženj so v naš model pogosto vnesli sporočila, ki so jih očitno prejeli od svojih tarč, nato pa model prosili, naj nadaljuje pogovor v vlogi lažne osebe.

Druga prevarantska operacija, ki je prav tako verjetno izvirala iz Kambodže, je naše modele najprej uporabila za ustvarjanje nenaročenih sporočil SMS, ki jih je množično pošiljala na ameriške telefonske številke. Eno od teh sporočil je prejel preiskovalec družbe OpenAI, podobno kot v primeru, o katerem smo poročali junija. Ta sporočila SMS so vsebovala vabila v skupine WhatsApp, ki so bile pozneje blokirane in katerih imena so spominjala na zakonito investicijsko podjetje.

Kot kaže niz sporočil WhatsApp, poslanih preiskovalcu družbe OpenAI, je potencialna tarča po pridružitvi eni od teh skupin hitro videla »pogovor« med šestimi različnimi računi, ki so vsi razpravljali o naložbah. Eden od teh računov se je predstavljal kot »naložbeni strokovnjak«, drugi pa kot vlagatelji z različnimi stopnjami samozavesti in izkušenj. Celoten pogovor so ustvarili prevaranti in ga v enem kosu prevedli iz kitajščine, verjetno da bi ustvarili vtis živahne skupine zavzetih in uspešnih trgovcev. Na koncu je »naložbeni strokovnjak« tarči predlagal, naj tudi sama poskusi vlagati.

Ločeno je operacija naložbenih prevar, ki je zelo verjetno izvirala iz Nigerije, model prosila za navodila po korakih, kako z oglasi v družbenih omrežjih doseči premožne ljudi v Latinski Ameriki, prikriti svojo lokacijo in se izogniti omejitvam platform družbenih omrežij. Pri tem so model usmerili na javne pogoje uporabe platforme in ga prosili, naj preveri, ali je predlagana vsebina oglasa skladna z njimi.

Prevaranti, zlasti veliki prevarantski centri, so vztrajni. Na ukrepanje se zelo pogosto odzovejo tako, da poskušajo znova začeti dejavnosti, ki kršijo pravila, pri tem pa spremenijo nekatere elemente svojega vedenja, verjetno da bi se izognili nadaljnjemu odkrivanju. To je eden od razlogov, zakaj je pomembno, da panoga izmenjuje spoznanja o njihovih spreminjajočih se dejavnostih. OpenAI in Meta sta si denimo izmenjala informacije o akterjih groženj, kar je prispevalo k nadaljnjim preiskavam in ukrepanju.

Morda kot odziv na ukrepe ali širše spletne razprave o znakih, ki lahko razkrijejo uporabo UI, smo opazili, da so prevaranti poskušali prikriti uporabo UI v spletnih vsebinah in komunikaciji s tarčami. Med drugim so prevarantske operacije, ki so verjetno izvirale iz Kambodže, modelu naročale, naj iz odgovorov odstrani dolge pomišljaje.

V enem primeru so prevaranti poskušali obsežno odstranitev svojih virov v družbenih omrežjih pojasniti z izmišljenim izgovorom za blokado. Šlo je za zgoraj opisani prevarantski center, ki je verjetno izviral iz Kambodže ter deloval prek sporočil SMS in aplikacije WhatsApp. Potem ko je WhatsApp blokiral »naložbene skupine«, povezane z operacijo, so izvajalci začeli ustvarjati sporočila s trditvami, da jih je lažno prijavil konkurent, verjetno da bi upravičili blokade.

Posnetek zaslona sporočila WhatsApp, ki ga je prevarantska operacija, povezana s Kambodžo, po odstranitvi s platforme WhatsApp poslala preiskovalcu družbe OpenAI.