Prevara z nalogami: lažna dela ocenjevanja s pomočjo UI

Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz februarja 2025⁠(odpre se v novem oknu).

Blokirali smo skupino računov ChatGPT, ki so med urdujščino in angleščino prevajali kratke komentarje, značilne za prevaro z »nalogami⁠(odpre se v novem oknu)«. Pri njej žrtvam ponudijo zelo dobro plačano delo, nato pa od njih zahtevajo, da v sistem vplačajo svoj denar, preden lahko dostopajo do domnevnega »zaslužka«. Dejavnost je domnevno izvirala iz Kambodže. Pri teh prevarah žrtve običajno izgubijo tako »zaslužek« kot svoj denar. To dejavnost smo začeli preiskovati po namigu podjetja Meta.

To omrežje je naše modele uporabljalo predvsem za prevajanje kratkih komentarjev med urdujščino in angleščino, značilnih za pogovore med prevarantom in njegovimi žrtvami. Odkrili smo omembe sporočanja prek Telegrama, ki je bil očitno njihova glavna platforma, pa tudi prek aplikacije WhatsApp, sporočil SMS ter različnih zaposlitvenih forumov in skupin, kjer je bilo mogoče objavljati ponudbe za delo.

Prevaranti so se domnevno izdajali predvsem za dve vrsti oseb. Prva je bila »kadrovalec«: njegova sporočila so bila nenaročeni nagovori z oglasi za dobro plačano delo na daljavo. Druga, ki je ustvarila več dejavnosti, je bila »mentor«. Ta je nadaljeval stik, ki ga je vzpostavil »kadrovalec«, in tarčo učil opravljati delo. Mentorji so zelo pogosto omenjali usposabljanja na Telegramu.

Prevaranti so naše modele občasno uporabljali tudi za lektoriranje besedil na spletnih mestih. Ta spletna mesta so domnevno posnemala imena in videz luksuznih znamk s področij oblikovanja, mode in potovanj. Osebe v vlogi »mentorja« so trdile, da kadrujejo v imenu teh znamk, kar nakazuje, da so spletna mesta verjetno uporabljali za večjo verodostojnost prevare.

Glede na naš omejen vpogled so prevaranti pri vodenju tarč od prvega stika do prevare očitno uporabljali običajen postopek:

1. Objava delovnega mesta: Glede na njihove pozive in generirane odgovore so prevaranti najprej objavili ponudbe za delo na različnih spletnih forumih. Pri novačenju so običajno omenjali delo na daljavo in ponujali plačilo, ki je bilo glede na majhen obseg dela razmeroma visoko, na primer 300 USD na dan z dodatki za nekaj ur dela. Običajno jih je objavila oseba v vlogi »kadrovalca«.

2. Novačenje: Prevaranti so nato ustvarjali komentarje v vlogi »mentorja«, ki je prek različnih aplikacij za sporočanje stopil v stik s potencialnimi delavci in jim povedal, da sodeluje s »kadrovalcem«. »Mentor« je trdil, da dela za eno od luksuznih znamk, za katere je skupina vzpostavila spletno mesto. Nalogo so opisali kot objavljanje ocen s petimi zvezdicami na spletnih mestih teh luksuznih znamk, domnevno zato, da bi izboljšali njihove ocene strank.

3. Prepričevanje: Prevaranti so v generiranih odgovorih tarče pogosto prepričevali, da je delo zakonito, ker ga opravljajo v imenu dolgoletnega podjetja. Če je tarča izrazila pomisleke, je prevarant trdil, da je bil tudi sam že žrtev prevare, vendar da je ta priložnost varna.

4. Usposabljanje: Če je tarča ostala zainteresirana, so generirani odgovori nakazovali, da ji bo »mentor« ponudil usposabljanje, običajno na Telegramu. Tarča je sprva dobila dostop do »računa za usposabljanje«, na katerem naj bi dnevno opravila od 25 do 35 nalog ocenjevanja. Na »računu za usposabljanje« se je tarči prikazovalo hitro naraščanje »zaslužka«.

5. Vzbujanje navdušenja: Če je tarča nadaljevala usposabljanje, so generirani odgovori pogosto nakazovali, da ji bodo ponudili »posebno« ali »vrhunsko« nalogo ocenjevanja z višjim dodatkom. »Mentor« je poudarjal, kako redka je taka naloga in kakšno srečo ima tarča.

6. »Aktivacijska pristojbina«: Ko je »zaslužek« tarče dosegel določeno raven, je »mentor« v generiranih odgovorih povedal, da mora za dvig »zaslužka« plačati »aktivacijsko pristojbino«. Po potrebi jo je prevarant pozval, naj si denar izposodi pri prijateljih ali družini.

7. Pritisk: Generirani odgovori so pokazali, da je prevarant ob oklevanju tarče glede plačila postajal vse bolj agresiven. Nanjo je pritiskal s primerjanjem z drugimi, učinkovitejšimi delavci in trditvami, da bo brez vplačila izgubila zaslužek.

8. Izgovori: Če so generirani odgovori nakazovali, da je tarča denar vplačala, je prevarant nizal izgovore, zakaj ne more dvigniti zaslužka, pri čemer je pogosto zahteval dodatna vplačila.

Nekateri pogovori so pokazali, da so bile tarče zelo nezaupljive. Nekateri komentarji, ki so jih ustvarili prevaranti, pa so bili napisani v imenu mentorja, ki je spraševal, zakaj mu je tarča nehala pošiljati sporočila. To nakazuje, da je bila splošna stopnja uspešnosti prevare verjetno nizka. Vendar nekateri pogovori in spletna poročila kažejo, da so vsaj nekatere žrtve v te prevare res vplačale denar. Dejavnosti zunaj naših orodij ne moremo neodvisno preveriti.

Pravilniki OpenAI strogo prepovedujejo uporabo rezultatov naših orodij za goljufije ali prevare. Zavezani smo sodelovanju s panožnimi partnerji in pristojnimi organi, da bi razumeli, kako UI vpliva na škodljivo ravnanje, ter dejavno preprečevali prevare, ki zlorabljajo naše storitve. V skladu s to zavezo smo s panožnimi partnerji in pristojnimi organi delili informacije o prevarantskih omrežjih, katerih delovanje smo prekinili, da bi izboljšali skupno varnost.