Uzdevumu krāpniecība: viltus atsauksmju darbs ar MI palīdzību

Šis gadījuma apraksts sākotnēji tika publicēts OpenAI 2025. gada februāra⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām ChatGPT kontu grupu, kurā īsi komentāri tika tulkoti starp urdu un angļu valodu veidā, kas raksturīgs “uzdevumu⁠(atveras jaunā logā)” krāpniecībai. Tajā upuriem piedāvā labi apmaksātu darbu, bet pēc tam pieprasa iemaksāt sistēmā savu naudu, pirms viņi var piekļūt šķietami “nopelnītajam”. Šķiet, ka šī darbība tika īstenota no Kambodžas. Šādās krāpniecības shēmās upuri parasti zaudē gan šķietami “nopelnīto”, gan pašu iemaksāto naudu. Mēs sākām izmeklēt šo darbību pēc Meta sniegtas informācijas.

Šis tīkls mūsu modeļus galvenokārt izmantoja, lai starp urdu un angļu valodu tulkotu īsus komentārus, kas atbilda krāpnieka un upuru sarakstei. Mēs konstatējām norādes uz saziņu platformā Telegram (kas acīmredzot bija galvenā izmantotā platforma), kā arī WhatsApp, īsziņās un dažādos nodarbinātības forumos un grupās, kur varēja publicēt darba piedāvājumus.

Šķiet, ka krāpnieki galvenokārt uzdevās par divu veidu personām. Viena no tām bija “personāla atlases speciālists”: šīs personas ziņas bija nepieteikta uzrunāšana, publicējot labi apmaksāta attālināta darba sludinājumus. Otra persona, kas radīja lielāku aktivitātes apjomu, bija “mentors”. Tas turpināja “personāla atlases speciālista” sākto saziņu un mācīja izraudzītajam upurim, kā veikt darbu. “Mentori” ļoti bieži pieminēja apmācības platformā Telegram.

Reizēm krāpnieki mūsu modeļus izmantoja arī vietņu tekstu korektūrai. Šķiet, ka šajās vietnēs tika atdarināti luksusa dizaina, modes un ceļojumu zīmolu nosaukumi un vizuālais noformējums. “Mentori” apgalvoja, ka atlasa darbiniekus šo zīmolu vārdā, tādēļ vietnes, visticamāk, tika izmantotas, lai krāpniecība šķistu ticamāka.

Spriežot pēc mūsu rīcībā esošās ierobežotās informācijas, krāpnieki izmantoja ierastu darbību secību, lai no sākotnējās saziņas novestu upurus līdz krāpniecībai:

1. Darba sludinājums: spriežot pēc uzvednēm un ģenerētajiem rezultātiem, krāpnieki sāka ar darba piedāvājumu publicēšanu dažādos tiešsaistes forumos. Darbinieku piesaistes ziņās parasti tika minēts attālināts darbs un piedāvāts samērā liels atalgojums par nelielu darba apjomu, piemēram, 300 ASV dolāru dienā un piemaksas par dažu stundu darbu. Šos sludinājumus parasti publicēja “personāla atlases speciālists”.

2. Darbinieka piesaiste: pēc tam krāpnieki “mentora” lomā ģenerēja komentārus, lai dažādās ziņapmaiņas lietotnēs sazinātos ar potenciālajiem darbiniekiem un apgalvotu, ka sadarbojas ar “personāla atlases speciālistu”. “Mentors” apgalvoja, ka strādā kādam no luksusa zīmoliem, kura vārdā krāpnieki bija izveidojuši vietni. Viņi apgalvoja, ka uzdevums ir publicēt piecu zvaigžņu atsauksmes šo luksusa zīmolu vietnēs, lai it kā uzlabotu klientu vērtējumus.

3. Pārliecināšana: ģenerētajos tekstos krāpnieki bieži mierināja upurus, ka darbs ir likumīgs, jo tiek veikts sena un atzīta uzņēmuma vārdā. Ja upuris pauda bažas, krāpnieks apgalvoja, ka arī pats iepriekš ticis apkrāpts, taču šis piedāvājums esot drošs.

4. Apmācība: ja upuris joprojām izrādīja interesi, ģenerētie teksti liecināja, ka “mentors” piedāvātu apmācību, parasti platformā Telegram. Sākumā upurim piešķīra piekļuvi “apmācību kontam”, kurā bija jāizpilda 25–35 atsauksmju uzdevumi dienā. “Apmācību kontā” upuris redzēja, ka šķietami “nopelnītā” summa strauji pieaug.

5. Ieinteresēšana: ja upuris turpināja apmācību, ģenerētie teksti bieži liecināja, ka viņam piedāvātu “īpašu” vai “augstākā līmeņa” atsauksmes uzdevumu ar lielāku piemaksu. “Mentors” uzsvēra, cik šāds uzdevums ir rets un cik ļoti upurim paveicies.

6. “Aktivizācijas maksa”: kad šķietami “nopelnītā” summa sasniedza noteiktu līmeni, ģenerētajos tekstos “mentors” norādīja, ka upurim jāsamaksā “aktivizācijas maksa”, lai varētu izņemt “nopelnīto”. Ja vajadzēja, krāpnieks mudināja aizņemties naudu no draugiem vai ģimenes.

7. Spiediena izdarīšana: ģenerētie teksti liecināja, ka gadījumā, ja upuris vilcinājās maksāt, krāpnieks kļuva arvien agresīvāks. Upuris tika salīdzināts ar citiem, efektīvākiem darbiniekiem un brīdināts, ka neiemaksājot naudu, zaudēs nopelnīto.

8. Atrunu meklēšana: ja ģenerētajos tekstos bija norāde, ka upuris ir samaksājis, krāpnieks minēja dažādus iemeslus, kādēļ nopelnīto nevar izņemt, un bieži apgalvoja, ka jāiemaksā vēl vairāk.

Dažas sarunas liecināja, ka upuri bija ļoti skeptiski. Turklāt daļa krāpnieku ģenerēto komentāru bija rakstīti “mentora” vārdā, jautājot, kāpēc upuris pārtraucis sazināties. Tas liecina, ka kopumā šī krāpniecība, visticamāk, pārliecināja tikai nelielu daļu uzrunāto cilvēku. Tomēr dažas sarunas un tiešsaistes ziņojumi liecina, ka vismaz daļa upuru šajās krāpniecības shēmās patiešām iemaksāja naudu. Mēs nevaram neatkarīgi pārbaudīt darbības, kas notiek ārpus mūsu rīkiem.

OpenAI politikas stingri aizliedz izmantot mūsu rīku ģenerētos rezultātus krāpšanai vai krāpniecības shēmām. Mēs cieši sadarbojamies ar nozares partneriem un iestādēm, lai izprastu, kā MI ietekmē ļaunprātīgu rīcību, un aktīvi apturētu krāpniecību, kurā tiek ļaunprātīgi izmantoti mūsu pakalpojumi. Atbilstoši šai apņēmībai mēs esam dalījušies informācijā par apturētajiem krāpnieku tīkliem ar nozares partneriem un attiecīgajām iestādēm, lai uzlabotu kopējo drošību.