Užduočių sukčiavimo schema: DI padedami netikrų atsiliepimų darbai

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. vasario⁠(atsidaro naujame lange) ataskaitoje.

Užblokavome grupę ChatGPT paskyrų, kuriomis trumpi komentarai buvo verčiami iš urdų kalbos į anglų kalbą ir atvirkščiai. Tai atitiko „užduočių⁠(atsidaro naujame lange)“ sukčiavimo schemą: aukoms pasiūlomas gerai apmokamas darbas, tačiau prieš gaudamos tariamą „uždarbį“ jos turi į sistemą įmokėti savo pinigų. Atrodė, kad ši veikla buvo vykdoma iš Kambodžos. Tokiose sukčiavimo schemose aukos paprastai praranda ir tariamą „uždarbį“, ir savo pinigus. Šią veiklą pradėjome tirti gavę informacijos iš „Meta“.

Šis tinklas mūsų modelius daugiausia naudojo trumpiems komentarams versti iš urdų kalbos į anglų kalbą ir atvirkščiai. Komentarai atitiko sukčiaus ir jo aukų pokalbius. Aptikome nuorodų į susirašinėjimą per „Telegram“ (regis, tai buvo pagrindinė jų platforma), „WhatsApp“, SMS ir įvairius įdarbinimo forumus bei grupes, kuriuose buvo galima skelbti darbo pasiūlymus.

Atrodė, kad sukčiai daugiausia apsimesdavo dviejų tipų asmenimis. Vienas jų buvo „įdarbintojas“: nepažįstamiems žmonėms jis siųsdavo žinutes ir skelbdavo gerai apmokamo nuotolinio darbo skelbimus. Kitas, vykdęs daugiau veiklos, buvo „mentorius“. Jis pratęsdavo „įdarbintojo“ užmegztą ryšį ir mokydavo pasirinktą auką atlikti darbą. Mentoriai labai dažnai minėdavo mokymus per „Telegram“.

Kartais sukčiai mūsų modelius taip pat naudojo svetainių tekstams redaguoti. Atrodo, kad šiose svetainėse buvo klastojami prabangaus dizaino, mados ir kelionių prekių ženklų pavadinimai bei išvaizda. „Mentoriais“ apsimetę asmenys teigdavo įdarbinantys šių prekių ženklų vardu, todėl tikėtina, kad svetainės buvo naudojamos siekiant suteikti sukčiavimo schemai daugiau patikimumo.

Remiantis mūsų turima ribota informacija, sukčiai, regis, laikėsi įprastos veiksmų sekos, palaipsniui įtraukdami pasirinktas aukas į sukčiavimo schemą:

1. Darbo skelbimas. Sprendžiant iš jų užklausų ir sugeneruotų tekstų, sukčiai pradėdavo skelbdami darbo pasiūlymus įvairiuose interneto forumuose. Įdarbinimo pasiūlymuose paprastai buvo minimas nuotolinis darbas ir už nedidelį darbo kiekį siūlomas palyginti didelis atlygis, pavyzdžiui, 300 USD per dieną ir premijos už kelias darbo valandas. Juos paprastai skelbdavo „įdarbintoju“ apsimetęs asmuo.

2. Įdarbinimas. Tada sukčiai „mentoriaus“ vardu generuodavo komentarus, skirtus susisiekti su potencialiais darbuotojais per, kaip jie nurodė, įvairias susirašinėjimo programėles, ir teigdavo bendradarbiaujantys su „įdarbintoju“. „Mentorius“ tvirtindavo dirbantis vienam iš prabangių prekių ženklų, kuriam ši grupė buvo sukūrusi svetainę. Užduotis būdavo pristatoma kaip penkių žvaigždučių atsiliepimų skelbimas tų prabangių prekių ženklų svetainėse, neva siekiant pagerinti klientų vertinimus.

3. Raminimas. Sugeneruotuose tekstuose sukčiai dažnai tikindavo aukas, kad darbas teisėtas, nes atliekamas seniai veikiančios įmonės vardu. Jei auka sunerimdavo, sukčius teigdavo, kad ir pats anksčiau buvo apgautas, tačiau ši galimybė esanti saugi.

4. Mokymas. Jei auka ir toliau domėdavosi pasiūlymu, iš sugeneruotų tekstų buvo matyti, kad „mentorius“ pasiūlydavo mokymus, paprastai per „Telegram“. Iš pradžių aukai būdavo suteikiama prieiga prie „mokomosios paskyros“, kurioje reikėdavo kasdien atlikti 25–35 atsiliepimų užduotis. „Mokomojoje paskyroje“ būdavo rodoma, kad aukos „uždarbis“ sparčiai auga.

5. Sužadinamas susidomėjimas. Jei auka tęsdavo mokymus, sugeneruoti tekstai dažnai rodė, kad jai būdavo pasiūloma „speciali“ arba „aukščiausio lygio“ atsiliepimo užduotis su didesne premija. „Mentorius“ pabrėždavo, kad tokia užduotis pasitaiko labai retai ir kad aukai nepaprastai pasisekė.

6. „Aktyvinimo mokestis“. Aukos „uždarbiui“ pasiekus tam tikrą sumą, sugeneruotuose tekstuose „mentorius“ nurodydavo, kad norint atsiimti „uždarbį“ reikia sumokėti „aktyvinimo mokestį“. Prireikus sukčius ragindavo pasiskolinti pinigų iš draugų ar šeimos narių.

7. Spaudimas. Sugeneruoti tekstai rodė, kad aukai nesutikus mokėti sukčius tapdavo vis agresyvesnis: ją spaudė lygindamas su kitais, našiau dirbančiais darbuotojais ir teigdamas, kad nesumokėjusi ji praras savo uždarbį.

8. Pasiteisinimai. Jei sugeneruoti tekstai rodydavo, kad auka sumokėjo, sukčius pateikdavo virtinę pasiteisinimų, kodėl ji negali atsiimti uždarbio, ir dažnai reikalaudavo sumokėti dar daugiau.

Kai kurie pokalbiai rodė, kad pasirinktos aukos buvo labai skeptiškos, o dalis sukčių sugeneruotų komentarų buvo rašomi mentoriaus, klausiančio, kodėl auka nustojo rašyti, vardu. Tai leidžia manyti, kad bendras šios sukčiavimo schemos sėkmės rodiklis veikiausiai buvo mažas. Vis dėlto kai kurie pokalbiai ir pranešimai internete rodo, kad bent dalis aukų iš tiesų pervedė pinigų šių schemų vykdytojams. Negalime savarankiškai patikrinti veiklos, vykdomos ne mūsų įrankiuose.

OpenAI taisyklėse griežtai draudžiama mūsų įrankių išvestį naudoti sukčiavimui ar apgavystėms. Esame pasiryžę bendradarbiauti su kitomis sektoriaus organizacijomis ir valdžios institucijomis, kad suprastume, kaip DI veikia piktavališką elgesį, ir aktyviai trukdytume sukčiams piktnaudžiauti mūsų paslaugomis. Laikydamiesi šio įsipareigojimo, su kitomis sektoriaus organizacijomis ir atitinkamomis valdžios institucijomis pasidalijome informacija apie mūsų sutrikdytus sukčiavimo tinklus, kad drauge užtikrintume didesnį saugumą.