Ülesandepettus: tehisintellekti toel võltsarvustuste kirjutamine

See juhtumiuuring avaldati algselt OpenAI 2025. aasta veebruari⁠(avaneb uues aknas) aruandes.

Keelasime rühma ChatGPT kontosid, mille abil tõlgiti lühikommentaare urdu ja inglise keele vahel viisil, mis vastas „ülesandepettuse⁠(avaneb uues aknas)“ tunnustele. Sellise pettuse puhul pakutakse ohvritele hästi tasustatud tööd, kuid enne väidetava „teenistuse“ kättesaamist nõutakse neilt oma raha süsteemi maksmist. Tegevus paistis pärinevat Kambodžast. Sellistes pettustes kaotavad ohvrid tavaliselt nii väidetava „teenistuse“ kui ka oma raha. Hakkasime seda tegevust uurima pärast Metalt saadud vihjet.

See võrgustik kasutas meie mudeleid peamiselt selleks, et tõlkida urdu ja inglise keele vahel lühikommentaare, mis paistsid pärinevat petturi ja tema ohvrite vestlustest. Leidsime viiteid sõnumivahetusele Telegramis, mis paistis olevat nende põhiplatvorm, aga ka WhatsAppis, SMS-ide teel ning mitmesugustes tööfoorumites ja -rühmades, kuhu sai tööpakkumisi postitada.

Petturid esinesid peamiselt kahes rollis. Üks neist oli „värbaja“, kes võttis inimestega omal algatusel ühendust ja avaldas hästi tasustatud kaugtöö kuulutusi. Teine ja aktiivsem roll oli „mentor“, kes jätkas „värbaja“ alustatud suhtlust ning õpetas sihtmärgile, kuidas tööd teha. Mentorid viitasid väga sageli Telegramis toimuvatele koolitustele.

Aeg-ajalt kasutasid petturid meie mudeleid ka veebisaitide tekstide korrektuuriks. Need saidid paistsid jäljendavat luksusdisaini-, moe- ja reisibrändide nimesid ning välimust. „Mentorid“ väitsid, et värbavad nende brändide nimel, mis viitab sellele, et veebisaite kasutati tõenäoliselt pettuse usutavamaks muutmiseks.

Meie piiratud ülevaate põhjal näib, et petturid kasutasid sihtmärkide kaasamiseks ja petmiseks järgmist levinud tegevuskäiku:

1. Töökuulutus: nende päringute ja loodud tekstide põhjal alustasid petturid tööpakkumiste postitamisega mitmesugustesse veebifoorumitesse. Värbamistekstides mainiti tavaliselt kaugtööd ja pakuti vähese töö eest suhteliselt kõrget tasu, näiteks mõne töötunni eest 300 dollarit päevas koos lisatasudega. Kuulutused avaldas tavaliselt „värbaja“.

2. Värbamine: seejärel lõid petturid „mentori“ rollis kommentaare, et võtta võimalike töötajatega ühendust eri sõnumirakendustes, ning väitsid, et teevad koostööd „värbajaga“. „Mentor“ väitis, et töötab ühe luksusbrändi heaks, mille jaoks petturid olid loonud veebisaidi. Tööülesandena kirjeldati viietärniarvustuste lisamist nende luksusbrändide veebisaitidele, et väidetavalt parandada klientide antud hinnanguid.

3. Usalduse tekitamine: loodud tekstides kinnitasid petturid sihtmärkidele sageli, et töö on seaduslik, sest seda tehakse pika ajalooga ettevõtte nimel. Kui sihtmärk väljendas kahtlust, väitis pettur, et ka teda ennast on varem petetud, kuid see võimalus on turvaline.

4. Koolitamine: kui sihtmärk oli endiselt huvitatud, viitasid loodud tekstid sellele, et „mentor“ pakkus talle tavaliselt Telegramis toimuvat koolitust. Alguses anti sihtmärgile juurdepääs „koolituskontole“, kus ta pidi täitma päevas 25–35 arvustamisülesannet. „Koolituskontol“ näidati sihtmärgile tema „teenistuse“ kiiret kasvu.

5. Elevuse tekitamine: kui sihtmärk koolitust jätkas, näitasid loodud tekstid sageli, et talle pakuti „erilist“ või „ülimat“ arvustamisülesannet, mille eest lubati suuremat lisatasu. „Mentor“ rõhutas, kui haruldane see võimalus on ja kui väga sihtmärgil vedas.

6. „Aktiveerimistasu“: kui sihtmärgi „teenistus“ jõudis teatud tasemele, ütles „mentor“ loodud tekstides, et „teenistuse“ väljavõtmiseks tuleb maksta „aktiveerimistasu“. Vajaduse korral õhutas pettur teda sõpradelt või pereliikmetelt raha laenama.

7. Survestamine: loodud tekstid näitasid, et kui sihtmärk tõrkus raha maksmast, muutus pettur üha agressiivsemaks. Ta avaldas survet, võrreldes sihtmärki teiste, tõhusamate töötajatega, ning väitis, et maksmata jätmise korral kaotab sihtmärk oma teenistuse.

8. Vabanduste otsimine: kui loodud tekstides leidus viiteid sellele, et sihtmärk oli raha maksnud, esitas pettur rea vabandusi, miks teenistust ei saa välja võtta, ning väitis sageli, et maksta tuleb veel.

Mõni vestlus näitas, et sihtmärgid olid väga skeptilised. Osa petturite loodud kommentaaridest oli kirjutatud mentori nimel, kes küsis, miks sihtmärk oli sõnumite saatmise lõpetanud. See viitab sellele, et pettuse üldine õnnestumismäär oli tõenäoliselt madal. Mõned vestlused ja internetis avaldatud teated viitavad siiski sellele, et vähemalt osa ohvreid maksis neisse pettustesse tõepoolest raha. Me ei saa oma tööriistadest väljaspool toimuvat tegevust sõltumatult kontrollida.

OpenAI eeskirjad keelavad rangelt meie tööriistade väljundi kasutamise pettuseks. Teeme järjekindlalt koostööd teiste valdkonna ettevõtete ja ametiasutustega, et mõista, kuidas tehisintellekt mõjutab pahatahtlikku käitumist, ning tõkestada aktiivselt meie teenuseid kuritarvitavaid pettusi. Selle kohustuse raames oleme jaganud teiste valdkonna ettevõtete ja asjaomaste ametiasutustega teavet tõkestatud pettusevõrgustike kohta, et suurendada meie ühist turvalisust.