Oppgavesvindel: AI-assisterte jobber med falske anmeldelser

Denne casestudien ble opprinnelig publisert i OpenAIs rapport fra februar 2025⁠(åpnes i et nytt vindu).

Vi utestengte en gruppe ChatGPT‑kontoer som oversatte korte kommentarer mellom urdu og engelsk på en måte som samsvarte med en «oppgave⁠(åpnes i et nytt vindu)»-svindel. Ofrene tilbys en svært godt betalt jobb, men må deretter betale egne penger inn i systemet før de får tilgang til den påståtte «inntekten». Aktiviteten så ut til å stamme fra Kambodsja. I slike svindelforsøk mister ofrene vanligvis både «inntekten» og sine egne penger. Vi begynte å undersøke denne aktiviteten etter et tips fra Meta.

Dette nettverket brukte hovedsakelig modellene våre til å oversette korte kommentarer mellom urdu og engelsk, i tråd med samtaler mellom en svindler og ofrene deres. Vi fant henvisninger til meldingsutveksling på Telegram (tilsynelatende hovedplattformen deres), WhatsApp, SMS og en rekke jobbfora og -grupper der jobbtilbud kunne publiseres.

Svindlerne så ut til å utgi seg for å være to hovedtyper av personer. Den ene var «rekruttereren». Meldingene var uoppfordrede henvendelser med annonser for godt betalt fjernarbeid. Den andre, som sto for mereparten av aktiviteten, var «mentoren». Denne personen fulgte opp henvendelsene fra «rekruttereren» og lærte målet hvordan jobben skulle utføres. Mentorene henviste svært ofte til opplæring på Telegram.

Av og til brukte svindlerne også modellene våre til å korrekturlese tekst på nettsteder. Disse nettstedene så ut til å etterligne navnene og utformingen til merkevarer innen luksusdesign, mote og reiseliv. «Mentorene» hevdet at de rekrutterte på vegne av disse merkevarene. Det tyder på at nettstedene sannsynligvis ble brukt til å gjøre svindelen mer troverdig.

Ut fra den begrensede innsikten vår ser svindlerne ut til å ha fulgt en vanlig fremgangsmåte for å føre målene fra første kontakt til svindel:

1. Stillingsannonse: Basert på ledetekstene og det genererte innholdet ser svindlerne ut til å ha startet med å publisere jobbtilbud på ulike nettfora. Rekrutteringen viste vanligvis til fjernarbeid og ser ut til å ha lovet relativt høy lønn for en liten arbeidsmengde, for eksempel 300 dollar per dag pluss bonuser for noen timers arbeid. Tilbudene ble vanligvis publisert av «rekruttereren».

2. Rekruttering: Svindlerne genererte deretter kommentarer fra «mentoren» for å kontakte potensielle arbeidstakere gjennom det de antydet kunne være flere ulike meldingsapper, og oppga at de samarbeidet med «rekruttereren». «Mentoren» hevdet å jobbe for en av luksusmerkevarene som aktørene hadde opprettet et nettsted for. De beskrev oppgaven som å legge inn femstjernersanmeldelser på nettstedene til disse luksusmerkene, angivelig for å forbedre kundevurderingene deres.

3. Beroligelse: I det genererte innholdet forsikret svindlerne ofte målene om at arbeidet var legitimt fordi det ble utført på vegne av et veletablert selskap. Hvis målet uttrykte uro, hevdet svindleren at også de hadde blitt svindlet tidligere, men at denne muligheten var trygg.

4. Opplæring: Hvis målet fortsatt var interessert, tydet det genererte innholdet på at «mentoren» tilbød opplæring, vanligvis på Telegram. Målet fikk først tilgang til en «opplæringskonto», der vedkommende skulle utføre 25–35 anmeldelsesoppgaver per dag. «Opplæringskontoen» viste at målets «inntekt» økte raskt.

5. Skape begeistring: Hvis målet fortsatte opplæringen, viste det genererte innholdet ofte at vedkommende ble tilbudt en «spesiell» eller «ekstraordinær» anmeldelsesoppgave med høyere bonus. «Mentoren» understreket hvor sjelden oppgaven var, og hvor heldig målet var.

6. «Aktiveringsgebyr»: Når målets «inntekt» nådde et visst nivå, ba «mentoren» i det genererte innholdet vedkommende betale et «aktiveringsgebyr» for å kunne ta ut «inntekten». Om nødvendig oppfordret svindleren målet til å låne pengene av venner eller familie.

7. Press: Det genererte innholdet viste at svindleren ble stadig mer aggressiv hvis målet nølte med å betale. Målet ble presset gjennom sammenligninger med andre og mer effektive arbeidstakere og beskjed om at «inntekten» ville gå tapt dersom pengene ikke ble betalt inn.

8. Bortforklaringer: Hvis det genererte innholdet tydet på at målet hadde betalt, kom svindleren med en rekke bortforklaringer på hvorfor «inntekten» ikke kunne tas ut, ofte med beskjed om at målet måtte betale inn mer.

Noen av samtalene viste at målene var svært skeptiske. Enkelte av kommentarene svindlerne genererte, var skrevet som en mentor som spurte hvorfor målet hadde sluttet å sende meldinger. Dette tyder på at svindelen sannsynligvis hadde en lav samlet suksessrate. Enkelte samtaler og rapporter på nettet tyder imidlertid på at i hvert fall noen av ofrene faktisk betalte penger inn i disse svindeloppleggene. Vi kan ikke uavhengig bekrefte aktivitet som foregår utenfor verktøyene våre.

OpenAIs retningslinjer forbyr strengt bruk av innhold fra verktøyene våre til bedrageri eller svindel. Vi er opptatt av å samarbeide med andre i bransjen og med myndighetene for å forstå hvordan AI påvirker aktører med ondsinnede hensikter, og for aktivt å stanse svindel som misbruker tjenestene våre. Som en del av dette arbeidet har vi delt informasjon om svindelnettverkene vi stanset, med andre i bransjen og relevante myndigheter for å styrke den felles sikkerheten.