Opgavesvindel: AI-støttede job med falske anmeldelser

Denne case blev oprindeligt offentliggjort i OpenAIs rapport fra februar 2025⁠(åbner i et nyt vindue).

Vi udelukkede en gruppe ChatGPT‑konti, der oversatte korte kommentarer mellem urdu og engelsk på en måde, der stemte overens med »opgavesvindel⁠(åbner i et nyt vindue)«. Her tilbydes ofrene et vellønnet job, men de skal indbetale deres egne penge i systemet, før de kan få adgang til deres påståede »indtjening«. Aktiviteten så ud til at stamme fra Cambodja. Ved denne type svindel mister ofrene som regel både »indtjeningen« og deres egne penge. Vi begyndte at undersøge aktiviteten efter et tip fra Meta.

Dette netværk brugte primært vores modeller til at oversætte korte kommentarer mellem urdu og engelsk, som lignede chats mellem en svindler og dennes ofre. Vi fandt henvisninger til beskeder på Telegram, der tilsyneladende var deres primære platform, samt WhatsApp, sms og en række jobfora og -grupper, hvor jobtilbud kunne slås op.

Svindlerne så ud til primært at udgive sig for at være to typer personer. Den ene var »rekrutteringsagenten«, hvis beskeder var uopfordrede henvendelser med annoncer for vellønnet fjernarbejde. Den anden, som stod for en større del af aktiviteten, var »mentoren«, der fulgte op på »rekrutteringsagentens« henvendelse og lærte målet, hvordan arbejdet skulle udføres. Mentorerne henviste meget ofte til oplæringssessioner på Telegram.

Indimellem brugte svindlerne også vores modeller til at læse korrektur på websitetekster. Disse websites så ud til at efterligne navne og visuelle udtryk fra luksusbrands inden for design, mode og rejser. »Mentorerne« hævdede, at de rekrutterede på vegne af disse brands, hvilket tyder på, at websitet skulle få svindlen til at fremstå mere troværdig.

Ud fra vores begrænsede indsigt ser svindlerne ud til at have fulgt en almindelig fremgangsmåde for at føre deres mål fra den indledende kontakt ind i svindlen:

1. Jobopslag: Ud fra deres prompts og genererede indhold ser svindlerne ud til at være begyndt med at slå jobtilbud op på forskellige onlinefora. Rekrutteringen henviste typisk til fjernarbejde og omfattede tilsyneladende en forholdsvis høj løn for en lille arbejdsindsats, eksempelvis 300 USD om dagen plus bonusser for nogle få timers arbejde. Opslagene blev typisk lagt op af »rekrutteringsagenten«.

2. Rekruttér: Derefter genererede svindlerne beskeder fra »mentoren«, som kontaktede potentielle medarbejdere via forskellige beskedapps og fortalte, at vedkommende arbejdede sammen med »rekrutteringsagenten«. »Mentoren« hævdede at arbejde for et af de luksusbrands, som svindelnetværket havde oprettet et website for. De beskrev opgaven som at indsende femstjernede anmeldelser på disse luksusbrands' websites, angiveligt for at forbedre deres kundebedømmelser.

3. Skab tryghed: I det genererede indhold forsikrede svindlerne ofte deres mål om, at arbejdet var legitimt, fordi det blev udført for en veletableret virksomhed. Hvis målet udtrykte bekymring, hævdede svindleren, at vedkommende også tidligere var blevet snydt, men at denne mulighed var sikker.

4. Oplær: Hvis målet fortsat viste interesse, tydede det genererede indhold på, at »mentoren« ville tilbyde oplæring, som regel på Telegram. Målet fik først adgang til en »oplæringskonto«, hvor vedkommende forventedes at udføre 25-35 anmeldelsesopgaver om dagen. På »oplæringskontoen« kunne målet se sin »indtjening« stige hurtigt.

5. Skab begejstring: Hvis målet fortsatte oplæringen, viste det genererede indhold ofte, at vedkommende ville blive tilbudt en »særlig« eller »ultimativ« anmeldelsesopgave med en højere bonus. »Mentoren« fremhævede, hvor sjælden opgaven var, og hvor heldigt målet var.

6. »Aktiveringsgebyr«: Når målets »indtjening« nåede et bestemt niveau, omfattede det genererede indhold en besked fra »mentoren« om, at målet skulle betale et »aktiveringsgebyr« for at kunne hæve sin »indtjening«. Om nødvendigt opfordrede svindleren målet til at låne pengene af venner eller familie.

7. Læg pres: Det genererede indhold viste, at svindleren blev mere og mere aggressiv, hvis målet tøvede med at betale. Svindleren lagde pres på målet ved at sammenligne vedkommende med andre, mere effektive medarbejdere og sige, at indtjeningen ville gå tabt, hvis pengene ikke blev indbetalt.

8. Kom med undskyldninger: Hvis det genererede indhold tydede på, at målet havde betalt, kom svindleren med en række undskyldninger for, hvorfor målet ikke kunne hæve sin indtjening, ofte med besked om, at der skulle indbetales flere penge.

Nogle af samtalerne viste, at målene var meget skeptiske. Nogle af svindlernes genererede beskeder var formuleret som en mentor, der spurgte, hvorfor målet var holdt op med at skrive. Det tyder på, at svindlen sandsynligvis havde en lav samlet succesrate. Nogle samtaler og onlinerapporter tyder dog på, at i hvert fald nogle af ofrene faktisk indbetalte penge til disse svindelnumre. Vi kan ikke uafhængigt verificere aktiviteter, der foregår uden for vores værktøjer.

OpenAIs politikker forbyder strengt, at output fra vores værktøjer bruges til bedrageri eller svindel. Vi arbejder målrettet sammen med brancheaktører og myndigheder for at forstå, hvordan AI påvirker ondsindet adfærd, og for aktivt at standse svindelaktiviteter, der misbruger vores tjenester. Som led i denne indsats har vi delt oplysninger om de svindelnetværk, vi har standset, med brancheaktører og relevante myndigheder for at styrke vores fælles sikkerhed.