Uppdragsbedrägeri: AI-stödda jobb med falska recensioner

Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från februari 2025⁠(öppnas i ett nytt fönster).

Vi stängde av en grupp ChatGPT‑konton som översatte korta kommentarer mellan urdu och engelska på ett sätt som stämde överens med ett så kallat ”uppdragsbedrägeri⁠(öppnas i ett nytt fönster)”. Offren erbjuds ett välbetalt jobb men måste sedan sätta in egna pengar i systemet innan de kan få tillgång till sin påstådda ”inkomst”. Aktiviteten tycktes ha sitt ursprung i Kambodja. I sådana bedrägerier förlorar offren vanligtvis både den påstådda ”inkomsten” och sina egna pengar. Vi började utreda aktiviteten efter ett tips från Meta.

Nätverket använde främst våra modeller för att översätta korta kommentarer mellan urdu och engelska, i vad som föreföll vara chattar mellan en bedragare och dennes offer. Vi hittade hänvisningar till meddelanden på Telegram (som verkade vara deras huvudsakliga plattform), WhatsApp och via sms, samt till en rad jobbforum och grupper där jobberbjudanden kunde publiceras.

Bedragarna verkade främst utge sig för att vara två typer av personer. Den ena var ”rekryteraren”, vars meddelanden var en form av oombedd kontakt med annonser om välbetalt distansarbete. Den andra, som stod för en större del av aktiviteten, var ”mentorn”. Mentorn följde upp ”rekryterarens” kontakt och lärde måltavlan hur jobbet skulle utföras. Mentorerna hänvisade mycket ofta till utbildningstillfällen på Telegram.

Ibland använde bedragarna även våra modeller för att korrekturläsa texter på webbplatser. Webbplatserna tycks ha efterliknat namn och utseende hos exklusiva varumärken inom design, mode och resor. Personerna i rollen som ”mentor” påstod sig rekrytera för dessa varumärkens räkning, vilket tyder på att webbplatserna sannolikt användes för att få bedrägeriet att verka mer trovärdigt.

Utifrån vår begränsade insyn verkar bedragarna ha följt ett vanligt upplägg för att föra måltavlorna från första kontakt till bedrägeri:

1. Jobbannons: Utifrån deras promptar och genererade texter verkar bedragarna ha börjat med att publicera jobberbjudanden på olika nätforum. Rekryteringen gällde vanligtvis distansarbete och tycks ha utlovat förhållandevis hög lön för en liten arbetsinsats, exempelvis 300 dollar om dagen plus bonus för några timmars arbete. Annonserna publicerades vanligtvis av personen i rollen som ”rekryterare”.

2. Rekrytera: Bedragarna genererade sedan kommentarer i ”mentorns” roll för att kontakta potentiella arbetstagare via vad de uppgav kunde vara flera olika meddelandeappar. De sade sig samarbeta med ”rekryteraren”. ”Mentorn” påstod sig arbeta för ett av de exklusiva varumärken som verksamheten hade skapat en webbplats för. De beskrev uppgiften som att lämna femstjärniga recensioner på dessa exklusiva varumärkens webbplatser, enligt uppgift för att höja deras kundbetyg.

3. Övertyga: I de genererade texterna försäkrade bedragarna ofta måltavlorna om att arbetet var legitimt eftersom det utfördes åt ett väletablerat företag. Om måltavlan visade oro påstod bedragaren sig också ha blivit lurad tidigare, men att just den här möjligheten var säker.

4. Utbilda: Om måltavlan fortfarande var intresserad tydde de genererade texterna på att ”mentorn” erbjöd utbildning, vanligtvis på Telegram. Till en början fick måltavlan tillgång till ett ”utbildningskonto”, där personen förväntades utföra 25–35 recensionsuppdrag per dag. På ”utbildningskontot” såg måltavlan sin påstådda ”inkomst” öka snabbt.

5. Väcka entusiasm: Om måltavlan fortsatte utbildningen visade de genererade texterna ofta att personen erbjöds ett ”särskilt” eller ”ultimat” recensionsuppdrag med högre bonus. ”Mentorn” betonade hur sällsynt uppdraget var och vilken tur måltavlan hade.

6. ”Aktiveringsavgift”: När måltavlans påstådda ”inkomst” nådde en viss nivå innehöll de genererade texterna meddelanden där ”mentorn” sade att personen behövde betala en ”aktiveringsavgift” för att kunna ta ut sin ”inkomst”. Vid behov uppmanade bedragaren personen att låna pengar av vänner eller familj.

7. Pressa: De genererade texterna visade att bedragaren blev alltmer aggressiv om måltavlan tvekade inför att betala. Personen utsattes för press genom jämförelser med andra, effektivare arbetstagare och påståenden om att inkomsten skulle gå förlorad om pengarna inte betalades in.

8. Komma med ursäkter: Om de genererade texterna tydde på att måltavlan hade betalat hittade bedragaren på en rad ursäkter till att inkomsten inte kunde tas ut och sade ofta att personen behövde betala in mer.

Vissa samtal visade att måltavlorna var mycket skeptiska. Några av bedragarnas genererade kommentarer var skrivna ur en mentors perspektiv och frågade varför måltavlan hade slutat svara. Det tyder på att bedrägeriet sannolikt hade en låg konverteringsgrad totalt sett. Vissa samtal och rapporter på nätet tyder dock på att åtminstone några av offren faktiskt satte in pengar i dessa bedrägerier. Vi kan inte självständigt verifiera aktivitet som sker utanför våra verktyg.

OpenAI:s policyer förbjuder strikt att utdata från våra verktyg används för bedrägerier. Vi arbetar målmedvetet tillsammans med branschkollegor och myndigheter för att förstå hur AI påverkar skadliga aktörers beteenden och aktivt stoppa bedrägerier som missbrukar våra tjänster. Som en del av detta arbete har vi delat information om de bedrägerinätverk vi stoppat med branschkollegor och berörda myndigheter för att stärka vår gemensamma säkerhet.