Taakfraude: met AI ondersteunde banen voor neprecensies

Deze casestudy werd oorspronkelijk gepubliceerd in het rapport van OpenAI van februari 2025⁠(opent in een nieuw venster).

We blokkeerden een cluster ChatGPT‑accounts die korte opmerkingen tussen het Urdu en Engels vertaalden, passend bij fraude van het type "taak⁠(opent in een nieuw venster)". Daarbij krijgen slachtoffers een goedbetaalde baan aangeboden, maar moeten ze eerst zelf geld in het systeem storten voordat ze toegang krijgen tot hun vermeende "verdiensten". Deze activiteit leek uit Cambodja te komen. Bij deze vorm van fraude verliezen slachtoffers doorgaans zowel de "verdiensten" als hun eigen geld. We begonnen deze activiteit te onderzoeken na een tip van Meta.

Dit netwerk gebruikte onze modellen voornamelijk om korte opmerkingen tussen het Urdu en Engels te vertalen, passend bij chats tussen een oplichter en diens slachtoffers. We vonden verwijzingen naar communicatie via Telegram (kennelijk hun belangrijkste platform), WhatsApp, sms en diverse vacaturesites en -groepen waarop vacatures konden worden geplaatst.

De oplichters leken zich voornamelijk als twee soorten personages voor te doen. Het ene was de "recruiter": die benaderde mensen ongevraagd met advertenties voor goedbetaald thuiswerk. Het andere, dat voor meer activiteit zorgde, was de "mentor". Die volgde de benadering door de "recruiter" op en leerde het doelwit hoe het werk moest worden uitgevoerd. De mentoren verwezen zeer vaak naar trainingssessies op Telegram.

Soms gebruikten de oplichters onze modellen ook om teksten op websites te proeflezen. Deze sites leken de namen en vormgeving van luxe design-, mode- en reismerken na te bootsen. De personages die als "mentor" optraden, beweerden namens die merken personeel te werven. Dit wijst erop dat de websites waarschijnlijk werden gebruikt om de fraude geloofwaardiger te laten lijken.

Voor zover wij dit konden waarnemen, leken de oplichters een vaste werkwijze te volgen om hun doelwitten van het eerste contact naar de fraude te leiden:

1. Vacature plaatsen: uit hun prompts en gegenereerde teksten blijkt dat de oplichters begonnen met het plaatsen van vacatures op verschillende onlinefora. Bij de werving werd meestal thuiswerk genoemd, met een relatief hoog salaris voor weinig werk, bijvoorbeeld $ 300 per dag plus bonussen voor enkele uren werk. De vacatures werden doorgaans geplaatst door het personage van de "recruiter".

2. Werven: vervolgens genereerden de oplichters opmerkingen vanuit het personage van de "mentor" om potentiële werknemers te benaderen via verschillende berichtenapps en te zeggen dat ze met de "recruiter" samenwerkten. De "mentor" beweerde te werken voor een van de luxemerken waarvoor de operatie een website had opgezet. Ze beschreven de taak als het plaatsen van vijfsterrenrecensies op de sites van die luxemerken, zogenaamd om hun klantbeoordelingen te verbeteren.

3. Geruststellen: in gegenereerde teksten stelden de oplichters hun doelwitten vaak gerust dat het werk legitiem was, omdat het namens een al lang bestaand bedrijf werd uitgevoerd. Als het doelwit twijfelde, beweerde de oplichter zelf ook eerder te zijn opgelicht, maar dat deze kans wel veilig was.

4. Trainen: als het doelwit belangstelling bleef tonen, suggereerden de gegenereerde teksten dat de "mentor" een training zou aanbieden, meestal via Telegram. Het doelwit kreeg eerst toegang tot een "trainingsaccount", waarop dagelijks 25 tot 35 recensieopdrachten moesten worden ingediend. Op het "trainingsaccount" zag het doelwit de "verdiensten" snel oplopen.

5. Enthousiasmeren: als het doelwit de training voortzette, bleek uit de gegenereerde teksten vaak dat diegene een "speciale" of "ultieme" recensieopdracht met een hogere bonus aangeboden kreeg. De "mentor" benadrukte hoe zeldzaam deze kans was en hoeveel geluk het doelwit had.

6. "Activeringskosten": zodra de "verdiensten" van het doelwit een bepaald niveau bereikten, zei de "mentor" in de gegenereerde teksten dat er "activeringskosten" moesten worden betaald om de "verdiensten" te kunnen opnemen. Zo nodig spoorde de oplichter het doelwit aan om het geld van vrienden of familie te lenen.

7. Onder druk zetten: uit de gegenereerde teksten bleek dat de oplichter steeds agressiever werd als het doelwit aarzelde om te betalen. Die zette het doelwit onder druk door het te vergelijken met andere, efficiëntere werknemers en te zeggen dat de verdiensten verloren zouden gaan als er niet werd betaald.

8. Smoesjes verzinnen: als uit de gegenereerde teksten bleek dat het doelwit had betaald, verzon de oplichter allerlei redenen waarom de verdiensten niet konden worden opgenomen. Vaak werd gezegd dat er meer moest worden betaald.

Uit sommige gesprekken bleek dat de doelwitten zeer sceptisch waren. Sommige door de oplichters gegenereerde opmerkingen waren geschreven vanuit een mentor die vroeg waarom het doelwit geen berichten meer stuurde. Dit suggereert dat deze fraude waarschijnlijk een laag algemeen slagingspercentage had. Sommige gesprekken en onlineberichten wijzen er echter op dat in elk geval enkele slachtoffers daadwerkelijk geld in deze frauduleuze praktijken hebben gestoken. We kunnen activiteiten buiten onze tools niet onafhankelijk verifiëren.

Het beleid van OpenAI verbiedt ten strengste dat uitvoer van onze tools wordt gebruikt voor fraude of oplichting. We zetten ons in voor samenwerking met branchegenoten en autoriteiten om te begrijpen hoe AI schadelijk gedrag beïnvloedt en om fraude waarbij onze diensten worden misbruikt actief te verstoren. In lijn met deze toezegging hebben we informatie over de door ons verstoorde fraudenetwerken gedeeld met branchegenoten en de relevante autoriteiten om onze gezamenlijke veiligheid te vergroten.