Een criminele fraudeoperatie vanuit Cambodja ontmantelen

Eerder dit jaar ontmantelden we een fraudeoperatie vanuit Cambodja die ChatGPT gebruikte voor beleggingsfraude, romantische oplichting, gokfraude en het nabootsen van opsporingsdiensten. We begonnen deze activiteiten te onderzoeken na een tip van onze collega's bij WhatsApp en hebben sindsdien aanvullende dreigingssignalen gedeeld met partners in de sector en de relevante autoriteiten.

De operatie laat een belangrijke realiteit van moderne fraudenetwerken zien: georganiseerde criminele groepen beperken zich zelden tot één soort fraude. In plaats daarvan zetten ze opportunistisch de verhalen, persona's en tactieken in die volgens hen het effectiefst zijn om slachtoffers te misleiden. In onze onderzoeken zien we geregeld dat daders wisselen tussen soorten fraude of binnen één operatie meerdere fraudetechnieken combineren.

Sommige gebruikers in het netwerk genereerden ook content die wees op banden met mensenhandel en gedwongen criminaliteit. Deze waarnemingen komen overeen met uitgebreide openbare berichtgeving⁠(opent in een nieuw venster) die beschrijft⁠(opent in een nieuw venster) hoe georganiseerde criminele groepen in Zuidoost-Azië werknemers werven met beloften van legaal werk, om hen vervolgens gevangen te houden in systemen van schuldslavernij en dwang. Hoewel we niet zelfstandig de omstandigheden van iedere betrokkene kunnen vaststellen, herinnert deze activiteit ons eraan dat de mensen die de fraude uitvoeren zelf slachtoffer van uitbuiting kunnen zijn.

We hebben een gecoördineerd netwerk van ChatGPT‑accounts geblokkeerd dat zeer waarschijnlijk uit Cambodja afkomstig was en vermoedelijk actief was in of rond Poipet. Deze stad in de provincie Banteay Meanchey wordt in openbare berichtgeving⁠(opent in een nieuw venster) herhaaldelijk⁠(opent in een nieuw venster) in verband gebracht⁠(opent in een nieuw venster) met complexen voor onlinefraude en mensenhandeloperaties.

Het netwerk gebruikte onze modellen om valse onlinepersona's te creëren en in te zetten, berichten aan doelwitten te genereren en te vertalen, promotiemateriaal voor frauduleuze plannen te maken en te helpen bij de dagelijkse bedrijfsvoering.

Net als bij eerdere⁠(opent in een nieuw venster) fraudenetwerken die we hebben ontmanteld, gebruikte een deel van de gebruikers ChatGPT ook voor administratief werk. Ze stelden onder meer interne mededelingen op, vertaalden berichten tussen medewerkers en documenteerden zaken die verband leken te houden met werving, immigratiestatus, arbeidsomstandigheden en disciplinaire maatregelen tegen werknemers.

Het netwerk pleegde tegelijkertijd verschillende soorten fraude en combineerde daarbij vaak elementen uit meerdere fraudemethoden. Zo gebruikten daders datingpersona's om vertrouwen op te bouwen, waarna ze frauduleuze beleggingsmogelijkheden in cryptovaluta en spothandel in goud introduceerden. Andere gebruikers voerden onder een verzonnen identiteit langdurige romantische gesprekken met doelwitten, deden zich voor als vertegenwoordigers van onlinegokplatforms met niet-bestaande bonussen en winsten, of imiteerden opsporingsdiensten en vertelden doelwitten dat ze boetes moesten betalen wegens ernstige strafbare feiten.

Hoewel de verhalen uiteenliepen, vertoonden gebruikers in het hele netwerk steeds hetzelfde onderliggende patroon van misleidend gedrag. Ze maakten en beheerden bijvoorbeeld valse datingprofielen en deden zich voor als beleggingsdeskundigen en vertegenwoordigers van opsporingsdiensten. Ze genereerden ook afbeeldingen van vervalste documenten, waaronder paspoorten, juridische kennisgevingen, aankoopbevestigingen van aandelen en interfaces van gokplatforms.

Zoals we in⁠(opent in een nieuw venster) eerdere⁠(opent in een nieuw venster) rapporten⁠(opent in een nieuw venster) hebben uitgelicht, volgden de oplichters in hun contact met doelwitten een vast patroon dat we aanduiden als de lokroep (contact leggen), de verleiding (emotie opwekken) en de val (geld afhandig maken).

• De lokroep: het netwerk gebruikte ChatGPT om gesprekken met doelwitten op berichtenplatforms zoals WhatsApp en Telegram te vertalen en te genereren. Oplichters maakten ook content voor sociale media en onderzochten materiaal voor datingprofielen om hun valse persona's geloofwaardiger te maken.

• De verleiding: de berichten van de oplichters maakten vaak gebruik van emotionele druk en technieken om vertrouwen op te bouwen. Voorbeelden waren beloften van gegarandeerd rendement en "risicoloze" beleggingen, romantische taal, instructies om gesprekken geheim te houden en dringende verzoeken om actie te ondernemen voordat verzonnen bonussen zouden verlopen.

• De val: de oplichters droegen slachtoffers op geld te storten om vermeende beloningen vrij te geven, activeringskosten of verzonnen boetes te betalen en vervolgens schermafbeeldingen van overschrijvingen of rekeninggegevens als betalingsbewijs te verstrekken.

Naast fraude genereerden sommige gebruikers content die wees op betrokkenheid bij andere activiteiten die onze regels schenden en die we opsporen en verstoren, zoals mensenhandel of dwangarbeid. Zo maakten ze advertenties op sociale media voor banen als "chatter" in Poipet, waarbij vluchten, huisvesting, maaltijden, visa en werkvergunningen werden beloofd.

Andere activiteiten leken verband te houden met het beheer van werknemers binnen de operatie. Gebruikers hielden gegevens bij over schulden van werknemers, looninhoudingen, disciplinaire boetes en aflossingen van leningen. Ook vertaalden ze gesprekken over immigratiestatus, werkvergunningen, verlopen visa en wervingspremies.

In sommige gesprekken werd ook verwezen naar vermoedelijke opsluiting, ontsnappingspogingen en mogelijke strafrechtelijke aansprakelijkheid van mensen die waren verhandeld en gedwongen om voor fraudeoperaties te werken. Hoewel we uit deze gesprekken niet de omstandigheden van een specifiek individu kunnen afleiden, komen ze overeen met uitgebreide openbare berichtgeving⁠(opent in een nieuw venster) die de activiteiten van georganiseerde criminele groepen in Zuidoost-Azië beschrijft⁠(opent in een nieuw venster).

We hebben de ChatGPT‑accounts geblokkeerd die aan deze operatie waren gekoppeld, relevante indicatoren gedeeld met partners in de sector en de bevoegde autoriteiten, en maatregelen genomen om het deze daders moeilijker te maken opnieuw toegang te krijgen tot onze producten en diensten.

De totale omvang van de financiële verliezen door het netwerk is onbekend, maar uit de communicatie van de oplichters zelf blijkt dat de operatie mogelijk contact heeft gehad met honderden doelwitten voor verschillende soorten fraude. In gesprekken van gebruikers werd verwezen naar individuele slachtoffers die duizenden dollars hadden verloren, al kunnen we die beweringen niet onafhankelijk verifiëren.

In bredere zin bevestigt deze zaak twee trends. Ten eerste kunnen georganiseerde fraudenetwerken sterk gediversifieerd zijn en tegelijkertijd meerdere fraudevormen uitvoeren, in plaats van zich strikt tot één soort fraude te beperken. Ten tweede zijn de grenzen tussen onlinefraude, georganiseerde misdaad en mensenhandel vaak vaag. Een effectieve aanpak moet zich daarom niet alleen richten op de fraude waarvan slachtoffers rechtstreeks het doelwit zijn, maar ook op de criminele organisaties die deze fraude organiseren en eraan verdienen.