Oplichtingsoperaties: netwerken voor onlinefraude

Deze casestudy is oorspronkelijk gepubliceerd in het rapport van oktober 2025⁠(opent in een nieuw venster) van OpenAI.

Netwerken die waarschijnlijk afkomstig zijn uit Cambodja, Myanmar en Nigeria misbruiken ChatGPT voor wat pogingen tot online fraude lijken te zijn.

We zetten ons in om pogingen om onze modellen voor schadelijke doeleinden te misbruiken, op te sporen, te voorkomen en te verstoren. Een van die vormen van misbruik is oplichting. We sporen kwaadwillenden die onze modellen proberen te misbruiken om mensen te misleiden en op te lichten op en blokkeren hen. In de afgelopen drie maanden hebben we oplichtingsnetwerken verstoord die waarschijnlijk afkomstig waren uit Cambodja, Myanmar en Nigeria. Tijdens ons onderzoek naar deze misbruikpatronen zagen we ook veel mensen die onze modellen gebruikten om oplichting te herkennen. Dit laat zien welke rol AI kan spelen bij fraudebestrijding. In dit rapport komen beide toepassingen aan bod.

Het misbruik van onze modellen ter ondersteuning van oplichting varieert van individuele fraudeurs tot grootschalige, hardnekkige operaties die waarschijnlijk verband houden met georganiseerde misdaadgroepen. Ongeacht hun herkomst en precieze tactieken volgen de aan oplichting gerelateerde activiteiten die we hebben verstoord doorgaans hetzelfde patroon: de ping (ongevraagd contact leggen), de zing (enthousiasme of paniek proberen op te wekken) en de sting (geld of waardevolle informatie buitmaken).

Deze oplichters beginnen met het verspreiden van al dan niet door AI gegenereerde content via berichtendiensten en internet, onder meer door advertenties op sociale media te plaatsen. Vervolgens proberen ze bij iedereen die reageert enthousiasme over een lucratieve kans of angst voor dreigend financieel verlies op te wekken. Die emotie gebruiken ze om het doelwit over te halen geld of gevoelige informatie af te staan.

We hebben ook veel gevallen waargenomen waarin onze modellen mensen waarschijnlijk tegen fraude hebben beschermd. We zien dat mensen ChatGPT maandelijks miljoenen keren gebruiken om online oplichting te herkennen en te vermijden. Bij elke oplichtingsoperatie in dit rapport zagen we dat het model mensen hielp de oplichting correct te herkennen en hun passende veiligheidsmaatregelen adviseerde. Volgens onze huidige schatting wordt ChatGPT tot drie keer vaker gebruikt om oplichting te herkennen dan om oplichting te plegen.

Voorbeeld van een OpenAI-onderzoeker die een screenshot van een ontvangen frauduleus sms-bericht in ChatGPT plakt en het model met succes gebruikt om het als oplichting te herkennen. In dit geval deden de dreigingsactoren zich voor als recruiters van TikTok.

Sinds ons vorige rapport hebben we ons vermogen om oplichting op te sporen en te verstoren verder versterkt. We hebben opnieuw oplichtingsnetwerken verstoord die afkomstig leken te zijn uit Cambodja, Myanmar en Nigeria. Samen met onze eerdere interventies stellen deze acties ons in staat enkele opkomende trends te herkennen in meerdere oplichtingsoperaties uit verschillende landen.

Bij de meeste oplichtingsactiviteiten die we hebben verstoord, werd AI ingepast in bestaande draaiboeken voor oplichting in plaats van dat er nieuwe draaiboeken rond AI werden ontwikkeld. Alle oplichtingsoperaties die we dit jaar hebben opgespoord en geblokkeerd, gebruikten AI voornamelijk om op te schalen en efficiënter te werken. Doorgaans werden onze modellen gebruikt om teksten te vertalen, berichten te schrijven en content voor sociale media te maken.

Zo hebben we onlangs oplichtingsoperaties geblokkeerd die waarschijnlijk afkomstig waren uit Cambodja en Nigeria. Ze deden zich voor als "investeringsmaatschappijen" om slachtoffers in meerdere landen op te lichten. De oplichters maakten websites en onlineadvertenties om de nepondernemingen te promoten. Met vermoedelijk onechte socialemedia-accounts deden ze zich voor als beleggingsexperts en nodigden ze mensen uit voor besloten chatgroepen. Met beloften van lucratieve verdienmogelijkheden zonder risico probeerden de dreigingsactoren potentiële slachtoffers vervolgens over te halen geld op fictieve handelsplatforms te storten. Bij al deze vormen van oplichting gebruikten de oplichters onze modellen voornamelijk om correspondentie te genereren en te vertalen, content voor hun websites en socialemedia-accounts te maken en eenvoudig onderzoek uit te voeren.

In een ander geval blokkeerden we een fraudecentrum dat vrijwel zeker in Myanmar was gevestigd en onze modellen gebruikte om zowel content voor frauduleuze praktijken te genereren als dagelijkse bedrijfstaken uit te voeren. Dit omvatte het organiseren van roosters, opstellen van interne mededelingen, toewijzen van werkplekken en slaapplaatsen en beheren van financiële rekeningen. Sommige uitvoerders vroegen welke straf mensen riskeren als ze worden betrapt op online oplichting.

Niet alle oplichters die we hebben aangepakt, gebruikten onze modellen op dezelfde manier of met dezelfde mate van complexiteit. De meeste interacties van oplichters met ChatGPT betroffen relatief eenvoudige taken, zoals vertalen, maar sommige oplichtingsoperaties waren ambitieuzer en ingewikkelder.

Zo gebruikte een door ons verstoorde oplichtingsoperatie die waarschijnlijk uit Cambodja afkomstig was, onze modellen om gedetailleerde biografieën te maken voor neppe beleggingsexperts en fictieve medewerkers van neppe handelsbedrijven. Vervolgens vroegen de oplichters ChatGPT om socialemediaberichten te schrijven in de stijl van die personages. De dreigingsactoren voerden vaak berichten in ons model in die ze van hun doelwitten leken te hebben ontvangen en vroegen het model het gesprek voort te zetten als de neppersoonlijkheid.

Een tweede oplichtingsoperatie, waarschijnlijk eveneens afkomstig uit Cambodja, gebruikte onze modellen aanvankelijk om ongevraagde sms-berichten te genereren die in bulk naar Amerikaanse telefoonnummers werden gestuurd. Een van deze berichten werd naar een OpenAI-onderzoeker gestuurd, vergelijkbaar met het geval waarover we in juni berichtten. Deze sms-berichten bevatten uitnodigingen voor WhatsApp-groepen die later werden geblokkeerd en waarvan de namen leken op die van een legitieme investeringsmaatschappij.

Uit een reeks WhatsApp-berichten aan de OpenAI-onderzoeker bleek dat een potentieel doelwit dat zich bij een van deze groepen aansloot, al snel een "gesprek" tussen zes verschillende accounts te zien kreeg die allemaal over beleggen praatten. Eén account deed zich voor als de "beleggingsexpert", terwijl de andere zich voordeden als beleggers met uiteenlopende niveaus van zelfvertrouwen en ervaring. Elk deel van dit gesprek was door de oplichters gegenereerd en vervolgens als één geheel uit het Chinees vertaald, waarschijnlijk om de indruk te wekken van een levendige groep enthousiaste en succesvolle handelaren. Uiteindelijk stelde de "beleggingsexpert" voor dat het doelwit ook zou gaan beleggen.

Daarnaast vroeg een beleggingsfraudeoperatie die vrijwel zeker uit Nigeria afkomstig was, het model om stapsgewijs advies over het gebruik van socialemedia-advertenties om vermogende mensen in Latijns-Amerika te bereiken, het verhullen van de eigen locatie en het omzeilen van beperkingen van socialemediaplatforms. Daarbij verwezen ze het model naar de openbare gebruiksvoorwaarden van een platform en vroegen ze het om voorgestelde advertentiecontent op naleving daarvan te controleren.

Oplichters, en met name grootschalige fraudecentra, zijn hardnekkig. Na een interventie proberen ze hun activiteiten die de regels schenden vaak te hervatten, waarbij ze bepaalde aspecten van hun gedrag aanpassen, waarschijnlijk om verdere detectie te voorkomen. Daarom is het belangrijk om binnen de sector inzichten te delen over hun veranderende activiteiten. Zo deelden OpenAI en Meta elk informatie over dreigingsactoren die bijdroeg aan verder onderzoek en handhaving.

Mogelijk als reactie op interventies of bredere onlinegesprekken over signalen die het gebruik van AI kunnen verraden, hebben we gezien dat oplichters hun gebruik van AI in onlinecontent en communicatie met doelwitten proberen te verhullen. Zo gaven oplichtingsoperaties die waarschijnlijk uit Cambodja afkomstig waren, het model de opdracht om gedachtestreepjes uit de uitvoer te verwijderen.

In één geval probeerden de oplichters een grootschalige uitschakeling van hun socialemedia-accounts te verklaren door een smoes te verzinnen voor de blokkering. Dit betrof het hierboven beschreven fraudecentrum dat waarschijnlijk uit Cambodja afkomstig was en via sms en WhatsApp opereerde. Nadat WhatsApp de aan de operatie gekoppelde "beleggingsgroepen" had geblokkeerd, begonnen de uitvoerders berichten te genereren waarin werd beweerd dat een concurrent die groepen ten onrechte had gerapporteerd, waarschijnlijk om de blokkeringen goed te praten.

Screenshot van een WhatsApp-bericht dat de aan Cambodja gekoppelde oplichtingsoperatie na de verwijderingsactie van WhatsApp naar een OpenAI-onderzoeker stuurde.