Datingfraude: werkwijzen ondersteund door AI

Deze casestudy verscheen oorspronkelijk in het rapport van OpenAI van februari 2026⁠(opent in een nieuw venster) over het verstoren van kwaadwillig gebruik van AI.

Sinds we een jaar geleden⁠(opent in een nieuw venster) begonnen te rapporteren over het verstoren van oplichtingsnetwerken die onze modellen probeerden te misbruiken, hebben we veel oplichtingsoperaties uit verschillende delen van de wereld uitgeschakeld. Daaronder vielen "taakfraude", waarbij slachtoffers worden overgehaald geld te storten om toegang te krijgen tot niet-bestaande verdiensten voor eenvoudige taken, en beleggingsfraude, waarbij slachtoffers worden overgehaald geld in niet-bestaande beleggingsbedrijven te steken.

Een vorm van oplichting die al lang vóór de komst van AI veel voorkwam, is datingfraude. Daarbij doen oplichters zich voor als een potentiële liefdespartner en proberen ze hun doelwit ervan te overtuigen de ware te hebben gevonden, waarna ze om steeds meer geld vragen. Onze eerste publicatie over het verstoren van oplichting ging over een pas opgezette criminele operatie in Cambodja die ChatGPT had gebruikt om berichten voor datingfraude te genereren. Een deel daarvan werd via sociale media verspreid. Sindsdien hebben we verschillende pogingen tot datingfraude verstoord. Zoals we in juni⁠(opent in een nieuw venster) schreven, volgen deze en andere vormen van oplichting doorgaans hetzelfde patroon bij het gebruik van AI. We onderscheiden daarin drie stappen: contact leggen (ongevraagd benaderen), emotie opwekken en geld aftroggelen.

Contact leggen (ongevraagd benaderen): de oplichter genereert content die de aandacht van het potentiële doelwit moet trekken door op diens interesses in te spelen. Zo richtte de oplichting volgens het principe van "vetmesten en slachten" waarover we vorig jaar rapporteerden zich vaak op Amerikaanse mannelijke veertigers met een medisch beroep, door te reageren op hun berichten over golf op sociale media. Andere operaties gebruikten ongevraagde sms-berichten, valse wervingsberichten of, in ons meest recente geval van datingfraude (hieronder beschreven), advertenties op sociale media. In alle gevallen gebruikten de kwaadwillenden ChatGPT om berichten te genereren die mogelijk aansprekender waren en minder duidelijk van een anderstalige schrijver afkomstig leken dan bij traditionele oplichting.

Emotie opwekken: de oplichter genereert content die sterke emoties bij het doelwit moet oproepen, zodat diegene makkelijker te manipuleren is. Bij datingfraude proberen oplichters ervoor te zorgen dat het doelwit zich tot hen aangetrokken voelt. Bij andere vormen van oplichting proberen ze het doelwit bijvoorbeeld enthousiast te maken over een mogelijk lucratieve deal, bang te maken om een kans mis te lopen of ongerust te maken over een vermeend juridisch risico of een onbetaalde rekening. Soms worden contact leggen en emotie opwekken in hetzelfde bericht gecombineerd.

Geld aftroggelen: de oplichter genereert content die het doelwit moet overhalen geld af te staan. De redenen die daarvoor worden gegeven, kunnen sterk uiteenlopen. Bij datingfraude kan het doelwit bijvoorbeeld worden gevraagd te investeren in het bedrijf van de geliefde, of geld te geven om een financiële noodsituatie op te lossen. Bij "taakfraude" krijgen doelwitten te horen dat ze geld moeten storten om toegang te krijgen tot het (fictieve) geld dat ze denken te hebben verdiend. Bij beleggingsfraude worden doelwitten aangespoord hun geld in niet-bestaande beleggingen te steken.

Zoals uit dit verloop blijkt, is het distributienetwerk een essentieel onderdeel van oplichting. Verschillende oplichtingsoperaties die we hebben blootgelegd, legden het eerste contact via sms, versleutelde berichtenapps, berichten op sociale media, online advertenties of een combinatie daarvan. Oplichting uit het tijdperk vóór AI staat bekend om het gebruik van e-mails⁠(opent in een nieuw venster), telefoongesprekken⁠(opent in een nieuw venster) en zelfs, in de negentiende eeuw, brieven⁠(opent in een nieuw venster) en telegrammen⁠(opent in een nieuw venster). Veel oplichters verspreiden hun berichten lukraak op grote schaal, maar sommige lijken heel gericht doelwitten te selecteren. De oplichting volgens het principe van "vetmesten en slachten" waarover we in februari 2025 rapporteerden⁠(opent in een nieuw venster), richtte zich bijvoorbeeld op onderwerpen als golf. Een andere operatie voor datingfraude gebruikte advertenties op sociale media om jonge mannen in Indonesië te bereiken. En bij oplichting met beroemdheden⁠(opent in een nieuw venster) doen oplichters zich doorgaans voor als een beroemd persoon en richten ze zich vervolgens op diens fangroepen. Door het fragmentarische bewijsmateriaal is het moeilijk om de verschillende oplichtingsoperaties die we hebben verstoord betrouwbaar te vergelijken. Toch schatten we in dat de gekozen distributiemethode (bijvoorbeeld lukraak of gericht) een belangrijke rol speelt in het vermogen van elke operatie om doelwitten daadwerkelijk te bereiken en uit te buiten, ongeacht de mate waarin AI voor verschillende taken werd ingezet.