Operatie "Valse getuige": nepdienst voor het terughalen van geld doet zich voor als autoriteiten
OpenAI blokkeerde accounts die zeer waarschijnlijk uit Cambodja kwamen en AI gebruikten om zich tegenover fraudeslachtoffers voor te doen als diensten voor het terughalen van geld, advocatenkantoren en autoriteiten.
Deze casestudy verscheen oorspronkelijk in het rapport van OpenAI uit februari 2026(opent in een nieuw venster) over het verstoren van kwaadwillig gebruik van AI.
Daders
We blokkeerden een cluster van ChatGPT‑accounts die onze modellen gebruikten om zich voor te doen als fictieve advocatenkantoren, bestaande advocaten en Amerikaanse opsporingsdiensten. Ze richtten zich op fraudeslachtoffers met valse beloften om verloren geld terug te halen. Deze activiteiten kwamen zeer waarschijnlijk uit Cambodja en sluiten aan bij recente openbare berichtgeving over criminele oplichtingspraktijken onder Chinese leiding in dat land.
Werkwijze
De accounts gebruikten ChatGPT ter ondersteuning van een oplichtingsoperatie die beloofde door fraude verloren geld terug te halen. Daarbij werden fictieve advocatenkantoren ingezet en deden de daders zich voor als vertrouwde partijen, zoals bestaande advocaten en het Internet Crime Complaint Center (IC3) van de FBI.
1. Contact leggen: De oplichters gebruikten ChatGPT om content te maken die zogenaamd afkomstig was van minstens zes fictieve advocatenkantoren. Een deel van deze content werd vervolgens gepubliceerd via socialemedia-accounts en online advertenties die nepdiensten aanprezen voor het terughalen van geld na oplichting. Meerdere aanwijzingen uit openbare bronnen duidden erop dat de kantoren frauduleus waren. Zo ontbrak bewijs van inschrijving bij de bevoegde orde van advocaten, werden niet-passende webdomeinen gebruikt, verwezen contactgegevens naar ogenschijnlijk niet-bestaande adressen en kregen bezoekers de instructie om via berichtenapps contact op te nemen met advocaten.
De oplichters gebruikten onze modellen om socialemediacontent te genereren die nepdiensten voor het terughalen van geld na oplichting aanprees.
2. Vertrouwen winnen: De oplichters probeerden het vertrouwen van hun doelwitten te winnen door reacties te genereren die de toon en professionaliteit nabootsten van advocaten die gespecialiseerd zijn in het terughalen van geld voor slachtoffers van oplichting. Ze genereerden content die zogenaamd afkomstig was van fictieve advocaten. We vonden enkele van deze fictieve advocaten op verschillende websites. Hun profielfoto's waren kennelijk overgenomen van sociale media of gegenereerd met AI. In sommige gevallen gebruikte de oplichter dezelfde "advocaten" bij meerdere zogenaamde advocatenkantoren. Een van de websites die we vonden, deed zich voor als IC3.
De contactgegevens op deze verschillende frauduleuze websites verwezen bezoekers naar privéberichtenapps, zoals Telegram. In berichten aan doelwitten die met ChatGPT waren opgesteld, beweerden de oplichters ten onrechte onder toezicht van het Internationaal Strafhof te werken. Ook zeiden ze pas kosten in rekening te brengen nadat al het geld van een slachtoffer was teruggehaald.
3. Geld aftroggelen: De oplichters probeerden hun doelwitten geld afhandig te maken door vergoedingen en aanbetalingen te eisen voordat er ook maar iets was "teruggehaald". Zo moesten doelwitten 15% "servicekosten" betalen voordat ze zogenaamd teruggehaald geld konden ontvangen, werd hun gevraagd geld te storten om een account te activeren en werden "consultkosten" in rekening gebracht. De met ChatGPT opgestelde berichten aan doelwitten bevatten instructies om in cryptovaluta te betalen en screenshots van transactiebevestigingen als betalingsbewijs te verstrekken.
Een website die zich voordoet als de IC3-eenheid van de FBI en gelinkt is aan deze oplichting. Wie op "Een klacht indienen" klikte, werd doorgestuurd naar een Telegram-account dat dezelfde identiteit misbruikte.
Uitvoering
De operatie gebruikte onze modellen ter ondersteuning van verschillende onderdelen van het werkproces, zoals het genereren van promotionele content voor sociale media en ongevraagde berichten aan doelwitten. De oplichters gebruikten ChatGPT echter vooral om berichten aan en van doelwitten op privéberichtenapps te vertalen. Daarbij vroegen ze onder meer om antwoorden in "Amerikaans-Engels" of in de stijl van een advocaat.
Een deel van de oplichtingsaccounts gebruikte onze modellen ook om misleidend materiaal te maken dat hun geloofwaardigheid moest vergroten. Het ging onder meer om vervalste registratiebewijzen voor advocaten en valse lidmaatschapskaarten van advocatenverenigingen, maar ook om nepgeheimhoudingsovereenkomsten die slachtoffers ervan moesten weerhouden elders hulp te zoeken.
Een valse lidmaatschapskaart van de New York State Bar Association, gegenereerd met onze modellen. Gegevens afgeschermd door onderzoekers van OpenAI.
Impact
De impact moet zorgvuldig worden beoordeeld, omdat de invoer van de oplichters zelf een belangrijke bron van bewijs vormt. Die invoer suggereert dat de oplichters individuele slachtoffers mogelijk duizenden dollars afhandig hebben gemaakt, maar we kunnen die beweringen niet onafhankelijk verifiëren. De FBI en minstens één advocatenkantoor waarvan de identiteit werd misbruikt, hebben openbare waarschuwingen over deze oplichting uitgebracht. FBI-functionarissen waarschuwden dat de operatie zich richt op kwetsbare groepen, met name ouderen. Daarbij wordt misbruik gemaakt van de emotionele toestand van slachtoffers en hun wens om verloren geld snel terug te krijgen.
Het beleid van OpenAI verbiedt ten strengste het gebruik van output van onze tools voor fraude of oplichting. We zetten ons in voor samenwerking met branchegenoten en autoriteiten om te begrijpen hoe AI het gedrag van kwaadwillenden beïnvloedt en om oplichtingsactiviteiten waarbij onze diensten worden misbruikt actief te verstoren.