Operasjon «Date-agn»: KI-støttet svindel rettet mot dem som søker kjærligheten

Denne casestudien ble opprinnelig publisert i OpenAIs rapport fra februar 2026⁠(åpnes i et nytt vindu) om å stanse ondsinnet bruk av KI.

Vi utestengte en gruppe ChatGPT‑kontoer og én API-kunde som brukte modellene våre til å drive delvis automatisert kjærlighets- og oppgavesvindel, som sannsynligvis rammet hundrevis av ofre i måneden. Denne aktiviteten hadde svært sannsynlig utspring i Kambodsja og samsvarer med nyere offentlig rapportering⁠(åpnes i et nytt vindu) om kinesiskledede kriminelle svindeloperasjoner i landet. I enkelte tilfeller oppga brukere selv at de jobbet med svindel i Kambodsja, for eksempel når de ba modellen om skatteråd og oppga «svindler» som yrke.

Nettverket brukte ChatGPT og API-tilgang til modellene våre for å drive delvis automatisert kjærlighets- og oppgavesvindel i stor skala. Det fulgte en strukturert arbeidsflyt og driftsmodell som minnet om salgsopplegg basert på uoppfordrede henvendelser.

1. Første kontakt: I den innledende fasen brukte operasjonen ChatGPT‑kontoene sine til å generere reklametekster for en eksklusiv dating- og eskortetjeneste kalt «Den romantiske klubben». Disse tekstene ble deretter publisert som betalte annonser på sosiale medier. Svindlerne rettet seg mot indonesiske menn som var interessert i innhold om luksusliv, med annonsenøkkelord som «golf», «yachter» og «gourmetmat». Annonsene inneholdt lenker til en KI-chatbot som var instruert til å utgi seg for å være en flørtende resepsjonist. Den angivelige resepsjonisten ba de potensielle ofrene velge blant ulike typer kvinner og forhold fra en meny, før de ble sendt videre til Telegram med en sporingslenke og en kampanjekode.

2. Følelsesvekking: På Telegram kombinerte operasjonen menneskelige operatører som brukte ChatGPT, med automatisering via API. Resepsjonistprofilene fortsatte samtalen med stadig mer romantisk og seksuelt eksplisitt språk, og tilbød deretter de potensielle ofrene å bli med på datingplattformene «Kjærlighetskoden» og «Sexaksjon». Plattformen viste profiler av angivelig «tilgjengelige jenter» og en strøm av KI-genererte kunngjøringer som gratulerte fiktive kunder med å ha fullført «oppdrag», låst opp bonuser og vunnet premier.

Etter å ha bygget tillit overlot resepsjonistprofilen samtalen til en «mentor», som brukte ChatGPT til å generere og oversette følelsesmessig manipulerende meldinger som presset ofrene til å fullføre en rekke «oppgaver» eller «oppdrag». Hver nye oppgave krevde stadig større betalinger via bankoverføringer eller digitale lommebøker, for eksempel for å kjøpe et «VIP-kort», støtte en «utvalgt jente» i en konkurranse eller betale et hotelldepositum. Et bilde av en falsk resepsjonist for datingplattformen «Kjærlighetskoden», laget med ChatGPT av en svindler.

3. Innkassering: I sluttfasen forsøkte svindlerne å hente inn en større betaling, som de kalte «slakt», ved å finne på ekstra gebyrer som «erstatningsoppgjør» eller «verifiseringsdepositum». Ut fra meldingene svindlerne limte inn i ChatGPT, blokkerte de offeret på Telegram og markerte saken som avsluttet så snart offeret hadde sendt så mye penger som mulig. Kopi av et brev en svindler delte med ChatGPT. Brevet forteller et offer at de må betale 20 500 000 Rp (12 000 dollar) for å rette en oppdiktet databehandlingsfeil i systemet Kjærlighetskoden, men at de vil få en «bonus» på 35 %, tilsvarende 39 860 000 Rp. Sladdet av OpenAIs etterforskere.

I tillegg til kjærlighetssvindelen brukte operasjonen modellene våre som støtte i den daglige driften. Dette omfattet å be ChatGPT om veiledning til tekniske oppgaver, som å integrere OpenAI-API-et eller oppdatere den falske datingtjenestens nettsted, analysere regnskaper og generere dagsrapporter. I rapportene fikk hvert offer en «slakteverdi» beregnet av svindlerne – det anslåtte beløpet de ville forsøke å hente ut i en siste betaling.

I andre tilfeller ba svindlerne ChatGPT om å oversette meldinger mellom kinesisktalende ledere og indonesisktalende ansatte ved svindelsenteret, og om å følge med på resultatene i avdelinger kalt «Rekruttering av potensielle ofre», «Resepsjonsteamet» og «Lederteamet».

Konsekvensene av dette nettverkets virksomhet må vurderes med varsomhet. Den viktigste kilden vår til bevis er svindlernes egne inndata. Disse tyder på at svindlerne kan ha vært i kontakt med hundrevis av potensielle ofre samtidig og tjent tusenvis av dollar om dagen. Vi kan imidlertid ikke bekrefte på uavhengig grunnlag om disse påstandene var riktige.

OpenAIs retningslinjer forbyr strengt bruk av innhold fra verktøyene våre til bedrageri eller svindel. Vi er opptatt av å samarbeide med andre aktører i bransjen og myndighetene for å forstå hvordan KI påvirker ondsinnede aktørers atferd, og for aktivt å stanse svindel som misbruker tjenestene våre.