Operation »Datinglokkemad«: AI-understøttet svindel rettet mod kærlighedssøgende

Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra februar 2026⁠(åbner i et nyt vindue) om at sætte en stopper for ondsindet brug af AI.

Vi lukkede en gruppe ChatGPT‑konti og udelukkede én API-kunde, som brugte vores modeller til at drive halvautomatiseret kærligheds- og opgavesvindel, der sandsynligvis bedrog hundredvis af ofre om måneden. Aktiviteten udsprang med stor sandsynlighed af Cambodja og stemmer overens med nyere offentlige rapporter⁠(åbner i et nyt vindue) om kinesisk ledede kriminelle svindeloperationer i landet. I enkelte tilfælde oplyste brugere selv, at de arbejdede med svindel i Cambodja, for eksempel når de bad modellen om skatterådgivning og angav deres erhverv som »svindler«.

Netværket brugte ChatGPT og API-adgang til vores modeller til at udføre halvautomatiseret kærligheds- og opgavesvindel i stor skala. Det fulgte en struktureret arbejdsgang og driftsmodel, der mindede om salgsindsatser baseret på uopfordrede henvendelser.

1. Kontaktfasen: For at tiltrække potentielle ofre brugte operationen sine ChatGPT‑konti til at generere reklametekster for en eksklusiv dating- og escorttjeneste kaldet »Den romantiske klub«. Disse tekster blev derefter lagt på sociale medier som betalte annoncer. Svindlerne målrettede annoncerne mod indonesiske mænd med interesse for indhold om luksuslivsstil og brugte annoncenøgleord som »golf«, »yachter« og »gourmetmad«. Annoncerne indeholdt links til en AI-chatbot, der havde fået instruktioner om at udgive sig for at være en flirtende receptionist. Den angivelige receptionist bad de potentielle ofre om at vælge mellem forskellige typer kvinder og forhold i en menu, før vedkommende sendte dem videre til Telegram med en sporings-URL og en kampagnekode.

2. Følelsesfasen: På Telegram kombinerede operationen menneskelige operatører, der brugte ChatGPT, med API-baseret automatisering. De falske receptionistprofiler fortsatte samtalen i et stadig mere romantisk og seksuelt eksplicit sprog og tilbød derefter de potentielle ofre at tilmelde sig online-datingplatforme kaldet »Kærlighedskode« og »Sexaktion«. Platformen viste profiler af angiveligt »ledige piger« og et feed med AI-genererede meddelelser, der lykønskede fiktive kunder med at have gennemført »missioner«, låst op for bonusser og vundet præmier.

Efter at have opbygget tillid overlod den falske receptionist samtalen til en »mentor«, som brugte ChatGPT til at generere og oversætte følelsesmæssigt manipulerende beskeder, der pressede ofrene til at gennemføre en række »opgaver« eller »missioner«. Hver ny opgave krævede stadig større betalinger via bankoverførsler eller digitale tegnebøger, for eksempel køb af et »VIP-kort«, støtte til en »udvalgt pige« i en konkurrence eller betaling af et hoteldepositum. Et billede af en falsk receptionist for datingplatformen »Kærlighedskode«, skabt af en svindler med ChatGPT.

3. Betalingsfasen: I den sidste fase forsøgte svindlerne at opkræve et større beløb, som de kaldte »slagtningen«, ved at opfinde ekstra gebyrer såsom »erstatningsbetalinger« eller »verifikationsdepositummer«. Ud fra de beskeder, svindlerne indsatte i ChatGPT, blokerede de offeret på Telegram og markerede sagen som afsluttet, så snart offeret havde sendt det størst mulige beløb. Kopi af et brev, som en svindler delte med ChatGPT. Her får et offer besked om at betale 20.500.000 Rp (12.000 USD) for at rette en fiktiv databehandlingsfejl i Love Code-systemet, men vil til gengæld få en »bonus« på 35 % svarende til 39.860.000 Rp. Oplysninger er sløret af OpenAI's efterforskere.

Ud over kærlighedssvindlen brugte operationen også vores modeller til at understøtte den daglige drift. Det omfattede at bede ChatGPT om vejledning til tekniske opgaver, såsom at integrere OpenAI's API eller opdatere den falske datingtjenestes hjemmeside, analysere regnskaber og generere daglige rapporter, hvor hvert offer fik tildelt en »slagteværdi« beregnet af svindlerne – det anslåede beløb, de ville forsøge at lokke ud af offeret til sidst.

I andre tilfælde bad svindlerne ChatGPT om at oversætte beskeder mellem kinesisktalende ledere og indonesisktalende medarbejdere på svindelcentret samt følge resultaterne på tværs af afdelinger kaldet »Kundeemnegenerering«, »Receptionsteam« og »Lederteam«.

Virkningen af dette netværks aktiviteter skal vurderes med forsigtighed. Vores primære beviskilde er svindlernes egne input. Disse input tyder på, at svindlerne kan have været i kontakt med hundredvis af potentielle ofre ad gangen og tjent tusindvis af dollars om dagen. Vi kan dog ikke uafhængigt verificere, om disse oplysninger var korrekte.

OpenAI's politikker forbyder strengt at bruge output fra vores værktøjer til bedrageri eller svindel. Vi er fast besluttede på at samarbejde med andre i branchen og myndighederne for at forstå, hvordan AI påvirker ondsindede aktørers adfærd, og aktivt sætte en stopper for svindel, der misbruger vores tjenester.