Kærlighedssvindel: Svindelarbejdsgange understøttet af AI
OpenAI lukkede konti, der brugte AI til at understøtte kærlighedssvindel, herunder kontakt til ofre, oversættelse, dialog med ofre og lokkemidler til investeringssvindel.
Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra februar 2026(åbner i et nyt vindue) om at sætte en stopper for ondsindet brug af AI.
Siden vi for et år siden(åbner i et nyt vindue) begyndte at rapportere om vores indgreb mod svindelnetværk, der forsøgte at misbruge vores modeller, har vi lukket ned for mange svindeloperationer fra forskellige dele af verden. Blandt dem var »opgavesvindel«, hvor ofrene narres til at indbetale penge for at få adgang til en ikkeeksisterende indtjening fra simple opgaver, og investeringssvindel, hvor ofrene narres til at sætte penge i ikkeeksisterende investeringsselskaber.
En udbredt svindelform, som har eksisteret længe før AI, er kærlighedssvindel. Her udgiver svindlerne sig for at være en potentiel kæreste og forsøger at overbevise offeret om, at de har fundet kærligheden, før de beder om stadig flere penge. Vores første offentliggjorte indgreb mod svindel drejede sig om en nyetableret kriminel operation i Cambodja, som havde brugt ChatGPT til at generere beskeder til kærlighedssvindel. Nogle af beskederne blev spredt på sociale medier. Siden da har vi grebet ind over for forskellige forsøg på kærlighedssvindel. Som vi skrev i juni(åbner i et nyt vindue), følger disse og andre svindelformer typisk et fælles mønster i deres brug af AI, som vi opdeler i kontaktfasen (uopfordret kontakt), følelsesfasen (vække følelser) og betalingsfasen (lokke penge ud af offeret).
Kontaktfasen (uopfordret kontakt): Svindleren genererer indhold, der skal fange det potentielle offers opmærksomhed ved at appellere til vedkommendes interesser. For eksempel var den »svineslagtningssvindel«, vi omtalte sidste år, ofte rettet mod amerikanske mænd i 40'erne med sundhedsfaglige job. Svindlerne svarede på deres opslag om golf på sociale medier. Andre operationer brugte uopfordrede sms'er, falske rekrutteringsbeskeder eller, i vores seneste sag om kærlighedssvindel (beskrevet nedenfor), annoncer på sociale medier. I alle tilfælde brugte trusselsaktørerne ChatGPT til at generere beskeder, der kunne virke mere fængende og i mindre grad bære præg af at være skrevet af personer uden sproget som modersmål end traditionelle svindelbeskeder.
Golfrelateret henvendelse fra det netværk bag »svineslagtningssvindel«, vi omtalte i 2025, som svar på et Facebook-opslag fra en bruger uden tilknytning til operationen.
Følelsesfasen (vække følelser): Svindleren genererer indhold, der skal udløse stærke følelser hos offeret og dermed gøre vedkommende lettere at manipulere. Ved kærlighedssvindel forsøger svindleren at få offeret til at føle sig tiltrukket af sig. Andre svindelformer kan gå ud på at gøre offeret begejstret for en potentielt lukrativ handel, bange for at gå glip af en mulighed eller bekymret over en påstået juridisk risiko eller ubetalt regning. Nogle gange indgår følelsespåvirkningen allerede i den første kontaktbesked.
Uopfordret sms fra svindeloperationen »Forkert nummer«, som vi afslørede i juni 2025. Den beskriver usandsynligt høj indtjening for meget lidt arbejde, sandsynligvis for at fremkalde den følelsesmæssige reaktion, der kendetegner »følelsesfasen«.
Betalingsfasen (lokke penge ud af offeret): Svindleren genererer indhold, der skal overbevise offeret om at betale. Begrundelserne kan variere enormt. Ved kærlighedssvindel kan offeret for eksempel blive bedt om at investere i den elskedes virksomhed eller give penge til at afhjælpe en økonomisk krise. Ved »opgavesvindel« får ofrene besked på at indbetale penge for at få adgang til de (fiktive) penge, de tror, de har tjent. Ved investeringssvindel får ofrene besked på at sætte deres penge i ikkeeksisterende investeringer.
Uopfordret sms fra svindeloperationen »Forkert nummer«, som vi afslørede i juni 2025. Den beskriver usandsynligt høj indtjening for meget lidt arbejde, sandsynligvis for at fremkalde den følelsesmæssige reaktion, der kendetegner »følelsesfasen«.
Som dette forløb viser, er distributionsnetværket en afgørende del af svindlen. De forskellige svindeloperationer, vi har afsløret, tog den første kontakt via sms, krypterede beskedapps, opslag på sociale medier, onlineannoncer eller en kombination af det hele. Svindlere fra tiden før AI er berygtede for at have brugt e-mails(åbner i et nyt vindue), telefonopkald(åbner i et nyt vindue) eller sågar, i 1800-tallet, breve(åbner i et nyt vindue) og telegrammer(åbner i et nyt vindue). Mange svindlere spreder deres henvendelser i blinde, men nogle ser ud til at forsøge at ramme præcist udvalgte målgrupper. For eksempel fokuserede den »svineslagtningssvindel«, vi omtalte i februar 2025(åbner i et nyt vindue), på emner som golf. En anden operation med kærlighedssvindel brugte annoncer på sociale medier til at nå unge mænd i Indonesien, mens svindlere, der udgiver sig for at være kendte(åbner i et nyt vindue), typisk henvender sig til den kendtes fangrupper. Det fragmentariske bevismateriale gør det vanskeligt at foretage en pålidelig sammenligning af de forskellige svindeloperationer, vi har grebet ind over for. Vi vurderer dog, at den valgte distributionsmetode (f.eks. bred eller målrettet) spiller en væsentlig rolle for svindlernes evne til at nå og udnytte deres ofre, uanset hvor meget operationen brugte AI til forskellige funktioner.
