Kjærlighetssvindel: Svindelprosesser støttet av KI

Denne casestudien ble opprinnelig publisert i OpenAIs rapport fra februar 2026⁠(åpnes i et nytt vindu) om å stanse ondsinnet bruk av KI.

Siden vi for et år siden⁠(åpnes i et nytt vindu) begynte å rapportere om tiltakene våre mot svindelnettverk som forsøkte å misbruke modellene våre, har vi stanset mange svindeloperasjoner fra ulike deler av verden. Blant dem var «oppgavesvindel», der ofrene blir lurt til å betale inn penger for å få tilgang til en ikke-eksisterende fortjeneste fra enkle oppgaver, og investeringssvindel, der ofrene blir lurt til å sette penger i investeringsselskaper som ikke finnes.

En vanlig svindelform som har eksistert lenge før KI, er kjærlighetssvindel. Her utgir svindlere seg for å være en potensiell kjæreste og forsøker å overbevise offeret om at de har funnet kjærligheten, før de ber om stadig mer penger. Den første rapporten vår om en svindeloperasjon vi hadde stanset, handlet om en nyetablert kriminell virksomhet i Kambodsja. Den hadde brukt ChatGPT til å generere meldinger til kjærlighetssvindel, hvorav noen ble spredt på sosiale medier. Siden da har vi stanset flere forsøk på kjærlighetssvindel. Som vi skrev i juni⁠(åpnes i et nytt vindu), følger disse og andre svindelformer gjerne et felles mønster i bruken av KI, som vi deler inn i første kontakt (uoppfordret henvendelse), følelsesvekking (utløse følelser) og innkassering (få ut penger).

Første kontakt (uoppfordret henvendelse): Svindleren genererer innhold som skal fange det potensielle offerets oppmerksomhet ved å appellere til interessene deres. «Griseslaktingssvindelen» vi rapporterte om i fjor, rettet seg for eksempel ofte mot amerikanske menn i 40-årene med medisinske yrker, ved å svare på innlegg de publiserte om golf på sosiale medier. Andre operasjoner brukte uoppfordrede SMS-er, falske rekrutteringsmeldinger eller, i det nyeste tilfellet av kjærlighetssvindel vi har avdekket (beskrevet nedenfor), annonser på sosiale medier. I hvert tilfelle brukte trusselaktørene ChatGPT til å generere meldinger som kunne være mer engasjerende og i mindre grad røpe at avsenderen ikke hadde språket som morsmål, enn tradisjonelle svindelmeldinger.

Følelsesvekking (utløse følelser): Svindleren genererer innhold som skal vekke sterke følelser hos offeret og dermed gjøre det lettere å manipulere dem. Kjærlighetssvindel forsøker å få offeret til å føle seg tiltrukket av svindleren. Andre svindelformer kan forsøke å gjøre offeret begeistret for en potensielt lukrativ avtale, redd for å gå glipp av en mulighet eller bekymret for påståtte juridiske problemer eller en ubetalt regning. Noen ganger kan følelsesvekkingen inngå i den første meldingen.

Innkassering (få ut penger): Svindleren genererer innhold som skal overbevise offeret om å gi fra seg penger. Begrunnelsene kan variere svært mye. Ved kjærlighetssvindel kan offeret for eksempel bli bedt om å investere i kjærestens virksomhet eller gi penger for å løse en økonomisk krise. Ved «oppgavesvindel» blir ofrene bedt om å betale inn penger for å få tilgang til (fiktive) penger de tror de har tjent. Ved investeringssvindel blir ofrene bedt om å sette pengene sine i investeringer som ikke finnes.

Som dette forløpet viser, er distribusjonsnettverket en avgjørende del av svindelen. Ulike svindeloperasjoner vi har avslørt, tok den første kontakten via SMS, krypterte meldingsapper, innlegg på sosiale medier, nettannonser eller en kombinasjon av disse. Svindlere fra tiden før KI er beryktet for å ha brukt e-post⁠(åpnes i et nytt vindu), telefonsamtaler⁠(åpnes i et nytt vindu) og til og med, på 1800-tallet, brev⁠(åpnes i et nytt vindu) og telegrammer⁠(åpnes i et nytt vindu). Mange svindeloperasjoner sprer budskapet bredt og nokså tilfeldig, mens andre ser ut til å forsøke å treffe helt bestemte målgrupper. «Griseslaktingssvindelen» vi rapporterte om i februar 2025⁠(åpnes i et nytt vindu), fokuserte for eksempel på temaer som golf. En annen kjærlighetssvindel brukte annonser på sosiale medier for å nå unge menn i Indonesia, mens kjendissvindlere⁠(åpnes i et nytt vindu) vanligvis utgir seg for å være en kjent person og retter seg mot vedkommendes fangrupper. Det fragmentariske bevismaterialet gjør det vanskelig å sammenligne svindeloperasjonene vi har stanset, på en pålitelig måte. Likevel vurderer vi at den valgte distribusjonsmetoden – for eksempel bred og tilfeldig eller målrettet – har stor betydning for hvor godt hver operasjon lykkes med å nå og utnytte ofrene sine, uavhengig av hvor mye KI den bruker til ulike oppgaver.