Svindeloperasjoner: Nettverk for nettsvindel

Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra oktober 2025⁠(åpnes i et nytt vindu).

Nettverk med sannsynlig opphav i Kambodsja, Myanmar og Nigeria misbruker ChatGPT i det som ser ut til å være forsøk på å svindle folk på nettet.

Vi arbeider målrettet for å identifisere, forhindre og stanse forsøk på å misbruke modellene våre til skadelige formål. Dette omfatter svindel, der vi oppdager og utestenger ondsinnede aktører som forsøker å misbruke modellene våre til å lure og bedra folk. De siste tre månedene har vi stanset svindelnettverk med sannsynlig opphav i Kambodsja, Myanmar og Nigeria. Som et tegn på hvilken rolle AI kan spille i kampen mot svindel, har vi under etterforskningen av disse misbruksmønstrene også sett mange bruke modellene våre til å identifisere svindelforsøk. Denne rapporten omtaler begge bruksområdene.

Misbruk av modellene våre til svindel spenner fra enkeltaktører som forsøker å bedra folk, til omfattende og vedvarende virksomhet som trolig er knyttet til organiserte kriminelle grupper. Uansett opphav og nøyaktig fremgangsmåte følger den svindelrelaterte aktiviteten vi har stanset, vanligvis et felles mønster: kontakten (uoppfordret henvendelse), presset (forsøk på å skape begeistring eller panikk) og stikket (å hente ut penger eller verdifull informasjon).

Svindlerne begynner med å spre innhold, enten det er AI-generert eller ikke, på meldingstjenester og internett, blant annet gjennom annonser i sosiale medier. Deretter forsøker de å vekke enten begeistring for en innbringende mulighet eller frykt for et nært forestående økonomisk tap hos dem som svarer, og utnytter følelsen til å overtale målet til å gi fra seg penger eller sensitiv informasjon.

Vi har også observert mange tilfeller der modellene våre sannsynligvis har bidratt til å beskytte folk mot svindel. Vi har sett tegn på at folk bruker ChatGPT til å identifisere og unngå nettsvindel millioner av ganger hver måned. I alle svindeloperasjonene i denne rapporten har vi sett modellen hjelpe folk med å gjenkjenne svindelen og gi råd om egnede sikkerhetstiltak. Vårt nåværende anslag er at ChatGPT brukes til å identifisere svindel opptil tre ganger så ofte som det brukes til svindel.

Eksempel på at en OpenAI-etterforsker limer inn et skjermbilde av en svindel-SMS vedkommende hadde mottatt, i ChatGPT og bruker modellen til å fastslå at det er svindel. I dette tilfellet forsøkte trusselaktørene å utgi seg for å være rekrutterere fra TikTok.

Siden forrige rapport har vi styrket vår egen evne til å oppdage og stanse svindel. Vi har stanset flere svindelnettverk som så ut til å ha opphav i Kambodsja, Myanmar og Nigeria. Sammen med våre tidligere tiltak gjør disse nedstengingene det mulig å identifisere nye trender på tvers av flere svindeloperasjoner fra ulike land.

Mesteparten av svindelaktiviteten vi stanset, handlet om å innlemme AI i eksisterende svindelmetoder fremfor å utvikle nye metoder bygget rundt AI. Alle svindeloperasjonene vi har identifisert og utestengt i år, brukte først og fremst AI til å skalere og effektivisere virksomheten. Dette innebar vanligvis å bruke modellene våre til oversettelse, til å skrive meldinger og til å lage innhold for sosiale medier.

Vi utestengte for eksempel nylig svindeloperasjoner med sannsynlig opphav i Kambodsja og Nigeria som utga seg for å være «investeringsselskaper» for å svindle ofre i flere land. Svindlerne opprettet nettsteder og nettannonser for å markedsføre de falske selskapene. De brukte også trolig falske kontoer i sosiale medier, der de utga seg for å være handelseksperter og inviterte folk til private meldingsgrupper. Med løfter om innbringende muligheter til å tjene penger uten risiko forsøkte trusselaktørene deretter å lokke potensielle ofre til å betale inn penger på fiktive handelsplattformer. I alle svindeloperasjonene brukte svindlerne hovedsakelig modellene våre til å utforme og oversette korrespondanse, lage innhold til nettsteder og kontoer i sosiale medier samt utføre enkle undersøkelser.

I et annet tilfelle utestengte vi et svindelsenter som høyst sannsynlig befant seg i Myanmar, og som brukte modellene våre både til å lage innhold for svindeloppleggene og til daglige administrative oppgaver. Dette omfattet å organisere tidsplaner, utforme interne kunngjøringer, fordele arbeidsplasser og soveplasser samt administrere finansielle kontoer. Enkelte operatører spurte om strafferammen for personer som blir tatt for nettsvindel.

Ikke alle svindlerne vi stanset, brukte modellene våre på samme måte eller med samme kompleksitetsnivå. De fleste av svindlernes samtaler med ChatGPT dreide seg om relativt enkle oppgaver som oversettelse, men enkelte svindeloperasjoner var mer ambisiøse og avanserte.

Én svindeloperasjon med sannsynlig opphav i Kambodsja brukte for eksempel modellene våre til å lage detaljerte biografier for falske investeringseksperter og fiktive ansatte i falske handelsselskaper. Deretter ba svindlerne ChatGPT skrive meldinger til sosiale medier med disse rollefigurenes stemmer. Trusselaktørene la ofte inn meldinger i modellen som de så ut til å ha mottatt fra målene sine, og ba modellen fortsette samtalen som den falske identiteten.

En annen svindeloperasjon, også med sannsynlig opphav i Kambodsja, begynte med å bruke modellene våre til å lage uoppfordrede SMS-er som ble masseutsendt til amerikanske telefonnumre. En av disse ble sendt til en OpenAI-etterforsker, på samme måte som i tilfellet vi rapporterte om i juni. SMS-ene inneholdt invitasjoner til WhatsApp-grupper som senere ble utestengt, og som hadde navn som lignet navnet på et legitimt investeringsselskap.

Ut fra en rekke WhatsApp-meldinger sendt til OpenAI-etterforskeren ville et potensielt mål som ble med i en slik gruppe, raskt bli vitne til en «samtale» mellom et halvt dusin ulike kontoer som alle snakket om investeringer. Én av dem utga seg for å være «investeringseksperten», mens resten utga seg for å være investorer med ulik grad av selvtillit og erfaring. Hele samtalen var skrevet av svindlerne, som oversatte den samlet fra kinesisk – trolig for å skape inntrykk av en livlig gruppe med ivrige og fremgangsrike investorer. Til slutt foreslo «investeringseksperten» at målet også skulle prøve å investere.

I et annet tilfelle ba en investeringssvindeloperasjon med svært sannsynlig opphav i Nigeria modellen om trinnvise råd om hvordan annonser i sosiale medier kunne brukes til å nå velstående personer i Latin-Amerika, skjule hvor operatørene befant seg og omgå plattformenes begrensninger. Dette innebar å henvise modellen til en plattforms offentlige bruksvilkår og be den kontrollere om foreslått annonseinnhold overholdt dem.

Svindlere, særlig store svindelsentre, er utholdende. Svært ofte reagerer de på inngrep ved å forsøke å gjenoppta aktiviteten som bryter med reglene, samtidig som de endrer deler av atferden sin, trolig for å unngå å bli oppdaget igjen. Dette er én grunn til at det er viktig å dele innsikt om hvordan aktiviteten deres utvikler seg, på tvers av bransjen. OpenAI og Meta har for eksempel delt informasjon om trusselaktører som bidro til videre etterforskning og håndheving.

Muligens som svar på inngrep eller bredere nettdiskusjoner om kjennetegn som kan avsløre bruk av AI, har vi sett svindlere forsøke å skjule AI-bruken i nettinnhold og kommunikasjon med målpersoner. Dette omfatter svindeloperasjoner med sannsynlig opphav i Kambodsja som ba modellen fjerne tankestreker fra svarene.

I ett tilfelle forsøkte svindlerne å forklare en omfattende nedstenging av kontoene sine i sosiale medier ved å dikte opp en grunn til at de var blitt utestengt. Dette gjaldt svindelsenteret med sannsynlig opphav i Kambodsja som opererte via SMS og WhatsApp, og som er beskrevet ovenfor. Etter at WhatsApp utestengte «investeringsgrupper» knyttet til operasjonen, begynte operatørene å lage meldinger som hevdet at gruppene var blitt uriktig rapportert av en konkurrent, trolig for å bortforklare utestengingene.

Skjermbilde av en WhatsApp-melding som den Kambodsja-tilknyttede svindeloperasjonen sendte til en OpenAI-etterforsker etter WhatsApps nedstenging.