Operasjon «Falskt vitne»: Falsk tjeneste for tilbakeføring av tapte penger utgir seg for å være myndigheter

Denne casestudien ble opprinnelig publisert i OpenAIs rapport fra februar 2026⁠(åpnes i et nytt vindu) om å stanse ondsinnet bruk av KI.

Vi utestengte en gruppe ChatGPT‑kontoer som brukte modellene våre til å utgi seg for å være oppdiktede advokatfirmaer, samt virkelige advokater og amerikanske politimyndigheter. Dette inngikk i en svindeloperasjon rettet mot svindelofre, med løfter om å få tilbake tapte penger. Denne aktiviteten stammet høyst sannsynlig fra Kambodsja og samsvarer med nyere offentlig omtale av kinesiskledede, kriminelle svindeloperasjoner i landet.

Kontoene brukte ChatGPT til å støtte en svindeloperasjon som lovet å hjelpe svindelofre med å få tilbake tapte penger. Operasjonen var bygget rundt falske advokatfirmaer og utga seg for å representere pålitelige aktører, som virkelige advokater og FBIs Internet Crime Complaint Center (IC3).

1. Første kontakt: Svindlerne brukte ChatGPT til å lage innhold som angivelig kom fra minst seks falske advokatfirmaer. Noe av dette innholdet ble deretter publisert på sosiale medier og i nettannonser som markedsførte oppdiktede tjenester for å hjelpe svindelofre med å få tilbake tapte penger. Flere tegn i åpne kilder tydet på at firmaene var falske. Blant annet fantes det ingen dokumentasjon på advokatbevilling i noen delstat. Nettadressene passet ikke med firmaene, kontaktinformasjonen viste til gateadresser som ikke så ut til å finnes, og folk ble bedt om å kontakte advokater via meldingsapper.

2. Tillitsbygging: Svindlerne forsøkte å vinne tilliten til ofrene ved å generere kommentarer som etterlignet tonen og profesjonaliteten til advokater med spesialisering i å hjelpe svindelofre med å få tilbake tapte penger. De genererte innhold som angivelig kom fra oppdiktede advokater. Vi identifiserte noen av disse oppdiktede advokatene på flere nettsteder, der profilbildene deres tilsynelatende var hentet fra sosiale medier eller generert med KI. I noen tilfeller gjenbrukte svindleren de samme «advokatidentitetene» på tvers av flere angivelige advokatfirmaer. Ett av nettstedene vi identifiserte, utga seg for å være IC3.

Kontaktinformasjonen på disse ulike svindelnettstedene henviste besøkende til private meldingsapper, som Telegram. I meldinger til ofrene, utarbeidet med ChatGPT, hevdet svindlerne uriktig at de opererte under tilsyn av Den internasjonale straffedomstolen. De sa også at det ikke ville bli krevd gebyrer før alle pengene til offeret var hentet tilbake.

3. Svindelen gjennomføres: Svindlerne forsøkte å få penger fra ofrene ved å kreve gebyrer og innskudd før noen «tilbakeføring». Dette innebar blant annet å be ofrene betale et «servicegebyr» på 15 % før de kunne få utbetalt penger som angivelig var hentet tilbake, kreve innskudd for å aktivere en konto og ta betalt for «konsultasjoner». Meldinger som svindlerne utarbeidet med ChatGPT og sendte til ofrene, inneholdt instrukser om å betale med kryptovaluta og sende skjermbilder av transaksjonsbekreftelser som bevis på betaling.

Operasjonen brukte modellene våre til å støtte flere deler av arbeidsflyten, blant annet til å generere markedsføringsinnhold for sosiale medier og uoppfordrede meldinger til potensielle ofre. Svindlerne brukte imidlertid oftest ChatGPT til å oversette meldinger til og fra ofrene i private meldingsapper. De ba blant annet om å få skrevet svar på «amerikansk engelsk» eller i en advokats stil.

En del av svindelkontoene brukte også modellene våre til å lage villedende materiale som skulle styrke troverdigheten. Dette omfattet falske registreringsdokumenter for advokater og falske medlemskort i advokatforeninger, samt falske taushetsavtaler som skulle hindre ofrene i å søke hjelp utenfra.

Konsekvensene må vurderes med varsomhet, ettersom svindlernes egne inndata er en av de viktigste kildene til informasjon. Disse inndataene tyder på at svindlerne kan ha lurt enkeltpersoner for flere tusen dollar, men vi kan ikke bekrefte disse påstandene uavhengig. FBI og minst ett advokatfirma som svindlerne har utgitt seg for å representere, har offentlig advart mot denne svindelen. FBI-representanter advarte om at operasjonen retter seg mot sårbare grupper, særlig eldre, og utnytter svindelofrenes følelsesmessige tilstand og ønske om raskt å få tilbake tapte penger.

OpenAIs retningslinjer forbyr strengt å bruke innhold fra verktøyene våre til bedrageri eller svindel. Vi er opptatt av å samarbeide med andre i bransjen og med myndigheter for å forstå hvordan KI påvirker ondsinnede aktørers atferd, og for aktivt å stanse svindelaktivitet som misbruker tjenestene våre.