Operation »Falsk vidne«: Falsk tjeneste udgiver sig for at være myndigheder og lover svindelofre deres penge tilbage

Denne casestudie blev oprindeligt offentliggjort i OpenAI’s rapport fra februar 2026⁠(åbner i et nyt vindue) om at gribe ind over for ondsindet brug af AI.

Vi lukkede en gruppe ChatGPT‑konti, der brugte vores modeller til at udgive sig for at være opdigtede advokatfirmaer samt virkelige advokater og amerikanske retshåndhævende myndigheder. Det skete som led i svindel rettet mod svindelofre under påskud af at hjælpe dem med at få deres penge tilbage. Aktiviteten havde højst sandsynligt sit udspring i Cambodja og stemmer overens med nyere offentlige rapporter om kinesiskledede kriminelle svindeloperationer i landet.

Kontiene brugte ChatGPT til at understøtte en svindeloperation, der foregav at hjælpe svindelofre med at få tabte penge tilbage. Operationen byggede på falske advokatfirmaer og misbrug af betroede aktørers identitet, blandt andet virkelige advokater og FBI’s Internet Crime Complaint Center (IC3).

1. Kontakt: Svindlerne brugte ChatGPT til at skabe indhold, der angiveligt kom fra mindst seks falske advokatfirmaer. Noget af indholdet blev derefter offentliggjort via konti på sociale medier og onlineannoncer, der promoverede opdigtede tjenester, som tilbød svindelofre hjælp til at få deres penge tilbage. Flere tegn i åbne kilder tydede på, at firmaerne var falske. Der var blandt andet ingen dokumentation for advokatbestalling i de relevante delstater, webdomænerne stemte ikke overens med firmaernes identitet, de oplyste gadeadresser så ikke ud til at eksistere, og folk blev henvist til at kontakte advokater via beskedapps.

2. Tillid: Svindlerne forsøgte at vinde de udsete ofres tillid ved at generere kommentarer, der efterlignede tonen og professionalismen hos advokater med speciale i at hjælpe svindelofre med at få tabte penge tilbage. De genererede indhold, der angiveligt kom fra opdigtede advokater. Vi identificerede nogle af disse falske identiteter på en række websteder, hvor deres profilbilleder tilsyneladende var taget fra sociale medier eller genereret med AI. I nogle tilfælde genbrugte svindleren de samme »advokatidentiteter« på tværs af flere påståede advokatfirmaer. Et af de websteder, vi identificerede, udgav sig for at være IC3.

Kontaktoplysningerne på de forskellige svindelwebsteder henviste besøgende til private beskedapps som Telegram. I beskeder til de udsete ofre, som var skrevet ved hjælp af ChatGPT, hævdede svindlerne fejlagtigt, at de arbejdede under Den Internationale Straffedomstols tilsyn. De oplyste også, at der ikke ville blive opkrævet gebyrer, før offeret havde fået alle sine penge tilbage.

3. Fælden klapper: Svindlerne forsøgte at få penge ud af de udsete ofre ved at kræve gebyrer og indbetalinger, før nogen penge var blevet »skaffet tilbage«. Det omfattede krav om at betale et »servicegebyr« på 15 % før udbetaling af angiveligt genfundne penge, indbetalinger for at aktivere en konto og opkrævning af »konsultationshonorarer«. Svindlernes beskeder til de udsete ofre, skrevet ved hjælp af ChatGPT, indeholdt instruktioner om at betale med kryptovaluta og sende skærmbilleder af transaktionsbekræftelser som betalingsbevis.

Operationen brugte vores modeller til at understøtte flere dele af sin arbejdsgang, blandt andet til at generere reklameindhold til sociale medier og uopfordrede henvendelser til udsete ofre. Svindlerne brugte dog oftest ChatGPT til at oversætte beskeder til og fra de udsete ofre på private beskedapps. De bad blandt andet om at få skrevet svar på »amerikansk engelsk« eller i en advokats stil.

Nogle af svindelkontiene brugte også vores modeller til at skabe vildledende materiale, der skulle styrke deres troværdighed. Det omfattede falsk dokumentation for advokatregistrering og falske medlemskort til advokatforeninger samt falske fortrolighedsaftaler, der skulle afholde ofrene fra at søge hjælp udefra.

Konsekvenserne skal vurderes med forsigtighed, fordi en væsentlig del af dokumentationen stammer fra svindlernes egne input. Disse input tyder på, at svindlerne kan have franarret enkelte ofre tusindvis af dollars, men vi kan ikke bekræfte disse påstande uafhængigt. FBI og mindst ét advokatfirma, hvis identitet blev misbrugt, har udsendt offentlige advarsler om denne svindel. Repræsentanter for FBI advarede om, at operationen retter sig mod sårbare grupper, især ældre, og udnytter svindelofres følelsesmæssige tilstand og ønske om hurtigt at få deres tabte penge tilbage.

OpenAI’s politikker forbyder strengt at bruge output fra vores værktøjer til bedrageri eller svindel. Vi arbejder målrettet sammen med andre i branchen og myndighederne for at forstå, hvordan AI påvirker ondsindede aktørers adfærd, og for aktivt at gribe ind over for svindel, der misbruger vores tjenester.