Operation ”Falskt vittne”: Falsk återkravstjänst utgav sig för att vara myndigheter

Denna fallstudie publicerades ursprungligen i OpenAI:s rapport från februari 2026⁠(öppnas i ett nytt fönster) om att motverka skadlig användning av AI.

Vi stängde av en grupp ChatGPT‑konton som använde våra modeller för att föreställa påhittade advokatbyråer samt verkliga advokater och amerikanska brottsbekämpande myndigheter i ett återkravsbedrägeri riktat mot bedrägerioffer. Aktiviteten hade med stor sannolikhet sitt ursprung i Kambodja och stämmer överens med den senaste offentliga rapporteringen om kinesiskledda kriminella bedrägeriverksamheter i landet.

Kontona använde ChatGPT för att stödja en bedräglig verksamhet som påstod sig hjälpa människor att återfå pengar de förlorat i bedrägerier. Verksamheten byggde på falska advokatbyråer och imitationer av betrodda aktörer, exempelvis verkliga advokater och FBI:s Internet Crime Complaint Center (IC3).

1. Ping: Bedragarna använde ChatGPT för att skapa innehåll som påstods komma från minst sex falska advokatbyråer. En del av innehållet publicerades sedan av konton på sociala medier och i nätannonser som marknadsförde påhittade tjänster för att återfå pengar efter bedrägerier. Flera tecken i öppna källor tydde på att byråerna var falska. Det saknades bland annat belägg för registrering hos delstatliga advokatsamfund, webbdomänerna stämde inte med verksamheten, kontaktuppgifterna angav gatuadresser som inte tycktes finnas och besökare uppmanades att kontakta advokater via meddelandeappar.

2. Zing: Bedragarna försökte vinna målpersonernas förtroende genom att skapa kommentarer som efterliknade tonen och professionaliteten hos advokater specialiserade på att hjälpa bedrägerioffer att återfå förlorade pengar. De skapade innehåll som påstods komma från påhittade advokatprofiler. Vi hittade några av dessa profiler på flera webbplatser, där profilbilderna uppenbarligen hade hämtats från sociala medier eller skapats med AI. I vissa fall återanvände bedragaren samma ”advokatidentiteter” hos flera påstådda advokatbyråer. En av webbplatserna vi identifierade utgav sig för att vara IC3.

Kontaktuppgifterna på de olika bedrägeriwebbplatserna hänvisade besökare till privata meddelandeappar som Telegram. I meddelanden till målpersonerna som hade utformats med ChatGPT hävdade bedragarna felaktigt att de arbetade under Internationella brottmålsdomstolens tillsyn och att inga avgifter skulle tas ut förrän offrets samtliga pengar hade återfåtts.

3. Sting: Bedragarna försökte få målpersonerna att betala genom att kräva avgifter och insättningar innan någon ”återbetalning” skedde. De uppmanade bland annat målpersonerna att betala en ”serviceavgift” på 15 procent innan de fick de pengar som påstods ha återfunnits, begärde insättningar för att aktivera ett konto och tog ut ”konsultationsavgifter”. I meddelanden till målpersonerna som utformats med ChatGPT instruerade bedragarna dem att betala med kryptovaluta och skicka skärmbilder av transaktionsbekräftelser som betalningsbevis.

Verksamheten använde våra modeller i flera delar av arbetsflödet, exempelvis för att skapa marknadsföringsinnehåll för sociala medier och meddelanden för kalla kontakter med målpersoner. Vanligast var dock att bedragarna använde ChatGPT för att översätta meddelanden till och från målpersoner i privata meddelandeappar. De bad bland annat om svar på ”amerikansk engelska” eller i en advokats stil.

En del av bedrägerikontona använde också våra modeller för att skapa vilseledande material som skulle öka deras trovärdighet. Det omfattade falska registreringsbevis för advokater och falska medlemskort för advokatsamfund samt påhittade sekretessavtal som skulle avskräcka offren från att söka hjälp utifrån.

Konsekvenserna måste bedömas med försiktighet eftersom en viktig beviskälla är bedragarnas egna inmatningar. Inmatningarna tyder på att bedragarna kan ha lurat enskilda offer på tusentals dollar, men vi kan inte verifiera dessa uppgifter oberoende. FBI och minst en av de advokatbyråer som bedragarna utgav sig för att företräda har utfärdat offentliga varningar om bedrägeriet. FBI-tjänstemän varnade för att verksamheten riktar sig mot utsatta grupper, särskilt äldre, genom att utnyttja bedrägerioffrens känslomässiga tillstånd och önskan att snabbt återfå förlorade pengar.

OpenAI:s policyer förbjuder strikt att resultat från våra verktyg används för bedrägerier. Vi samarbetar aktivt med branschkollegor och myndigheter för att förstå hur AI påverkar skadliga aktörers beteende och stoppa bedrägeriverksamhet som missbrukar våra tjänster.