Operacija »Lažna priča«: lažna storitev vračila denarja, ki se izdaja za uradne organe

Ta študija primera je bila prvotno objavljena v poročilu podjetja OpenAI iz februarja 2026⁠(odpre se v novem oknu) o preprečevanju zlonamerne uporabe UI.

Blokirali smo skupino računov ChatGPT, ki so naše modele uporabljali za predstavljanje v imenu izmišljenih odvetniških pisarn ter za izdajanje za resnične odvetnike in ameriške organe pregona. Šlo je za prevaro, ki je žrtvam goljufij obljubljala vračilo denarja. Ta dejavnost je zelo verjetno izvirala iz Kambodže in se ujema z nedavnimi javnimi poročili o kriminalnih prevarantskih mrežah v tej državi, ki jih vodijo Kitajci.

Ti računi so ChatGPT uporabljali za podporo prevari z vračilom denarja, izgubljenega zaradi goljufij. Temeljila je na lažnih odvetniških pisarnah in izdajanju za zaupanja vredne posameznike in ustanove, kot so resnični odvetniki in FBI-jev center za prijavo spletnega kriminala (IC3).

1. Prvi stik: Prevaranti so ChatGPT uporabljali za ustvarjanje vsebin, ki naj bi prihajale od vsaj šestih lažnih odvetniških pisarn. Del teh vsebin so nato objavili na računih v družbenih omrežjih in v spletnih oglasih, ki so promovirali izmišljene storitve vračila denarja žrtvam prevar. Več kazalnikov iz javno dostopnih virov je nakazovalo, da so bile pisarne goljufive: ni bilo dokazov o dovoljenjih odvetniških zbornic zveznih držav, spletne domene se niso ujemale z njihovo identiteto, navedeni naslovi očitno niso obstajali, obiskovalce pa so usmerjali, naj odvetnike kontaktirajo prek aplikacij za sporočanje.

2. Pridobivanje zaupanja: Prevaranti so poskušali pridobiti zaupanje tarč z ustvarjanjem komentarjev, ki so posnemali ton in strokovnost odvetnikov, specializiranih za pomoč žrtvam prevar pri vračilu izgubljenega denarja. Ustvarjali so vsebine, ki naj bi jih objavljali odvetniki z izmišljenimi identitetami. Nekatere od teh identitet smo odkrili na različnih spletnih mestih, kjer so bile njihove profilne slike očitno prevzete iz družbenih omrežij ali ustvarjene z UI. V nekaterih primerih je prevarant iste identitete »odvetnikov« uporabljal pri več domnevnih odvetniških pisarnah. Eno od odkritih spletnih mest se je izdajalo za IC3.

Kontaktni podatki na teh prevarantskih spletnih mestih so obiskovalce usmerjali v aplikacije za zasebno sporočanje, kot je Telegram. V sporočilih za tarče, pripravljenih s ChatGPT, so prevaranti lažno trdili, da delujejo pod nadzorom Mednarodnega kazenskega sodišča in da ne bodo zaračunali nobenih stroškov, dokler žrtvi ne povrnejo vseh sredstev.

3. Izvabljanje denarja: Prevaranti so poskušali od tarč izvabiti denar z zahtevami po plačilu pristojbin in pologov pred kakršnim koli »vračilom«. Tarčam so med drugim naročali, naj pred prejemom domnevno povrnjenih sredstev plačajo 15-odstotno »provizijo za storitev«, zahtevali pologe za aktivacijo računa in zaračunavali »stroške svetovanja«. Sporočila prevarantov tarčam, pripravljena s ChatGPT, so vsebovala navodila za plačilo v kriptovalutah in pošiljanje posnetkov zaslona s potrditvami transakcij kot dokazili o plačilu.

V okviru te operacije so naše modele uporabljali v več delih delovnega procesa, na primer za ustvarjanje promocijskih vsebin za družbena omrežja in sporočil za nenaročeno navezovanje stika s tarčami. Najpogosteje pa so prevaranti ChatGPT uporabljali za prevajanje sporočil, ki so si jih s tarčami izmenjevali v aplikacijah za zasebno sporočanje, pri čemer so med drugim zahtevali odgovore v »ameriški angleščini« ali v slogu odvetnika.

Del prevarantskih računov je naše modele uporabljal tudi za ustvarjanje zavajajočega gradiva, namenjenega krepitvi verodostojnosti. To je vključevalo lažna dokazila o vpisu v imenik odvetnikov in ponarejene članske izkaznice odvetniških zbornic ter lažne sporazume o zaupnosti, s katerimi so žrtve odvračali od iskanja zunanje pomoči.

Pri ocenjevanju vpliva je potrebna previdnost, saj so eden glavnih virov dokazov vnosi samih prevarantov. Ti vnosi nakazujejo, da so prevaranti posamezne žrtve morda ogoljufali za več tisoč dolarjev, vendar teh trditev ne moremo neodvisno preveriti. FBI in vsaj ena odvetniška pisarna, za katero so se prevaranti izdajali, sta javnost opozorila na to prevaro. Predstavniki FBI so opozorili, da operacija cilja na ranljive skupine, zlasti starejše, ter izkorišča čustveno stanje žrtev prevar in njihovo željo po hitrem vračilu izgubljenega denarja.

Pravila podjetja OpenAI strogo prepovedujejo uporabo izhodnih vsebin naših orodij za goljufije ali prevare. Zavezani smo sodelovanju z drugimi podjetji v panogi in pristojnimi organi, da bi razumeli, kako UI vpliva na ravnanje zlonamernih akterjev, ter dejavno preprečevali prevarantske dejavnosti, ki zlorabljajo naše storitve.