„Hamis tanú” művelet: hatóságnak álcázott, hamis pénzvisszaszerző szolgáltatás
Az OpenAI letiltott nagy valószínűséggel Kambodzsából működtetett fiókokat, amelyek MI segítségével pénzvisszaszerző szolgáltatásoknak, ügyvédi irodáknak és hatóságoknak adták ki magukat, és csalások áldozatait célozták meg.
Ez az esettanulmány eredetileg az OpenAI 2026. februári(új ablakban nyílik meg) jelentésében jelent meg, amely az MI rosszindulatú felhasználásának megakadályozásáról szól.
Elkövetők
Letiltottunk egy összetartozó ChatGPT‑fiókokból álló csoportot, amelynek tagjai modelljeink segítségével fiktív ügyvédi irodáknak, illetve valódi ügyvédeknek és amerikai bűnüldöző szerveknek adták ki magukat. A csalások áldozatait az elvesztett pénz visszaszerzésének ígéretével próbálták megtéveszteni. A tevékenység nagy valószínűséggel Kambodzsából indult, és összhangban van az országban működő, kínai irányítású bűnözői csalóhálózatokról szóló friss nyilvános beszámolókkal.
Módszer
A fiókok a ChatGPT segítségével támogattak egy csalások során elvesztett pénz visszaszerzését ígérő csalássorozatot. Ez hamis ügyvédi irodákra, valamint megbízható szereplők – például valódi ügyvédek és az FBI internetes bűncselekményekkel kapcsolatos bejelentéseket fogadó központja (IC3) – megszemélyesítésére épült.
1. Kapcsolatfelvétel: A csalók a ChatGPT‑vel olyan tartalmakat készítettek, amelyek állítólag legalább hat különböző, valójában nem létező ügyvédi irodától származtak. E tartalmak egy része később közösségimédia-fiókokon és online hirdetésekben jelent meg, amelyek hamis pénzvisszaszerző szolgáltatásokat népszerűsítettek. Több, nyílt forrásból származó jel is arra utalt, hogy az irodák csalók: nem volt nyoma állami ügyvédi kamarai engedélynek, az irodákhoz nem illő domainneveket használtak, a megadott postacímek látszólag nem léteztek, és azt kérték, hogy az ügyvédekkel üzenetküldő alkalmazásokon keresztül vegyék fel a kapcsolatot.
A csalók modelljeinkkel olyan közösségimédia-tartalmakat generáltak, amelyek hamis pénzvisszaszerző szolgáltatásokat népszerűsítettek.
2. Bizalomépítés: A csalók olyan hozzászólásokat generáltak, amelyek a csalások áldozatainak pénzvisszaszerzésére szakosodott ügyvédek hangnemét és szakmaiságát próbálták utánozni, hogy elnyerjék a célpontok bizalmát. Olyan tartalmakat generáltak, amelyeket kitalált ügyvédszemélyiségek nevében tettek közzé. E személyiségek közül néhányat több weboldalon is azonosítottunk, ahol a profilképeket láthatóan a közösségi médiából emelték át, vagy MI-vel generálták. Egyes esetekben a csaló ugyanazokat az „ügyvédi” személyazonosságokat használta több állítólagos ügyvédi irodánál is. Az egyik általunk azonosított weboldal az IC3 oldalának adta ki magát.
A különböző csaló weboldalakon közzétett elérhetőségek privát üzenetküldő alkalmazásokhoz, például a Telegramhoz irányították a látogatókat. A célpontoknak szánt, ChatGPT‑vel megfogalmazott üzenetekben a csalók hamisan azt állították, hogy a Nemzetközi Büntetőbíróság felügyelete alatt működnek, és addig nem számítanak fel díjat, amíg az áldozat összes pénzét sikeresen vissza nem szerezték.
3. Pénzkicsalás: A csalók úgy próbáltak pénzt kicsalni a célpontoktól, hogy már bármiféle „pénzvisszaszerzés” előtt díjakat és előlegeket kértek. Többek között 15%-os „szolgáltatási díjat” kértek az állítólag visszaszerzett pénz átadása előtt, befizetést igényeltek egy fiók aktiválásához, és „konzultációs díjat” számítottak fel. A csalók a célpontjaiknak szánt, ChatGPT‑vel megfogalmazott üzenetekben arra utasították őket, hogy kriptovalutában fizessenek, és a fizetés igazolására küldjenek képernyőképet a tranzakció visszaigazolásáról.
A csaláshoz kapcsolódó weboldal, amely az FBI IC3 egységének adta ki magát. A „Bejelentés benyújtása” lehetőségre kattintva a látogatók egy más nevével visszaélő Telegram-fiókhoz jutottak.
Megvalósítás
A művelet során modelljeinket a munkafolyamat több részénél is használták, például közösségi médiában közzétett reklámtartalmak és a célpontoknak küldött kéretlen megkeresések megírásához. A csalók azonban leggyakrabban a célpontokkal privát üzenetküldő alkalmazásokban váltott üzenetek fordítására használták a ChatGPT‑t. Többek között arra kérték, hogy „amerikai angolsággal” vagy ügyvédi stílusban írjon választ.
A csaló fiókok egy része megtévesztő, a hitelesség látszatát erősítő anyagok készítésére is használta modelljeinket. Ezek között hamis ügyvédi nyilvántartási bejegyzések és kamarai tagsági igazolványok, valamint olyan áltitoktartási megállapodások is voltak, amelyekkel megpróbálták eltántorítani az áldozatokat attól, hogy külső segítséget kérjenek.
A New York állami ügyvédi kamara hamis tagsági igazolványa, amelyet modelljeinkkel generáltak. A kitakarásokat az OpenAI vizsgálatot végző munkatársai készítették.
Hatás
A hatás értékelése körültekintést igényel, mivel a bizonyítékok egyik fő forrását maguknak a csalóknak a modellbe bevitt szövegei jelentik. Ezek a szövegek arra utalnak, hogy a csalók egyes áldozatoktól több ezer dollárt is kicsalhattak, de ezeket az állításokat nem tudjuk függetlenül ellenőrizni. Az FBI és legalább egy olyan ügyvédi iroda, amelynek a nevével visszaéltek, nyilvános figyelmeztetést adott ki erről a csalásról. Az FBI tisztviselői arra figyelmeztettek, hogy a művelet kiszolgáltatott csoportokat, különösen időseket céloz meg, kihasználva a csalások áldozatainak érzelmi állapotát és azt a vágyukat, hogy gyorsan visszaszerezzék elvesztett pénzüket.
Az OpenAI szabályzatai szigorúan tiltják az eszközeinkkel létrehozott tartalmak csalásra vagy átverésre való felhasználását. Elkötelezettek vagyunk az iparági szereplőkkel és a hatóságokkal való együttműködés mellett, hogy megértsük, miként befolyásolja az MI a rosszindulatú szereplők viselkedését, és aktívan fellépjünk a szolgáltatásainkkal visszaélő csalók tevékenysége ellen.