Csalási műveletek: online csaló hálózatok

Ez az esettanulmány eredetileg az OpenAI 2025. októberi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Feltehetően Kambodzsából, Mianmarból és Nigériából kiinduló hálózatok éltek vissza a ChatGPT‑vel vélhetően azért, hogy embereket csaljanak meg az interneten.

Elkötelezetten dolgozunk azon, hogy azonosítsuk, megelőzzük és megakadályozzuk a modelljeink károkozási célú felhasználását. E visszaélések közé tartoznak a csalások is: felderítjük és kitiltjuk azokat a rosszindulatú szereplőket, akik modelljeinkkel próbálnak embereket megtéveszteni és megkárosítani. Az elmúlt három hónapban feltehetően Kambodzsából, Mianmarból és Nigériából kiinduló csaló hálózatokat számoltunk fel. A visszaélési minták vizsgálata során azt is láttuk, hogy sokan modelljeink segítségével ismerik fel a csalásokat – ez jól jelzi, milyen szerepet játszhat az MI a csalás elleni küzdelemben. Ez a jelentés mindkét felhasználási módot bemutatja.

Modelljeinket az egyéni csalási kísérletektől kezdve a feltehetően szervezett bűnözői csoportokhoz köthető, nagy léptékű és tartós műveletekig sokféle csalás támogatására használják fel. Eredetüktől és pontos módszereiktől függetlenül az általunk megakadályozott csalási tevékenységek jellemzően ugyanazt a mintát követik: kapcsolatfelvétel (kéretlen megkeresés), felkorbácsolás (lelkesedés vagy pánik keltése), majd lecsapás (pénz vagy értékes információ megszerzése).

A csalók először MI-vel létrehozott vagy más eredetű tartalmakat terjesztenek az üzenetküldő szolgáltatásokban és az interneten, többek között közösségimédia-hirdetésekkel. Ezután a válaszolókat vagy egy jövedelmező lehetőség iránti lelkesedéssel, vagy egy küszöbönálló pénzügyi veszteségtől való félelemmel próbálják eltölteni, majd ezt az érzelmet kihasználva pénz vagy érzékeny információ átadására veszik rá őket.

Sok olyan esetet is megfigyeltünk, amikor modelljeink feltehetően segítettek megóvni az embereket a csalástól. Bizonyítékaink szerint az emberek havonta több millió alkalommal használják a ChatGPT‑t online csalások felismerésére és elkerülésére. A jelentésben szereplő minden csalási műveletnél láttunk példát arra, hogy a modell helyesen azonosította a csalást, és megfelelő biztonsági intézkedéseket javasolt. Jelenlegi becslésünk szerint a ChatGPT‑t akár háromszor gyakrabban használják csalások felismerésére, mint csalások elkövetésére.

Példa arra, amikor az OpenAI egyik vizsgálója beillesztette a ChatGPT‑be egy általa kapott csaló SMS képernyőképét, és a modell segítségével sikeresen azonosította a csalást. Ebben az esetben az elkövetők TikTok-toborzóknak adták ki magukat.

Legutóbbi jelentésünk óta tovább erősítettük a csalások felderítésére és megakadályozására szolgáló képességeinket. További, feltehetően Kambodzsából, Mianmarból és Nigériából kiinduló csaló hálózatokat számoltunk fel. Korábbi intézkedéseinkkel együtt ezek a felszámolások lehetővé teszik, hogy több, különböző országokból működő csalási művelet új tendenciáit azonosítsuk.

Az általunk megakadályozott csalási tevékenységek többségében az MI-t már meglévő csalási forgatókönyvekbe illesztették, nem pedig új, MI-re épülő módszereket hoztak létre. Az idén azonosított és kitiltott csalási műveletek mindegyike elsősorban a kapacitás növelésére és a hatékonyság javítására használta az MI-t. Modelljeinket jellemzően fordításra, üzenetírásra és közösségimédia-tartalmak készítésére használták.

Nemrég például kitiltottunk feltehetően Kambodzsából és Nigériából működő csaló csoportokat, amelyek „befektetési cégeknek” adták ki magukat, hogy több országban is megkárosítsák áldozataikat. A csalók webhelyeket és online hirdetéseket készítettek a hamis cégek népszerűsítésére, majd kereskedési szakértőknek álcázott, feltehetően hamis közösségimédia-fiókokkal hívták meg az embereket privát üzenetküldő csoportokba. Jövedelmező és kockázatmentes kereseti lehetőségeket ígérve az elkövetők ezután fiktív kereskedési platformokra próbálták befizetésre csábítani lehetséges áldozataikat. A csalók minden esetben elsősorban levelezés létrehozására és fordítására, webhelyeik és közösségimédia-fiókjaik tartalmainak elkészítésére, valamint alapvető kutatásra használták modelljeinket.

Egy másik esetben kitiltottunk egy nagy valószínűséggel Mianmarban működő csaló központot, amely modelljeinkkel egyszerre készített tartalmakat csalási módszereihez és végezte mindennapi üzleti feladatait. Ilyen feladat volt a munkarendek összeállítása, a belső közlemények megfogalmazása, az íróasztalok és kollégiumi férőhelyek kiosztása, valamint a pénzügyi számlák kezelése. Néhány üzemeltető arról érdeklődött, milyen büntetésre számíthatnak az online csaláson rajtakapott személyek.

Nem minden általunk megállított csaló használta ugyanúgy vagy azonos összetettségű feladatokra a modelljeinket. A csalók ChatGPT‑vel folytatott interakcióinak többsége viszonylag egyszerű feladatokra, például fordításra irányult, de néhány csalási művelet nagyratörőbb és összetettebb volt.

Egy általunk megakadályozott, feltehetően Kambodzsából kiinduló csalási művelet például modelljeinkkel készített részletes életrajzokat hamis befektetési szakértőknek és fiktív kereskedési cégek nem létező alkalmazottainak. A csalók ezután arra kérték a ChatGPT‑t, hogy e szereplők hangján írjon közösségimédia-bejegyzéseket. Az elkövetők gyakran beillesztették modellünkbe a célpontjaiktól feltehetően kapott üzeneteket, majd arra kérték a modellt, hogy a kitalált személy nevében folytassa a beszélgetést.

Egy másik, szintén feltehetően Kambodzsából kiinduló csalási művelet modelljeinkkel készített kéretlen SMS-ekkel kezdődött, amelyeket tömegesen küldtek amerikai telefonszámokra. Az egyik ilyen üzenetet az OpenAI egyik vizsgálója kapta, hasonlóan a júniusban ismertetett esethez. Ezek az SMS-ek olyan WhatsApp-csoportokba szóló meghívásokat tartalmaztak, amelyek neve egy valódi befektetési cégére hasonlított, és amelyeket később kitiltottak.

Az OpenAI vizsgálójának küldött WhatsApp-üzenetek sorozata alapján, ha egy lehetséges célpont belépett valamelyik csoportba, hamarosan fél tucat különböző fiók befektetésekről szóló „beszélgetését” láthatta. Az egyik fiók „befektetési szakértőnek”, a többi pedig különböző magabiztosságú és tapasztalatú befektetőnek adta ki magát. A beszélgetés minden részét a csalók készítették, majd egyetlen tömbben fordították le kínai nyelvről – feltehetően azért, hogy lelkes és sikeres kereskedők pezsgő közösségének benyomását keltsék. Végül a „befektetési szakértő” azt javasolta volna a célpontnak, hogy ő is próbáljon befektetni.

Egy különálló, nagy valószínűséggel Nigériából kiinduló befektetési csalás során lépésről lépésre szóló tanácsot kértek a modelltől arról, hogyan érhetnek el közösségimédia-hirdetésekkel gazdag latin-amerikai embereket, hogyan rejthetik el tartózkodási helyüket, és hogyan kerülhetik meg a közösségi platformok korlátozásait. Ennek részeként megadták a modellnek egy platform nyilvános felhasználási feltételeit, majd arra kérték, ellenőrizze, hogy a tervezett hirdetések megfelelnek-e ezeknek.

A csalók, különösen a nagy léptékű csaló központok, kitartóak. Az intézkedésekre nagyon gyakran úgy reagálnak, hogy megpróbálják újraindítani a szabálysértő tevékenységüket, közben pedig változtatnak viselkedésük egyes elemein, feltehetően a további észlelés elkerülésére. Ez is indokolja, miért fontos az egész iparágban megosztani a folyamatosan változó tevékenységükkel kapcsolatos ismereteket. Az OpenAI és a Meta például egyaránt osztott meg információkat olyan elkövetőkről, amelyek további vizsgálatokhoz és intézkedésekhez járultak hozzá.

Talán az intézkedésekre vagy az MI használatáról árulkodó jeleket tárgyaló szélesebb körű online beszélgetésekre reagálva egyes csalók megpróbálták leplezni, hogy MI-t használnak az online tartalmakban és a célpontokkal folytatott kommunikációban. Feltehetően Kambodzsából kiinduló csalási műveletek például arra utasították a modellt, hogy távolítsa el a gondolatjeleket a válaszokból.

Egy esetben a csalók úgy próbálták megmagyarázni közösségimédia-eszközeik nagyarányú letiltását, hogy ürügyet találtak ki a kitiltásukra. Ez a fent ismertetett, feltehetően Kambodzsából működő, SMS-t és WhatsAppot használó csaló központot érintette. Miután a WhatsApp kitiltotta a művelethez kapcsolódó „befektetési csoportokat”, az üzemeltetők olyan üzeneteket kezdtek készíteni, amelyek szerint egy versenytárs alaptalanul jelentette ezeket a csoportokat – feltehetően így próbálták kimagyarázni a tiltásokat.

Képernyőkép egy WhatsApp-üzenetről, amelyet a Kambodzsához köthető csalási művelet küldött az OpenAI egyik vizsgálójának, miután a WhatsApp felszámolta a csoportokat.