Romantikus kapcsolatot színlelő csalás: MI-vel támogatott „disznóvágásos” munkafolyamatok
Az OpenAI letiltott feltehetően kambodzsai fiókokat, amelyek MI-vel fordítottak és generáltak romantikus és befektetési csalásokhoz beszélgetéseket.
Ez az esettanulmány eredetileg az OpenAI 2025. februári(új ablakban nyílik meg) jelentésében jelent meg.
Elkövető
Letiltottunk egy csoportnyi ChatGPT‑fiókot, amelyek rövid japán, kínai és angol hozzászólásokat fordítottak és generáltak. Úgy tűnik, a tevékenység Kambodzsából indult, és romantikus, illetve befektetési csalásra – más néven „disznóvágásos” csalásra – utalt. A Meta nemrég kapcsolódó tevékenységet azonosított(új ablakban nyílik meg) a platformján, amely vélhetően egy újonnan létrehozott kambodzsai csalótelepről indult.
Viselkedés
Ez a hálózat rövid hozzászólások fordítására és generálására használta modelljeinket. Úgy tűnik, az elkövetők elsődleges nyelve a kínai volt. A kimenetek több nyelven, főként japánul és kínaiul, de angolul is készültek.
Az elkövetők két fő tevékenységre használták modelljeinket. Először olyan hozzászólásokat generáltak, amelyeket nyilvánosan közzétettek többek között a Facebookon, az X-en és az Instagramon. Az egyes közösségimédia-fiókokban jellemzően egy vagy több fiatal nő profilképe szerepelt. Megítélésünk szerint legalább néhányat valódi modellektől vagy influenszerektől másoltak, nem pedig MI-vel generáltak.
A generált hozzászólások többségét valódi emberek közösségimédia-bejegyzéseire válaszolva tették közzé. Az üzemeltetők olyan bejegyzésekre is válaszoltak, amelyek már több hónaposak vagy akár többévesek voltak. A művelet jellemzően olyan férfiakat célzott, akik nyilvános profiljuk alapján 40 év felettiek voltak, és gyakran egészségügyi területen dolgoztak. A művelet gyakran válaszolt golfról szóló bejegyzésekre, ami tudatos célzási stratégiára utal. A csalók időnként politikai kérdésekről vagy aktuális eseményekről is posztoltak.
Az elkövető által a modelljeinkkel generált Facebook-hozzászólás, amelyet egy olyan személy golfról szóló hozzászólására válaszolva tett közzé, aki látszólag nem kapcsolódott ehhez a művelethez. A csaló fiók profilképét egy amerikai divat- és szépségápolási influenszertől másolták. Az eredeti bejegyzés már több mint egy hónapos volt, amikor a csaló fiók hozzászólt.
A modelljeink által generált hozzászólás, amelyet egy ellenőrzött X-fiók tett közzé válaszul egy olyan fiók bejegyzésére, amely látszólag nem kapcsolódott ehhez a csaláshoz. A fiók profilképét ugyanattól az amerikai divat- és szépségápolási influenszertől másolták. Az eredeti bejegyzés csaknem hat hónapos volt.
Másodszor – és gyakrabban – az üzemeltetők rövid, online beszélgetések részleteire emlékeztető hozzászólásokat generáltak. Ez jellemzően kínai hozzászólások célnyelvre – japánra vagy angolra –, illetve a célnyelvről kínaira fordítását jelentette. Ez arra utal, hogy a csalók elsősorban folyamatban lévő csevegések fordítására használták a modellt.
A fiókok olykor arra kérték a modellt, hogy meghatározott hangnemben, például egy kacér fiatal nő stílusában fogalmazzon választ. A modell válaszainak irányításához olykor részletes életrajzi adatokat adtak meg, köztük a hamis személyazonosság nevét, iskolai végzettségét, munkáját, lakóhelyét és hobbijait. Ezekben az életrajzokban rendszerint az is szerepelt, hogy a kitalált személy online befektetésekkel foglalkozik.
Úgy tűnik, a csalók számos különböző eszközt és platformot használtak célpontjaik megszólítására. Vizsgálatunk bizonyítékot talált arra, hogy többek között a LINE-t, a WhatsAppot, az X-et, a Facebookot, az Instagramot, számos más üzenetküldő szolgáltatást, az Apple „E-mail-cím elrejtése” funkcióját(új ablakban nyílik meg), valamint kriptovaluta- és devizakereskedési platformokat használtak.
Kimenetek
A tevékenység általunk látható része alapján a csalók egy általános munkafolyamatot követtek, hogy a kapcsolatfelvételtől a csalárd befektetésig juttassák el célpontjaikat:
Nyilvános kapcsolatfelvétel: A csalók hozzászóltak a célpont közösségimédia-bejegyzéseihez. Ezek a hozzászólások gyakran olyan kérdéssel zárultak, mint például: „Mit gondol [a témáról]?” – valószínűleg azért, hogy növeljék a válaszadás esélyét. Néhány esetben politikához szóltak hozzá, de gyakrabban a golfról beszéltek.
Feltehető közvetlen üzenetváltás: A csalók ezután rövid, társalgási hangvételű hozzászólásokat generáltak. Bár nem látjuk teljes egészében, hogyan és hol használták fel ezeket, a hozzászólások arra utaltak, hogy a csaló és a célpont közvetlen üzeneteket kezdett váltani.
Biztonságos üzenetküldés: A csalók hamarosan – gyakran néhány napon belül – olyan üzeneteket generáltak, amelyekben biztonságosabb üzenetküldő alkalmazás használatát javasolták. Ezt néha azzal indokolták, hogy a csaló nem bízik a közösségi médiában, máskor pedig gyakorlati kifogással, például azzal, hogy olyan helyre készül, ahol nem fér hozzá a közösségi médiához.
Romantikus közeledés: A csalók egyre gyengédebb és bensőségesebb üzeneteket írtak és fordítottak. Ha a célpontok fényképet kértek a „nőről”, akivel beszélgettek, a csalók kifogásokat kerestek.
Pénzügyi bevonás: A csalók olyan üzeneteket írtak és fordítottak, amelyekben azzal dicsekedtek, hogy jelentős összeget kerestek online deviza-, kriptovaluta- vagy aranybefektetéssel. Ezt gyakran úgy állították be, mint egy pénzügyi területen dolgozó rokon tanácsainak eredményét. A csaló arra sürgette a célpontot, hogy ugyanígy kezdjen befektetni, és felajánlotta, hogy végigvezeti a folyamaton.
Csalás: A csalók olyan üzeneteket írtak és fordítottak, amelyekkel megpróbálták rávenni az áldozatot, hogy pénzt utaljon egy kereskedési alkalmazásba, és az állítólagos nagy nyereséggel bátorították. Amikor az áldozat megpróbálta kivenni a „nyereségét”, a csaló mindig valamilyen kifogással állt elő, például azzal, hogy előbb díjat kell fizetni.
Ez a tevékenységi minta megfelel az ilyen csalások jellemző működéséről szóló nyilvánosan elérhető beszámolóknak(új ablakban nyílik meg).
Hatás
Úgy tűnik, ezt a tevékenységet számos sikertelen próbálkozás és kudarc kísérte. A csalók által modelljeinken feldolgozott beszélgetések némelyike azzal végződött, hogy a célpont csalásnak nevezte a tevékenységet, vagy felszólította a csalót, hogy hagyja békén. A csalók olyan közösségimédia-bejegyzéseit is azonosítottuk, amelyek semmilyen reakciót nem váltottak ki.
Egyes beszélgetésekben azonban több ezer dolláros – vagy más pénznemben ennek megfelelő – egyedi tranzakciókról esett szó. Mivel az üzemeltetők ilyen módon használták modelljeinket, nem látjuk, hogy ezek a pénzügyi tranzakciók valóban megtörténtek-e. A beszélgetések utalásai azonban azt jelzik, hogy a csalóknak legalább néhány esetben sikerült megkárosítaniuk célpontjaikat.
Az OpenAI szabályzatai szigorúan tiltják eszközeink kimeneteinek csalásra vagy megtévesztésre való felhasználását. Elkötelezettek vagyunk az iparági szereplőkkel és a hatóságokkal való együttműködés mellett, hogy megértsük, miként használják az MI-t károkozó tevékenységekhez, és aktívan fellépjünk a szolgáltatásainkkal visszaélő csalások ellen. E vállalásunkkal összhangban megosztottuk az iparági szereplőkkel és az illetékes hatóságokkal az általunk felszámolt csalóhálózatokra vonatkozó információkat.