„Téves szám” művelet: MI-vel támogatott feladatalapú csalás

Ez az esettanulmány eredetileg az OpenAI 2025. júniusi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk olyan ChatGPT‑fiókokat, amelyek rövid, toborzási célú üzeneteket hoztak létre angol, spanyol, szuahéli, kinyarvanda, német és haiti kreol nyelven. Ezek az üzenetek jelentéktelen feladatokért – például közösségimédia-bejegyzések kedveléséért – magas fizetést kínáltak a címzetteknek, és mások beszervezésére ösztönözték őket. A művelet erősen központosítottnak tűnt, és valószínűleg Kambodzsából indult.

MI-alapú fordítóeszközökkel gyorsan ki tudtuk vizsgálni és meg tudtuk akadályozni, hogy a kampány az OpenAI szolgáltatásait használja.

A hálózat tevékenységének nagy része fordítási feladatokból állt. A ChatGPT segítségével társalgási mondatokat fordítottak kínairól több más nyelvre és vissza, elsősorban angolra, spanyolra, kinyarvandára, szuahélire, németre és haiti kreolra. E feladatok során jellemzően felváltva fordítottak egy beérkező üzenetet kínaira, majd egy kínai nyelvű választ vissza az eredeti nyelvre.

Ezen üzenetek egy része kéretlen álláshirdetésekre hasonlított, amelyek minimális munkáért magas órabért kínáltak. Az egyik ilyen üzenetet SMS-ben küldték el látszólag véletlenszerűen kiválasztott egyesült királyságbeli mobiltelefonszámokra, amelyek egyike egy OpenAI-vizsgálóé volt. A kezdeti SMS-re utalva a műveletnek a „Téves szám” nevet adtuk.

Úgy tűnt, a fenyegető szereplők több üzenetküldő platformot is használtak. A kezdeti SMS arra kérte a címzetteket, hogy WhatsAppon vegyék fel a kapcsolatot, majd a válaszolókat egy Telegramon elérhető „mentorhoz” irányították. Egyes tevékenységekben a BonChat üzenetküldő alkalmazásra is hivatkoztak. Úgy tűnt, hogy az ezeken a csatornákon küldött első, bemutatkozó üzeneteket nem a modelljeinkkel hozták létre. Olyan általános üzenetek voltak, amelyek valószínűleg minden beszélgetésben használhatók.

A fordítási feladatok jelentős része olyan üzeneteket érintett, amelyek állítólagos „munkáltató” vállalatok képviselőitől származtak. A vizsgálat körébe tartozó számos ChatGPT‑beszélgetésben ugyanazok a cégnevek jelentek meg újra és újra. Ezek közé tartozott a Hyesung Advertising⁠(új ablakban nyílik meg) és a Lightning Shared Scooter Co (LSSC)⁠(új ablakban nyílik meg). Nyilvános beszámolók szerint a Hyesung és az LSSC feltehetően feladatalapú csalási rendszert működtetett. Bár e szervezetek jellegét nem ellenőriztük függetlenül, vizsgálatunk szerint az állítólag tőlük származó üzeneteket kínaiul beszélő, valószínűleg Kambodzsából tevékenykedő ChatGPT‑felhasználók hozták létre.

A hálózat állítása szerint általa képviselt vállalatok az iparágak széles körét lefedték: a részvénykereskedéstől a rollerkölcsönzésen át a közösségimédia-kedvelések értékesítéséig. Egyértelmű figyelmeztető jel volt, hogy egyetlen TikTok-kedvelésért több mint 5 dollárt kínáltak. Ezzel szemben az online piacterek manuális áttekintése során azt találtuk, hogy egyes eladók 1000 közösségimédia-kedvelésért 10 dollárnál is kevesebbet kérnek.

A platformon kívüli jeleket belső megfigyeléseinkkel összevetve egy visszatérő munkafolyamatot azonosítottunk. A módszer szélesebb körű megértése és egyszerűbb besorolása érdekében három szakaszra bontjuk ezt a mintát: megkeresés (kéretlen kapcsolatfelvétel), lelkesítés, majd lehúzás (pénzkicsalás):

1. A megkeresés (kéretlen kapcsolatfelvétel): A hálózat kéretlen megkeresésekhez készít tartalmakat, amelyekben jellemzően minimális munkáért szokatlanul magas fizetést vagy tőzsdei befektetésekből származó magas hozamot ígér. Az ajánlatok egyszerű feladatokért – például közösségimédia-bejegyzések kedveléséért – magas fizetést vagy jövedelmező befektetési lehetőségeket kínálnak.

2. A lelkesítés: A hálózat valószínűleg az operátor és „alkalmazottai” közötti beszélgetéseket fordítja. Ezekben szó esik a feladatok gyakorlati részleteiről, de gyakran bevételekről és lehetséges bónuszokról szóló motiváló üzenetek szakítják meg őket.

3. A lehúzás (pénzkicsalás): A hálózat olyan tartalmakat hoz létre és/vagy küld, amelyekkel pénz befizetésére próbálja rávenni az „alkalmazottat” vagy a „befektetőt”, hogy nagyobb jutalmakhoz férhessen hozzá. Ez többféle formát ölthet, többek között kezdeti „letét”, kriptovaluta-vásárlás vagy „kezelési költség” formájában.

Nyilvános beszámolók⁠(új ablakban nyílik meg) szerint e vállalatok némelyike jelentős belépési díjat szedett az újonnan beszervezettektől, majd ennek egy részéből éppen annyit fizetett a meglévő „alkalmazottaknak”, hogy fenntartsa az érdeklődésüket. Ez a felépítés jellemző a feladatalapú csalásokra⁠(új ablakban nyílik meg).

Korlátozott rálátásunk miatt nehéz számszerűsíteni a hálózat tényleges elérését. Ugyanakkor a platformon kívüli beszámolók⁠(új ablakban nyílik meg), valamint azok a beszélgetések, amelyekben „alkalmazottak” visszatérítést követeltek, arra utalnak, hogy legalább néhányan fizettek ezeknek az állítólagos munkáltatóknak. A közösségi médiában olyan valódi felhasználókat is megfigyeltünk, akik védelmükbe vették a vállalatokat, ami bizonyos mértékű valós részvételre utal.