Feladatalapú csalás: MI-vel támogatott, hamis értékeléseket író állások

Ez az esettanulmány eredetileg az OpenAI 2025. februári⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk egy csoportnyi ChatGPT‑fiókot, amelyek rövid hozzászólásokat fordítottak urduról angolra és angolról urdura egy „feladatalapú⁠(új ablakban nyílik meg)” csalás keretében. Ennek során az áldozatoknak jól fizető állást kínálnak, majd saját pénzt kell befizetniük a rendszerbe, mielőtt hozzáférhetnének állítólagos „keresetükhöz”. Úgy tűnt, hogy a tevékenység Kambodzsából indult. Ezekben a csalásokban az áldozatok rendszerint az állítólagos „keresetüket” és a saját pénzüket is elveszítik. A tevékenység vizsgálatát a Metától kapott jelzés nyomán kezdtük meg.

Ez a hálózat elsősorban rövid, csalók és áldozataik közötti beszélgetésekbe illő hozzászólások urdu és angol nyelv közötti fordítására használta modelljeinket. Telegramon – vélhetően az elsődleges platformjukon –, WhatsAppon és SMS-ben folytatott üzenetváltásokra, valamint számos olyan álláskereső fórumra és csoportra találtunk utalásokat, ahol állásajánlatokat lehetett közzétenni.

Úgy tűnt, a csalók főként kétféle szerepet játszottak. Az egyik a „toborzó” volt: kéretlen megkeresésekben jól fizető távmunkát hirdetett. A másik, jóval aktívabb szereplő a „mentor” volt, aki a „toborzó” megkeresése után felvette a kapcsolatot a célponttal, és megtanította neki a munka elvégzését. A mentorok nagyon gyakran említettek Telegramon tartott képzéseket.

A csalók időnként webhelyek szövegének lektorálására is használták modelljeinket. Úgy tűnik, ezek a webhelyek luxus-, divat- és utazási márkák nevét és megjelenését utánozták. A „mentorok” azt állították, hogy e márkák nevében toboroznak, ami arra utal, hogy a webhelyekkel próbálták hitelesebbnek feltüntetni a csalást.

Korlátozott rálátásunk alapján úgy tűnik, hogy a csalók egy bevett folyamatot követtek, amellyel a kapcsolatfelvételtől eljutottak a csalásig:

1. Álláshirdetés: A promptok és a generált szövegek alapján a csalók először különböző online fórumokon tettek közzé állásajánlatokat. A toborzás során rendszerint távmunkát kínáltak, és a kevés munkához képest viszonylag magas fizetést ígértek, például napi 300 dollárt és bónuszokat néhány órányi munkáért. Ezeket rendszerint a „toborzó” szerepében tették közzé.

2. Toborzás: Ezután a csalók a „mentor” szerepében generáltattak üzeneteket, hogy különféle üzenetküldő alkalmazásokon kapcsolatba lépjenek a lehetséges munkavállalókkal, és azt állítsák, hogy a „toborzóval” dolgoznak. A „mentor” azt állította, hogy azon luxusmárkák egyikének dolgozik, amelyek számára a hálózat webhelyet hozott létre. A feladatot úgy írták le, hogy ötcsillagos értékeléseket kell beküldeni e luxusmárkák webhelyein, állítólag az ügyfélértékelésük javítása érdekében.

3. Megnyugtatás: A generált szövegekben a csalók gyakran azzal nyugtatták célpontjaikat, hogy a munka valódi, mert egy régóta működő vállalat megbízásából végzik. Ha a célpont aggodalmát fejezte ki, a csaló azt állította, hogy korábban őt is átverték, ez a lehetőség azonban biztonságos.

4. Betanítás: Ha a célpont továbbra is érdeklődött, a generált szövegek alapján a „mentor” képzést ajánlott neki, általában a Telegramon. A célpont először hozzáférést kapott egy „gyakorlófiókhoz”, ahol naponta 25–35 értékelési feladatot kellett teljesítenie. A „gyakorlófiók” azt mutatta a célpontnak, hogy gyorsan nő a „keresete”.

5. Lelkesítés: Ha a célpont folytatta a képzést, a generált szövegek alapján gyakran „különleges” vagy „csúcs” értékelési feladatot kínáltak neki magasabb bónusszal. A „mentor” hangsúlyozta, hogy milyen ritka ez a lehetőség, és milyen szerencsés a célpont.

6. „Aktiválási díj”: Amikor a célpont „keresete” elért egy bizonyos összeget, a generált szövegekben a „mentor” közölte vele, hogy „aktiválási díjat” kell fizetnie a „kereset” felvételéhez. Ha kellett, a csaló arra biztatta, hogy kérje kölcsön a pénzt barátaitól vagy családtagjaitól.

7. Nyomásgyakorlás: A generált szövegek szerint, ha a célpont vonakodott fizetni, a csaló egyre agresszívabbá vált. Más, hatékonyabb dolgozókhoz hasonlítva gyakorolt rá nyomást, és azt mondta, hogy elveszíti a keresetét, ha nem fizet.

8. Kifogások keresése: Ha a generált szövegek arra utaltak, hogy a célpont fizetett, a csaló sorra gyártotta a kifogásokat, hogy miért nem veheti fel a keresetét, és gyakran további befizetést követelt.

Egyes beszélgetésekből az derült ki, hogy a célpontok erősen kételkedtek. A csalók által generált hozzászólások némelyikében a mentor azt kérdezgette, miért nem ír többé a célpontja, ami arra utal, hogy a csalás összességében valószínűleg kevés embert tudott rászedni. Néhány beszélgetés és online beszámoló azonban arra utal, hogy legalább néhány áldozat valóban pénzt fizetett be ezekbe a csalásokba. Az eszközeinken kívül zajló tevékenységeket nem tudjuk függetlenül ellenőrizni.

Az OpenAI szabályzatai szigorúan tiltják eszközeink kimeneteinek csalás céljára történő felhasználását. Elkötelezettek vagyunk az iparági szereplőkkel és a hatóságokkal való együttműködés mellett, hogy megértsük, miként befolyásolja az MI a rosszindulatú szereplők magatartását, és aktívan fellépjünk a szolgáltatásainkkal visszaélő csalások ellen. E vállalásunkkal összhangban megosztottuk az általunk felszámolt csaló hálózatokra vonatkozó információkat az iparági szereplőkkel és az illetékes hatóságokkal, hogy közösen javítsuk a biztonságot.