Megtévesztő foglalkoztatási rendszer: mesterséges intelligenciával támogatott felvételi csalás

Ez az esettanulmány eredetileg az OpenAI 2025. februári⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk több olyan fiókot, amelyeket feltehetően egy megtévesztő foglalkoztatási rendszer elősegítésére használtak. A megfigyelt tevékenység összhangban van azokkal a taktikákkal, technikákkal és eljárásokkal (TTP), amelyeket a Microsoft⁠(új ablakban nyílik meg) és a Google⁠(új ablakban nyílik meg) egy feltehetően Észak-Koreához köthető, informatikai munkavállalókra épülő rendszernek tulajdonított.

Bár az elkövetők tartózkodási helyét és állampolgárságát nem tudjuk megállapítani, az általunk megzavart tevékenység hasonló volt az észak-koreai állam azon, nyilvánosan ismertetett⁠(új ablakban nyílik meg) törekvéseihez, amelyek megtévesztő állásszerzési módszerekkel terelnek jövedelmet az országba: magánszemélyek csalárd módon állást szereznek nyugati vállalatoknál, hogy támogassák a rezsim pénzügyi hálózatát.

A különböző fiókokkal látszólag a toborzási folyamat minden lépését célzó tartalmakat hoztak létre a modelljeink segítségével, eltérő, egymást kölcsönösen támogató megtévesztő módszereket alkalmazva.

Az elkövetők virtuális magánhálózatokat (VPN-eket), távoli hozzáférést biztosító eszközöket – például az AnyDesket – és többnyire egyesült államokbeli helyet jelző, internetprotokoll-alapú (VoIP-) telefonokat használtak. Bár csak korlátozottan látunk rá arra, hogyan terjesztették ezek az elkövetők a tartalmaikat, a LinkedInen közzétett tartalmakat is azonosítottunk.

Az elkövetők által létrehozott tartalmak egyik fő csoportját a fiktív „állásjelöltek” személyes dokumentumai alkották, például önéletrajzok, online álláskeresői profilok és motivációs levelek. Ezeket az önéletrajzokat és profilokat gyakran egy adott álláshirdetéshez igazították, hogy nagyobb eséllyel tűnjenek jól képzett jelöltnek. A második csoportot olyan „támogató” személyiségek létrehozása jelentette, akiket az „állásjelöltek” referenciáinak igazolására és álláslehetőségekre való beajánlására használtak.

Ezzel párhuzamosan az üzemeltetők közösségimédia-bejegyzéseket készítettek, hogy valódi embereket toborozzanak a rendszerük támogatására. Olyan embereket kerestek például, akik hajlandók voltak laptopokat átvenni és az otthonukban működtetni, vagy a személyazonosságukat a rendszer rendelkezésére bocsátani, hogy a jelentkezők átmenjenek a háttérellenőrzéseken.

Végül úgy tűnik, hogy az „állásjelöltek” személyiségei a modelljeink segítségével állítottak elő hihető válaszokat az interjúkon feltett szakmai és viselkedési kérdésekre. Azt azonban nem figyeltük meg, hogy használták volna beszéd-beszéd eszközeinket.

Miután látszólag állást szereztek, modelljeinket munkával kapcsolatos feladatokra használták, például kódírásra, hibaelhárításra és a munkatársakkal folytatott üzenetváltásokra. Modelljeink segítségével fedőtörténeteket is kitaláltak az olyan szokatlan viselkedés magyarázatára, mint a videóhívások kerülése, a vállalati rendszerekhez nem engedélyezett országokból való hozzáférés vagy a rendszertelen munkaidő.

Mivel a teljes tevékenységnek csak kis részére látunk rá, a hatás felméréséhez több érintett féltől származó információkra lenne szükség.

Az OpenAI szabályzatai szigorúan tiltják, hogy eszközeink kimeneteit csaláshoz vagy megtévesztéshez használják. A megtévesztő foglalkoztatási rendszerekkel kapcsolatos vizsgálatunk során több tucat fiókot azonosítottunk és tiltottunk le. Az általunk megzavart csalárd hálózatokról szerzett információkat megosztottuk iparági partnereinkkel és az illetékes hatóságokkal, javítva közös képességünket az ilyen fenyegetések észlelésére, megelőzésére és kezelésére, valamint tovább erősítve kollektív biztonságunkat.