Podvodná schéma zamestnávania: náborový podvod s podporou AI

Táto prípadová štúdia bola pôvodne zverejnená v správe OpenAI z februára 2025⁠(otvorí sa v novom okne).

Zablokovali sme niekoľko účtov, ktoré mohli slúžiť na podporu podvodnej schémy zamestnávania. Pozorovaná aktivita zodpovedá taktikám, technikám a postupom (TTP), ktoré spoločnosti Microsoft⁠(otvorí sa v novom okne) a Google⁠(otvorí sa v novom okne) pripísali schéme s pracovníkmi v oblasti IT, ktorá môže súvisieť so Severnou Kóreou.

Hoci nedokážeme určiť, kde sa aktéri nachádzali ani akej boli národnosti, aktivita, ktorú sme narušili, mala znaky verejne opísané⁠(otvorí sa v novom okne) v súvislosti so snahami severokórejského štátu získavať príjmy prostredníctvom podvodných náborových schém. Jednotlivci v nich podvodne získavajú pracovné miesta v západných spoločnostiach, aby podporovali finančnú sieť režimu.

Jednotlivé účty používali naše modely na vytváranie obsahu, ktorý sa zrejme zameriaval na každú fázu náborového procesu prostredníctvom rôznych, navzájom sa podporujúcich podvodných praktík.

Aktéri používali virtuálne súkromné siete (VPN), nástroje na vzdialený prístup, ako je AnyDesk, a telefóny využívajúce prenos hlasu cez internet (VOIP), ktoré sa väčšinou javili ako umiestnené v Spojených štátoch. Hoci máme len obmedzený prehľad o tom, ako títo aktéri šírili svoj obsah, identifikovali sme obsah zverejnený na sieti LinkedIn.

Jednu hlavnú skupinu obsahu vytvoreného týmito aktérmi tvorili osobné dokumenty pre fiktívnych „uchádzačov o zamestnanie“, napríklad životopisy, online pracovné profily a motivačné listy. Tieto životopisy a profily boli často prispôsobené konkrétnej pracovnej ponuke, aby uchádzač pôsobil čo najkvalifikovanejšie. Druhú skupinu tvorili „podporné“ identity, ktoré slúžili na poskytovanie referencií pre „uchádzačov o zamestnanie“ a ich odporúčanie na pracovné príležitosti.

Prevádzkovatelia zároveň pripravovali príspevky na sociálne siete, ktorými získavali skutočných ľudí na podporu svojich podvodných schém. Išlo napríklad o ľudí ochotných prevziať notebooky a umiestniť ich u seba doma alebo poskytnúť schéme svoju identitu, aby uchádzači prešli preverovaním minulosti.

Zdá sa, že identity „uchádzačov o zamestnanie“ napokon používali naše modely počas pohovorov na vytváranie vierohodných odpovedí na technické otázky a otázky týkajúce sa správania. Nezaznamenali sme však, že by používali naše nástroje na preklad z reči do reči.

Keď sa im zjavne podarilo zamestnať, používali naše modely na pracovné úlohy, ako sú písanie kódu, riešenie problémov a komunikácia s kolegami. Naše modely používali aj na vymýšľanie krycích príbehov, ktorými vysvetľovali nezvyčajné správanie, napríklad vyhýbanie sa videohovorom, prístup do firemných systémov z nepovolených krajín či prácu v neobvyklých hodinách.

Keďže máme prehľad len o malej časti všetkých týchto aktivít, na posúdenie ich vplyvu by boli potrebné informácie od viacerých zainteresovaných strán.

Pravidlá OpenAI prísne zakazujú používať výstupy z našich nástrojov na podvody alebo podvodné konanie. Pri vyšetrovaní podvodných schém zamestnávania sme identifikovali a zablokovali desiatky účtov. Poznatky o podvodných sieťach, ktorých činnosť sme narušili, sme poskytli partnerom v odvetví a príslušným orgánom. Posilnili sme tak našu spoločnú schopnosť odhaľovať takéto hrozby, predchádzať im a reagovať na ne a zároveň zvyšovať spoločnú bezpečnosť.