Zavajajoča zaposlitvena shema: zavajanje pri zaposlovanju s pomočjo umetne inteligence

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI iz februarja 2025⁠(odpre se v novem oknu).

Blokirali smo več računov, ki so bili morda uporabljeni za omogočanje zavajajoče zaposlitvene sheme. Opažena dejavnost je skladna s taktikami, tehnikami in postopki (TTPs), ki sta jih Microsoft⁠(odpre se v novem oknu) in Google⁠(odpre se v novem oknu) pripisala shemi z IT-delavci, ki je morda povezana s Severno Korejo.

Čeprav ne moremo ugotoviti lokacije ali državljanstva akterjev, je dejavnost, ki smo jo prekinili, imela značilnosti, o katerih so javno poročali⁠(odpre se v novem oknu) v povezavi s prizadevanji severnokorejske države za pridobivanje prihodkov prek zavajajočih zaposlitvenih shem, pri katerih posamezniki z goljufijo dobijo delovna mesta v zahodnih podjetjih in tako podpirajo finančno omrežje režima.

Različni računi so naše modele uporabljali za ustvarjanje vsebine, ki je bila z različnimi zavajajočimi praksami očitno usmerjena v vsak korak postopka zaposlovanja, pri čemer so se vse prakse medsebojno podpirale.

Akterji so uporabljali navidezna zasebna omrežja (VPN), orodja za oddaljeni dostop, kot je AnyDesk, in telefone za prenos glasu prek internetnega protokola (VOIP), pri čemer je bilo večinoma videti, da se nahajajo v Združenih državah. Čeprav imamo omejen vpogled v načine, na katere so ti akterji razširjali svojo vsebino, smo odkrili vsebino, objavljeno na LinkedInu.

Eden glavnih sklopov vsebine, ki so jo ustvarili ti akterji, je obsegal osebno dokumentacijo za izmišljene »kandidate za zaposlitev«, kot so življenjepisi, spletni zaposlitveni profili in motivacijska pisma. Ti življenjepisi in profili so bili pogosto prilagojeni določenemu zaposlitvenemu oglasu, da bi povečali verjetnost, da bo oseba delovala kot dobro usposobljen kandidat. Drugi sklop je obsegal ustvarjanje »podpornih« identitet, ki so potrjevale reference »kandidatov za zaposlitev« in jih priporočale za zaposlitvene priložnosti.

Upravljavci so hkrati pripravljali objave za družbena omrežja, da bi k podpori svojim shemam pritegnili resnične ljudi. Med njimi so bili na primer posamezniki, pripravljeni prevzeti prenosnike in jih imeti pri sebi doma ali pa shemi posoditi svojo identiteto, da bi kandidati lahko uspešno prestali preverjanje preteklosti.

Nazadnje so upravljavci identitet »kandidatov za zaposlitev« naše modele očitno uporabljali tudi med razgovori, da bi ustvarili verodostojne odgovore na tehnična in vedenjska vprašanja. Vendar nismo opazili, da bi uporabljali naša orodja za pretvorbo govora v govor.

Ko jim je očitno uspelo dobiti zaposlitev, so naše modele uporabljali za opravljanje delovnih nalog, kot so pisanje kode, odpravljanje težav in dopisovanje s sodelavci. Naše modele so uporabljali tudi za snovanje izgovorov za nenavadno vedenje, kot so izogibanje videoklicem, dostopanje do sistemov podjetja iz neodobrenih držav ali delo ob neobičajnih urah.

Ker imamo vpogled le v majhen del vseh teh dejavnosti, bi za oceno njihovega vpliva potrebovali podatke več deležnikov.

Pravilniki družbe OpenAI strogo prepovedujejo uporabo rezultatov naših orodij za goljufije ali prevare. Med preiskavo zavajajočih zaposlitvenih shem smo odkrili in blokirali več deset računov. Ugotovitve o goljufivih omrežjih, katerih delovanje smo prekinili, smo delili s panožnimi partnerji in pristojnimi organi ter tako izboljšali skupno sposobnost odkrivanja, preprečevanja in obravnavanja takšnih groženj, obenem pa okrepili skupno varnost.