Zaposlitvena prevara: dejavnosti delavcev v IT

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI iz junija 2025⁠(odpre se v novem oknu).

Prepoznali in blokirali smo račune ChatGPT, za katere se je zdelo, da so povezani z več domnevnimi kampanjami zaposlitvenih prevar. Ti zlonamerni akterji so modele družbe OpenAI uporabljali za pripravo gradiva za morebitne goljufive poskuse prijav na delovna mesta v IT, razvoju programske opreme in na druga delovna mesta na daljavo po svetu.

Čeprav ne moremo ugotoviti lokacije ali državljanstva teh zlonamernih akterjev, je bilo njihovo ravnanje skladno z dejavnostmi, ki se javno pripisujejo prevaram z delavci v IT, povezanim s Severno Korejo (DLRK)⁠(odpre se v novem oknu). Nekatere akterje, povezane s temi nedavnimi kampanjami, je osrednja skupina zlonamernih akterjev, ki so morda povezani z DLRK, morebiti najela kot pogodbene sodelavce za opravljanje nalog v postopkih prijave in upravljanje strojne opreme, tudi v ZDA.

Podobno kot zlonamerni akterji, katerih dejavnosti smo onemogočili in o njih pisali februarja⁠(odpre se v novem oknu), so tudi izvajalci najnovejših kampanj poskušali uporabiti umetno inteligenco na vsakem koraku zaposlitvenega postopka. Pred tem smo opazili, da so ti akterji z umetno inteligenco ročno ustvarjali verodostojne lažne identitete, pogosto z domnevnim prebivališčem v ZDA in izmišljeno zgodovino zaposlitev v uglednih podjetjih. Tokrat so poskušali delno avtomatizirati ustvarjanje življenjepisov. Nekateri kazalniki nakazujejo tudi, da so se operaterji v Afriki izdajali za kandidate za zaposlitev, poleg tega pa so v Severni Ameriki novačili ljudi, ki bi zanje upravljali prenosnike.

Zaznali smo dve ločeni vrsti dejavnosti, ki verjetno predstavljata dve vrsti operaterjev: osrednje operaterje in pogodbene sodelavce.

Osrednji operaterji so poskušali avtomatizirati ustvarjanje življenjepisov na podlagi posameznih opisov delovnih mest, predlog znanj in spretnosti ter profilov lažnih identitet. Iskali so tudi informacije o izdelavi orodij za upravljanje prijav na delovna mesta in spremljanje njihovega poteka. Naše modele so uporabljali tudi za ustvarjanje vsebine, podobne zaposlitvenim oglasom za novačenje pogodbenih sodelavcev v različnih delih sveta.

Osrednji operaterji so ChatGPT uporabljali kot raziskovalno orodje za pridobivanje informacij o vzpostavitvi okolij za delo na daljavo. Naše modele so uporabljali tudi za ustvarjanje besedil o novačenju resničnih oseb v ZDA, ki bi prevzemale službene prenosnike. Do njih bi nato na daljavo dostopali osrednji zlonamerni akterji ali njihovi pogodbeni sodelavci.

Zlonamerni akterji so v okviru svojih dejavnosti raziskovali uporabo orodij, kot so omrežje VPN enakovrednih vozlišč Tailscale, OBS Studio, vstavljanje prenosa v živo z vdo.ninja in zanke za zajem signala HDMI. Ta orodja bi se lahko uporabljala za izogibanje varnostnim ukrepom podjetij. Ob uspešni uporabi bi omogočala trajno, nezaznano prisotnost na daljavo in poskuse izogibanja nekaterim postopkom preverjanja identitete, ki temeljijo na videosrečanjih v živo.

Medtem so operaterji, ki so bili morebiti pogodbeni sodelavci, uporabljali ChatGPT za pomoč pri opravljanju nalog v postopkih prijave na delovna mesta. Uporabljali so ga tudi za ustvarjanje vsebine, podobne sporočilom osrednjim operaterjem z vprašanji o plačilih in lažnih identitetah, uporabljenih pri prijavah na delovna mesta na daljavo.

Ugotovili smo, da so ti zlonamerni akterji poskušali naše modele uporabiti za izvajanje prevare. Natančneje, z uporabo podrobnih pozivov, navodil in avtomatizacijskih zank so množično ustvarjali prilagojene, verodostojne življenjepise.

• Avtomatizirano ustvarjanje podrobnih življenjepisov, prilagojenih različnim opisom tehničnih delovnih mest, lažnim identitetam in standardom v panogi: socialni inženiring s podporo velikega jezikovnega modela.

• Odgovarjanje na vprašanja v prijavah za zaposlitev, reševanje programerskih nalog in sprotno odgovarjanje na vprašanja na razgovorih na podlagi naloženih življenjepisov: socialni inženiring s podporo velikega jezikovnega modela.

• Iskanje navodil za oddaljeno konfiguracijo službenih prenosnikov, da bi bili videti, kot da so v državi delodajalca, vključno s prikrivanjem geolokacije in metodami izogibanja zaščiti končnih naprav: izogibanje zaznavanju anomalij s pomočjo velikega jezikovnega modela.

• Pomoč pri programiranju orodij za samodejno premikanje miške ali oddaljeno preprečevanje prehoda računalnika v stanje mirovanja, morebiti za pomoč pri vzpostavljanju infrastrukture za delo na daljavo: razvoj s pomočjo velikega jezikovnega modela.

Uspešnosti teh operacij ne moremo neodvisno oceniti, saj bi za oceno vpliva potrebovali podatke več deležnikov.

Zlonamerni akterji so umetno inteligenco verjetno vključili v vsak korak svojega postopka, da bi povečali učinkovitost, vendar so s tem povečali tudi možnost, da jih odkrijemo. S tem ko so nam omogočili vpogled v svoje delovne procese, so nam omogočili tudi, da smo ugotovitve o teh kampanjah za vsako fazo njihove dejavnosti delili z ustreznimi partnerji v panogi in pristojnimi organi. Tako smo okrepili skupno sposobnost zaznavanja in preprečevanja tovrstnih groženj ter odzivanja nanje in izboljšali skupno varnost.