Atvinnusvik: Ráðningarblekkingar með aðstoð gervigreindar

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2025⁠(opnast í nýjum glugga).

Við lokuðum fjölda reikninga sem hugsanlega voru notaðir til að auðvelda blekkjandi atvinnusvik. Athæfið sem við urðum vör við samræmist þeim aðferðum, tækni og verklagi (TTP) sem Microsoft⁠(opnast í nýjum glugga) og Google⁠(opnast í nýjum glugga) hafa rakið til svikakerfis með upplýsingatæknistarfsmenn sem gæti tengst Norður-Kóreu.

Þótt við getum ekki ákvarðað staðsetningu eða þjóðerni gerendanna bar athæfið sem við stöðvuðum einkenni sem greint hefur verið opinberlega frá⁠(opnast í nýjum glugga) í tengslum við tilraunir norðurkóreska ríkisins til að afla tekna með blekkjandi ráðningarsvikum. Þar svíkja einstaklingar sig inn í störf hjá vestrænum fyrirtækjum til að styðja fjármögnunarkerfi stjórnvalda.

Reikningarnir notuðu líkön okkar til að búa til efni sem virtist beinast að hverju skrefi ráðningarferlisins með ólíkum blekkingaraðferðum sem allar áttu að styðja hver aðra.

Gerendurnir notuðu sýndareinkanet (VPN), fjaraðgangsverkfæri á borð við AnyDesk og netsíma (VOIP) sem virtust að mestu vera staðsettir í Bandaríkjunum. Þótt við höfum takmarkaða innsýn í hvernig gerendurnir dreifðu efninu fundum við efni sem birt hafði verið á LinkedIn.

Stór hluti efnisins sem gerendurnir bjuggu til var persónuleg gögn fyrir tilbúna „umsækjendur“, svo sem ferilskrár, starfsprófílar á netinu og kynningarbréf. Ferilskrárnar og prófílarnir voru oft sérsniðin að tiltekinni starfsauglýsingu til að auka líkurnar á að umsækjandinn virtist mjög hæfur. Annar hluti fólst í að skapa „stuðningspersónur“ sem veittu meðmæli með „umsækjendunum“ og vísuðu þeim á laus störf.

Samhliða þessu sömdu gerendurnir færslur á samfélagsmiðla til að fá raunverulegt fólk til að styðja svikin. Þar var meðal annars leitað að fólki sem var reiðubúið að taka við fartölvum og hýsa þær á heimili sínu eða lána svikunum auðkenni sitt svo umsækjendurnir gætu staðist bakgrunnsathuganir.

Að lokum virðast persónur „umsækjendanna“ hafa notað líkön okkar í atvinnuviðtölum til að semja trúverðug svör við tæknilegum spurningum og spurningum um hegðun. Við urðum þó ekki vör við að þau notuðu tal-til-tals-verkfæri okkar.

Eftir að hafa að því er virtist fengið starf notuðu þau líkön okkar til að sinna vinnutengdum verkefnum, svo sem að skrifa kóða, leysa tæknileg vandamál og senda samstarfsfólki skilaboð. Þau notuðu líkön okkar einnig til að semja yfirvarpssögur sem útskýrðu óvenjulega hegðun, svo sem að forðast myndsímtöl, tengjast kerfum fyrirtækja frá óheimilum löndum eða vinna á óreglulegum tímum.

Þar sem við höfum aðeins innsýn í lítinn hluta þessa umfangsmikla athæfis þyrfti framlag frá mörgum hagsmunaaðilum til að meta áhrif þess.

Reglur OpenAI banna með öllu að úttak úr verkfærum okkar sé notað til fjársvika eða annarra svika. Við rannsókn okkar á blekkjandi atvinnusvikum fundum við og lokuðum tugum reikninga. Við höfum miðlað upplýsingum um svikanetin sem við stöðvuðum til annarra aðila í greininni og viðeigandi yfirvalda. Það eykur sameiginlega getu okkar til að greina, koma í veg fyrir og bregðast við slíkum ógnum og stuðlar um leið að sameiginlegu öryggi okkar.