Obmanjujuća shema zapošljavanja: obmana pri zapošljavanju uz pomoć umjetne inteligencije

Ova studija slučaja izvorno je objavljena u OpenAI-jevu izvješću za veljaču 2025.⁠(otvara se u novom prozoru) godine.

Blokirali smo više računa koji su se možda upotrebljavali za provođenje obmanjujuće sheme zapošljavanja. Aktivnost koju smo uočili podudara se s taktikama, tehnikama i postupcima (TTP-ovima) koje su Microsoft⁠(otvara se u novom prozoru) i Google⁠(otvara se u novom prozoru) pripisali shemi s IT radnicima koja je možda povezana sa Sjevernom Korejom.

Iako ne možemo utvrditi lokacije ni državljanstva aktera, aktivnost koju smo prekinuli imala je obilježja o kojima se javno izvještavalo⁠(otvara se u novom prozoru) u vezi s nastojanjima sjevernokorejskih državnih struktura da obmanjujućim shemama zapošljavanja usmjeravaju prihode u zemlju. U tim shemama pojedinci prijevarom dobivaju radna mjesta u zapadnim tvrtkama kako bi podupirali financijsku mrežu režima.

Različiti računi upotrebljavali su naše modele za izradu sadržaja koji je, čini se, različitim obmanjujućim praksama ciljao svaki korak postupka zapošljavanja, pri čemu su se sve te prakse međusobno nadopunjavale.

Akteri su upotrebljavali virtualne privatne mreže (VPN-ove), alate za udaljeni pristup poput AnyDeska i telefone za prijenos glasa putem IP-a (VOIP), koji su uglavnom ostavljali dojam da se nalaze u Sjedinjenim Američkim Državama. Iako imamo ograničen uvid u načine na koje su ti akteri distribuirali svoj sadržaj, pronašli smo sadržaj objavljen na LinkedInu.

Jedna od glavnih skupina sadržaja koji su ti akteri izradili sastojala se od osobne dokumentacije za izmišljene „kandidate za posao”, kao što su životopisi, mrežni profili za traženje posla i motivacijska pisma. Ti su životopisi i profili često bili prilagođeni određenom oglasu za posao kako bi se povećala vjerojatnost da kandidat djeluje dobro kvalificirano. Druga skupina sadržaja obuhvaćala je stvaranje „pomoćnih” identiteta, koji su služili za provjeru preporuka „kandidata za posao” i njihovo preporučivanje za radna mjesta.

Istodobno su operateri izrađivali objave za društvene mreže kako bi vrbovali stvarne osobe za sudjelovanje u svojim shemama. Među njima su, primjerice, bile osobe spremne primati i držati prijenosna računala u svojim domovima ili ustupiti svoj identitet za potrebe sheme kako bi kandidati mogli proći provjeru prošlosti.

Naposljetku, čini se da su se osobe koje su se predstavljale kao „kandidati za posao” tijekom razgovora za posao koristile našim modelima kako bi izradile uvjerljive odgovore na tehnička pitanja i pitanja o ponašanju. Međutim, nismo uočili da upotrebljavaju naše alate za pretvaranje govora u govor.

Nakon što bi se, prema svemu sudeći, zaposlili, upotrebljavali su naše modele za obavljanje poslovnih zadataka poput pisanja koda, otklanjanja poteškoća i dopisivanja sa suradnicima. Naše su modele upotrebljavali i za osmišljavanje izmišljenih objašnjenja za neuobičajena ponašanja, poput izbjegavanja videopoziva, pristupanja poslovnim sustavima iz neovlaštenih zemalja ili rada u neuobičajeno vrijeme.

Budući da imamo uvid samo u mali dio svih tih aktivnosti, za procjenu njihova učinka bili bi potrebni podaci više dionika.

Pravila OpenAI-ja strogo zabranjuju upotrebu rezultata naših alata za prijevare ili obmane. Istragom obmanjujućih shema zapošljavanja identificirali smo i blokirali desetke računa. Saznanja o prijevarnim mrežama čije smo djelovanje prekinuli podijelili smo s partnerima iz industrije i nadležnim tijelima, čime smo poboljšali zajedničku sposobnost otkrivanja i sprječavanja takvih prijetnji te odgovora na njih, a istodobno unaprijedili zajedničku sigurnost.