Atvinnuumsóknir á fölskum forsendum: starfsemi upplýsingatæknifólks

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá júní 2025⁠(opnast í nýjum glugga).

Við greindum og lokuðum ChatGPT‑reikningum sem virtust tengjast nokkrum aðskildum tilraunum til skipulagðra blekkinga í atvinnuumsóknum. Þessir ógnaraðilar notuðu líkön OpenAI til að útbúa gögn fyrir hugsanlega sviksamlegar umsóknir um störf við upplýsingatækni, hugbúnaðarverkfræði og önnur fjarstörf víða um heim.

Þótt við getum ekki staðfest staðsetningu eða þjóðerni ógnaraðilanna samræmdist hegðun þeirra starfsemi sem hefur opinberlega verið rakin til skipulagðra svika tengdra Norður-Kóreu (DPRK)⁠(opnast í nýjum glugga) þar sem fólk sækir um störf í upplýsingatækni. Hugsanlegt er að sumir aðilanna sem tengdust þessum nýlegu aðgerðum hafi verið ráðnir sem verktakar af kjarnahópi ógnaraðila með möguleg tengsl við Norður-Kóreu, til að sinna umsóknarverkefnum og reka vélbúnað, meðal annars innan Bandaríkjanna.

Í þessum nýjustu aðgerðum var reynt að nota gervigreind á öllum stigum ráðningarferlisins, líkt og hjá ógnaraðilunum sem við stöðvuðum og fjölluðum um í febrúar⁠(opnast í nýjum glugga). Áður sáum við þessa aðila nota gervigreind með handvirkum hætti til að búa til trúverðugar persónur, oft með heimilisfang í Bandaríkjunum og uppspunna starfsreynslu hjá þekktum fyrirtækjum. Að þessu sinni reyndu þeir að sjálfvirknivæða gerð ferilskráa að einhverju marki. Sumar vísbendingar benda til þess að stjórnendur í Afríku hafi þóst vera atvinnuumsækjendur, auk þess að ráða fólk í Norður-Ameríku til að halda fartölvum í gangi fyrir sig.

Við greindum tvær aðskildar tegundir starfsemi sem endurspegla líklega tvenns konar stjórnendur: kjarnahóp stjórnenda og verktaka.

Kjarnahópur stjórnenda reyndi að sjálfvirknivæða gerð ferilskráa út frá tilteknum starfslýsingum, sniðmátum fyrir færni og persónulýsingum. Þeir leituðu einnig upplýsinga um hvernig mætti smíða verkfæri til að halda utan um og fylgjast með atvinnuumsóknum. Þeir notuðu líka líkönin okkar til að búa til efni sem líktist atvinnuauglýsingum með það að markmiði að ráða verktaka í mismunandi heimshlutum.

Kjarnahópur stjórnenda notaði ChatGPT til að afla upplýsinga um uppsetningu búnaðar fyrir fjarvinnu. Þeir notuðu líka líkönin okkar til að semja texta um ráðningu raunverulegs fólks í Bandaríkjunum til að taka við fartölvum frá fyrirtækjum. Kjarnahópur ógnaraðila eða verktakar þeirra myndu síðan fá fjaraðgang að tölvunum.

Ógnaraðilarnir könnuðu hvernig nota mætti verkfæri á borð við Tailscale-jafningja-VPN, OBS Studio, innspýtingu beins myndstraums með vdo.ninja og lykkjur fyrir HDMI-myndupptöku í starfsemi sinni. Þessi verkfæri gætu nýst til að komast fram hjá öryggisráðstöfunum fyrirtækja. Tækist það gæti viðkomandi viðhaldið fjaraðgangi án þess að upp kæmist, auk þess að reyna að sniðganga tilteknar auðkenningarleiðir sem byggjast á myndfundum í beinni.

Á sama tíma notuðu stjórnendur sem mögulega störfuðu sem verktakar ChatGPT til að fá aðstoð við að leysa verkefni sem tengdust atvinnuumsóknum. Þeir notuðu það einnig til að búa til efni sem líktist skilaboðum til kjarnahóps stjórnenda, með fyrirspurnum um greiðslur og persónurnar sem notaðar voru til að sækja um fjarstörf.

Við komumst að þeirri niðurstöðu að þessir ógnaraðilar hefðu reynt að nota líkönin okkar til skipulagðra blekkinga. Nánar tiltekið notuðu þeir ítarleg fyrirmæli, leiðbeiningar og sjálfvirkar lykkjur til að búa til mikið magn sérsniðinna og trúverðugra ferilskráa.

• Sjálfvirk gerð ítarlegra ferilskráa sem samræmdust ýmsum starfslýsingum í tæknigeiranum, persónulýsingum og venjum í greininni: félagslegar blekkingar með stuðningi LLM.

• Svör við spurningum í atvinnuumsóknum, forritunarverkefnum og spurningum í atvinnuviðtölum í rauntíma, byggð á innhlöðnum ferilskrám: félagslegar blekkingar með stuðningi LLM.

• Leit að leiðbeiningum um fjarstillingu fartölva frá fyrirtækjum svo þær virtust staðsettar innanlands, þar á meðal aðferðum til að fela landfræðilega staðsetningu og sniðganga öryggisvarnir endatækja: notkun LLM til að komast betur hjá frávikagreiningu.

• Aðstoð við forritun verkfæra sem hreyfa músina sjálfkrafa eða halda tölvu vakandi með fjarstýringu, hugsanlega til að auðvelda uppsetningu innviða fyrir fjarvinnu: þróun með aðstoð LLM.

Við getum ekki metið árangur þessara aðgerða á eigin spýtur, þar sem slíkt áhrifamat myndi krefjast upplýsinga frá mörgum hagsmunaaðilum.

Þótt ógnaraðilarnir hafi líklega fléttað gervigreind inn í öll skref ferlisins til að auka skilvirkni sína jók það einnig hættuna á að upp kæmist um þá. Með því að veita okkur innsýn í allt vinnuferli sitt gerðu þeir okkur kleift að deila upplýsingum um þessar aðgerðir með viðeigandi aðilum í greininni og yfirvöldum á hverju stigi starfseminnar. Það efldi sameiginlega getu okkar til að greina, fyrirbyggja og bregðast við slíkum ógnum og jók um leið öryggi okkar allra.