Tööle kandideerimise petuskeem: IT-töötajate tegevus

See juhtumiuuring avaldati esimest korda OpenAI 2025. aasta juuni⁠(avaneb uues aknas) aruandes.

Tuvastasime ja blokeerisime ChatGPT kontod, mis näisid olevat seotud mitme kahtlustatava tööle kandideerimise petukampaaniaga. Need pahatahtlikud osalised kasutasid OpenAI mudeleid, et koostada materjale võimalike petturlike katsete jaoks kandideerida IT-, tarkvaraarenduse ja muudele kaugtöökohtadele üle maailma.

Kuigi me ei saa kindlaks teha nende pahatahtlike osaliste asukohta ega kodakondsust, vastas nende käitumine tegevusele, mida on avalikult seostatud IT-töötajaid hõlmavate Põhja-Koreaga (KRDV) seotud skeemidega⁠(avaneb uues aknas). Mõned nende hiljutiste kampaaniatega seotud osalised võisid olla võimalike KRDV-ga seotud pahatahtlike osaliste tuumikrühma palgatud alltöövõtjad, kelle ülesanne oli täita kandideerimisülesandeid ja käitada riistvara, sealhulgas USAs.

Nagu pahatahtlikud osalised, kelle tegevuse me tõkestasime ja kellest veebruaris⁠(avaneb uues aknas) kirjutasime, üritasid ka viimaste kampaaniate korraldajad kasutada tehisintellekti tööle saamise igas etapis. Varem täheldasime, et need osalised kasutasid tehisintellekti, et luua käsitsi usutavaid, sageli USAs elavate inimeste võltsidentiteete koos väljamõeldud töökogemusega tuntud ettevõtetes. Seekord püüdsid nad CV-de koostamist osaliselt automatiseerida. Lisaks Põhja-Ameerikas inimeste värbamisele, et need nende eest sülearvuteid käitaksid, viitavad mõned märgid Aafrikas tegutsevatele osalistele, kes esinesid tööle kandideerijatena.

Tuvastasime kaks eraldi tegevussuunda, mis esindavad tõenäoliselt kaht tüüpi osalisi: põhikorraldajaid ja alltöövõtjaid.

Põhikorraldajad püüdsid automatiseerida CV-de koostamist konkreetsete ametikirjelduste, oskuste mallide ja võltsidentiteetide profiilide põhjal ning otsisid teavet kandideerimiste haldamise ja jälgimise tööriistade loomise kohta. Samuti kasutasid nad meie mudeleid, et luua sisu, mis meenutas töökuulutusi alltöövõtjate värbamiseks maailma eri paigus.

Põhikorraldajad kasutasid ChatGPT‑d kaugtöö korraldamiseks vajaliku teabe otsimiseks. Samuti kasutasid nad meie mudeleid, et koostada tekste päris inimeste värbamiseks USAs, kes võtaksid vastu ettevõtete sülearvuteid. Seejärel pääseksid põhikorraldajad või nende alltöövõtjad neile arvutitele kaugühenduse kaudu ligi.

Pahatahtlikud osalised uurisid võimalusi kasutada oma tegevuses selliseid tööriistu nagu Tailscale’i võrdõigusvõrgu VPN, OBS Studio, vdo.ninja otsevoo sisestamine ja HDMI videosignaali hõivamise ahelad. Neid tööriistu saab potentsiaalselt kasutada ettevõtete turvameetmetest möödahiilimiseks. Õnnestumise korral võimaldaksid need säilitada püsiva ja märkamatu kaugjuurdepääsu ning püüda mööda hiilida mõnest reaalajas videokohtumistel põhinevast isikusamasuse kontrollist.

Võimalikud alltöövõtjad kasutasid samal ajal ChatGPT‑d abivahendina kandideerimisülesannete täitmisel. Samuti kasutasid nad seda sisu loomiseks, mis meenutas põhikorraldajatele saadetavaid sõnumeid küsimustega tasude ja kaugtöökohtadele kandideerimiseks kasutatud võltsidentiteetide kohta.

Tegime kindlaks, et need pahatahtlikud osalised püüdsid kasutada meie mudeleid petturlikuks tegevuseks. Täpsemalt kasutasid nad üksikasjalikke viipasid, juhiseid ja automatiseerimistsükleid, et koostada suures mahus kohandatud ja usutavaid CV-sid.

• Eri tehnoloogiaerialade ametikirjeldustele, võltsidentiteetidele ja valdkonna tavadele vastavate üksikasjalike CV-de koostamise automatiseerimine: LLM-i toetatud sotsiaalne manipulatsioon.

• Üleslaaditud CV-de põhjal kandideerimisküsimustele vastamine, programmeerimisülesannete lahendamine ja reaalajas töövestluse küsimustele vastamine: LLM-i toetatud sotsiaalne manipulatsioon.

• Juhiste otsimine tööandja antud sülearvutite kaugseadistamiseks nii, et need näiksid asuvat samas riigis, sealhulgas geograafilise asukoha varjamise ja lõppseadmete turvameetmetest möödahiilimise viiside kohta: LLM-i abil tõhustatud kõrvalekallete tuvastamisest kõrvalehoidmine.

• Abi selliste tööriistade programmeerimisel, mis liigutavad hiirt automaatselt või hoiavad arvutit kaugjuhtimise teel ärkvel, võimalik, et kaugtöötaristu seadistamise toetamiseks: LLM-i abiga arendus.

Me ei saa nende operatsioonide edukust sõltumatult hinnata, sest mõju hindamine eeldaks teavet mitmelt asjaosaliselt.

Kuigi pahatahtlikud osalised lõimisid tõenäoliselt tehisintellekti oma tegevuse igasse etappi, et tõhusamalt tegutseda, suurendas see ka nende avastamise ohtu. Andes meile ülevaate oma töövoogudest, võimaldasid nad meil jagada teavet nende kampaaniate iga tegevusetapi kohta asjaomaste valdkonnapartnerite ja ametiasutustega. See parandas meie ühist võimekust selliseid ohte tuvastada, ennetada ja neile reageerida ning suurendas meie kõigi turvalisust.