Obmanjujuća šema zapošljavanja: obmana pri zapošljavanju uz pomoć AI-ja
OpenAI je blokirao račune potencijalno korištene za obmanjujuću šemu zapošljavanja s obilježjima javno opisanih aktivnosti IT radnika povezanih sa Sjevernom Korejom.
Ova studija slučaja prvobitno je objavljena u OpenAI-jevom izvještaju za februar 2025.(otvara se u novom prozoru) godine.
Akter
Blokirali smo više računa koji su potencijalno korišteni za provođenje obmanjujuće šeme zapošljavanja. Aktivnost koju smo uočili u skladu je s taktikama, tehnikama i procedurama (TTP) koje su Microsoft(otvara se u novom prozoru) i Google(otvara se u novom prozoru) pripisali šemi s IT radnicima koja je potencijalno povezana sa Sjevernom Korejom.
Iako ne možemo utvrditi lokacije ni državljanstva aktera, aktivnost koju smo prekinuli imala je obilježja o kojima je javno izvještavano(otvara se u novom prozoru) u vezi s nastojanjima sjevernokorejske države da ostvaruje prihode putem obmanjujućih šema zapošljavanja, u kojima pojedinci prevarom dobijaju radna mjesta u zapadnim kompanijama kako bi podržali finansijsku mrežu režima.
Ponašanje
Različiti računi koristili su naše modele za generiranje sadržaja koji je naizgled bio usmjeren na svaki korak procesa zapošljavanja kroz različite obmanjujuće prakse, osmišljene tako da se međusobno podržavaju.
Akteri su koristili virtuelne privatne mreže (VPN), alate za udaljeni pristup poput AnyDeska i telefone za prijenos glasa putem internetskog protokola (VoIP), koji su uglavnom prikazivani kao da se nalaze u Sjedinjenim Američkim Državama. Iako imamo ograničen uvid u načine na koje su ovi akteri distribuirali sadržaj, pronašli smo sadržaj objavljen na LinkedInu.
Generirani rezultati
Jedna od glavnih vrsta sadržaja koji su ovi akteri generirali bila je lična dokumentacija za izmišljene „kandidate za posao“, poput biografija, internetskih profila za traženje posla i motivacionih pisama. Te biografije i profili često su prilagođavani konkretnom oglasu za posao kako bi kandidati imali veće izglede da djeluju dobro kvalificirano. Druga vrsta sadržaja odnosila se na stvaranje „pomoćnih“ identiteta, koji su služili za davanje preporuka za „kandidate za posao“ i njihovo preporučivanje za poslovne prilike.
Operateri su istovremeno pripremali objave za društvene mreže kako bi vrbovali stvarne osobe da podrže njihove šeme. To je, naprimjer, uključivalo osobe spremne da na svojoj kućnoj adresi prime i drže prijenosne računare ili ustupe svoj identitet za potrebe šeme kako bi kandidatima omogućile da prođu sigurnosne provjere.
Na kraju, čini se da su osobe koje su se predstavljale kao „kandidati za posao“ koristile naše modele tokom intervjua kako bi generirale uvjerljive odgovore na tehnička pitanja i pitanja o ponašanju. Međutim, nismo primijetili da koriste naše alate za pretvaranje govora u govor.
Nakon što bi naizgled dobili posao, koristili su naše modele za obavljanje poslovnih zadataka poput pisanja koda, otklanjanja poteškoća i dopisivanja s kolegama. Naše modele koristili su i za osmišljavanje izgovora kojima bi objasnili neobično ponašanje, poput izbjegavanja videopoziva, pristupanja korporativnim sistemima iz nedozvoljenih zemalja ili rada u neuobičajeno vrijeme.
Primjer sadržaja koji je ovaj akter generirao pomoću naših modela, a zatim objavio na društvenoj mreži, očigledno s ciljem vrbovanja građana SAD-a da nesvjesno podrže njegovu šemu.
Utjecaj
Budući da imamo uvid u samo mali dio ovih ukupnih aktivnosti, za procjenu njihovog utjecaja bili bi potrebni podaci više zainteresiranih strana.
Pravila OpenAI-ja strogo zabranjuju korištenje rezultata naših alata za prevare ili obmane. Istragom obmanjujućih šema zapošljavanja identificirali smo i blokirali desetine računa. Saznanja o prevarantskim mrežama čije smo djelovanje prekinuli podijelili smo s drugim kompanijama u industriji i nadležnim organima, čime smo unaprijedili zajedničku sposobnost otkrivanja, sprečavanja i suzbijanja takvih prijetnji te doprinijeli zajedničkoj sigurnosti.