Обмањујућа шема запошљавања: обмана при запошљавању уз помоћ вештачке интелигенције

Ова студија случаја првобитно је објављена у извештају компаније OpenAI за фебруар 2025.⁠(отвара се у новом прозору) године.

Забранили смо више налога који су можда коришћени за спровођење обмањујуће шеме запошљавања. Активности које смо уочили подударају се с тактикама, техникама и процедурама (TTP) које су Microsoft⁠(отвара се у новом прозору) и Google⁠(отвара се у новом прозору) приписали шеми са IT радницима која је можда повезана са Северном Корејом.

Иако не можемо да утврдимо локације или националности актера, активности које смо прекинули имале су карактеристике јавно описане⁠(отвара се у новом прозору) у вези с настојањима Северне Кореје да остварује приход путем обмањујућих шема запошљавања, у којима појединци преваром добијају послове у западним компанијама како би подржали финансијску мрежу режима.

Различити налози користили су наше моделе за генерисање садржаја који је, по свему судећи, био усмерен на сваки корак поступка регрутовања и обухватао различите обмањујуће праксе осмишљене тако да се међусобно допуњују.

Актери су користили виртуелне приватне мреже (VPN), алате за даљински приступ као што је AnyDesk и телефоне за пренос гласа преко IP-а (VOIP), који су углавном изгледали као да се налазе у Сједињеним Државама. Иако имамо ограничен увид у начине на које су ови актери дистрибуирали садржај, препознали смо садржај објављен на мрежи LinkedIn.

Једну главну групу садржаја који су ови актери генерисали чинила је лична документација за измишљене „кандидате за посао“, попут радних биографија, онлајн профила за запошљавање и пропратних писама. Ове радне биографије и профили често су прилагођавани конкретном огласу за посао како би се повећале шансе да кандидат делује добро квалификовано. Другу групу чиниле су „помоћне“ персоне, коришћене за давање препорука за „кандидате за посао“ и њихово препоручивање за запошљавање.

Оператери су истовремено осмишљавали објаве за друштвене мреже како би регрутовали стварне људе да подрже њихове шеме. То је, на пример, обухватало особе спремне да приме лаптопове и држе их у свом дому или да уступе свој идентитет за потребе шеме како би кандидати могли да прођу безбедносне провере.

На крају, изгледа да су персоне „кандидата за посао“ користиле наше моделе током разговора за посао како би генерисале уверљиве одговоре на техничка питања и питања о понашању. Међутим, нисмо уочили да користе наше алате за конвертовање из говора у говор.

Након што су, по свему судећи, добили посао, користили су наше моделе за обављање радних задатака као што су писање кода, решавање техничких проблема и размена порука са колегама. Наше моделе користили су и за осмишљавање уверљивих објашњења за необично понашање, попут избегавања видео-позива, приступања корпоративним системима из неодобрених земаља или рада у неуобичајено време.

Будући да имамо увид само у мали део свих ових активности, за процену њиховог утицаја били би потребни подаци више заинтересованих страна.

Правила компаније OpenAI строго забрањују коришћење резултата наших алата за преваре или обмане. Истрагом обмањујућих шема запошљавања открили смо и забранили десетине налога. Сазнања о преварантским мрежама чије смо деловање прекинули поделили смо с колегама из сектора и надлежним органима, чиме смо унапредили заједничку способност откривања, спречавања и сузбијања таквих претњи, као и нашу заједничку безбедност.