Измамничка шема за вработување: активности на ИТ-работници

Оваа студија на случај првично беше објавена во извештајот на OpenAI од јуни 2025 година⁠(се отвора во нов прозорец).

Идентификувавме и блокиравме сметки на ChatGPT поврзани со активности што наликуваа на повеќе сомнителни измамнички кампањи за вработување. Овие злонамерни актери ги користеа моделите на OpenAI за изработка на материјали за поддршка на можни измамнички обиди за пријавување на работни места во ИТ, софтверско инженерство и други работни места на далечина низ светот.

Иако не можеме да ги утврдиме локациите или националностите на злонамерните актери, нивното однесување се совпаѓаше со активности што јавно им се припишуваат на шеми поврзани со Северна Кореја (ДНРК)⁠(се отвора во нов прозорец) во кои се вклучени ИТ-работници. Некои од актерите поврзани со овие неодамнешни кампањи можеби биле ангажирани како надворешни соработници од главната група злонамерни актери со можни врски со ДНРК, за да извршуваат задачи за пријавување за работа и да управуваат со хардвер, вклучително и во САД.

Слично на злонамерните актери чии активности ги спречивме и за кои пишувавме во февруари⁠(се отвора во нов прозорец), и во најновите кампањи имаше обиди за користење ВИ во секој чекор од процесот на вработување. Претходно забележавме дека овие актери користат ВИ за рачно генерирање уверливи лажни идентитети, често со наводно живеалиште во САД и со измислено работно искуство во познати компании. Овојпат се обидоа донекаде да го автоматизираат генерирањето професионални биографии. Некои показатели укажуваат на оператори во Африка што се претставувале како кандидати за работа, а покрај тоа, регрутирале луѓе во Северна Америка за да управуваат со лаптопи во нивно име.

Откривме две различни линии на активност, кои веројатно одговараат на два типа оператори: главни оператори и надворешни соработници.

Главните оператори се обидоа да го автоматизираат создавањето професионални биографии врз основа на конкретни описи на работни места, шаблони за вештини и профили на лажни идентитети. Бараа и информации за изработка на алатки за управување со пријавите за работа и нивно следење. Ги користеа нашите модели и за генерирање содржини што наликуваа на огласи за работа наменети за регрутирање надворешни соработници во различни делови од светот.

Главните оператори го користеа ChatGPT како алатка за истражување за да добијат информации за воспоставување услови за работа од далечина. Ги користеа нашите модели и за генерирање текстови за регрутирање вистински лица во САД што би примале лаптопи испратени од компаниите. На тие лаптопи потоа од далечина би пристапувале главните злонамерни актери или нивните надворешни соработници.

Злонамерните актери истражуваа како да користат алатки како што се VPN-мрежата Tailscale со директно поврзување меѓу уреди, OBS Studio, вметнување видеопренос во живо преку vdo.ninja и јамки за снимање HDMI-сигнал во рамките на своите операции. Овие алатки потенцијално може да се користат за заобиколување на безбедносните мерки на компаниите. Ако тоа успее, би овозможиле некому да одржува постојано, неоткриено присуство од далечина, како и да се обиде да заобиколи некои постапки за проверка на идентитетот што се потпираат на видеосостаноци во живо.

Во меѓувреме, операторите што можеби биле надворешни соработници го користеа ChatGPT како помош при извршување задачи за пријавување за работа. Го користеа и за генерирање содржини што наликуваа на пораки до главните оператори со прашања за исплатите и за лажните идентитети користени при пријавување за работа од далечина.

Утврдивме дека овие злонамерни актери се обиделе да ги користат нашите модели за измамничка операција. Поконкретно, користеа детални промптови, инструкции и циклуси за автоматизација за масовно генерирање приспособени, уверливи професионални биографии.

• Автоматизирано создавање детални професионални биографии усогласени со различни описи на технолошки работни места, лажни идентитети и норми во индустријата: социјален инженеринг со поддршка од големи јазични модели (LLM).

• Одговарање на прашања во пријави за работа, решавање програмерски задачи и одговарање на прашања за време на интервјуа, врз основа на прикачени професионални биографии: социјален инженеринг со поддршка од големи јазични модели (LLM).

• Барање насоки за далечинско конфигурирање лаптопи издадени од компании за да изгледа дека се наоѓаат во земјата, вклучително и методи за прикривање на геолокацијата и заобиколување на безбедносната заштита на крајните уреди: избегнување на откривањето аномалии со помош на големи јазични модели (LLM).

• Помош при програмирање алатки за автоматско движење на глувчето или за далечинско спречување на преминувањето на компјутерот во режим на мирување, можеби за поддршка при воспоставување инфраструктура за работа од далечина: развој со помош на големи јазични модели (LLM).

Не можеме независно да ја процениме успешноста на овие операции, бидејќи за процена на влијанието би биле потребни информации од повеќе засегнати страни.

Иако злонамерните актери веројатно вклучиле ВИ во секој чекор од својот процес за да ја зголемат ефикасноста, со тоа се зголемила и можноста да бидат откриени. Со тоа што ни дадоа увид во своите работни процеси, ни овозможија да споделиме сознанија за овие кампањи со релевантни колеги од индустријата и надлежни органи за секоја фаза од нивните активности. Така ја зајакнавме нашата заедничка способност да откриваме, спречуваме и да одговараме на вакви закани, истовремено унапредувајќи ја заедничката безбедност.