Операција „ScopeCreep“: развој злонамерног софтвера на руском језику

Ова студија случаја првобитно је објављена у извештају компаније OpenAI из јуна 2025.⁠(отвара се у новом прозору) године.

Забранили смо групу ChatGPT налога за које се чинило да их контролише актер претње који говори руски. Овај актер је користио наше моделе као помоћ при развоју и усавршавању злонамерног софтвера за Windows, отклањању грешака у коду на више језика и постављању инфраструктуре за командовање и контролу.

Актер је показао познавање унутрашњег функционисања система Windows и примењивао одређене мере оперативне безбедности. Због усмерености операције на тројанизовану алатку за приказ „нишана“ у играма и њених прикривених тактика, назвали смо је „ScopeCreep“.

Овај актер претње примењивао је упечатљив приступ оперативној безбедности. Користио је привремене адресе е-поште за отварање ChatGPT налога, при чему је сваки налог ограничавао на један разговор о једном постепеном побољшању свог кода. Затим би напустио првобитни налог и отворио нови.

Актер је злонамерни софтвер ScopeCreep дистрибуирао преко јавно доступног депоа кода који се представљао као легитимна и популарна алатка за приказ нишана у видео-играма (Crosshair-X). Када би корисници који ништа нису сумњали преузели и покренули злонамерну верзију, на њиховом систему би се активирао учитавач злонамерног софтвера, који је затим преузимао и извршавао додатне злонамерне датотеке са инфраструктуре нападача.

Злонамерни софтвер је потом покретао вишефазни процес ради повећања привилегија, прикривеног и трајног задржавања у систему, обавештавања актера претње и извлачења осетљивих података уз избегавање откривања.

Актер претње је користио наш модел као помоћ у постепеном развоју злонамерног софтвера, непрекидно тражећи од ChatGPT‑а да додаје нове конкретне функције. ScopeCreep је примењивао низ техника за испоруку, извршавање, избегавање откривања и извлачење података, укључујући:

• C2 корисне садржаје осмишљене тако да избегну откривање засновано на потписима.

• Прикривено извршавање бочним учитавањем DLL датотека.

• Прикривање кода прилагођеним паковањем помоћу алатке Themida.

• Повећање привилегија и избегавање откривања.

• HTTPS преко порта 80.

• Крађу приступних података и сесија.

• Обавештавање нападача преко Telegram-а.

• Прикривање саобраћаја посредством проксија.

Упркос мерама оперативне безбедности актера претње и механизмима за избегавање откривања у самом злонамерном софтверу, успели смо да откријемо ову активност захваљујући нашем поступку за масовно откривање злоупотреба у сајбер-простору. Сарађивали смо са добављачем услуге хостовања кода како бисмо уклонили злонамерни депо и забранили све ChatGPT налоге повезане са овом активношћу.

Интеракције са моделом из ове групе обухватале су широк спектар развојних задатака. Једна је садржала исечак кода у језику Go у којем је актер претње имао потешкоћа са HTTPS захтевом, па је затражио од модела да отклони грешку. У другом случају, актер претње је затражио помоћ за коришћење PowerShell команди преко језика Go како би изменио подешавања програма Windows Defender и програмски додао AV изузетке.

Репрезентативни примери ових активности могу се мапирати на оквир ATT&CK за велике језичке моделе (LLM) на следећи начин:

• Коришћење великих језичких модела (LLM) за компајлирање датотеке python310.dll тако да се њихов код изврши сваки пут када се покрене python.exe: развој уз помоћ великог језичког модела (LLM).

• Отклањање грешака са SSL/TLS сертификатима намењеним опслуживању HTTPS саобраћаја на порту 80: развој уз помоћ великог језичког модела (LLM).

• Пребацивање C2 сервера заснованог на оквиру Flask на WSGI сервер спреман за продукционо окружење, уз помоћ модела: развој уз помоћ великог језичког модела (LLM).

• Развој PowerShell команди у језику Go за измену подешавања програма Windows Defender и додавање AV изузетака: избегавање откривања аномалија унапређено великим језичким моделом (LLM).

• Отклањање грешака у коду који обавештава Telegram канал под контролом нападача када нова жртва буде компромитована: активност након компромитовања уз помоћ великог језичког модела (LLM).

У овој фази, утицај операције ScopeCreep можда је ублажен захваљујући брзом пријављивању и блиској сарадњи са партнерима из сектора који су успели да уклоне злонамерни депо. Забранили смо OpenAI налоге које је овај противник користио.

Процењујемо да је овај актер претње користио наше моделе у покушају да убрза развој злонамерног софтвера. Парадоксално, то нам је истовремено омогућило да брзо препознамо и прекинемо претњу, по свему судећи у њеној раној фази.

Иако могућности овог злонамерног софтвера обухватају повећање привилегија, трајно задржавање у систему, прикупљање приступних података и даљински приступ, оне нису нарочито нове. Иако је овај злонамерни софтвер вероватно био активан у стварним нападима, а неки узорци су се појавили на платформи VirusTotal, нисмо пронашли доказе о ширем интересовању или дистрибуцији.