Сајбер операција: подршка за фишинг и скриптовање

Ова студија случаја првобитно је објављена у извештају компаније OpenAI за октобар 2025.⁠(отвара се у новом прозору)

Идентификовали смо и забранили групу ChatGPT налога укључених у активности које су се преклапале с јавно објављеним подацима о групама за претње које се у сектору прате под називима UNK_DROPPITCH (Proofpoint) и UTA0388 (Volexity). У најмање једном случају, адреса е-поште коришћена за регистрацију ChatGPT налога наводно је коришћена и за слање фишинг порука.

Актери претњи који су управљали овим налозима показивали су обележја својствена сајбер операцијама које служе обавештајним потребама НР Кине: употребу кинеског језика и усмереност на тајвански сектор полупроводника, америчку академску заједницу и истраживачке центре, као и организације повезане с етничким и политичким групама критичним према КП Кине, које се понекад називају „пет отрова“.

Наш модел није омогућио нове офанзивне способности. Изгледа да су оператери наше моделе првенствено користили да постепено повећају ефикасност постојећих токова рада, нарочито при изради фишинг садржаја и отклањању грешака у својим алаткама или њиховом мењању.

Актери су користили ChatGPT за два главна задатка: генерисање садржаја за фишинг кампање на више језика, укључујући кинески у поједностављеном и традиционалном писму, енглески и јапански, као и помоћ при развоју алатки и малвера. Њихов развојни рад одговарао је технички способном, али не и нарочито софистицираном актеру. На пример, разматрали су више аспеката и специфичности коришћења алгоритма AES за заштиту C2 саобраћаја, али су ипак користили једноставан статички кључ.

Методологија актера за израду фишинг садржаја била је детаљна и шаблонска, што одговара усмерености на уско дефинисану демографску групу. Обично би генерисали сажету и формално учтиву поруку е-поште представљајући се као припадник академске заједнице, представник сектора или учесник конференције. Актери претњи често су тражили да се прилагоди тон, замене изрази у складу с регионалном употребом или додају референце на конкретне институције. Иако ове циљане ситне измене указују на систематичан покушај да побољшају квалитет почетног садржаја, актери претњи нису исправили неке детаље који су их одавали, попут неуверљивих примера контакт података у потписима.

Тражили су исечке кода и контролне листе који би убрзали рутинске задатке. Тражили су код за тестирање шифрованих преносних протокола (HTTPS, TLS) за једноставно периодично јављање налик сигналу; осмишљавали су исечке кода у језику Go и алатки PowerShell за пописивање процеса, њихово окончавање према називу извршне датотеке или прикупљање података о окружењу; и повезивали широко доступне скенере с омотачима у алаткама bash и PowerShell.

Од модела су тражили и предлоге за једноставно прикривање и мања побољшања оперативне безбедности (OPSEC): преименовање функција, прилагођавање заглавља или скривање ниски. Током више сесија настојали су да направе основне прототипове за командовање и контролу, својствене малверу ниског до средњег нивоа зрелости, укључујући keep-alive петље, минимално задавање задатака преко протокола HTTP(S) и омотаче задатака и резултата засноване на формату JSON.

Детаљи имплементације у неким развојним активностима актера заснованим на језику Go преклапају се са секторским извештајима о малверу који се прати под називима GOVERSHELL (Volexity) или HealthKick (Proofpoint), што указује на то да су покушали да помоћу модела подрже развој свог главног малвера.

Упоредо с развојем ових лажних идентитета и алатки, оператери су истраживали додатну аутоматизацију коју би могли да остваре помоћу система DeepSeek. Ова активност је личила на истраживачки рад усмерен на аутоматизацију масовног фишинга, на пример анализирањем веб-садржаја ради аутоматског прављења списка прималаца е-поште и генерисања садржаја који би вероватно занимао сваку препознату потенцијалну мету. Не можемо независно да потврдимо да ли су актери применили било какву такву аутоматизацију нити који су модел на крају можда користили ако јесу.

Актери су покушали да користе наше моделе за планирање и постепено усавршавање шифрованих C2 компоненти, токова рада за даљинско извршавање команди и обраћања прилагођеног локалној култури, при чему су пре свега ценили брзину и локализацију, а не нове офанзивне способности. Генерисали су резултате модела који су, по свему судећи, били намењени подршци активностима ван наше платформе у више оперативних области:

• Шифровани C2 и даљинско извршавање: захтеви за писање или исправљање клијентско-серверског кода у језику Go са шифровањем порука као што је AES-GCM, обнављањем кључа сесије, сигналима са системским подацима и серверском конзолом за задавање PowerShell команди преко стандардних веб-протокола или канала заснованог на протоколу WebSocket.

• Заштита саобраћаја и OPSEC измене: захтеви су обухватали код који подржава прелазак са обичног протокола WebSocket на безбедни WebSocket (wss://), као и са протокола HTTP на HTTPS; онемогућавање провере сертификата у неким тестовима; прикривање саобраћаја помоћу CDN/TLS приступног слоја; и обраду већих порука без отказивања клијента.

• Извиђање и контрола процеса: захтеви за информације о откривању антивирусног софтвера помоћу алатке PowerShell, пописивању процеса и окончавању одређених процеса Edge/WebView2.

• Подешавање широко доступних скенера: упутства за инсталирање и коришћење алатки отвореног кода као што су nuclei и fscan на комерцијалној Linux инфраструктури и чување резултата за каснији преглед.

• Садржај за фишинг и обраћање: састављање убедљивих порука е-поште на више језика за контакте из академске заједнице или сектора, укључујући наслове и стил прилагођене локалним нормама.

Ове активности одговарају категоријама ATT&CK за велике језичке моделе (LLM), укључујући израду корисног терета оптимизовану великим језичким моделом (LLM), избегавање откривања аномалија унапређено великим језичким моделом (LLM), активности након компромитовања потпомогнуте великим језичким моделом (LLM), извиђање и откривање потпомогнуто великим језичким моделом (LLM) и друштвени инжењеринг потпомогнут великим језичким моделом (LLM).

Онемогућили смо све налоге повезане с овом активношћу и поделили релевантне показатеље с партнерима у сектору. Актери су првенствено настојали да постепено повећају ефикасност постојећих токова рада, укључујући израду фишинг порука е-поште спремних за слање и скраћивање циклуса измена рутинског кода и аутоматизације. Нисмо видели доказе да су резултати модела омогућили способности које превазилазе добро документоване јавне технике; наш модел није омогућио нове офанзивне способности. Предност у оперативним техникама коју су желели да стекну помоћу модела потицала је од језичке течности, локализације и упорности: вероватно мање језичких грешака, брже израде помоћног кода и бржег прилагођавања када нешто не успе.