Сајбер операција: алати за злонамерни софтвер на руском језику
OpenAI је забранио налоге вероватно повезане с криминалним групама које говоре руски и користе вештачку интелигенцију за израду учитавача злонамерног софтвера, слојева за избегавање откривања, скрипти за крађу акредитива и C2 инфраструктуре.
Ова студија случаја првобитно је објављена у извештају компаније OpenAI за октобар 2025.(отвара се у новом прозору)
Актер претње
Забранили смо ChatGPT налоге преко којих је покушавано да се модел употреби за развој и усавршавање злонамерног софтвера, укључујући тројанац за даљински приступ, алате за крађу акредитива и функције за избегавање откривања. Изгледа да су ови налози повезани с криминалним групама које говоре руски, пошто смо приметили да на Telegram каналу посвећеном тим актерима објављују доказе о својим активностима. На основу истраге процењујемо да је ова активност била повезана са оператером који говори руски, управља већим бројем налога и користи проксије и привремену инфраструктуру за хостовање.
Понашање
Овај актер претње користио је више ChatGPT налога првенствено за израду прототипова и отклањање проблема у техничким компонентама које омогућавају активности након компромитовања система и крађу акредитива, што су добро познате активности ове врсте актера. Модел је одбијао директне захтеве за генерисање злонамерног садржаја, па је оператер модел обично користио да добије код за појединачне градивне компоненте, као што су претварање компајлираних извршних датотека у шелкод, пројектовање учитавача који раде у меморији и рашчлањивање акредитива из прегледача. Актер претње је те компоненте потом вероватно повезивао у злонамерне токове рада.
Актер претње је наше моделе користио и за генерисање кода за обфускацију и обрасце „криптера“, као што су уметање допунских инструкција и бескорисних секвенци, надгледање привремене меморије и једноставни помоћни алати за извлачење података, укључујући отпремање путем Telegram бота и скрипте за архивирање и слање. Ови резултати нису сами по себи злонамерни, осим ако их актер претње не употреби у те сврхе изван наше платформе.
Актер претње је ChatGPT претежно користио за техничке задатке, као што су нисконивоски рад са PE / Win32 API, обрада колачића помоћу DPAPI / AES GCM и аутоматизација путем Chrome DevTools / CDP. Актер претње је упућивао захтеве различитог степена сложености: многи упити захтевали су темељно познавање платформе Windows и итеративно отклањање грешака, док су други аутоматизовали уобичајене задатке, попут масовног генерисања лозинки и пријављивања за посао помоћу скрипти. Оператер је користио мали број ChatGPT налога и у различитим разговорима постепено дорађивао исти код, што указује на континуиран развој, а не на повремено тестирање.
Резултати
Наши модели нису коришћени за извршавање алата и токова рада актера претње, а активности изван наше платформе не можемо независно да потврдимо. Овај актер претње покушао је да употреби наше моделе за развој и усавршавање офанзивних алата и оперативних токова рада који, по свему судећи, омогућавају крађу акредитива и криптоимовине, прикривено извршавање кода и управљање тајном инфраструктуром.
Конкретно, користио је ChatGPT за генерисање и постепено усавршавање функционалног кода и упутстава за примену ради извршавања у меморији и учитавања шелкода; заобилажења механизама UAC / SmartScreen / Mark-of-the-Web; издвајања акредитива и колачића из прегледача и припреме оквира за дешифровање везано за апликацију; рашчлањивања LevelDB података новчаника и алата за отимање или замену садржаја привремене меморије уз извлачење података; као и компоненти за даљински приступ (RAT), укључујући видео и емулацију уноса. У складу са својим заштитним механизмима, наши модели су одбијали захтеве који су били очигледно злонамерни и нису имали никакву легитимну примену.
Репрезентативни примери ових активности могу се мапирати на оквир ATT&CK за велике језичке моделе (LLM) на следећи начин:
Активност | Категорија оквира ATT&CK за велике језичке моделе (LLM) |
|---|---|
Претварање EXE датотека у позиционо независан шелкод; израда учитавача који раде у меморији (VirtualAlloc / WriteProcessMemory / удаљена нит); конверзије програмских језика за ланце алата учитавача. | Израда корисног терета оптимизована за велики језички модел (LLM) |
Уметање слојева за обфускацију и паковање, криптера и техника које су вероватно осмишљене да измене PE потписе или на други начин сакрију корисни терет од AV/EDR система. | Избегавање откривања аномалија унапређено великим језичким моделом (LLM) |
Генерисање скрипти и програмског кода вероватно намењених издвајању и дешифровању акредитива и колачића из прегледача, рашчлањивању LevelDB података новчаника, надгледању или замени садржаја привремене меморије и извлачењу података преко канала ботова као што је Telegram. | Активност након компромитовања уз помоћ великог језичког модела (LLM) |
Изградња и усавршавање C2 инфраструктуре и инфраструктуре за тунеловање, укључујући реверзне проксије, SOCKS5 / OpenVPN конфигурације, тунеловање удаљене радне површине и упутства за отклањање грешака и примену даљинског стримовања и емулације уноса. | Профилисање инфраструктуре вођено великим језичким моделом (LLM) |
Утицај
Онемогућили смо све налоге повезане с овом активношћу и поделили релевантне показатеље с партнерима у сектору. Нисмо пронашли доказе да је приступ нашим моделима овим актерима пружио нове могућности или смернице које иначе нису могли да добију из бројних јавно доступних извора. Наши модели су одбијали директне захтеве за експлоатационе програме и бележнике притисака на тастере.