Kibernetinė operacija: rusakalbių kenkimo programų įrankiai
OpenAI užblokavo paskyras, veikiausiai susijusias su rusakalbių nusikaltėlių grupuotėmis, kurios pasitelkė DI kenkimo programų įkėlikliams, aptikimo išvengimo sluoksniams, prisijungimo duomenų vagystės scenarijams ir C2 infrastruktūrai kurti.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. spalio(atsidaro naujame lange) ataskaitoje.
Veikėjas
Užblokavome ChatGPT paskyras, kurias bandyta naudoti siekiant pasitelkus modelį kurti ir tobulinti kenkimo programas, įskaitant nuotolinės prieigos Trojos arklį, prisijungimo duomenų vagystės priemones ir aptikimo išvengimo funkcijas. Panašu, kad šios paskyros susijusios su rusakalbių nusikaltėlių grupuotėmis, nes matėme, kaip jų veiklos įrodymai skelbiami šiems veikėjams skirtame Telegram kanale. Remdamiesi tyrimu vertiname, kad ši veikla buvo susijusi su rusakalbiu Operator, valdžiusiu kelias paskyras ir naudojusiu tarpinius serverius bei trumpalaikio prieglobos infrastruktūrą.
Elgsena
Šis grėsmės veikėjas kelias ChatGPT paskyras daugiausia naudojo techninių komponentų, skirtų veiklai po įsilaužimo ir prisijungimo duomenims vogti, prototipams kurti bei triktims šalinti. Tokia veikla būdinga šio tipo grėsmės veikėjams. Modelis atmetė tiesioginius prašymus generuoti kenkėjišką turinį, todėl Operator paprastai naudojo modelį atskiriems kodo komponentams gauti, pavyzdžiui, sukompiliuotiems vykdomiesiems failams konvertuoti į shellcode, atmintyje veikiantiems įkėlikliams projektuoti ar naršyklės prisijungimo duomenims analizuoti. Tikėtina, kad vėliau grėsmės veikėjas šiuos komponentus sujungė į kenkėjiškus procesus.
Grėsmės veikėjas mūsų modelius taip pat naudojo kodui, skirtam maskuoti ir „crypter“ šablonams, generuoti, pavyzdžiui, užpildymo instrukcijoms ir nereikalingoms sekoms įterpti, iškarpinei stebėti bei paprastoms duomenų išgavimo priemonėms kurti, įskaitant failų įkėlimo per Telegram botą ir archyvavimo bei išsiuntimo scenarijus. Šie rezultatai savaime nėra kenkėjiški, nebent grėsmės veikėjas juos taip panaudoja už mūsų platformos ribų.
Grėsmės veikėjas ChatGPT daugiausia naudojo techninėms užduotims, pavyzdžiui, žemo lygio PE / Win32 API ir DPAPI / AES GCM slapukų apdorojimui bei Chrome DevTools / CDP automatizavimui. Grėsmės veikėjas teikė ir sudėtingas, ir paprastesnes užklausas: daugeliui raginimų reikėjo išsamių Windows platformos žinių ir nuoseklaus derinimo, o kitais buvo automatizuojamos įprastos užduotys, pavyzdžiui, masinis slaptažodžių generavimas ir automatizuotas kandidatavimas į darbo vietas. Operator naudojo nedaug ChatGPT paskyrų ir skirtinguose pokalbiuose nuosekliai tobulino tą patį kodą. Toks veiklos modelis būdingas tęstiniam kūrimui, o ne pavieniams bandymams.
Rezultatai
Mūsų modeliai nebuvo naudojami grėsmės veikėjo įrankiams ar procesams vykdyti, o jokios už platformos ribų vykdytos veiklos negalime nepriklausomai patvirtinti. Šis grėsmės veikėjas bandė naudoti mūsų modelius puolimo įrankiams ir veiklos procesams kurti bei tobulinti. Panašu, kad šie įrankiai ir procesai skirti prisijungimo duomenims bei kriptoturtui vogti, kodui nepastebimai vykdyti ir slaptai infrastruktūrai valdyti.
Konkrečiai, ChatGPT naudotas veikiančiam kodui generuoti bei tobulinti ir diegimo rekomendacijoms gauti dėl vykdymo atmintyje ir shellcode įkėliklių; UAC / SmartScreen / Mark-of-the-Web apėjimo; naršyklių prisijungimo duomenų bei slapukų išgavimo ir su programėle susieto iššifravimo karkasų; LevelDB piniginių analizės ir iškarpinės užgrobimo ar jos turinio pakeitimo įrankių su duomenų išgavimo funkcijomis; taip pat nuotolinės prieigos Trojos arklio (RAT) komponentų, įskaitant vaizdo ir įvesties imitavimą. Kaip ir numatyta apsaugos priemonėse, mūsų modeliai atmetė aiškiai kenkėjiškas užklausas, neturinčias jokio teisėto pritaikymo.
Tipinius šios veiklos pavyzdžius galima susieti su LLM ATT&CK sistema taip:
Veikla | LLM ATT&CK sistemos kategorija |
|---|---|
EXE failų konvertavimas į nuo padėties nepriklausantį shellcode; atmintyje veikiančių įkėliklių kūrimas (VirtualAlloc / WriteProcessMemory / nuotolinė gija); įkėliklių įrankių grandinių konvertavimas į kitas programavimo kalbas. | LLM optimizuotas naudingosios apkrovos kūrimas |
Maskavimo ar pakavimo sluoksnių, „crypter“ priemonių ir metodų, tikriausiai skirtų PE parašams pakeisti ar naudingajai apkrovai kitaip paslėpti nuo AV / EDR, įterpimas. | LLM sustiprintas anomalijų aptikimo išvengimas |
Scenarijų ir programinio kodo, tikriausiai skirto naršyklių prisijungimo duomenims bei slapukams išgauti ar iššifruoti, piniginių LevelDB duomenims analizuoti, iškarpinės turiniui stebėti ar pakeisti ir duomenims išgauti per botų kanalus, pavyzdžiui, Telegram, generavimas. | LLM padedama veikla po įsilaužimo |
C2 ir tuneliavimo infrastruktūros kūrimas bei tobulinimas, įskaitant atvirkštinius tarpinius serverius, SOCKS5 / OpenVPN konfigūracijas, nuotolinio darbalaukio tuneliavimą, taip pat derinimo ir diegimo rekomendacijas dėl nuotolinio srautinio perdavimo bei įvesties imitavimo. | LLM valdomas infrastruktūros profiliavimas |
Poveikis
Išjungėme visas su šia veikla susijusias paskyras ir perdavėme atitinkamus indikatorius sektoriaus partneriams. Neradome įrodymų, kad prieiga prie mūsų modelių būtų suteikusi šiems veikėjams naujų galimybių ar veiklos krypčių, kurių jie nebūtų galėję rasti daugelyje viešai prieinamų šaltinių. Mūsų modeliai atmetė tiesioginius prašymus, susijusius su pažeidžiamumų išnaudojimu ir klavišų paspaudimų registravimo programomis.