Kiberoperācija: krievvalodīgo izmantotie ļaunprogrammatūras rīki
OpenAI bloķēja kontus, kas, iespējams, saistīti ar krievvalodīgiem noziedzīgiem grupējumiem un izmantoja MI ļaunprogrammatūras ielādētāju, apiešanas slāņu, piekļuves datu zagšanas skriptu un C2 infrastruktūras izveidei.
Šis gadījuma pētījums sākotnēji tika publicēts OpenAI 2025. gada oktobra(atveras jaunā logā) ziņojumā.
Dalībnieks
Mēs bloķējām ChatGPT kontus, kuros modeli mēģināja izmantot, lai izstrādātu un pilnveidotu ļaunprogrammatūru, tostarp attālās piekļuves Trojas zirgu, piekļuves datu zagšanas rīkus un funkcijas atklāšanas apiešanai. Šie konti, šķiet, ir saistīti ar krievvalodīgiem noziedzīgiem grupējumiem, jo novērojām, ka ar pierādījumiem par savām darbībām tie dalījās šādiem grupējumiem paredzētā Telegram kanālā. Pamatojoties uz izmeklēšanu, mēs uzskatām, ka šī darbība bija saistīta ar krievvalodīgu operatoru, kurš pārvaldīja vairākus kontus un izmantoja starpniekserverus un īslaicīgu mitināšanas infrastruktūru.
Rīcība
Šis apdraudējuma dalībnieks izmantoja vairākus ChatGPT kontus galvenokārt tādu tehnisko komponentu prototipēšanai un problēmu novēršanai, kas nodrošina darbības pēc sistēmas kompromitēšanas un piekļuves datu zādzību — šāda veida dalībniekiem labi zināmas darbības. Modelis noraidīja tiešus pieprasījumus ģenerēt ļaunprātīgu saturu, tāpēc operators parasti mēģināja no modeļa iegūt atsevišķus koda komponentus, piemēram, kompilētus izpildfailus pārveidot čaulas kodā, izstrādāt atmiņā darbināmus ielādētājus vai parsēt pārlūkprogrammu piekļuves datus. Apdraudējuma dalībnieks šos komponentus pēc tam, visticamāk, apvienoja ļaunprātīgās darbplūsmās.
Apdraudējuma dalībnieks mūsu modeļus izmantoja arī, lai ģenerētu kodu maskēšanai un „crypter” paņēmieniem, piemēram, aizpildījuma instrukciju un lieku secību ievietošanai, starpliktuves uzraudzībai un vienkāršiem datu izfiltrēšanas palīgrīkiem, tostarp Telegram robotam failu augšupielādei un arhivēšanas un nosūtīšanas skriptiem. Šie rezultāti paši par sevi nav ļaunprātīgi, ja vien apdraudējuma dalībnieks tos šādi neizmanto ārpus mūsu platformas.
Apdraudējuma dalībnieks ChatGPT galvenokārt izmantoja tehniskiem uzdevumiem, piemēram, zema līmeņa darbam ar PE / Win32 API, sīkfailu apstrādei ar DPAPI / AES GCM un Chrome DevTools / CDP automatizācijai. Apdraudējuma dalībnieks iesniedza gan tehniski sarežģītus, gan vienkāršākus pieprasījumus: daudzām uzvednēm bija vajadzīgas padziļinātas Windows platformas zināšanas un iteratīva atkļūdošana, savukārt citas automatizēja standartizētus uzdevumus, piemēram, paroļu masveida ģenerēšanu un automatizētu pieteikšanos darbam. Operators izmantoja nelielu skaitu ChatGPT kontu un vairākās sarunās atkārtoti pilnveidoja vienu un to pašu kodu. Šāda rīcība liecina par pastāvīgu izstrādi, nevis neregulāru testēšanu.
Rezultāti
Mūsu modeļi netika izmantoti, lai darbinātu apdraudējuma dalībnieka rīkus vai darbplūsmas, un mēs nevaram neatkarīgi pārbaudīt nekādas ārpus platformas veiktas darbības. Šis apdraudējuma dalībnieks mēģināja izmantot mūsu modeļus, lai izstrādātu un pilnveidotu uzbrukuma rīkus un operatīvās darbplūsmas, kas, šķiet, paredzētas piekļuves datu un kriptoaktīvu zagšanai, slepenai koda izpildei un slēptas infrastruktūras pārvaldībai.
Konkrēti, ChatGPT tika izmantots, lai ģenerētu un iteratīvi pilnveidotu darbspējīgu kodu un izvietošanas norādījumus izpildei atmiņā un čaulas koda ielādētājiem; UAC / SmartScreen / Mark-of-the-Web apiešanai; pārlūkprogrammu piekļuves datu un sīkfailu izgūšanai un ar lietotni saistītas atšifrēšanas sagatavēm; LevelDB maku parsēšanai un starpliktuves pārtveršanas vai satura aizstāšanas rīkiem ar datu izfiltrēšanu; kā arī attālās piekļuves Trojas zirga (RAT) komponentiem, tostarp video un ievades emulācijai. Atbilstoši tajos iestrādātajiem aizsardzības mehānismiem mūsu modeļi noraidīja pieprasījumus, kas bija nepārprotami ļaunprātīgi un kam nebija leģitīma lietojuma.
Raksturīgus šo darbību piemērus var attiecināt uz LVM ATT&CK ietvaru šādi:
Darbība | LVM ATT&CK ietvara kategorija |
|---|---|
EXE failu pārveidošana no pozīcijas neatkarīgā čaulas kodā; atmiņā darbināmu ielādētāju veidošana (VirtualAlloc / WriteProcessMemory / attālais pavediens); programmēšanas valodu maiņa ielādētāju rīku ķēdēs. | LVM optimizēta kaitīgās slodzes izveide |
Maskēšanas vai pakotāju slāņu, „crypter” rīku un paņēmienu ieviešana, kas, visticamāk, paredzēti PE parakstu mainīšanai vai kaitīgās slodzes slēpšanai no AV/EDR risinājumiem. | Ar LVM uzlabota izvairīšanās no anomāliju noteikšanas |
Tādu skriptu un programmatūras koda ģenerēšana, kas, visticamāk, paredzēti pārlūkprogrammu piekļuves datu un sīkfailu izgūšanai vai atšifrēšanai, maku LevelDB datubāzu parsēšanai, starpliktuves satura uzraudzībai vai aizstāšanai un datu izfiltrēšanai, izmantojot robotu kanālus, piemēram, Telegram. | Ar LVM atbalstītas darbības pēc kompromitēšanas |
C2 un tuneļu infrastruktūras veidošana un pilnveidošana, tostarp reversie starpniekserveri, SOCKS5 / OpenVPN konfigurācijas, attālās darbvirsmas tuneļi, kā arī atkļūdošanas un izvietošanas norādījumi attālai straumēšanai un ievades emulācijai. | LVM vadīta infrastruktūras profilēšana |
Ietekme
Mēs atspējojām visus ar šo darbību saistītos kontus un nodevām attiecīgos indikatorus nozares partneriem. Mēs neatradām pierādījumus, ka piekļuve mūsu modeļiem būtu sniegusi šiem dalībniekiem jaunas iespējas vai darbības virzienus, ko viņi citādi nevarētu iegūt no daudziem publiski pieejamiem avotiem. Mūsu modeļi noraidīja tiešus pieprasījumus izveidot mūķus un taustiņsitienu reģistrētājus.