Operacija „ScopeCreep“: kenkėjiškos programinės įrangos kūrimas rusų kalba

Ši atvejo analizė pirmą kartą paskelbta „OpenAI“ 2025 m. birželio⁠(atsidaro naujame lange) ataskaitoje.

Užblokavome grupę „ChatGPT“ paskyrų, kurias, regis, valdė rusakalbis piktavalis. Šis veikėjas naudojo mūsų modelius kaip pagalbinę priemonę kurdamas ir tobulindamas „Windows“ skirtą kenkėjišką programinę įrangą, taisydamas įvairiomis programavimo kalbomis parašyto kodo klaidas ir rengdamas komandų ir valdymo infrastruktūrą.

Veikėjas išmanė vidinę „Windows“ sandarą ir ėmėsi tam tikrų veiklos saugumo priemonių. Kadangi operacijoje daugiausia naudotas žaidimams skirtas taikiklio įrankis su įterptu Trojos arkliu ir slapti veikimo metodai, pavadinome ją „ScopeCreep“.

Šis piktavalis išsiskyrė savo požiūriu į veiklos saugumą. „ChatGPT“ paskyras jis registravo naudodamas laikinuosius el. pašto adresus, o kiekvienoje paskyroje pradėdavo tik vieną pokalbį apie vieną nedidelį savo kodo patobulinimą. Tada jis nustodavo naudoti tą paskyrą ir susikurdavo naują.

Veikėjas platino „ScopeCreep“ kenkėjišką programinę įrangą per viešai prieinamą kodo saugyklą, kuri apsimetė teisėto ir populiaraus vaizdo žaidimų taikiklio rodymo įrankio „Crosshair-X“ saugykla. Nieko neįtariantys naudotojai, atsisiuntę ir paleidę kenkėjišką versiją, savo sistemoje aktyvuodavo kenkėjiškos programinės įrangos įkėliklį. Šis iš užpuoliko infrastruktūros atsisiųsdavo ir paleisdavo papildomus kenkėjiškus failus.

Toliau kenkėjiška programinė įranga turėjo pradėti kelių etapų procesą: padidinti prieigos teises, slapta įsitvirtinti sistemoje, pranešti piktavaliui ir išsiųsti konfidencialius duomenis, išvengdama aptikimo.

Piktavalis pasitelkė mūsų modelį kenkėjiškai programinei įrangai kurti etapais, nuolat prašydamas „ChatGPT“ įdiegti konkrečias papildomas funkcijas. „ScopeCreep“ buvo taikomi įvairūs pristatymo, vykdymo, aptikimo vengimo ir duomenų išsiuntimo metodai, įskaitant:

• C2 kenkėjiško kodo modulius, sukurtus taip, kad jų neaptiktų signatūromis pagrįstos aptikimo priemonės.

• Slaptą kodo vykdymą, teisėtoms programoms įkeliant kenkėjiškas DLL bibliotekas.

• Kodo maskavimą jį specialiai supakuojant su „Themida“.

• Prieigos teisių didinimą ir aptikimo vengimą.

• HTTPS ryšį per 80 prievadą.

• Prisijungimo ir seansų duomenų vagystę.

• Pranešimų siuntimą užpuolikui per „Telegram“.

• Tinklo srauto maskavimą naudojant tarpinius serverius.

Nepaisant piktavalio pastangų užtikrinti veiklos saugumą ir pačioje kenkėjiškoje programinėje įrangoje įdiegtų aptikimo vengimo mechanizmų, šią veiklą aptikome pasitelkę savo dideliu mastu veikiantį kibernetinio piktnaudžiavimo aptikimo procesą. Bendradarbiavome su kodo prieglobos paslaugų teikėju, kad kenkėjiška saugykla būtų pašalinta, ir užblokavome visas su šia veikla susijusias „ChatGPT“ paskyras.

Šios grupės paskyrų pokalbiai su modeliu apėmė įvairias programavimo užduotis. Viename iš jų piktavalis pateikė „Go“ kodo fragmentą, kuriame jam nesisekė įgyvendinti HTTPS užklausos, ir paprašė modelio ištaisyti klaidas. Kitu atveju piktavalis prašė padėti per „Go“ vykdyti „PowerShell“ komandas, kad pakeistų „Windows Defender“ nustatymus. Jis ieškojo būdo programiškai pridėti antivirusinės apsaugos išimčių.

Tipinius šios veiklos pavyzdžius galima susieti su LLM ATT&CK sistemos kategorijomis:

• LLM naudojimas failui python310.dll kompiliuoti, kad piktavalio kodas būtų vykdomas kiekvieną kartą paleidus python.exe: kūrimas pasitelkiant LLM.

• SSL/TLS sertifikatų, skirtų HTTPS srautui aptarnauti per 80 prievadą, klaidų šalinimas: kūrimas pasitelkiant LLM.

• „Flask“ pagrindu veikiančio C2 serverio perkėlimas į eksploatacijai parengtą WSGI serverį padedant modeliui: kūrimas pasitelkiant LLM.

• „PowerShell“ komandų kūrimas „Go“ kalba, siekiant pakeisti „Windows Defender“ nustatymus ir pridėti antivirusinės apsaugos išimčių: anomalijų aptikimo vengimo tobulinimas pasitelkiant LLM.

• Kodo, skirto pranešti užpuoliko valdomam „Telegram“ kanalui apie naujos aukos sistemos pažeidimą, klaidų taisymas: veikla po įsilaužimo pasitelkiant LLM.

Šiame etape „ScopeCreep“ poveikį galėjo sumažinti greitas pranešimas apie grėsmę ir glaudus bendradarbiavimas su sektoriaus partneriais, kurie pašalino kenkėjišką saugyklą. Užblokavome šio piktavalio naudotas „OpenAI“ paskyras.

Mūsų vertinimu, šis piktavalis naudojo mūsų modelius siekdamas paspartinti kenkėjiškos programinės įrangos kūrimą. Paradoksalu, bet tai taip pat suteikė mums galimybę greitai nustatyti ir sustabdyti grėsmę, regis, dar ankstyvame jos etape.

Nors ši kenkėjiška programinė įranga gali didinti prieigos teises, įsitvirtinti sistemoje, rinkti prisijungimo duomenis ir suteikti nuotolinę prieigą, šios galimybės nėra itin naujoviškos. Nors ši kenkėjiška programinė įranga greičiausiai jau buvo naudojama realioms atakoms, o kai kurie jos pavyzdžiai pasirodė „VirusTotal“, nepastebėjome plataus susidomėjimo ja ar plataus jos platinimo įrodymų.