Operacija „ScopeCreep“: razvoj zlonamjernog softvera na ruskom jeziku

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz juna 2025.⁠(otvara se u novom prozoru) godine.

Blokirali smo grupu ChatGPT računa kojima je, prema svemu sudeći, upravljao zlonamjerni akter koji govori ruski. Ovaj akter koristio je naše modele kao pomoć pri razvoju i usavršavanju zlonamjernog softvera za Windows, otklanjanju grešaka u kodu na više programskih jezika i uspostavljanju infrastrukture za komandovanje i kontrolu.

Akter je pokazao poznavanje unutrašnjeg funkcionisanja sistema Windows i primjenjivao određene mjere operativne sigurnosti. Budući da se operacija oslanjala na alat za prikaz „nišana“ u igrama, u koji je ugrađen trojanac, te na prikrivene taktike, nazvali smo je „ScopeCreep“.

Ovaj zlonamjerni akter imao je specifičan pristup operativnoj sigurnosti. Koristio je privremene adrese e-pošte za registraciju ChatGPT računa, pri čemu je svaki račun koristio za samo jedan razgovor o jednom manjem poboljšanju svog koda. Zatim bi napustio taj račun i kreirao novi.

Akter je distribuirao zlonamjerni softver ScopeCreep putem javno dostupnog repozitorija koda koji se lažno predstavljao kao legitiman i popularan alat za prikaz nišana preko slike u videoigrama (Crosshair-X). Korisnici koji bi, ne sumnjajući ni u šta, preuzeli i pokrenuli zlonamjernu verziju aktivirali bi program za učitavanje zlonamjernog softvera na svom sistemu. Time bi se s infrastrukture napadača preuzele i izvršile dodatne zlonamjerne datoteke.

Zlonamjerni softver je potom trebao pokrenuti višefazni proces za povećanje privilegija, prikriveno održavanje prisustva na sistemu, obavještavanje zlonamjernog aktera i izvlačenje osjetljivih podataka uz izbjegavanje otkrivanja.

Zlonamjerni akter koristio je naš model kao pomoć u iterativnom razvoju zlonamjernog softvera, neprestano tražeći od ChatGPT da implementira dodatne konkretne funkcije. ScopeCreep je koristio niz tehnika za isporuku, izvršavanje, izbjegavanje otkrivanja i izvlačenje podataka, uključujući:

• Zlonamjerni kod za komandovanje i kontrolu (C2) osmišljen da izbjegne otkrivanje na osnovu potpisa.

• Prikriveno izvršavanje putem bočnog učitavanja DLL datoteka.

• Prikrivanje koda prilagođenim pakovanjem pomoću alata Themida.

• Povećanje privilegija i izbjegavanje otkrivanja.

• HTTPS preko porta 80.

• Krađu pristupnih podataka i sesija.

• Obavještavanje napadača putem Telegrama.

• Prikrivanje saobraćaja pomoću proxy servera.

Uprkos naporima zlonamjernog aktera da očuva operativnu sigurnost i mehanizmima za izbjegavanje otkrivanja u samom zlonamjernom softveru, uspjeli smo otkriti aktivnost zahvaljujući našem procesu otkrivanja kibernetičkih zloupotreba velikog obima. U saradnji s pružaocem usluge hostinga koda uklonili smo zlonamjerni repozitorij i blokirali sve ChatGPT račune povezane s ovom aktivnošću.

Interakcije s modelom putem ove grupe računa obuhvatale su širok raspon razvojnih zadataka. U jednoj od njih zlonamjerni akter dostavio je isječak koda na jeziku Go u kojem je imao problem s HTTPS zahtjevom i zatražio od modela da otkloni grešku. U drugom slučaju zlonamjerni akter zatražio je pomoć pri korištenju PowerShell naredbi putem jezika Go za izmjenu postavki programa Windows Defender, tražeći način da programski doda izuzetke za antivirusnu zaštitu.

Reprezentativni primjeri ovih aktivnosti mogu se povezati s okvirom LLM ATT&CK na sljedeći način:

• Korištenje LLM-ova za kompajliranje datoteke python310.dll tako da se akterov kod izvrši svaki put kada se pokrene python.exe: razvoj uz pomoć LLM-a.

• Otklanjanje grešaka sa SSL/TLS certifikatima namijenjenim za HTTPS saobraćaj na portu 80: razvoj uz pomoć LLM-a.

• Migracija C2 servera zasnovanog na Flasku na WSGI server spreman za produkciju uz pomoć modela: razvoj uz pomoć LLM-a.

• Razvoj PowerShell naredbi u jeziku Go za izmjenu postavki programa Windows Defender i dodavanje izuzetaka za antivirusnu zaštitu: izbjegavanje otkrivanja anomalija unaprijeđeno LLM-om.

• Otklanjanje grešaka u kodu za slanje obavijesti na Telegram kanal pod kontrolom napadača kada se kompromituje nova žrtva: aktivnosti nakon kompromitovanja uz pomoć LLM-a.

U ovoj fazi utjecaj operacije ScopeCreep možda je ublažen brzim prijavljivanjem i bliskom saradnjom s partnerima iz industrije koji su uspjeli ukloniti zlonamjerni repozitorij. Blokirali smo OpenAI račune koje je koristio ovaj napadač.

Procjenjujemo da je ovaj zlonamjerni akter koristio naše modele u pokušaju da ubrza razvoj svog zlonamjernog softvera. Paradoksalno, to nam je ujedno pružilo priliku da brzo prepoznamo i suzbijemo prijetnju, po svemu sudeći još u njenim ranim fazama.

Iako mogućnosti ovog zlonamjernog softvera uključuju povećanje privilegija, održavanje prisustva na sistemu, prikupljanje pristupnih podataka i udaljeni pristup, one nisu naročito nove. Iako je ovaj zlonamjerni softver vjerovatno bio aktivan u stvarnom okruženju, a neki uzorci pojavili su se na platformi VirusTotal, nismo uočili dokaze o širokom interesu za njega ili njegovoj širokoj distribuciji.