Kibernetička operacija: Podrška za phishing i pisanje skripti

Ova studija slučaja prvobitno je objavljena u OpenAI-jevom izvještaju za oktobar 2025.⁠(otvara se u novom prozoru).

Identificirali smo i zabranili grupu ChatGPT računa uključenih u aktivnosti koje su se preklapale s javnim izvještajima o grupama prijetnji koje industrija prati pod nazivima UNK_DROPPITCH (Proofpoint) i UTA0388 (Volexity). U najmanje jednom slučaju, adresa e-pošte korištena za registraciju ChatGPT računa navodno je korištena i za slanje phishing poruka.

Akteri prijetnje koji su upravljali ovim računima pokazivali su obilježja kibernetičkih operacija usmjerenih na obavještajne zahtjeve NR Kine: koristili su kineski jezik i ciljali tajvanski sektor poluprovodnika, američku akademsku zajednicu i istraživačke centre te organizacije povezane s etničkim i političkim grupama koje kritiziraju KPK, a koje se ponekad nazivaju „pet otrova“.

Naš model nije omogućio nove ofanzivne sposobnosti. Čini se da su operateri naše modele prvenstveno koristili kako bi postepeno povećali efikasnost postojećih radnih procesa, posebno pri izradi phishing sadržaja te otklanjanju grešaka u svojim alatima ili njihovoj izmjeni.

Akteri su koristili ChatGPT za dva glavna zadatka: generisanje sadržaja za phishing kampanje na više jezika, uključujući pojednostavljeni i tradicionalni kineski, engleski i japanski, te pomoć u razvoju alata i zlonamjernog softvera. Njihov razvojni rad odgovarao je tehnički sposobnom, ali ne naročito sofisticiranom akteru. Naprimjer, razmatrali su više aspekata i pojedinosti korištenja AES-a za zaštitu C2 saobraćaja, ali su ipak koristili jednostavan statički ključ.

Metodologija aktera za izradu phishing sadržaja bila je detaljna i šablonska, što je odgovaralo usmjeravanju na precizno definiranu demografsku grupu. Obično bi generisali sažetu i formalno učtivu e-poruku predstavljajući se kao osoba iz akademske zajednice, industrije ili s konferencije. Akteri prijetnje često su tražili prilagođavanje tona, zamjenu izraza regionalno uobičajenim varijantama ili dodavanje konkretnih referenci na institucije. Iako ove ciljane sitne izmjene ukazuju na sistematičan pokušaj poboljšanja početnog sadržaja, akteri prijetnje nisu ispravili neke očigledno sumnjive detalje, poput nevjerodostojnih primjera kontaktnih podataka u blokovima potpisa.

Tražili su isječke koda i kontrolne liste koji bi ubrzali rutinske zadatke. Tražili su kod za testiranje šifriranih prijenosa (HTTPS, TLS) radi jednostavnog periodičnog javljanja; izrađivali nacrte isječaka u jeziku Go i PowerShellu za popisivanje procesa, njihovo prekidanje prema nazivu izvršne datoteke ili prikupljanje podataka o okruženju; te povezivali standardne skenere s bash/PowerShell omotačima.

Od modela su također tražili prijedloge za jednostavno prikrivanje i manja poboljšanja operativne sigurnosti (OPSEC), poput preimenovanja funkcija, prilagođavanja zaglavlja ili skrivanja nizova znakova. Tokom više sesija radili su na osnovnim prototipovima za upravljanje i kontrolu, kakvi odgovaraju zlonamjernom softveru niskog do srednjeg nivoa zrelosti, uključujući keep-alive petlje, minimalno zadavanje naloga putem HTTP(S)-a te omotnice zadataka i rezultata zasnovane na JSON-u.

Pojedinosti implementacije u nekim razvojnim aktivnostima aktera zasnovanim na jeziku Go preklapaju se s industrijskim izvještajima o zlonamjernom softveru koji se prati pod nazivima GOVERSHELL (Volexity) ili HealthKick (Proofpoint), što ukazuje na to da su modelima pokušavali podržati razvoj svog glavnog zlonamjernog softvera.

Uz rad na ovim lažnim identitetima i razvoj alata, operateri su istraživali dodatnu automatizaciju koju bi mogli postići putem DeepSeeka. Ova aktivnost ličila je na istraživački rad usmjeren na automatizaciju masovnog phishinga, naprimjer analiziranjem web-sadržaja radi automatskog generisanja liste ciljnih adresa e-pošte, zajedno sa sadržajem koji bi vjerovatno zanimao svaku identificiranu potencijalnu metu. Ne možemo nezavisno potvrditi jesu li akteri nastavili s takvom automatizacijom niti koji su model na kraju eventualno koristili.

Akteri su pokušali koristiti naše modele za planiranje i doradu šifriranih C2 komponenti, radnih procesa za daljinsko izvršavanje naredbi i kulturološki prilagođene komunikacije, pridajući najveću važnost brzini i lokalizaciji, a ne novim ofanzivnim sposobnostima. Generisali su odgovore modela koji su, čini se, bili namijenjeni podršci aktivnostima izvan naše platforme u više operativnih područja:

• Šifrirani C2 i daljinsko izvršavanje: zahtjevi za izradu ili popravku Go koda za klijente i servere, sa šifriranjem poruka kao što je AES-GCM, promjenom ključeva sesije, signalima s podacima o sistemu i serverskom konzolom za izdavanje PowerShell naredbi putem standardnih web-protokola ili kanala zasnovanog na WebSocketu.

• Zaštita saobraćaja i OPSEC prilagodbe: zahtjevi su obuhvatali kod za prelazak s običnih WebSocketa na sigurne WebSockete (wss://) i s HTTP-a na HTTPS; isključivanje provjera certifikata u nekim testovima; prikrivanje saobraćaja putem CDN/TLS posredničkog sloja; te obradu većih poruka bez rušenja klijenta.

• Izviđanje i upravljanje procesima: zahtjevi za informacije povezane s otkrivanjem antivirusnih programa putem PowerShella, popisivanjem procesa i prekidanjem određenih Edge/WebView2 procesa.

• Postavljanje standardnih alata za skeniranje: praktična pomoć pri instaliranju i korištenju alata otvorenog koda kao što su nuclei i fscan na komercijalnoj Linux infrastrukturi te čuvanju rezultata za naknadni pregled.

• Sadržaj za phishing i kontaktiranje: sastavljanje uvjerljivih e-poruka na više jezika za kontakte iz akademske zajednice ili industrije, uključujući naslove i stil prilagođen lokalnim normama.

Ove aktivnosti odgovaraju kategorijama okvira LLM ATT&CK, uključujući LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery i LLM-Assisted Social Engineering.

Onemogućili smo sve račune povezane s ovom aktivnošću i podijelili relevantne pokazatelje s industrijskim partnerima. Akteri su prvenstveno nastojali postepeno povećati efikasnost postojećih radnih procesa, uključujući izradu phishing e-poruka spremnih za slanje te skraćivanje ciklusa dorade rutinskog koda i automatizacije. Nismo pronašli dokaze da su odgovori modela omogućili sposobnosti koje nadilaze dobro dokumentirane javne tehnike; naš model nije omogućio nove ofanzivne sposobnosti. Prednost koju su pokušali steći uz pomoć modela proizlazila je iz jezičke tečnosti, lokalizacije i upornosti: vjerovatno manje jezičkih grešaka, brže izrade pomoćnog koda i bržih prilagodbi kada nešto ne uspije.