Kibernetička operacija: podrška za krađu identiteta i izradu skripti

Ova studija slučaja izvorno je objavljena u OpenAI-jevu izvješću iz listopada 2025.⁠(otvara se u novom prozoru)

Otkrili smo i blokirali skupinu računa na ChatGPT‑u povezanih s aktivnostima koje su se preklapale s javnim izvješćima o prijetnjama koje se u industriji prate pod nazivima UNK_DROPPITCH (Proofpoint) i UTA0388 (Volexity). U najmanje jednom slučaju adresa e-pošte upotrijebljena za registraciju računa na ChatGPT‑u navodno je služila i za slanje poruka za krađu identiteta.

Akteri prijetnje koji su upravljali tim računima pokazivali su obilježja kibernetičkih operacija koje se provode za potrebe obavještajnih službi NR Kine: upotrebljavali su kineski jezik i ciljali tajvanski sektor poluvodiča, američku akademsku zajednicu i institute za javne politike te organizacije povezane s etničkim i političkim skupinama koje kritiziraju KPK, a koje se katkad nazivaju „pet otrova”.

Naš model nije omogućio nove ofenzivne sposobnosti. Čini se da su operateri naše modele ponajprije upotrebljavali kako bi postupno povećali učinkovitost postojećih radnih procesa, osobito pri izradi sadržaja za krađu identiteta te otklanjanju pogrešaka ili izmjeni svojih alata.

Akteri su ChatGPT upotrebljavali za dvije glavne zadaće: izradu sadržaja za kampanje krađe identiteta na više jezika, uključujući pojednostavljeni i tradicionalni kineski, engleski i japanski, te pomoć u razvoju alata i zlonamjernog softvera. Njihov razvojni rad upućivao je na tehnički sposobnog, ali ne osobito sofisticiranog aktera. Primjerice, raspravljali su o više aspekata i pojedinosti upotrebe AES-a za zaštitu C2 prometa, ali su ipak upotrebljavali jednostavan statički ključ.

Metodologija aktera za izradu sadržaja za krađu identiteta bila je detaljna i šablonska, što je odgovaralo ciljanju usko definirane demografske skupine. Obično bi izradili sažetu, formalno uljudnu poruku e-pošte pod krinkom osobe iz akademske zajednice, industrije ili konferencijske organizacije. Akteri prijetnje često su tražili prilagodbu tona, zamjenu izraza regionalnim inačicama ili dodavanje konkretnih referenci na ustanove. Iako te ciljane sitne izmjene upućuju na sustavan pokušaj poboljšanja početnog sadržaja, akteri prijetnje nisu ispravili neke očite znakove prijevare, poput nevjerodostojnih oglednih podataka za kontakt u svojim potpisima.

Tražili su isječke koda i kontrolne popise koji bi ubrzali rutinske zadatke. Tražili su kod za testiranje šifriranih prijenosa (HTTPS, TLS) radi jednostavnog periodičnog javljanja; skicirali isječke u jeziku Go i PowerShellu za popisivanje procesa, njihovo prekidanje prema nazivu izvršne datoteke ili prikupljanje pojedinosti o okruženju; te povezivali uobičajene skenere s omotačima u bashu i PowerShellu.

Od modela su također tražili prijedloge za jednostavno prikrivanje i manja poboljšanja operativne sigurnosti (OPSEC), poput preimenovanja funkcija, prilagodbe zaglavlja ili skrivanja nizova znakova. Tijekom više sesija razvijali su osnovne prototipove za upravljanje i nadzor, kakvi su uobičajeni za zlonamjerni softver niske do srednje razine zrelosti, uključujući petlje za održavanje veze, minimalno zadavanje zadaća putem HTTP(S)-a te omotnice zadataka i rezultata utemeljene na JSON-u.

Pojedinosti implementacije u nekim akterovim razvojnim aktivnostima u jeziku Go preklapaju se s industrijskim izvješćima o zlonamjernom softveru koji se prati pod nazivima GOVERSHELL (Volexity) ili HealthKick (Proofpoint), što upućuje na to da su modelima pokušali poduprijeti razvoj svojeg glavnog zlonamjernog softvera.

Uz rad na tim lažnim identitetima i razvoj alata operateri su istraživali dodatnu automatizaciju koju bi mogli postići putem DeepSeeka. Ta je aktivnost nalikovala istraživanju mogućnosti automatizacije masovne krađe identiteta, primjerice analizom web-sadržaja radi automatske izrade popisa ciljnih adresa e-pošte i sadržaja koji bi vjerojatno zanimao svaku prepoznatu potencijalnu metu. Ne možemo neovisno potvrditi jesu li akteri proveli takvu automatizaciju ni koji su model naposljetku možda upotrijebili ako jesu.

Akteri su pokušali upotrijebiti naše modele za planiranje i doradu šifriranih C2 komponenti, radnih procesa za daljinsko izvršavanje naredbi i obraćanja prilagođenih lokalnoj kulturi, pri čemu su brzini i lokalizaciji davali prednost pred novim ofenzivnim sposobnostima. Generirali su rezultate modela koji su, čini se, bili namijenjeni podršci aktivnostima izvan naše platforme u više operativnih područja:

• Šifrirani C2 i daljinsko izvršavanje: zahtjevi za izradu ili popravak klijentsko-poslužiteljskog koda u jeziku Go sa šifriranjem poruka kao što je AES-GCM, promjenom ključa sesije, signalima s informacijama o sustavu te poslužiteljskom konzolom za izdavanje naredbi u PowerShellu putem standardnih web-protokola ili kanala utemeljenog na WebSocketu.

• Zaštita prometa i prilagodbe OPSEC-a: zahtjevi su obuhvaćali kod za prijelaz s običnih WebSocketa na sigurne WebSockete (wss://) te s HTTP-a na HTTPS; onemogućavanje provjera certifikata u nekim testovima; prikrivanje prometa putem CDN-a ili pristupnog sloja TLS-a; te obradu većih poruka bez rušenja klijenta.

• Izviđanje i upravljanje procesima: zahtjevi za informacije povezane s otkrivanjem antivirusnih programa putem PowerShella, popisivanjem procesa te prekidanjem određenih procesa Edgea i WebView2.

• Postavljanje uobičajenih alata za skeniranje: praktična pomoć pri instaliranju i upotrebi alata otvorenog koda kao što su nuclei i fscan na komercijalnoj infrastrukturi Linuxa te spremanju rezultata za naknadni pregled.

• Sadržaj za krađu identiteta i obraćanje metama: sastavljanje uvjerljivih poruka e-pošte na više jezika za kontakte u akademskoj zajednici ili industriji, uključujući predmete poruka i stil prilagođen lokalnim normama.

Te aktivnosti pripadaju kategorijama LLM ATT&CK, uključujući LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery i LLM-Assisted Social Engineering.

Onemogućili smo sve račune povezane s tom aktivnošću i podijelili relevantne pokazatelje s partnerima u industriji. Akteri su ponajprije nastojali postupno povećati učinkovitost postojećih radnih procesa, među ostalim izradom poruka za krađu identiteta spremnih za slanje te skraćivanjem ciklusa dorade rutinskog koda i automatizacije. Nismo pronašli dokaze da su rezultati modela omogućili sposobnosti koje nadilaze dobro dokumentirane javne tehnike; naš model nije omogućio nove ofenzivne sposobnosti. Prednost koju su uz pomoć modela željeli postići proizlazila je iz jezične tečnosti, lokalizacije i ustrajnosti: vjerojatno manje jezičnih pogrešaka, brže izrade pomoćnog koda i bržih prilagodbi kada nešto ne bi uspjelo.