Kibernetska operacija: podpora razvoju zlonamerne programske opreme v korejščini

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI za oktober 2025⁠(odpre se v novem oknu).

Prepoznali in blokirali smo skupino računov ChatGPT, katerih korejsko govoreči upravljavci so poskušali naše modele uporabiti za razvoj zlonamerne programske opreme ter sistemov za upravljanje in nadzor (C2). Kazalniki, ki smo jih opazili med preiskavo, se prekrivajo s poročilom družbe Trellix, ki je podobno dejavnost povezalo s kampanjami ciljanega lažnega predstavljanja proti južnokorejskim diplomatskim predstavništvom, nameščanjem zlonamerne programske opreme XenoRAT in uporabo repozitorijev na GitHubu za C2.

Prekrivanje s poročanjem družbe Trellix – vključno z opaženo uporabo korejščine, dejavnostjo, skladno s časovnima pasovoma UTC+8 in UTC+9, ter operativnimi temami in vsebinami – se ujema z razumevanjem severnokorejskih akterjev (DPRK) v varnostni skupnosti. Vendar dejavnosti ne moremo neodvisno pripisati določenemu akterju, poleg tega pa dostop do naših storitev iz Severne Koreje blokiramo.

Računi so z našimi modeli komunicirali predvsem v korejščini, pri čemer so uporabljali strukturirane delovne postopke, veliko računov pa je bilo dejavnih le v kratkih časovnih obdobjih. Videti je, da je bil vsak od teh računov osredotočen na določen primer uporabe, na primer pretvarjanje razširitev za Chrome v razširitve za Safari za objavo v trgovini Apple App Store, konfiguriranje omrežij VPN v okolju Windows Server ali razvoj razširitev za Finder v sistemu macOS, namesto da bi posamezen račun pokrival več tehničnih področij.

Opazili smo interakcije z našimi modeli, povezane s prestrezanjem klicev Windows API, delovnimi postopki za dostop do poverilnic in piškotkov brskalnikov (DPAPI) ter posnemovalnimi stranmi za preverjanje, kot so kopije reCAPTCHA. Opazili smo tudi osnutke lažnih e-poštnih sporočil v korejščini, pogosto s tematiko kriptovalut in oblikovane tako, da so bila videti kot sporočila državnih ustanov ali ponudnikov finančnih storitev.

Poleg tega so akterji preizkušali storitve shranjevanja v oblaku, kot so pCloud, file.io in GDrive, ustvarjanje neposrednih povezav, skriptno uporabo API-jev ter funkcije GitHuba, kot sta pridobivanje neobdelane vsebine in obravnavanje žetonov. Nismo našli dokazov, da bi bile zlonamerne izvršljive datoteke, uporabljene v kampanjah, ki jih opisuje Trellix, ustvarjene z našimi modeli. Mogoče je, da so isti upravljavci uporabljali naše modele, medtem ko so prek razvijalskih in oblačnih platform pripravljali zlonamerne vsebine za namestitev.

Akterji groženj so ustvarjali odgovore modelov, namenjene podpori več operativnim področjem, med drugim:

• Razvoj vsadkov in sorodnih orodij RAT: raziskovanje reflektivnega nalaganja knjižnic DLL, izvajanja v pomnilniku in tehnik prestrezanja klicev Windows API.

• Postopki kraje poverilnic: ustvarjanje, spreminjanje in razhroščevanje skript za pridobivanje šifrirnih ključev brskalnikov, piškotkov in shranjenih gesel z delovnimi postopki DPAPI za Chrome oziroma Edge.

• Lažno predstavljanje in vabe: pripravljanje vsebin v korejščini, ki so bile videti namenjene lažnemu predstavljanju in so se pogosto nanašale na kriptovalute, državne ustanove ali ponudnike finančnih storitev; preizkušanje zakrivanja kode HTML in posredovanja reCAPTCHA prek strežnikov proxy za prepričljive prijavne strani.

• Razvojna ogrodja za macOS: zahteve v zvezi z razvojem razširitev za Finder in Safari ter pripravo vzorčnega pravilnika o zasebnosti za App Store.

• Operacije s kriptovalutami: odpravljanje težav s klici API-jev in interakcijami z denarnicami.

Številne od teh zahtev so sodile v sivo območje dejavnosti z dvojno rabo. Takšne dejavnosti imajo lahko povsem legitimne namene, kot so razhroščevanje programske opreme, kriptografija ali razvoj brskalnikov, vendar dobijo drugačen pomen, ko jih za svoje cilje uporabi akter grožnje.

Onemogočili smo vse račune, povezane s to operacijo, in ustrezne kazalnike posredovali partnerjem. Nismo našli dokazov, da bi dostop do modelov omogočil nove zmogljivosti, ki še niso javno dostopne.