Kibernetska operacija: podpora pri lažnem predstavljanju in pisanju skript

Ta študija primera je bila prvotno objavljena v poročilu OpenAI za oktober 2025⁠(odpre se v novem oknu).

Prepoznali in blokirali smo skupino računov ChatGPT, povezanih z dejavnostjo, ki se je prekrivala z javnimi poročili o skupinah groženj, v panogi spremljanih kot UNK_DROPPITCH (Proofpoint) in UTA0388 (Volexity). V vsaj enem primeru naj bi bil e-poštni naslov, uporabljen za registracijo računa ChatGPT, uporabljen tudi za pošiljanje sporočil z lažnim predstavljanjem.

Akterji groženj, ki so upravljali te račune, so kazali značilnosti kibernetskih operacij za izpolnjevanje obveščevalnih zahtev LRK: uporabljali so kitajščino ter ciljali tajvanski sektor polprevodnikov, akademske ustanove in možganske truste v ZDA ter organizacije, povezane z etničnimi in političnimi skupinami, kritičnimi do KKP, ki jih včasih imenujejo »pet strupov«.

Naš model ni omogočil novih ofenzivnih zmogljivosti. Kaže, da so upravljavci naše modele uporabljali predvsem za postopno izboljšanje učinkovitosti obstoječih delovnih postopkov, zlasti pri pripravi vsebin za lažno predstavljanje ter odpravljanju napak v svojih orodjih ali njihovem prilagajanju.

Akterji so ChatGPT uporabljali za dve glavni nalogi: ustvarjanje vsebin za kampanje lažnega predstavljanja v več jezikih, med drugim v poenostavljeni in tradicionalni kitajščini, angleščini in japonščini, ter pomoč pri razvoju orodij in zlonamerne programske opreme. Njihovo razvojno delo je ustrezalo tehnično usposobljenemu, vendar nezahtevnemu akterju. Obravnavali so denimo več vidikov in podrobnosti uporabe AES za zaščito prometa C2, vendar so še vedno uporabljali preprost statični ključ.

Postopek akterjev za pripravo vsebin za lažno predstavljanje je bil podroben in šablonski, kar je skladno s ciljanjem natančno opredeljene demografske skupine. Običajno so ustvarili kratko, formalno vljudno e-poštno sporočilo, ki naj bi ga poslala oseba iz akademskega ali poslovnega okolja oziroma s konference. Akterji groženj so pogosto zahtevali prilagoditev tona, zamenjavo izrazov z regionalno običajnimi ali dodajanje navedb določenih ustanov. Čeprav te ciljno usmerjene manjše spremembe kažejo na načrtno izboljševanje kakovosti prvotne vsebine, akterji groženj niso popravili nekaterih očitno sumljivih podrobnosti, kot so neverodostojni vzorčni kontaktni podatki v podpisih.

Zahtevali so izseke kode in kontrolne sezname, s katerimi bi pospešili rutinska opravila. Zahtevali so kodo za preskušanje šifriranih prenosov (HTTPS, TLS) za preprosto periodično javljanje; zasnovali izseke kode Go in PowerShell za naštevanje procesov, njihovo ustavljanje glede na ime izvršljive datoteke ali zbiranje podatkov o okolju; ter običajne pregledovalnike povezali z ovojnimi skripti bash/PowerShell.

Model so prosili tudi za predloge glede preprostega zakrivanja in manjših izboljšav operativne varnosti (OPSEC), kot so preimenovanje funkcij, prilagajanje glav ali skrivanje nizov. V več sejah so razvijali osnovne prototipe za vodenje in nadzor, značilne za zlonamerno programsko opremo nizke do srednje stopnje zrelosti, vključno z zankami za ohranjanje povezave, osnovnim dodeljevanjem nalog prek HTTP(S) ter ovojnicami za naloge in rezultate na podlagi JSON.

Podrobnosti izvedbe pri nekaterih akterjevih razvojnih dejavnostih v jeziku Go se prekrivajo s poročili panoge o zlonamerni programski opremi, spremljani kot GOVERSHELL (Volexity) ali HealthKick (Proofpoint). To kaže, da so z modeli poskušali podpreti razvoj svoje glavne zlonamerne programske opreme.

Poleg oblikovanja teh lažnih identitet in razvoja orodij so upravljavci raziskovali nadaljnjo avtomatizacijo, ki bi jo lahko izvedli z DeepSeek. Ta dejavnost je bila podobna raziskovalnemu delu za avtomatizacijo množičnega lažnega predstavljanja, na primer z analizo spletnih vsebin za samodejno pripravo seznama e-poštnih naslovov tarč in ustvarjanje vsebin, ki bi verjetno zanimale vsako prepoznano potencialno tarčo. Ne moremo neodvisno potrditi, ali so akterji takšno avtomatizacijo dejansko izvedli in kateri model so v tem primeru nazadnje uporabili.

Akterji so naše modele poskušali uporabiti za načrtovanje in postopno izpopolnjevanje šifriranih komponent C2, delovnih postopkov za oddaljeno izvajanje ukazov ter kulturno prilagojenega navezovanja stikov, pri čemer so dajali prednost hitrosti in lokalizaciji, ne pa novim ofenzivnim zmogljivostim. Ustvarili so rezultate modelov, ki so bili očitno namenjeni podpori dejavnostim zunaj naše platforme na več operativnih področjih:

• Šifrirani C2 in oddaljeno izvajanje: zahteve za pripravo ali popravljanje odjemalsko-strežniške kode Go s šifriranjem sporočil, kot je AES-GCM, ponovno ustvarjanje sejnih ključev, javljalnike sistemskih podatkov in strežniško konzolo za izdajanje ukazov PowerShell prek standardnih spletnih protokolov ali kanala, ki temelji na WebSocket.

• Zaščita prometa in prilagoditve OPSEC: zahteve so vključevale kodo za prehod z navadnih povezav WebSocket na varne povezave WebSocket (wss://) ter s HTTP na HTTPS, onemogočanje preverjanja potrdil pri nekaterih preskusih, zakrivanje prometa prek vmesnika CDN/TLS in obravnavo večjih sporočil brez sesutja odjemalca.

• Izvidovanje in upravljanje procesov: zahteve za informacije o odkrivanju protivirusnih programov prek PowerShell, naštevanju procesov ter ustavljanju določenih procesov Edge/WebView2.

• Nastavitev splošno dostopnih pregledovalnikov: navodila za namestitev in uporabo odprtokodnih orodij, kot sta nuclei in fscan, v komercialni infrastrukturi Linux ter shranjevanje rezultatov za poznejši pregled.

• Vsebine za lažno predstavljanje in navezovanje stikov: priprava prepričljivih e-poštnih sporočil v več jezikih za stike v akademskem ali poslovnem okolju, vključno z zadevami sporočil in slogom, prilagojenim lokalnim normam.

Te dejavnosti sodijo v kategorije ATT&CK za velike jezikovne modele, med drugim z velikimi jezikovnimi modeli optimizirano oblikovanje koristnega tovora, izogibanje zaznavanju anomalij z velikimi jezikovnimi modeli, dejavnosti po vdoru s pomočjo velikih jezikovnih modelov, izvidovanje in odkrivanje s pomočjo velikih jezikovnih modelov ter družbeni inženiring s pomočjo velikih jezikovnih modelov.

Onemogočili smo vse račune, povezane s to dejavnostjo, in ustrezne kazalnike delili s partnerji v panogi. Akterji so si prizadevali predvsem za postopno izboljšanje učinkovitosti obstoječih delovnih postopkov, vključno s pripravo e-poštnih sporočil za lažno predstavljanje, pripravljenih za pošiljanje, ter krajšimi cikli izpopolnjevanja rutinske kode in avtomatizacije. Nismo opazili dokazov, da bi rezultati modelov omogočili zmogljivosti, ki presegajo dobro dokumentirane javne tehnike; naš model ni omogočil novih ofenzivnih zmogljivosti. Prednost pri izvedbi, ki so jo želeli pridobiti s pomočjo modela, je izhajala iz jezikovne tekočnosti, lokalizacije in vztrajnosti: verjetno manj jezikovnih napak, hitreje pripravljena povezovalna koda in hitrejše prilagoditve ob napakah.