Kibernetinė operacija: duomenų viliojimo ir scenarijų kūrimo pagalba

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. spalio mėn.⁠(atsidaro naujame lange) ataskaitoje.

Nustatėme ir užblokavome grupę ChatGPT paskyrų, susijusių su veikla, kuri sutapo su viešai skelbta informacija apie grėsmių grupes, sektoriuje žinomas kaip UNK_DROPPITCH (Proofpoint) ir UTA0388 (Volexity). Bent vienu atveju el. pašto adresas, kuriuo buvo užregistruota ChatGPT paskyra, kaip pranešama, taip pat naudotas duomenų viliojimo laiškams siųsti.

Šias paskyras valdžiusių grėsmių subjektų veikla turėjo KLR žvalgybos užduotims vykdyti skirtoms kibernetinėms operacijoms būdingų požymių: jie vartojo kinų kalbą ir taikėsi į Taivano puslaidininkių sektorių, JAV akademinę bendruomenę bei ekspertų grupes ir su KKP kritikuojančiomis etninėmis bei politinėmis grupėmis susijusias organizacijas, kartais vadinamas „penkiais nuodais“.

Mūsų modelis nesuteikė naujų puolamųjų galimybių. Atrodo, kad operatoriai mūsų modelius daugiausia naudojo esamiems darbo procesams šiek tiek paspartinti, ypač duomenų viliojimo turiniui rengti ir savo įrankių klaidoms taisyti ar jiems modifikuoti.

Subjektai naudojo ChatGPT dviem pagrindinėms užduotims: rengti duomenų viliojimo kampanijų turinį keliomis kalbomis, įskaitant kinų kalbą supaprastintais ir tradiciniais rašmenimis, anglų bei japonų kalbas, ir padėti kurti įrankius bei kenkimo programinę įrangą. Jų programavimo darbai rodė, kad subjektas yra techniškai kompetentingas, bet ne itin pažengęs. Pavyzdžiui, jie aptarė kelis AES naudojimo C2 srautui apsaugoti aspektus ir niuansus, tačiau vis tiek naudojo paprastą statinį raktą.

Subjektų duomenų viliojimo turinio kūrimo metodika buvo išsami ir šabloniška, pritaikyta aiškiai apibrėžtai demografinei grupei. Paprastai jie kurdavo glaustą, oficialiai mandagų el. laišką, parašytą akademinės bendruomenės, verslo sektoriaus ar konferencijos atstovo vardu. Grėsmių subjektai dažnai prašydavo pakeisti toną, pritaikyti terminus regioninei vartosenai arba įtraukti konkrečių institucijų nuorodas. Nors tokie tiksliniai smulkūs pakeitimai rodo kryptingas pastangas gerinti pradinio turinio kokybę, grėsmių subjektai neištaisė kai kurių juos išduodančių detalių, pavyzdžiui, parašo blokuose pateiktų neįtikinamų pavyzdinių kontaktinių duomenų.

Jie prašė kodo fragmentų ir kontrolinių sąrašų, kurie paspartintų įprastas užduotis. Jie prašė kodo šifruotam ryšiui (HTTPS, TLS) išbandyti, naudojant paprastą periodinį signalų siuntimą; rengė Go ir PowerShell kodo fragmentus procesams išvardyti, procesams pagal vykdomojo failo pavadinimą nutraukti ar aplinkos duomenims rinkti; taip pat integravo plačiai prieinamus skenavimo įrankius į bash ir PowerShell apvalkalus.

Jie taip pat prašė modelio pasiūlyti paprastų maskavimo ir operacinio saugumo (OPSEC) patobulinimų: pervadinti funkcijas, pakoreguoti antraštes ar paslėpti eilutes. Per kelis seansus jie siekė sukurti bazinius valdymo ir kontrolės prototipus, būdingus menkai ar vidutiniškai pažangiai kenkimo programinei įrangai, įskaitant ryšio palaikymo ciklus, minimalų užduočių perdavimą per HTTP(S) ir JSON formato užduočių bei rezultatų apvalkalus.

Kai kurios subjekto Go programavimo veiklos įgyvendinimo detalės sutampa su sektoriaus pranešimais apie kenkimo programinę įrangą, žinomą kaip GOVERSHELL (Volexity) arba HealthKick (Proofpoint). Tai leidžia manyti, kad modeliais mėginta paremti pagrindinės kenkimo programinės įrangos kūrimą.

Kurdami apsimestines tapatybes ir įrankius, operatoriai taip pat tyrė, ką dar būtų galima automatizuoti naudojant DeepSeek. Ši veikla priminė žvalgomąjį darbą siekiant automatizuoti masinį duomenų viliojimą, pavyzdžiui, analizuoti žiniatinklio turinį, kad būtų automatiškai sudarytas el. pašto adresatų sąrašas ir kiekvienam nustatytam galimam taikiniui sukurtas jį galintis sudominti turinys. Negalime nepriklausomai patvirtinti, ar subjektai ėmėsi tokio automatizavimo ir, jei taip, kurį modelį galiausiai naudojo.

Subjektai mėgino naudoti mūsų modelius šifruotiems C2 komponentams, nuotolinio komandų vykdymo procesams ir kultūriškai pritaikytai komunikacijai planuoti bei tobulinti. Jiems labiausiai rūpėjo greitis ir lokalizavimas, o ne naujos puolamosios galimybės. Jie generavo modelio atsakymus, kurie, regis, buvo skirti veiklai už mūsų platformos ribų keliose operacinėse srityse:

• Šifruotas C2 ir nuotolinis vykdymas: prašymai parengti arba pataisyti Go kliento ir serverio kodą su pranešimų šifravimu, pavyzdžiui, AES-GCM, seanso raktų keitimu, sistemos informacijos signalais ir serverio konsole, skirta PowerShell komandoms siųsti standartiniais žiniatinklio protokolais arba WebSocket kanalu.

• Srauto apsauga ir OPSEC patobulinimai: prašyta kodo, skirto pereiti nuo nešifruoto WebSocket prie saugaus WebSocket (wss://) ir nuo HTTP prie HTTPS, kai kuriuose bandymuose išjungti sertifikatų tikrinimą, maskuoti srautą naudojant CDN / TLS prieigos tašką ir apdoroti didesnius pranešimus nesukeliant kliento strigčių.

• Žvalgyba ir procesų valdymas: prašymai pateikti informacijos apie antivirusinių programų aptikimą naudojant PowerShell, procesų išvardijimą ir konkrečių Edge / WebView2 procesų nutraukimą.

• Plačiai prieinamų skenavimo įrankių parengimas: praktinė pagalba diegiant ir naudojant atvirojo kodo įrankius, tokius kaip nuclei ir fscan, komercinėje Linux infrastruktūroje bei išsaugant rezultatus vėlesnei peržiūrai.

• Duomenų viliojimo ir ryšių užmezgimo turinys: įtikinamų el. laiškų akademinės bendruomenės ar verslo sektoriaus kontaktams rengimas keliomis kalbomis, įskaitant pagal vietos normas pritaikytas temos eilutes ir stilių.

Ši veikla priskiriama LLM ATT&CK kategorijoms, įskaitant LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery ir LLM-Assisted Social Engineering.

Išjungėme visas su šia veikla susijusias paskyras ir perdavėme atitinkamus indikatorius sektoriaus partneriams. Subjektai daugiausia siekė šiek tiek paspartinti esamus darbo procesus, įskaitant paruoštų siųsti duomenų viliojimo laiškų rengimą ir trumpesnius įprasto kodo bei automatizavimo tobulinimo ciklus. Neradome įrodymų, kad modelio atsakymai būtų suteikę galimybių, pranokstančių gerai dokumentuotus viešus metodus. Mūsų modelis nesuteikė naujų puolamųjų galimybių. Naudodamiesi modelio pagalba jie siekė pranašumo dėl sklandesnės kalbos, lokalizavimo ir atkaklumo: tikėtina, kad darė mažiau kalbos klaidų, greičiau kūrė jungiamąjį kodą ir sparčiau jį koregavo, kai kas nors nepavykdavo.