Operacion kibernetik: mjete për softuer keqdashës nga rusishtfolës
OpenAI bllokoi llogari që ka të ngjarë të lidhen me grupe kriminale rusishtfolëse, të cilat përdornin AI për të krijuar ngarkues malware-i, shtresa shmangieje, skripte për vjedhjen e kredencialeve dhe infrastrukturë C2.
Ky studim rasti u botua fillimisht në raportin e OpenAI për tetorin 2025(hapet në një dritare të re).
Aktori
Bllokuam llogari të ChatGPT që po përpiqeshin ta përdornin modelin për të ndihmuar në zhvillimin dhe përmirësimin e softuerëve keqdashës, përfshirë një trojan për qasje në distancë, mjete për vjedhjen e kredencialeve dhe funksione për shmangien e zbulimit. Këto llogari duket se janë të lidhura me grupe kriminale rusishtfolëse, pasi i pamë të publikonin prova të veprimtarive të tyre në një kanal Telegram kushtuar këtyre aktorëve. Bazuar në hetimin tonë, vlerësojmë se kjo veprimtari lidhej me një operator rusishtfolës që administronte disa llogari dhe shfrytëzonte infrastrukturë proxy dhe hostimi jetëshkurtër.
Sjellja
Ky aktor kërcënimi përdori disa llogari të ChatGPT, kryesisht për të krijuar prototipa dhe zgjidhur probleme të komponentëve teknikë që mundësojnë veprimtari pas komprometimit dhe vjedhjen e kredencialeve, veprimtari të mirënjohura për këtë lloj aktori. Modeli refuzoi kërkesat e drejtpërdrejta për të gjeneruar përmbajtje keqdashëse, ndaj përdorimi tipik i modelit nga operatori përfshinte nxjerrjen e kodit për komponentë bazë, si shndërrimi i skedarëve të ekzekutueshëm të kompiluar në shellcode, projektimi i ngarkuesve në memorie ose analizimi i kredencialeve të shfletuesit, të cilat aktori i kërcënimit më pas ka të ngjarë t’i ketë bashkuar në procese keqdashëse.
Aktori i kërcënimit përdori gjithashtu modelet tona për të gjeneruar kod për turbullim dhe modele “crypter”, si futja e udhëzimeve mbushëse dhe sekuencave të panevojshme, monitorimi i kujtesës së fragmenteve dhe mjete të thjeshta ndihmëse për nxjerrjen e të dhënave, si një ngarkues për bot Telegram dhe skripte për arkivim e dërgim. Këto rezultate nuk janë në vetvete keqdashëse, përveçse kur përdoren si të tilla nga një aktor kërcënimi jashtë platformës sonë.
Aktori i kërcënimit e përdori ChatGPT kryesisht për detyra teknike, si puna e nivelit të ulët me PE / Win32 API, trajtimi i cookie-ve me DPAPI / AES GCM dhe automatizimi i Chrome DevTools / CDP. Aktori i kërcënimit bëri kërkesa me nivele të ndryshme sofistikimi: shumë kërkesa kërkonin njohuri të thella të platformës Windows dhe korrigjim përsëritës të gabimeve, ndërsa të tjera automatizonin detyra të zakonshme, si gjenerimi masiv i fjalëkalimeve dhe aplikimet e automatizuara për punë. Operatori përdori një numër të vogël llogarish të ChatGPT dhe e përmirësoi të njëjtin kod gjatë disa bisedave, një model sjelljeje që përputhet me zhvillim të vazhdueshëm dhe jo me testim të rastësishëm.
Përgjigjet
Modelet tona nuk u përdorën për të ekzekutuar asnjë mjet apo proces pune të aktorit të kërcënimit dhe nuk mund të verifikojmë në mënyrë të pavarur asnjë veprimtari jashtë platformës. Ky aktor kërcënimi u përpoq t’i përdorte modelet tona për të zhvilluar dhe përmirësuar mjete sulmuese dhe procese operative që duket se mundësojnë vjedhjen e kredencialeve dhe kriptoaseteve, ekzekutimin e fshehtë të kodit dhe administrimin e infrastrukturës së fshehtë.
Konkretisht, ai përdori ChatGPT për të gjeneruar e përmirësuar kod funksional dhe udhëzime vendosjeje për ekzekutim në memorie dhe ngarkues shellcode; anashkalime të UAC / SmartScreen / Mark-of-the-Web; nxjerrje të kredencialeve / cookie-ve të shfletuesit dhe struktura bazë për deshifrimin e lidhur me aplikacionin; analizim të portofolëve LevelDB dhe mjete për rrëmbimin / zëvendësimin e kujtesës së fragmenteve me nxjerrje të dhënash; si dhe komponentë për qasje në distancë (RAT), përfshirë emulimin e videos dhe të hyrjeve. Në përputhje me masat e tyre mbrojtëse, modelet tona refuzuan kërkesat që ishin qartazi keqdashëse dhe nuk kishin asnjë përdorim të ligjshëm.
Shembuj përfaqësues të këtyre veprimtarive mund të lidhen me kuadrin LLM ATT&CK si më poshtë:
Veprimtaria | Kategoria e kuadrit LLM ATT&CK |
|---|---|
Shndërrimi i skedarëve EXE në shellcode të pavarur nga pozicioni; ndërtimi i ngarkuesve në memorie (VirtualAlloc / WriteProcessMemory / proces në distancë); konvertime gjuhësh për zinxhirët e mjeteve të ngarkuesve. | Krijimi i ngarkesave të optimizuara për LLM |
Futja e shtresave të turbullimit / paketimit, crypter-ave dhe teknikave që ka të ngjarë të jenë krijuar për të ndryshuar nënshkrimet PE ose për t’i fshehur ndryshe ngarkesat nga AV/EDR. | Shmangia e zbulimit të anomalive e përmirësuar nga LLM |
Gjenerimi i skripteve dhe kodit programatik që ka të ngjarë të jenë krijuar për të nxjerrë / deshifruar kredencialet dhe cookie-t e shfletuesit, për të analizuar portofolet LevelDB, për të monitoruar ose zëvendësuar përmbajtjen e kujtesës së fragmenteve dhe për të nxjerrë të dhëna përmes kanaleve të boteve, si Telegram. | Veprimtaria pas komprometimit e ndihmuar nga LLM |
Ndërtimi dhe përmirësimi i infrastrukturës C2 dhe të tunelimit, përfshirë proxy të kundërta, konfigurime SOCKS5 / OpenVPN, tunelim të desktopit në distancë dhe udhëzime për korrigjimin e gabimeve / vendosjen e transmetimit në distancë dhe emulimin e hyrjeve. | Profilizimi i infrastrukturës me udhëzim nga LLM |
Ndikimi
Çaktivizuam të gjitha llogaritë e lidhura me këtë veprimtari dhe ndamë treguesit përkatës me partnerët e industrisë. Nuk gjetëm prova se qasja në modelet tona u dha këtyre aktorëve aftësi ose drejtime të reja që nuk mund t’i kishin marrë nga burime të shumta të disponueshme publikisht. Modelet tona refuzuan kërkesat e drejtpërdrejta për shfrytëzime dobësish dhe keylogger-a.