Netárás: Spilliforrit rússneskumælandi aðila
OpenAI bannaði reikninga sem líklega tengdust rússneskumælandi glæpahópum og notuðu gervigreind til að smíða hleðsluforrit fyrir spilliforrit, felulög, skriftur til að stela aðgangsupplýsingum og C2-innviði.
Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá október 2025(opnast í nýjum glugga).
Gerandi
Við bönnuðum ChatGPT‑reikninga sem reyndu að nota líkanið til að þróa og betrumbæta spilliforrit, þar á meðal fjarstýritrójuhest, hugbúnað til að stela aðgangsupplýsingum og eiginleika til að komast hjá greiningu. Þessir reikningar virðast tengjast rússneskumælandi glæpahópum, enda sáum við þá birta gögn um starfsemi sína á Telegram-rás sem er helguð slíkum gerendum. Á grundvelli rannsóknar okkar teljum við að starfsemin hafi tengst rússneskumælandi stjórnanda sem stýrði mörgum reikningum og nýtti sér milliþjóna og skammlífa hýsingarinnviði.
Hegðun
Þessi ógnaraðili notaði marga ChatGPT‑reikninga, einkum til að frumgera og leysa vandamál í tæknilegum íhlutum sem gera aðgerðir eftir innbrot og þjófnað á aðgangsupplýsingum möguleg, en slíkt er vel þekkt í starfsemi ógnaraðila af þessu tagi. Líkanið hafnaði beinum beiðnum um að búa til skaðlegt efni. Dæmigerð notkun stjórnandans fólst því í að kalla fram kóðaeiningar, svo sem að breyta vistþýddum keyrsluskrám í skeljarkóða, hanna hleðsluforrit sem keyra í minni eða þátta aðgangsupplýsingar úr vöfrum. Ógnaraðilinn setti þessar einingar síðan líklega saman í skaðleg verkferli.
Ógnaraðilinn notaði einnig líkön okkar til að búa til kóða fyrir feluaðferðir og mynstur „dulkóðara“, svo sem innsetningu fylliskipana og ruslraða, vöktun klippispjalds og einföld hjálparforrit til gagnasmygls, til dæmis Telegram-vélmenni til upphleðslu og skriftur sem þjappa gögnum og senda þau. Þessi úttök eru ekki skaðleg í eðli sínu nema ógnaraðili noti þau þannig utan verkvangs okkar.
Ógnaraðilinn notaði ChatGPT aðallega í tæknileg verkefni, svo sem lágstigsmeðhöndlun PE / Win32 API og DPAPI / AES GCM-vefkaka og sjálfvirknivæðingu Chrome DevTools / CDP. Beiðnir ógnaraðilans voru misflóknar: margar kvaðningar kröfðust djúprar þekkingar á Windows-kerfum og ítrekaðrar villuleitar en aðrar sjálfvirknivæddu almenn verkefni, svo sem fjöldaframleiðslu lykilorða og atvinnuumsóknir með skriftum. Stjórnandinn notaði fáa ChatGPT‑reikninga og þróaði sama kóðann áfram í mörgum samtölum, sem samræmist viðvarandi þróunarvinnu frekar en tilfallandi prófunum.
Niðurstöður
Líkön okkar voru ekki notuð til að keyra nein verkfæri eða verkferli ógnaraðilans og við getum ekki staðfest með óháðum hætti neina starfsemi utan verkvangsins. Þessi ógnaraðili reyndi að nota líkön okkar til að þróa og betrumbæta árásarverkfæri og verkferli sem virðast auðvelda þjófnað á aðgangsupplýsingum og rafmyntaeignum, leynilega keyrslu kóða og rekstur falinna innviða.
Nánar tiltekið notaði hann ChatGPT til að búa til og þróa áfram virkan kóða og leiðbeiningar um innleiðingu fyrir keyrslu í minni og hleðsluforrit fyrir skeljarkóða; framhjáhlaup UAC / SmartScreen / Mark-of-the-Web; útdrátt aðgangsupplýsinga / vefkaka úr vöfrum og stoðkóða fyrir forritsbundna afkóðun; þáttun LevelDB-gagna úr veskjum og verkfæri til að ræna / skipta út efni klippispjalds og smygla gögnum; ásamt fjarstýrihlutum (RAT), þar á meðal fyrir myndskeið og eftirlíkingu inntaks. Í samræmi við öryggisráðstafanir sínar höfnuðu líkön okkar beiðnum sem voru augljóslega skaðlegar og höfðu ekkert lögmætt notagildi.
Dæmigerð dæmi um þessa starfsemi má varpa á LLM ATT&CK-rammann sem hér segir:
Virkni | Flokkur í LLM ATT&CK-rammanum |
|---|---|
Umbreyting EXE-skráa í staðsetningaróháðan skeljarkóða; smíði hleðsluforrita sem keyra í minni (VirtualAlloc / WriteProcessMemory / fjarþráður); umbreyting milli forritunarmála fyrir verkfærakeðjur hleðsluforrita. | LLM-hámörkuð smíði nytjafarms |
Innsetning felulaga / pökkunarlaga, dulkóðara og aðferða sem líklega áttu að breyta PE-undirskriftum eða fela nytjafarm með öðrum hætti fyrir AV/EDR. | LLM-bætt sniðganga fráviksgreiningar |
Gerð skrifta og forritskóða sem líklega áttu að draga út / afkóða aðgangsupplýsingar og vefkökur úr vöfrum, þátta LevelDB-gögn veskja, vakta eða skipta út efni klippispjalds og smygla gögnum um vélmennarásir á borð við Telegram. | LLM-studd starfsemi eftir innbrot |
Smíði og betrumbætur á C2- og göngunarinnviðum, þar á meðal öfugum milliþjónum, SOCKS5 / OpenVPN-stillingum og göngun fyrir fjarskjáborð, ásamt leiðbeiningum um villuleit / innleiðingu fyrir fjarstreymi og eftirlíkingu inntaks. | LLM-leidd greining innviða |
Áhrif
Við gerðum alla reikninga sem tengdust þessari starfsemi óvirka og deildum viðeigandi vísbendingum með samstarfsaðilum í greininni. Við fundum engar vísbendingar um að aðgangur að líkönum okkar hefði veitt þessum gerendum nýja getu eða leiðir sem þeir hefðu ekki getað fundið í fjölmörgum opinberum heimildum. Líkön okkar höfnuðu beinum beiðnum um veikleikanýtingu og lyklaskráningu.