Operacioni “ScopeCreep”: zhvillim softuerësh keqdashës nga rusishtfolës

Ky studim rasti u botua fillimisht në raportin e OpenAI të qershorit 2025⁠(hapet në një dritare të re).

Ne bllokuam një grup llogarish ChatGPT që dukej se përdoreshin nga një aktor kërcënues rusishtfolës. Ky aktor përdori modelet tona për të ndihmuar në zhvillimin dhe përmirësimin e softuerëve keqdashës për Windows, korrigjimin e kodit në disa gjuhë dhe ngritjen e infrastrukturës së komandimit dhe kontrollit.

Aktori tregoi njohuri mbi funksionimin e brendshëm të Windows dhe shfaqi disa praktika të sigurisë operacionale. Duke u bazuar te përqendrimi i operacionit në përdorimin e një mjeti të trojanizuar për shënjestrimin me kryq në lojëra dhe te taktikat e tij të fshehta, e kemi quajtur atë “ScopeCreep”.

Ky aktor kërcënues kishte një qasje të veçantë ndaj sigurisë operacionale. Ai përdorte adresa të përkohshme emaili për të hapur llogari ChatGPT, duke e kufizuar secilën llogari në një bisedë për një përmirësim të vetëm gradual të kodit. Më pas, ai e braktiste llogarinë fillestare dhe krijonte një të re.

Aktori e shpërndante softuerin keqdashës ScopeCreep përmes një depoje publike kodi që hiqej si një mjet i ligjshëm dhe popullor për mbivendosjen e shënjestrës me kryq në videolojëra (Crosshair-X). Përdoruesit që, pa dyshuar, shkarkonin dhe ekzekutonin versionin keqdashës, aktivizonin ngarkuesin e softuerit keqdashës në sistemin e tyre. Si pasojë, nga infrastruktura e sulmuesit shkarkoheshin dhe ekzekutoheshin skedarë të tjerë keqdashës.

Më tej, softueri keqdashës ishte krijuar për të nisur një proces me disa faza, me qëllim ngritjen e privilegjeve, sigurimin e qëndrueshmërisë së fshehtë, njoftimin e aktorit kërcënues dhe nxjerrjen e të dhënave të ndjeshme pa u zbuluar.

Aktori kërcënues përdori modelin tonë për të zhvilluar në mënyrë të përsëritur softuerin keqdashës, duke i kërkuar vazhdimisht ChatGPT të zbatonte veçori të tjera specifike. ScopeCreep përdorte një sërë teknikash për shpërndarjen, ekzekutimin, shmangien dhe nxjerrjen e të dhënave, duke përfshirë:

• Ngarkesa C2 të krijuara për të shmangur zbulimin e bazuar në nënshkrime.

• Ekzekutim i fshehtë përmes ngarkimit anësor të DLL-ve.

• Maskim përmes paketimit të personalizuar me Themida.

• Ngritje privilegjesh dhe shmangie e zbulimit.

• HTTPS përmes portës 80.

• Vjedhje e kredencialeve dhe seancave.

• Njoftime për sulmuesin përmes Telegram.

• Maskim i trafikut përmes serverëve proxy.

Pavarësisht përpjekjeve të aktorit kërcënues për siguri operacionale dhe mekanizmave të vetë softuerit keqdashës për shmangien e zbulimit, arritëm ta zbulonim aktivitetin falë procesit tonë të shkallëzuar për zbulimin e keqpërdorimit kibernetik. U bashkërenduam me ofruesin e strehimit të kodit për të hequr depon keqdashëse dhe bllokuam të gjitha llogaritë ChatGPT të lidhura me këtë aktivitet.

Ndërveprimet me modelin nga ky grup përfshinin një gamë të gjerë detyrash zhvillimi. Në një rast, aktori kërcënues kishte vështirësi me një kërkesë HTTPS në një fragment kodi Go dhe i kërkoi modelit ta korrigjonte. Në një rast tjetër, aktori kërcënues kërkoi ndihmë për përdorimin e komandave PowerShell përmes Go, që të ndryshonte cilësimet e Windows Defender, duke kërkuar një mënyrë për të shtuar programatikisht përjashtime antivirus.

Shembuj përfaqësues të këtyre aktiviteteve mund të përputhen me kuadrin LLM ATT&CK si më poshtë:

• Përdorimi i LLM-ve për të kompiluar skedarin python310.dll, në mënyrë që kodi i tyre të ekzekutohet sa herë që hapet python.exe: Zhvillim me ndihmën e LLM-së.

• Zgjidhja e gabimeve me certifikatat SSL/TLS të konfiguruara për të ofruar trafik HTTPS në portën 80: Zhvillim me ndihmën e LLM-së.

• Migrimi, me ndihmën e modelit, i një serveri C2 të bazuar në Flask drejt një serveri WSGI gati për prodhim: Zhvillim me ndihmën e LLM-së.

• Zhvillimi i komandave PowerShell në Go për të ndryshuar cilësimet e Windows Defender dhe për të shtuar përjashtime antivirus: Shmangie e përmirësuar nga LLM-ja e zbulimit të anomalive.

• Korrigjimi i gabimeve në kod për të njoftuar një kanal Telegram të kontrolluar nga sulmuesi kur komprometohet një viktimë e re: Aktivitet pas komprometimit me ndihmën e LLM-së.

Në këtë fazë, ndikimi i ScopeCreep mund të jetë kufizuar nga raportimi i shpejtë dhe bashkëpunimi i ngushtë me partnerët e industrisë, të cilët arritën ta hiqnin depon keqdashëse. Ne bllokuam llogaritë OpenAI të përdorura nga ky kundërshtar.

Vlerësojmë se ky aktor kërcënues përdori modelet tona në përpjekje për të përshpejtuar zhvillimin e softuerëve të tij keqdashës. Në mënyrë paradoksale, kjo na dha gjithashtu mundësinë ta identifikonim dhe ta pengonim shpejt kërcënimin, ndërsa dukej se ishte ende në fazat e hershme.

Edhe pse aftësitë e këtij softueri keqdashës përfshijnë ngritjen e privilegjeve, qëndrueshmërinë, mbledhjen e kredencialeve dhe qasjen në distancë, ato nuk janë veçanërisht të reja. Ndonëse ky softuer keqdashës ka të ngjarë të ketë qenë aktiv në sisteme reale dhe disa mostra u shfaqën në VirusTotal, nuk gjetëm prova për interes apo shpërndarje të gjerë.