Operațiunea „ScopeCreep”: dezvoltare de malware de către un actor vorbitor de rusă

Acest studiu de caz a fost publicat inițial în raportul OpenAI din iunie 2025⁠(se deschide într-o fereastră nouă).

Am blocat un grup de conturi ChatGPT care păreau să fie operate de un actor rău intenționat vorbitor de rusă. Acest actor a folosit modelele noastre pentru a dezvolta și a perfecționa malware pentru Windows, a depana cod în mai multe limbaje și a-și configura infrastructura de comandă și control.

Actorul a demonstrat cunoștințe despre mecanismele interne ale Windows și a luat unele măsuri de securitate operațională. Am denumit operațiunea „ScopeCreep”, deoarece se baza pe un instrument de tip „reticul de ochire” pentru jocuri, infectat cu un troian, și pe tactici de disimulare.

Acest actor rău intenționat a avut o abordare deosebită în privința securității operaționale. Folosea adrese de e-mail temporare pentru a crea conturi ChatGPT, limitând utilizarea fiecărui cont la o singură conversație despre o singură îmbunătățire punctuală a codului său. Apoi abandona contul inițial și crea unul nou.

Actorul distribuia malware-ul ScopeCreep printr-un depozit de cod accesibil public, care se dădea drept un instrument legitim și popular pentru suprapunerea unui reticul de ochire în jocuri video (Crosshair-X). Utilizatorii care descărcau și rulau versiunea malițioasă fără să bănuiască nimic porneau pe sistemul lor un încărcător de malware, care descărca și executa alte fișiere malițioase din infrastructura atacatorului.

De acolo, malware-ul era conceput să inițieze un proces în mai multe etape pentru a obține privilegii sporite, a-și asigura persistența în mod discret, a notifica actorul rău intenționat și a exfiltra date sensibile, evitând totodată detectarea.

Actorul rău intenționat a folosit modelul nostru pentru a dezvolta malware-ul în mod iterativ, cerând în mod repetat ChatGPT să implementeze funcționalități specifice suplimentare. ScopeCreep a folosit o serie de tehnici de distribuire, execuție, evitare a detectării și exfiltrare, printre care:

• Componente malițioase C2 concepute să evite detectarea bazată pe semnături.

• Execuție discretă prin încărcarea laterală a DLL-urilor.

• Ofuscare prin împachetare personalizată cu Themida.

• Escaladarea privilegiilor și evitarea detectării.

• HTTPS pe portul 80.

• Furtul datelor de autentificare și al sesiunilor.

• Notificarea atacatorului prin Telegram.

• Ofuscarea traficului prin proxy.

În pofida eforturilor actorului de a-și asigura securitatea operațională și a mecanismelor de evitare a detectării încorporate în malware, am reușit să identificăm activitatea datorită procesului nostru de detectare la scară largă a abuzurilor cibernetice. Am colaborat cu furnizorul serviciului de găzduire a codului pentru a elimina depozitul malițios și am blocat toate conturile ChatGPT asociate acestei activități.

Interacțiunile acestui grup de conturi cu modelul au acoperit o gamă largă de sarcini de dezvoltare. Una dintre ele includea un fragment de cod Go în care actorul rău intenționat întâmpina probleme cu o cerere HTTPS și solicita modelului să îl depaneze. Într-un alt caz, actorul rău intenționat a cerut ajutor pentru a folosi comenzi PowerShell prin Go ca să modifice setările Windows Defender, căutând o modalitate de a adăuga excluderi antivirus prin cod.

Exemple reprezentative ale acestor activități pot fi încadrate în cadrul LLM ATT&CK după cum urmează:

• Folosirea LLM-urilor pentru a compila un fișier, python310.dll, astfel încât codul actorului să fie executat ori de câte ori rulează python.exe: dezvoltare asistată de LLM.

• Remedierea erorilor legate de certificatele SSL/TLS destinate traficului HTTPS pe portul 80: dezvoltare asistată de LLM.

• Migrarea, cu ajutorul modelului, a unui server C2 bazat pe Flask la un server WSGI pregătit pentru producție: dezvoltare asistată de LLM.

• Dezvoltarea de comenzi PowerShell în Go pentru a modifica setările Windows Defender și a adăuga excluderi antivirus: evitarea detectării anomaliilor, îmbunătățită cu ajutorul LLM.

• Depanarea codului care trimite notificări pe un canal Telegram controlat de atacator atunci când este compromis sistemul unei noi victime: activitate post-compromitere asistată de LLM.

În această etapă, este posibil ca impactul ScopeCreep să fi fost limitat prin raportarea rapidă și colaborarea strânsă cu parteneri din industrie, care au reușit să elimine depozitul malițios. Am blocat conturile OpenAI folosite de acest adversar.

Evaluarea noastră este că acest actor rău intenționat a folosit modelele noastre în încercarea de a-și accelera operațiunile de dezvoltare de malware. Paradoxal, acest lucru ne-a oferit și ocazia de a identifica și a contracara rapid amenințarea, aparent încă din stadiile ei incipiente.

Deși acest malware permite escaladarea privilegiilor, persistența, colectarea datelor de autentificare și accesul de la distanță, aceste capabilități nu sunt deosebit de noi. Deși malware-ul era probabil activ în atacuri reale, unele mostre apărând pe VirusTotal, nu am observat dovezi ale unui interes larg sau ale unei distribuiri pe scară largă.