Operació "ScopeCreep": desenvolupament de programari maliciós per un actor de parla russa

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de juny de 2025⁠(s'obre en una finestra nova).

Vam bloquejar un conjunt de comptes de ChatGPT que semblaven estar gestionats per un actor maliciós de parla russa. Aquest actor feia servir els nostres models com a ajuda per desenvolupar i perfeccionar programari maliciós per a Windows, depurar codi en diversos llenguatges i configurar la seva infraestructura de comandament i control.

L'actor va demostrar coneixements del funcionament intern de Windows i va adoptar algunes pràctiques de seguretat operativa. Hem batejat l'operació amb el nom de "ScopeCreep" perquè se centrava en l'ús d'una eina de "punt de mira" per a videojocs que incorporava un troià i en tàctiques furtives.

Aquest actor maliciós tenia una manera peculiar d'abordar la seguretat operativa. Feia servir adreces de correu electrònic temporals per crear comptes de ChatGPT i limitava cada compte a una sola conversa sobre una petita millora del seu codi. Després abandonava el compte original i en creava un de nou.

L'actor distribuïa el programari maliciós ScopeCreep a través d'un repositori de codi públic que es feia passar per una eina legítima i popular per superposar un punt de mira als videojocs (Crosshair-X). Els usuaris desprevinguts que descarregaven i executaven la versió maliciosa activaven el carregador de programari maliciós al seu sistema, cosa que provocava la descàrrega i l'execució de fitxers maliciosos addicionals des de la infraestructura de l'atacant.

A partir d'aquí, el programari maliciós estava dissenyat per iniciar un procés en diverses etapes per elevar privilegis, establir persistència de manera furtiva, avisar l'actor maliciós i exfiltrar dades sensibles tot evitant la detecció.

L'actor maliciós feia servir el nostre model com a ajuda per desenvolupar el programari maliciós de manera iterativa, demanant contínuament a ChatGPT que hi implementés noves funcions específiques. ScopeCreep feia servir diverses tècniques de distribució, execució, evasió i exfiltració, entre les quals:

• Càrregues útils de C2 dissenyades per evitar la detecció basada en signatures.

• Execució furtiva mitjançant la càrrega lateral de DLL.

• Ofuscació mitjançant l'empaquetament personalitzat amb Themida.

• Elevació de privilegis i evasió.

• HTTPS a través del port 80.

• Robatori de credencials i sessions.

• Notificacions a l'atacant a través de Telegram.

• Ofuscació del trànsit mitjançant servidors intermediaris.

Malgrat els esforços de l'actor maliciós en matèria de seguretat operativa i els mecanismes per evitar la detecció incorporats al mateix programari maliciós, vam poder detectar l'activitat gràcies al nostre procés de detecció d'abusos cibernètics a gran escala. Ens vam coordinar amb el proveïdor d'allotjament de codi per retirar el repositori maliciós i vam bloquejar tots els comptes de ChatGPT associats a aquesta activitat.

Les interaccions d'aquest conjunt de comptes amb el model abastaven una àmplia varietat de tasques de desenvolupament. En una d'elles, l'actor maliciós va aportar un fragment de codi en Go que li donava problemes amb una petició HTTPS i va demanar al model que el depurés. En un altre cas, l'actor maliciós va demanar ajuda per fer servir ordres de PowerShell des de Go per modificar la configuració de Windows Defender, buscant una manera d'afegir exclusions a l'antivirus mitjançant codi.

Alguns exemples representatius d'aquestes activitats es poden classificar segons el marc LLM ATT&CK de la manera següent:

• Ús de LLM per compilar un fitxer, python310.dll, de manera que el codi de l'actor s'executi cada vegada que s'executa python.exe: desenvolupament assistit per LLM.

• Resolució d'errors amb certificats SSL/TLS dissenyats per servir trànsit HTTPS al port 80: desenvolupament assistit per LLM.

• Migració, amb l'ajuda del model, d'un servidor C2 basat en Flask a un servidor WSGI preparat per a entorns de producció: desenvolupament assistit per LLM.

• Desenvolupament d'ordres de PowerShell en Go per modificar la configuració de Windows Defender i afegir exclusions a l'antivirus: evasió de la detecció d'anomalies millorada amb LLM.

• Depuració d'errors en el codi per enviar una notificació a un canal de Telegram controlat per l'atacant quan es compromet el sistema d'una nova víctima: activitat posterior a la intrusió assistida per LLM.

En aquesta fase, és possible que l'impacte de ScopeCreep s'hagi mitigat gràcies a la rapidesa amb què es va comunicar l'amenaça i a l'estreta col·laboració amb socis del sector, que van poder retirar el repositori maliciós. Vam bloquejar els comptes d'OpenAI que feia servir aquest adversari.

Segons la nostra avaluació, aquest actor maliciós va fer servir els nostres models per intentar accelerar les seves operacions de desenvolupament de programari maliciós. Paradoxalment, això també ens va donar l'oportunitat d'identificar i interrompre l'amenaça ràpidament, quan semblava que encara es trobava en les primeres fases.

Tot i que les capacitats d'aquest programari maliciós inclouen l'elevació de privilegis, la persistència, la recopilació de credencials i l'accés remot, no són especialment noves. Encara que aquest programari maliciós probablement estava actiu en entorns reals, amb algunes mostres presents a VirusTotal, no vam trobar indicis que hagués despertat un interès generalitzat ni que s'hagués distribuït a gran escala.