Operació cibernètica: suport per a pesca i scripts

Aquest estudi de cas es va publicar originalment a l'informe d'octubre de 2025⁠(s'obre en una finestra nova) d'OpenAI.

Vam identificar i bloquejar un conjunt de comptes de ChatGPT implicats en activitats coincidents amb les atribuïdes públicament a grups d'amenaces que el sector identifica com a UNK_DROPPITCH (Proofpoint) i UTA0388 (Volexity). En almenys un cas, segons les informacions publicades, l'adreça electrònica utilitzada per registrar un compte de ChatGPT també s'havia fet servir per enviar missatges de pesca.

Els actors de l'amenaça que gestionaven aquests comptes mostraven trets compatibles amb operacions cibernètiques destinades a satisfer les necessitats d'intel·ligència de la RPC: ús del xinès i atacs contra el sector dels semiconductors de Taiwan, el món acadèmic i els centres d'estudis dels EUA, i organitzacions vinculades a grups ètnics i polítics crítics amb el PCC, de vegades descrits com els "cinc verins".

El nostre model no va aportar noves capacitats ofensives. Sembla que els operadors van utilitzar principalment els nostres models per guanyar una mica d'eficiència en fluxos de treball existents, sobretot per crear contingut de pesca i depurar o modificar les seves eines.

Els actors van utilitzar ChatGPT per a dues tasques principals: generar contingut per a campanyes de pesca en diversos idiomes, com ara xinès simplificat i tradicional, anglès i japonès, i ajudar a desenvolupar eines i programari maliciós. La seva tasca de desenvolupament era pròpia d'un actor amb competència tècnica, però poc sofisticat. Per exemple, van tractar diversos aspectes i matisos de l'ús d'AES per protegir el trànsit C2, però continuaven utilitzant una clau estàtica senzilla.

El procediment dels actors per crear contingut de pesca era detallat i formulista, fet coherent amb el propòsit d'atacar un grup demogràfic ben definit. Normalment, generaven un correu electrònic concís i formalment cortès fent-se passar per una persona del món acadèmic, del sector o d'un congrés. Els actors de l'amenaça sovint demanaven que se n'ajustés el to, que se substituïssin termes per adaptar-los a l'ús regional o que s'hi afegissin referències institucionals concretes. Tot i que aquests petits retocs específics apunten a un esforç coordinat per millorar la qualitat del contingut inicial, els actors no van corregir alguns detalls reveladors, com ara dades de contacte d'exemple poc creïbles incloses als blocs de signatura.

Van demanar fragments de codi i llistes de comprovació per agilitzar tasques rutinàries. Van sol·licitar codi per provar transports xifrats (HTTPS, TLS) amb consultes periòdiques senzilles de tipus balisa; van esbossar fragments en Go i PowerShell per enumerar processos, finalitzar-los pel nom de l'executable o recopilar dades de l'entorn, i van integrar escàners comercials en scripts d'embolcall de bash i PowerShell.

També van demanar al model que suggerís petits retocs d'ofuscació i seguretat operativa (OPSEC), com ara canviar el nom de funcions, modificar capçaleres o ocultar cadenes. Al llarg de diverses sessions, van avançar cap a prototips bàsics de comandament i control propis de programari maliciós de maduresa baixa o mitjana, amb bucles de manteniment de la connexió, assignació mínima de tasques per HTTP(S) i contenidors de tasques i resultats basats en JSON.

Alguns detalls d'implementació de les activitats de desenvolupament en Go de l'actor coincideixen amb informacions del sector sobre programari maliciós identificat com a GOVERSHELL (Volexity) o HealthKick (Proofpoint), cosa que indica que van intentar utilitzar models per facilitar el desenvolupament del seu programari maliciós principal.

Paral·lelament a la creació d'aquestes identitats i al desenvolupament d'eines, els operadors van investigar altres automatitzacions que podrien dur a terme mitjançant DeepSeek. Aquesta activitat s'assemblava a un treball exploratori per automatitzar la pesca massiva; per exemple, analitzant contingut web per generar automàticament una llista de destinataris i contingut que probablement interessaria a cadascun dels objectius potencials identificats. No podem confirmar de manera independent si els actors van arribar a aplicar alguna automatització d'aquest tipus ni, en cas afirmatiu, quin model van acabar utilitzant.

Els actors van intentar utilitzar els nostres models per planificar i perfeccionar components C2 xifrats, fluxos de treball d'execució remota d'ordres i comunicacions adaptades culturalment, prioritzant la rapidesa i la localització per damunt de l'obtenció de noves capacitats ofensives. Van generar resultats amb els models que semblaven destinats a facilitar activitats fora de la nostra plataforma en diversos àmbits operatius:

• C2 xifrat i execució remota: sol·licituds per redactar o corregir codi client-servidor en Go amb xifratge de missatges, com ara AES-GCM, renovació de claus de sessió, balises d'informació del sistema i una consola de servidor per emetre ordres de PowerShell mitjançant protocols web estàndard o un canal basat en WebSocket.

• Protecció del trànsit i retocs d'OPSEC: les sol·licituds incloïen codi per passar de WebSockets sense xifrar a WebSockets segurs (wss://), i d'HTTP a HTTPS; desactivar les comprovacions de certificats en algunes proves; dissimular el trànsit mitjançant una interfície CDN/TLS, i gestionar missatges més grans sense bloquejar el client.

• Reconeixement i control de processos: sol·licituds d'informació relacionada amb la detecció d'antivirus mitjançant PowerShell, l'enumeració de processos i la finalització de processos específics d'Edge/WebView2.

• Configuració d'escàners comercials: instruccions per instal·lar i utilitzar eines de codi obert com nuclei i fscan en infraestructura Linux comercial i desar-ne els resultats per revisar-los més endavant.

• Contingut de pesca i contacte: redacció de correus electrònics persuasius en diversos idiomes adreçats a contactes acadèmics o del sector, incloent-hi assumptes i un estil adaptat a les normes locals.

Aquestes activitats corresponen a categories d'LLM ATT&CK com LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery i LLM-Assisted Social Engineering.

Vam desactivar tots els comptes associats a aquesta activitat i vam compartir els indicadors rellevants amb socis del sector. Els actors buscaven principalment millorar una mica l'eficiència dels fluxos de treball existents, com ara produir correus de pesca a punt per enviar i escurçar els cicles d'iteració del codi rutinari i l'automatització. No vam trobar indicis que els resultats dels models permetessin obtenir capacitats superiors a les tècniques públiques ben documentades; el nostre model no va aportar noves capacitats ofensives. L'avantatge operatiu que pretenien obtenir amb l'ajuda dels models provenia de la fluïdesa lingüística, la localització i la persistència: probablement menys errors lingüístics, codi d'integració creat més de pressa i ajustos més ràpids quan alguna cosa fallava.