Operació cibernètica: suport en coreà per a programari maliciós

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de l'octubre de 2025⁠(s'obre en una finestra nova).

Vam identificar i bloquejar un grup de comptes de ChatGPT els operadors dels quals, de parla coreana, van intentar utilitzar els nostres models per desenvolupar programari maliciós i sistemes de comandament i control (C2). Els indicadors que vam observar durant la investigació coincideixen en part amb un informe de Trellix que vinculava una activitat similar amb campanyes de pesca dirigida contra missions diplomàtiques sud-coreanes, el desplegament del programari maliciós XenoRAT i l'ús de repositoris allotjats a GitHub per a C2.

Tot i que les coincidències amb l'informe de Trellix —com ara l'ús observat del coreà, una activitat compatible amb els fusos horaris UTC+8 i UTC+9, i les temàtiques operatives— concorden amb el coneixement que té la comunitat de seguretat sobre els actors nord-coreans (RPDC), no podem atribuir-los l'activitat de manera independent. A més, bloquegem l'accés als nostres serveis des de Corea del Nord.

Els comptes van interactuar amb els nostres models principalment en coreà i van mostrar fluxos de treball estructurats, amb molts comptes actius durant franges horàries curtes. Sembla que cadascun d'aquests comptes es va centrar en un cas d'ús concret, com ara convertir extensions de Chrome a Safari per publicar-les a l'App Store d'Apple, configurar VPN de Windows Server o desenvolupar extensions del Finder de macOS, en lloc d'abastar diverses àrees tècniques.

Vam observar interaccions amb els nostres models relacionades amb tècniques d'intercepció de l'API de Windows, fluxos de treball per accedir a credencials i galetes del navegador (DPAPI), i pàgines de verificació que imitaven les legítimes, com ara clons de reCAPTCHA. També vam detectar esborranys de correus de pesca en coreà, sovint centrats en criptomonedes i dissenyats perquè semblessin missatges d'organismes governamentals o proveïdors de serveis financers.

A més, els actors van experimentar amb serveis d'emmagatzematge al núvol com pCloud, file.io i GDrive, incloent-hi la creació d'enllaços directes i scripts per a API, així com amb funcions de GitHub com la recuperació de contingut en brut i la gestió de tokens. No vam trobar proves que els binaris maliciosos utilitzats en les campanyes descrites per Trellix s'haguessin generat amb els nostres models. És possible que els mateixos operadors utilitzessin els nostres models mentre preparaven càrregues útils mitjançant plataformes de desenvolupament i serveis al núvol.

Els actors d'amenaces van generar resultats amb els models pensats per donar suport a diverses àrees operatives, entre les quals:

• Desenvolupament d'implants i eines relacionades amb RAT: exploració de la càrrega reflectiva de DLL, l'execució en memòria i les tècniques d'intercepció de l'API de Windows.

• Rutines de robatori de credencials: generació, modificació i depuració de scripts per extreure claus de xifratge del navegador, galetes i contrasenyes desades mitjançant fluxos de treball DPAPI de Chrome i Edge.

• Pesca i esquers: redacció de contingut aparentment destinat a campanyes de pesca en coreà, sovint relacionat amb criptomonedes, organismes governamentals o proveïdors de serveis financers; experimentació amb l'ofuscació d'HTML i l'ús de servidors intermediaris per a reCAPTCHA amb l'objectiu de crear pàgines d'inici de sessió convincents.

• Estructures de base per al desenvolupament en macOS: sol·licituds relacionades amb el desenvolupament d'extensions del Finder i Safari, i la generació d'un exemple de política de privacitat per a l'App Store.

• Operacions amb criptomonedes: resolució de problemes en crides a API i interaccions amb carteres.

Moltes d'aquestes sol·licituds se situaven a la zona grisa de les activitats de doble ús. Poden tenir aplicacions del tot legítimes, com ara la depuració de programari, la criptografia o el desenvolupament de navegadors, però adquireixen un significat diferent quan un actor d'amenaces les reutilitza amb altres finalitats.

Vam desactivar tots els comptes associats amb aquesta operació i vam compartir els indicadors rellevants amb els nostres col·laboradors. No vam trobar proves que l'accés als models aportés capacitats noves més enllà de les que ja estan disponibles públicament.