Operació "VAGue Focus": enginyeria social i activitats d'influència

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de juny de 2025⁠(s'obre en una finestra nova).

Vam bloquejar una petita xarxa de comptes de ChatGPT que feien servir els nostres models per generar publicacions per a les xarxes socials, analitzar conjunts de dades i traduir del xinès a l'anglès correus electrònics i missatges que semblaven intents d'enginyeria social. Els comptes donaven instruccions als nostres models en xinès i estaven actius principalment durant l'horari laboral de la Xina continental.

Generaven missatges que es feien passar per comunicacions d'empleats de tres entitats centrades en la geopolítica: "Focus Lens News", "BrightWave Media Europe" i "Visionary Advisory Group" (VAG). A més, els comptes de ChatGPT generaven textos que coincidien amb les publicacions i les biografies de comptes d'X associats a aquestes tres entitats. En altres comunicacions, els actors maliciosos descrivien aquestes entitats com a façanes per a la recopilació i l'anàlisi d'informació d'intel·ligència. A partir d'aquests noms, hem batejat aquesta operació com a "VAGue Focus".

L'operació feia servir ChatGPT com a suport per a quatre línies de treball principals. En primer lloc, els comptes feien servir els nostres models sobretot per generar publicacions per a les xarxes socials i biografies de personatges ficticis en línia que semblaven formar part d'una operació d'influència encoberta. Les publicacions es difonien a través de comptes d'X que es feien passar per periodistes i analistes geopolítics.

En segon lloc, els comptes perfeccionaven i traduïen correspondència adreçada a un senador dels Estats Units sobre la proposta de nomenament d'un càrrec de l'Administració. No podem confirmar de manera independent si es va arribar a enviar cap d'aquestes comunicacions.

En tercer lloc, els comptes feien una sèrie de preguntes bàsiques sobre eines d'atac i explotació de xarxes informàtiques, a les quals els nostres models només responien amb explicacions generals sobre el seu ús i les seves capacitats. Aquestes preguntes no mostraven la sofisticació dels actors cibernètics que descrivim més endavant en aquest informe i suggereixen un nivell de coneixements baix.

Finalment, els usuaris demanaven regularment traduccions del xinès a l'anglès de missatges que semblaven pensats per establir contacte amb interlocutors desconeguts i, en última instància, obtenir-ne informació. Alguns d'aquests missatges es publicaven a les xarxes socials com a respostes a periodistes i investigadors. D'altres semblaven missatges directes que no apareixien a les cerques en línia.

L'objectiu principal d'aquesta xarxa semblava ser recopilar informació d'intel·ligència fent-se passar per professionals establerts a Europa o Turquia. En el contingut que generaven i publicaven en línia, els operadors descrivien "Focus Lens News" com una entitat independent amb seu a Europa, especialitzada en anàlisi i informació periodística. Tanmateix, els operadors també afirmaven que aquesta marca servia, en realitat, de tapadora per facilitar la recopilació, l'anàlisi i la difusió d'informació d'intel·ligència.

Segons el lloc web enllaçat a les biografies de les xarxes socials, Visionary Advisory Group té la seu a Turquia i està especialitzat en serveis professionals de consultoria geopolítica. Els operadors feien servir els nostres models per traduir del xinès a l'anglès instruccions que afirmaven que VAG Group buscava informació sobre les polítiques econòmiques i financeres dels Estats Units i que estava disposat a pagar 2.000 dòlars per hora d'entrevista. També traduïen ofertes de pagament a canvi de documents classificats.

El lloc web de VAG Group té versions en turc i en anglès. A la pàgina de contacte de la versió anglesa, els caràcters xinesos que signifiquen "contacteu amb nosaltres" (聯絡) són visibles al menú. Aquest era l'únic text en xinès de tot el domini.

Part del contingut d'aquesta xarxa semblava material promocional per a operacions d'influència de més abast. Segons aquestes afirmacions, que no podem verificar de manera independent, l'operació feia servir aprenentatge automàtic, processament del llenguatge natural i extracció automatitzada de dades per identificar veus i temes influents a les xarxes socials.

Els comptes de xarxes socials vinculats a aquesta activitat no van aconseguir un volum significatiu d'interaccions autèntiques en línia. Només el compte d'X de Focus Lens News tenia un nombre considerable de seguidors: 17.000. Tanmateix, el compte s'havia creat el novembre de 2014 amb un altre nom, havia publicat tuits durant tres dies i després havia quedat inactiu fins a mitjan 2024. Això és habitual en comptes que han estat compromesos i reutilitzats amb altres finalitats, per la qual cosa cal interpretar-ne el nombre de seguidors amb cautela.

Si apliquem l'escala de propagació⁠(s'obre en una finestra nova) per mesurar l'impacte de les operacions d'influència, situaríem la part pública d'aquesta operació a la franja baixa de la categoria 2: activitat en diverses plataformes, però pocs indicis que persones reals se'n fessin ressò o en compartissin àmpliament el contingut. No hi ha prou evidències disponibles per avaluar l'impacte de l'enginyeria social i de les altres activitats encobertes de l'operació.