Manual del costat positiu: activitat probablement originària de la Xina dirigida a persones dels Estats Units

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de febrer de 2026⁠(s'obre en una finestra nova) sobre la desarticulació d'usos maliciosos de la IA.

Vam bloquejar un petit grup de comptes de ChatGPT probablement originaris de la Xina que utilitzaven els nostres models per demanar informació sobre persones dels Estats Units, fòrums i ubicacions d'edificis federals, obtenir orientacions sobre programari d'intercanvi de cares i generar correus electrònics en anglès que semblaven intents d'enginyeria social. Feien peticions als nostres models en xinès, estaven actius principalment durant l'horari laboral de la Xina continental i utilitzaven VPN per accedir a la nostra plataforma.

Els comptes generaven esborranys de correus electrònics que pretenien fer passar per missatges d'empleats d'una empresa amb seu a Hong Kong anomenada "Nimbus Hub Consulting". Tanmateix, feien les peticions als nostres models en caràcters xinesos simplificats (habituals a la Xina continental), en lloc de caràcters xinesos tradicionals (habituals a Hong Kong), cosa que suggeria que els responsables reals operaven des de la Xina continental. A més, un compte va generar un correu electrònic fent-se passar per un representant d'una organització de relacions públiques amb seu a Xangai que promou els intercanvis econòmics i culturals entre els Estats Units i Xangai. Com que el nom de l'empresa feia referència a "Nimbus", que significa núvol de pluja o halo, vam anomenar aquesta operació "Manual del costat positiu", en al·lusió a la imatge anglesa del rivet lluminós dels núvols.

Els comptes generaven esborranys de correus electrònics en anglès adreçats a càrrecs públics dels governs estatals dels Estats Units o a analistes de polítiques que treballaven en l'àmbit empresarial i financer. Semblaven convidar aquests destinataris a participar en consultes remunerades, que descrivien com una feina d'interpretació de polítiques i assessorament estratègic per als seus clients. Demanaven que els esborranys fossin concisos, clars i professionals, amb assumptes que transmetessin urgència i incorporessin elements subtils de persuasió psicològica.

A més, els comptes de ChatGPT utilitzaven els nostres models per cercar informació general, i el nostre model els responia a partir de fonts d'accés públic. Entre les consultes hi havia els temes següents:

• La ubicació d'oficines del govern federal dels Estats Units, incloses les seus principals, i una llista d'estats ordenada segons la concentració d'agències i funcionaris federals.

• La distribució del personal federal dels Estats Units per estat.

• Persones dels Estats Units, com ara presentadors de Voice of America, incloses les entrevistes que havien fet i els seus temes d'interès.

• Fòrums i llocs web que utilitzen habitualment els professionals i les persones que busquen feina en el sector econòmic i financer dels Estats Units.

Cal destacar que un compte va demanar orientacions per descarregar i instal·lar a l'ordinador FaceFusion, una plataforma de manipulació facial que permet intercanviar cares i aplicar altres millores a continguts multimèdia. Segons la seva activitat a ChatGPT, va manifestar la intenció d'utilitzar específicament la funció d'intercanvi de cares en directe. Va demanar una guia d'instal·lació pas a pas, sense tecnicismes, i va afirmar que tenia poca experiència en programació, de manera que les instruccions havien de ser senzilles. Va pujar una captura de pantalla de les especificacions del maquinari del seu ordinador per facilitar la instal·lació. El model va respondre amb informació extreta del web i de la documentació d'accés públic de FaceFusion.

Les instruccions per generar esborranys de correus amb els nostres models s'assemblaven més a un manual d'enginyeria social⁠(s'obre en una finestra nova) per establir contacte en nom d'un servei d'intel·ligència estranger que no pas a missatges de contractació habituals. Per a cada esborrany de correu, demanaven les seccions següents:

Transmetre legitimitat: Presentaven "Nimbus Hub" com una consultoria estratègica professional amb coneixements especialitzats de referència en geopolítica i polítiques transnacionals. Incloïen un enllaç al web de Nimbus Hub (vegeu la captura de pantalla següent).

Personalitzar el missatge i afalagar el destinatari: Indicaven al model que esmentés explícitament la trajectòria del destinatari en el sector públic com a prova que era la persona idònia per al lloc. En un cas, el compte va pujar captures de pantalla del perfil de LinkedIn d'una persona dels Estats Units resident a Xangai i va indicar al model que personalitzés l'esborrany del correu a partir del text sobre les experiències personals i la trajectòria d'aquesta persona que apareixia a les captures.

Acumular incentius: L'oferta de consultoria se solia presentar com una oportunitat lucrativa de treball en línia, amb primes per rendiment i recompenses per recomanar altres persones, però sense concretar gaire en què consistia la feina.

Utilitzar un llenguatge tranquil·litzador i reduir la percepció de risc: Sovint afirmaven que la feina era tranquil·la, que es pagava puntualment i que era confidencial.

Traslladar ràpidament la comunicació fora de la plataforma: Sempre intentaven que els destinataris deixessin el correu electrònic i passessin a una primera videoconferència per WhatsApp, Zoom o Teams.

En aquest cas, les interaccions de les xarxes amb el model no eren tècnicament sofisticades, i algunes peticions semblaven sol·licituds plausibles per redactar invitacions de contractació o instal·lar programari de manera legítima. Tanmateix, la tàctica dels usuaris d'amagar-se darrere d'una identitat corporativa falsa i el seu interès per temes geopolítics apunten a una possible intenció de captar persones amb finalitats hostils.

L'ús de ChatGPT per part d'aquests comptes no aportava cap prova que haguessin aconseguit que les persones seleccionades responguessin a les invitacions. No vam poder determinar de manera independent si les invitacions per correu electrònic s'havien enviat realment ni si algun dels destinataris havia respost.

Diversos governs democràtics (com ara els dels Estats Units⁠(s'obre en una finestra nova), el Regne Unit⁠(s'obre en una finestra nova) i Austràlia⁠(s'obre en una finestra nova)) han advertit que serveis d'intel·ligència estrangers intenten captar empleats i exempleats públics fent-se passar per consultories i altres entitats en plataformes de xarxes socials i professionals. Pot ser difícil distingir els missatges de contractació habituals d'aquests intents de contacte dirigits que recorren a l'enginyeria social, perquè comparteixen alguns trets. Tanmateix, els contactes legítims solen estar pensats per a processos de selecció més lents i inclouen informació verificable sobre el lloc de treball, dades creïbles de l'empresa, franges salarials raonables segons el mercat i enllaços a ofertes de feina reals. En resum, si sembla massa bo per ser veritat, probablement no ho és.