Draaiboek met een zilveren randje: vermoedelijk vanuit China aangestuurde activiteiten gericht op Amerikanen

Deze casestudy verscheen oorspronkelijk in het rapport van OpenAI van februari 2026⁠(opent in een nieuw venster) over het verstoren van kwaadwillig gebruik van AI.

We hebben een kleine groep ChatGPT‑accounts geblokkeerd die waarschijnlijk vanuit China werden beheerd. Ze gebruikten onze modellen om informatie op te vragen over Amerikanen, forums en locaties van federale gebouwen, om instructies te krijgen voor software om gezichten te verwisselen en om Engelstalige e-mails te genereren die op pogingen tot social engineering leken. Ze gaven onze modellen prompts in het Chinees, waren vooral actief tijdens kantooruren op het Chinese vasteland en gebruikten VPN's om toegang te krijgen tot ons platform.

De accounts genereerden conceptmails die zogenaamd afkomstig waren van medewerkers van een in Hongkong gevestigd bedrijf met de naam "Nimbus Hub Consulting". Ze schreven hun prompts echter in vereenvoudigde Chinese karakters (gebruikelijk op het Chinese vasteland) in plaats van traditionele Chinese karakters (gebruikelijk in Hongkong). Dit suggereert dat de mensen achter de accounts zich op het Chinese vasteland bevonden. Daarnaast genereerde één account een e-mail die zogenaamd afkomstig was van een vertegenwoordiger van een PR-organisatie in Shanghai die economische en culturele uitwisseling tussen de VS en Shanghai bevordert. Vanwege de verwijzing in de bedrijfsnaam naar "Nimbus", wat regenwolk of stralenkrans betekent, noemden we deze operatie "Draaiboek met een zilveren randje".

De accounts genereerden Engelstalige conceptmails gericht aan Amerikaanse overheidsfunctionarissen op deelstaatniveau of beleidsanalisten die zich bezighouden met het bedrijfsleven en de financiële sector. Ze leken deze ontvangers uit te nodigen voor betaald advieswerk, dat ze omschreven als het duiden van beleid en het geven van strategisch advies aan hun klanten. Ze vroegen om beknopte, duidelijke en professionele conceptmails, met onderwerpregels die een gevoel van urgentie opriepen en subtiele psychologische prikkels bevatten.

Daarnaast gebruikten de ChatGPT‑accounts onze modellen om algemene informatie op te vragen. Ons model beantwoordde die verzoeken aan de hand van openbaar beschikbare bronnen. Het ging onder meer om vragen over de volgende onderwerpen:

• De locaties van Amerikaanse federale overheidskantoren, waaronder hoofdkantoren, en een ranglijst van staten met grote concentraties federale instanties en overheidsfunctionarissen.

• De verdeling van Amerikaans federaal overheidspersoneel over de staten.

• Amerikanen, zoals presentatoren van Voice of America, inclusief hun eerdere interviews en interessegebieden.

• Online forums en websites die veel worden gebruikt door professionals en werkzoekenden in de economische en financiële sector in de VS.

Opvallend was dat één account vroeg hoe het FaceFusion kon downloaden en installeren op de computer. Dit is een platform voor het bewerken en verwisselen van gezichten en andere mediaverbeteringen. Uit de ChatGPT‑activiteit bleek dat de gebruiker specifiek van plan was de functie te gebruiken waarmee gezichten live kunnen worden verwisseld. De gebruiker vroeg om stapsgewijze, niet-technische installatie-instructies en beweerde een beginnende programmeur te zijn, zodat de instructies eenvoudig moesten blijven. De gebruiker uploadde een screenshot van de hardwarespecificaties van de computer om hulp te krijgen bij de installatie. Het model antwoordde met informatie uit de openbaar beschikbare website en documentatie van FaceFusion.

Hun instructies aan onze modellen om conceptmails te genereren leken eerder op een draaiboek⁠(opent in een nieuw venster) voor social engineering door een buitenlandse inlichtingendienst dan op gewone wervingsberichten. Voor elke conceptmail vroegen ze om de volgende onderdelen:

Geloofwaardigheid opbouwen: Ze presenteerden "Nimbus Hub" als een professioneel strategisch adviesbureau met gezaghebbende expertise op het gebied van geopolitiek en transnationaal beleid. Ze voegden een link toe naar de website van Nimbus Hub (zie de screenshot hieronder).

Het doelwit persoonlijk benaderen en vleien: Ze vroegen het model expliciet te verwijzen naar de achtergrond van de ontvanger in de publieke sector als bewijs dat diegene precies de juiste persoon voor de functie was. In één geval uploadde een account screenshots van het LinkedIn-profiel van een Amerikaan in Shanghai. Het model kreeg de opdracht om de conceptmail te personaliseren op basis van de tekst in de screenshots over de persoonlijke ervaringen en achtergrond van deze persoon.

Voordelen opstapelen: Het advieswerk werd meestal voorgespiegeld als een lucratieve kans om online te werken, met prestatiebonussen en beloningen voor het aanbrengen van anderen. Tegelijkertijd bleven ze vaag over de feitelijke werkzaamheden.

Geruststellen en risico's kleiner laten lijken: Ze beweerden vaak dat het werk ontspannen en vertrouwelijk was en dat er op tijd werd betaald.

De communicatie snel naar een ander platform verplaatsen: Ze probeerden de ontvangers altijd van e-mail naar een eerste videogesprek via WhatsApp, Zoom of Teams te laten overstappen.

De interacties van de netwerken met de modellen waren in dit geval technisch niet geavanceerd. Hun verzoeken leken soms op aannemelijke verzoeken om wervingsberichten op te stellen of legitieme software te installeren. De tactiek van de gebruikers om zich achter een verzonnen bedrijfsidentiteit te verschuilen en hun belangstelling voor geopolitieke onderwerpen wijzen echter op een mogelijke intentie om mensen voor vijandige doeleinden te rekruteren.

Uit het gebruik van ChatGPT door deze accounts bleek niet dat ze hun doelwitten ertoe hadden weten te bewegen op hun uitnodigingen te reageren. We konden niet onafhankelijk vaststellen of de uitnodigingen per e-mail daadwerkelijk waren verstuurd of dat beoogde ontvangers hadden gereageerd.

Verschillende democratische regeringen (zoals die van de VS⁠(opent in een nieuw venster), het VK⁠(opent in een nieuw venster) en Australië⁠(opent in een nieuw venster)) hebben gewaarschuwd dat buitenlandse inlichtingendiensten huidige en voormalige overheidsmedewerkers proberen te rekruteren door zich op sociale en professionele netwerkplatforms voor te doen als adviesbureaus en andere organisaties. Het kan lastig zijn om gewone wervingsberichten te onderscheiden van deze gerichte benaderingen via social engineering, omdat ze bepaalde kenmerken gemeen hebben. Legitieme wervingsberichten zijn echter meestal afgestemd op een langer selectieproces en bevatten verifieerbare informatie over de functie, geloofwaardige werkgeversgegevens, een redelijke, marktconforme salarisindicatie en links naar echte vacatures. Kortom: als iets te mooi lijkt om waar te zijn, is dat waarschijnlijk ook zo.