Operatie "VAGue Focus": social engineering en beïnvloedingsactiviteiten

Deze casestudy werd oorspronkelijk gepubliceerd in het rapport van OpenAI van juni 2025⁠(opent in een nieuw venster).

We hebben een klein netwerk van ChatGPT‑accounts geblokkeerd die onze modellen gebruikten om socialemediaberichten te genereren, datasets te analyseren en e-mails en berichten die op pogingen tot social engineering leken, van het Chinees naar het Engels te vertalen. De accounts gaven onze modellen prompts in het Chinees en waren vooral actief tijdens kantooruren op het Chinese vasteland.

Ze genereerden berichten die zogenaamd afkomstig waren van medewerkers van drie geopolitiek georiënteerde organisaties: "Focus Lens News", "BrightWave Media Europe" en "Visionary Advisory Group" (VAG). Daarnaast genereerden de ChatGPT‑accounts tekst die overeenkwam met de berichten en profielteksten van X-accounts die aan deze drie organisaties waren gelieerd. De kwaadwillende actoren beschreven deze organisaties afzonderlijk als dekmantels voor het verzamelen en analyseren van inlichtingen. Op basis van deze namen hebben we deze operatie "VAGue Focus" genoemd.

Bij deze operatie werd ChatGPT ingezet ter ondersteuning van vier hoofdactiviteiten. Ten eerste gebruikten de accounts onze modellen vooral om socialemediaberichten en profielteksten te genereren voor online persona's die deel leken uit te maken van een heimelijke beïnvloedingsoperatie. De berichten werden verspreid door X-accounts die zich voordeden als journalisten en geopolitieke analisten.

Ten tweede gebruikten de accounts onze modellen om correspondentie aan een Amerikaanse senator over de voordracht van een regeringsfunctionaris te verfijnen en te vertalen. We kunnen niet onafhankelijk bevestigen of er iets van deze correspondentie is verstuurd.

Ten derde stelden de accounts een reeks eenvoudige vragen over tools voor het aanvallen en uitbuiten van computernetwerken. Onze modellen gaven hierop alleen algemene uitleg over het gebruik en de mogelijkheden van die tools. Deze vragen waren minder geavanceerd dan die van de cyberactoren die we verderop in dit rapport beschrijven en wijzen op een laag expertiseniveau.

Tot slot vroegen de gebruikers regelmatig om vertalingen van het Chinees naar het Engels van berichten die bedoeld leken om contact te leggen met onbekende gesprekspartners en hun uiteindelijk informatie te ontfutselen. Sommige van deze berichten werden op sociale media geplaatst als reacties op journalisten en onderzoekers. Andere leken op privéberichten en waren niet via online zoekopdrachten terug te vinden.

Het voornaamste doel van dit netwerk leek het verzamelen van inlichtingen te zijn, door zich voor te doen als professionals die in Europa of Turkije gevestigd waren. In de content die ze genereerden en online plaatsten, beschreven de uitvoerders van de operatie "Focus Lens News" als een onafhankelijke, in Europa gevestigde organisatie die gespecialiseerd was in analyse en verslaggeving. De uitvoerders beweerden echter ook dat deze profilering in werkelijkheid als dekmantel diende om het verzamelen, analyseren en verspreiden van inlichtingen te faciliteren.

Volgens de website waarnaar in de socialemediaprofielen werd verwezen, is Visionary Advisory Group gevestigd in Turkije en gespecialiseerd in professioneel geopolitiek advies. De uitvoerders gebruikten onze modellen om instructies van het Chinees naar het Engels te vertalen waarin stond dat VAG Group informatie zocht over het Amerikaanse economische en financiële beleid en bereid was 2.000 dollar per uur te betalen voor een interview. Ze vertaalden ook aanbiedingen om te betalen voor geheime documenten.

De website van VAG Group heeft een Turkse en een Engelse versie. Op de contactpagina van de Engelse versie zijn de Chinese tekens voor "neem contact met ons op" (聯絡) zichtbaar in het menu. Dit was de enige Chinese tekst op het hele domein.

Een deel van de content van dit netwerk leek op marketingmateriaal voor bredere beïnvloedingsoperaties. Volgens de beweringen, die we niet onafhankelijk kunnen verifiëren, werd bij de operatie gebruikgemaakt van machine learning, natuurlijke taalverwerking en geautomatiseerde datascraping om invloedrijke stemmen en onderwerpen op sociale media te identificeren.

De socialemedia-accounts die aan deze activiteit waren gelieerd, kregen online weinig daadwerkelijke betrokkenheid. Alleen het X-account van Focus Lens News had een aanzienlijk aantal volgers: 17.000. Het account was echter in november 2014 onder een andere naam aangemaakt, plaatste drie dagen lang tweets en bleef vervolgens stil tot halverwege 2024. Dit is kenmerkend voor accounts die zijn gehackt en voor een ander doel worden ingezet. Het aantal volgers moet daarom met voorzichtigheid worden geïnterpreteerd.

Op basis van de Breakout-schaal⁠(opent in een nieuw venster) voor de impact van beïnvloedingsoperaties zouden we het publiek zichtbare deel van deze operatie aan de onderkant van categorie 2 plaatsen: activiteit op meerdere platforms, maar weinig bewijs dat echte mensen de content oppikten of op grote schaal deelden. Er is onvoldoende bewijs beschikbaar om de impact van de social engineering en andere heimelijke activiteiten van deze operatie te beoordelen.