Operation »VAGue Focus«: Social engineering og påvirkningsaktiviteter

Denne casestudie blev oprindeligt offentliggjort i OpenAI’s rapport fra juni 2025⁠(åbner i et nyt vindue).

Vi lukkede et lille netværk af ChatGPT‑konti, der brugte vores modeller til at generere opslag til sociale medier, analysere datasæt og oversætte mails og beskeder fra kinesisk til engelsk, som lignede forsøg på social engineering. Kontiene gav vores modeller prompts på kinesisk og var primært aktive i arbejdstiden i det kinesiske fastland.

De genererede beskeder, der angiveligt kom fra medarbejdere i tre organisationer med fokus på geopolitik: »Focus Lens News«, »BrightWave Media Europe« og »Visionary Advisory Group« (VAG). Derudover genererede ChatGPT‑kontiene tekst, der svarede til opslag og profiltekster på X-konti med tilknytning til disse tre organisationer. I andre sammenhænge beskrev trusselsaktørerne disse organisationer som dække for indsamling og analyse af efterretninger. På baggrund af disse navne har vi døbt operationen »VAGue Focus«.

Operationen brugte ChatGPT til at understøtte fire primære arbejdsområder. For det første brugte kontiene overvejende vores modeller til at generere opslag til sociale medier og profiltekster til onlineidentiteter, der så ud til at indgå i en skjult påvirkningsoperation. Opslagene blev spredt af X-konti, der udgav sig for at tilhøre journalister og geopolitiske analytikere.

For det andet finpudsede og oversatte kontiene korrespondance til en amerikansk senator om nomineringen af en embedsmand i den amerikanske regering. Vi kan ikke uafhængigt bekræfte, om noget af korrespondancen blev sendt.

For det tredje stillede kontiene en række grundlæggende spørgsmål om værktøjer til angreb på og udnyttelse af computernetværk. Vores modeller gav kun generelle forklaringer på deres anvendelse og funktioner. Disse spørgsmål var mindre avancerede end dem fra de cyberaktører, vi beskriver senere i rapporten, og tyder på begrænset ekspertise.

Endelig bad brugerne jævnligt om at få oversat beskeder fra kinesisk til engelsk, som tilsyneladende havde til formål at indlede en dialog med ukendte samtalepartnere og i sidste ende få oplysninger ud af dem. Nogle af disse beskeder blev offentliggjort på sociale medier som svar til journalister og forskere. Andre lignede direkte beskeder, som ikke dukkede op i søgninger på nettet.

Netværkets primære mål syntes at være at indsamle efterretninger ved at udgive sig for at være fagfolk med base i Europa eller Tyrkiet. I det indhold, som bagmændene genererede og offentliggjorde på nettet, beskrev de »Focus Lens News« som en uafhængig organisation med base i Europa, der specialiserede sig i analyse og nyhedsdækning. Bagmændene hævdede dog også, at denne profil i virkeligheden tjente som dække for indsamling, analyse og formidling af efterretninger.

Ifølge det websted, der blev linket til i profilteksterne på sociale medier, har Visionary Advisory Group base i Tyrkiet og specialiserer sig i professionel geopolitisk rådgivning. Bagmændene brugte vores modeller til at oversætte instruktioner fra kinesisk til engelsk, hvor det blev hævdet, at VAG Group søgte oplysninger om USA’s økonomiske politik og finanspolitik og var villig til at betale 2.000 dollars i timen for et interview. De oversatte også tilbud om betaling for klassificerede dokumenter.

VAG Groups websted findes på tyrkisk og engelsk, og på siden Kontakt os i den engelske version er de kinesiske tegn for »kontakt os« (聯絡) synlige i menuen. Det var den eneste kinesiske tekst på hele domænet.

Noget af netværkets indhold lignede markedsføringsmateriale for mere omfattende påvirkningsoperationer. Ifølge påstandene, som vi ikke kan verificere uafhængigt, brugte operationen maskinlæring, behandling af naturligt sprog og automatiseret datascraping til at identificere indflydelsesrige stemmer og emner på sociale medier.

De konti på sociale medier, der var knyttet til denne aktivitet, opnåede ikke nævneværdigt autentisk engagement på nettet. Kun Focus Lens News’ X-konto havde et betydeligt antal følgere, nemlig 17.000. Kontoen blev dog oprettet i november 2014 under et andet navn, udsendte tweets i tre dage og var derefter inaktiv indtil midten af 2024. Det er typisk for konti, der er blevet overtaget og taget i brug til andre formål, og følgertallet bør derfor tages med forbehold.

Med Breakout-skalaen⁠(åbner i et nyt vindue) til vurdering af påvirkningsoperationers gennemslagskraft ville vi placere den offentligt synlige del af operationen i den lave ende af kategori 2: aktivitet på flere platforme, men kun få tegn på, at rigtige mennesker tog indholdet til sig eller delte det bredt. Der er ikke tilstrækkeligt grundlag for at vurdere effekten af operationens social engineering og øvrige skjulte aktiviteter.