Operation ”VAGue Focus”: social manipulation och påverkansaktivitet

Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från juni 2025⁠(öppnas i ett nytt fönster).

Vi stängde av ett mindre nätverk av ChatGPT‑konton som använde våra modeller för att skapa inlägg för sociala medier, analysera datauppsättningar samt översätta e-post och meddelanden från kinesiska till engelska som liknade försök till social manipulation. Kontona skrev instruktioner till våra modeller på kinesiska och var främst aktiva under kontorstid i Fastlandskina.

De skapade meddelanden som påstods komma från anställda vid tre organisationer med geopolitisk inriktning: ”Focus Lens News”, ”BrightWave Media Europe” och ”Visionary Advisory Group” (VAG). Dessutom skapade ChatGPT‑kontona text som överensstämde med inlägg och profiltexter från X-konton knutna till dessa tre organisationer. Hotaktörerna beskrev vid andra tillfällen organisationerna som täckmantlar för insamling och analys av underrättelser. Utifrån dessa namn har vi kallat operationen ”VAGue Focus”.

Operationen använde ChatGPT för att stödja fyra huvudsakliga arbetsområden. För det första använde kontona främst våra modeller för att skapa inlägg och profiltexter för påhittade identiteter på nätet som verkade ingå i en dold påverkansoperation. Inläggen spreds av X-konton som utgav sig för att tillhöra journalister och geopolitiska analytiker.

För det andra bearbetade och översatte kontona korrespondens till en amerikansk senator om nomineringen av en person i administrationen. Vi kan inte oberoende bekräfta om någon av breven skickades.

För det tredje ställde kontona en rad grundläggande frågor om angrepp mot datornätverk och verktyg för att utnyttja sårbarheter. Våra modeller gav endast allmänna förklaringar av verktygens användning och funktioner. Frågorna var betydligt mindre avancerade än dem som ställdes av de cyberaktörer vi beskriver senare i rapporten och tyder på låg sakkunskap.

Slutligen begärde användarna regelbundet översättningar från kinesiska till engelska av meddelanden som verkade avsedda att inleda kontakt med okända personer och så småningom förmå dem att lämna ut information. Vissa av meddelandena publicerades på sociala medier som svar till journalister och forskare. Andra liknade direktmeddelanden som inte gick att hitta genom sökningar på nätet.

Nätverkets främsta mål tycktes vara att samla in underrättelser genom att utge sig för att vara yrkesverksamma personer baserade i Europa eller Turkiet. I det innehåll som operatörerna skapade och publicerade på nätet beskrev de ”Focus Lens News” som en oberoende Europabaserad organisation specialiserad på analys och rapportering. Operatörerna hävdade dock även att varumärket i själva verket fungerade som täckmantel för att underlätta insamling, analys och spridning av underrättelser.

Enligt webbplatsen som länkades från profiler på sociala medier finns Visionary Advisory Group i Turkiet och är specialiserat på professionella geopolitiska konsulttjänster. Operatörerna använde våra modeller för att översätta instruktioner från kinesiska till engelska där det hävdades att VAG Group sökte information om USA:s ekonomiska politik och finanspolitik samt var villigt att betala 2 000 dollar per timme för en intervju. De översatte även erbjudanden om betalning för sekretessbelagda dokument.

VAG Groups webbplats finns på turkiska och engelska. På den engelska versionens kontaktsida syns de kinesiska tecknen för ”kontakta oss” (聯絡) i menyn. Detta var den enda kinesiska texten på hela domänen.

En del av nätverkets innehåll liknade marknadsföringsmaterial för mer omfattande påverkansoperationer. Enligt påståenden som vi inte kan verifiera oberoende använde operationen maskininlärning, språkteknologi och automatiserad datainsamling för att identifiera inflytelserika röster och ämnen på sociala medier.

De konton på sociala medier som var knutna till aktiviteten fick ingen betydande genuin respons på nätet. Endast Focus Lens News X-konto hade ett betydande antal följare: 17 000. Kontot skapades dock i november 2014 under ett annat namn, publicerade inlägg i tre dagar och var sedan inaktivt fram till mitten av 2024. Detta är typiskt för konton som har kapats och fått ett nytt användningsområde, och antalet följare bör därför bedömas med försiktighet.

Med hjälp av Breakout Scale⁠(öppnas i ett nytt fönster) för att mäta genomslaget för påverkansoperationer bedömer vi att operationens offentliga del ligger i den nedre delen av kategori 2: aktivitet på flera plattformar, men få belägg för att verkliga personer tog till sig eller spred innehållet i någon större omfattning. Det finns inte tillräckliga belägg för att bedöma genomslaget för operationens sociala manipulation och övriga dolda verksamhet.