Lyspunktets drejebog: Aktivitet rettet mod amerikanske personer med sandsynlig oprindelse i Kina

Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra februar 2026⁠(åbner i et nyt vindue) om at gribe ind over for ondsindet brug af AI.

Vi lukkede en lille gruppe ChatGPT‑konti, der sandsynligvis blev drevet fra Kina. De brugte vores modeller til at indhente oplysninger om amerikanske personer, fora og placeringen af føderale bygninger, få vejledning i software til ansigtsudskiftning og generere e-mails på engelsk, der lignede forsøg på social engineering. De skrev prompts til vores modeller på kinesisk, var primært aktive i den normale arbejdstid på det kinesiske fastland og brugte VPN-forbindelser til at tilgå vores platform.

Kontiene genererede e-mailudkast, som skulle fremstå som sendt af medarbejdere i en Hongkong-baseret virksomhed ved navn »Nimbus Hub Consulting«. De skrev dog deres prompts til vores modeller med forenklede kinesiske tegn (som typisk bruges på det kinesiske fastland) frem for traditionelle kinesiske tegn (som typisk bruges i Hongkong). Det tyder på, at de faktiske operatører befandt sig på det kinesiske fastland. Desuden genererede én konto en e-mail, der foregav at komme fra en repræsentant for en Shanghai-baseret PR-organisation, som fremmer økonomisk og kulturel udveksling mellem USA og Shanghai. Med afsæt i virksomhedsnavnets brug af »Nimbus«, der betyder regnsky eller glorie, kaldte vi operationen »Lyspunktets drejebog«.

Kontiene genererede engelsksprogede e-mailudkast stilet til amerikanske embedsfolk på delstatsniveau eller politiske analytikere inden for erhvervsliv og finans. De så ud til at invitere modtagerne til at deltage i betalt rådgivningsarbejde, som de beskrev som fortolkning af politik og strategisk rådgivning til deres kunder. De bad om korte, klare og professionelle e-mailudkast med emnelinjer, der skabte en følelse af hastværk og brugte subtile psykologiske virkemidler.

Desuden brugte ChatGPT‑kontiene vores modeller til generel informationssøgning, hvor vores model svarede på baggrund af offentligt tilgængelige kilder. Det omfattede forespørgsler om følgende emner:

• Placeringen af amerikanske føderale myndigheders kontorer, herunder hovedkontorer, samt en rangordnet liste over delstater med store koncentrationer af føderale myndigheder og embedsfolk.

• Fordelingen af amerikanske føderalt ansatte på delstater.

• Amerikanske personer, såsom værter på Voice of America, herunder deres tidligere interviews og interesseområder.

• Onlinefora og hjemmesider, der ofte bruges af fagfolk og jobsøgende inden for økonomi og finans i USA.

Særligt bemærkelsesværdigt bad én konto om vejledning i at downloade og installere FaceFusion på sin computer. Det er en platform til ansigtsmanipulation, som bruges til ansigtsudskiftning og anden medieforbedring. Af kontoens aktivitet i ChatGPT fremgik det, at hensigten specifikt var at bruge funktionen til ansigtsudskiftning i realtid. Brugerne bad om en trinvis installationsvejledning uden tekniske fagudtryk og hævdede, at de var nybegyndere inden for programmering, så instruktionerne skulle være enkle. De uploadede et skærmbillede af computerens hardwarespecifikationer for at få hjælp til installationen. Modellen svarede med oplysninger fra FaceFusions offentligt tilgængelige hjemmeside og dokumentation.

Deres instruktioner til vores modeller om at generere e-mailudkast lignede snarere en drejebog⁠(åbner i et nyt vindue) for en udenlandsk efterretningstjenestes kontaktforsøg gennem social engineering end almindelige rekrutteringshenvendelser. For hvert e-mailudkast bad de om følgende afsnit:

Skab troværdighed: De præsenterede »Nimbus Hub« som et professionelt strategisk konsulentfirma med anerkendt ekspertise inden for geopolitik og tværnational politik. De medtog et link til Nimbus Hubs hjemmeside (se skærmbilledet nedenfor).

Gør henvendelsen personlig, og smigr målpersonen: De bad modellen om udtrykkeligt at fremhæve modtagerens baggrund i den offentlige sektor som bevis på, at vedkommende var den helt rette til rollen. I ét tilfælde uploadede kontoen skærmbilleder af LinkedIn-profilen for en amerikansk person bosat i Shanghai og instruerede modellen i at tilpasse e-mailudkastet ud fra teksten om personens erfaringer og baggrund i skærmbillederne.

Lok med flere fordele: Konsulenttilbuddet blev som regel præsenteret som en lukrativ mulighed for onlinearbejde med resultatbonusser og belønninger for at henvise andre, mens selve arbejdsopgaverne forblev uklare.

Brug beroligende sprog, og nedton oplevelsen af risiko: De hævdede ofte, at arbejdet var afslappet og fortroligt, og at betalingen kom til tiden.

Flyt hurtigt kommunikationen væk fra platformen: De forsøgte altid at få modtagerne væk fra e-mail og over til et indledende onlinevideomøde via WhatsApp, Zoom eller Teams.

Netværkenes interaktioner med modellerne var i dette tilfælde ikke teknisk avancerede, og deres anmodninger lignede til tider almindelige forespørgsler om at skrive rekrutteringshenvendelser eller installere software til legitime formål. Brugernes taktik med at skjule sig bag en falsk virksomhedsidentitet og deres interesse for geopolitiske emner tyder dog på en mulig hensigt om at rekruttere til fjendtlige formål.

Ud fra kontienes brug af ChatGPT var der ingen tegn på, at det lykkedes dem at få målpersonerne til at svare på deres invitationer. Vi kunne ikke uafhængigt fastslå, om e-mailinvitationerne faktisk blev sendt, eller om nogen af de udvalgte modtagere svarede.

Regeringerne i flere demokratiske lande (f.eks. USA⁠(åbner i et nyt vindue), Storbritannien⁠(åbner i et nyt vindue) og Australien⁠(åbner i et nyt vindue)) har advaret om, at udenlandske efterretningstjenester forsøger at rekruttere nuværende og tidligere statsansatte ved at udgive sig for at være konsulentfirmaer og andre organisationer på sociale medier og professionelle netværksplatforme. Det kan være svært at skelne almindelige rekrutteringshenvendelser fra disse målrettede forsøg på social engineering, fordi de har visse fællestræk. Legitime henvendelser lægger dog normalt op til en længere udvælgelsesproces og indeholder oplysninger om stillingsbetegnelsen, som kan verificeres, troværdige oplysninger om arbejdsgiveren, realistiske lønintervaller i forhold til markedet og links til rigtige jobopslag. Kort sagt: Hvis noget lyder for godt til at være sandt, er det det nok også.