Silver Lining Playbook: Trolig Kina-baserad aktivitet riktad mot personer i USA

Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från februari 2026⁠(öppnas i ett nytt fönster) om att motverka skadlig användning av AI.

Vi stängde av ett mindre antal ChatGPT‑konton som sannolikt hade sitt ursprung i Kina och som använde våra modeller för att begära information om personer i USA, forum och federala byggnaders placering, vägledning om programvara för ansiktsbyte samt engelska e-postmeddelanden som liknade försök till social manipulation. De gav våra modeller instruktioner på kinesiska, var främst aktiva under kontorstid i Fastlandskina och använde VPN-tjänster för att komma åt vår plattform.

Kontona skapade utkast till e-postmeddelanden som påstods komma från anställda på det Hongkongbaserade företaget ”Nimbus Hub Consulting”. De gav dock våra modeller instruktioner med förenklade kinesiska tecken (som vanligtvis används i Fastlandskina) i stället för traditionella kinesiska tecken (som vanligtvis används i Hongkong), vilket tyder på att de verkliga operatörerna befann sig i Fastlandskina. Ett av kontona skapade dessutom ett e-postmeddelande där avsändaren påstods företräda en Shanghai-baserad PR-organisation som främjar ekonomiskt och kulturellt utbyte mellan USA och Shanghai. Eftersom företagsnamnet innehåller ”Nimbus”, som betyder regnmoln eller gloria, kallade vi operationen ”Silver Lining Playbook”.

Kontona skapade engelskspråkiga utkast till e-postmeddelanden adresserade till amerikanska delstatstjänstemän eller policyanalytiker inom näringsliv och finans. Mottagarna verkade bjudas in till betalda konsultuppdrag, som beskrevs som att tolka policy och ge kunderna strategisk rådgivning. De begärde att e-postutkasten skulle vara kortfattade, tydliga och professionella, med ämnesrader som skapade en känsla av brådska och använde subtila psykologiska signaler.

ChatGPT‑kontona använde dessutom våra modeller för allmän informationssökning, som vår modell besvarade med hjälp av offentligt tillgängliga källor. Det omfattade frågor om följande ämnen:

• Placeringen av amerikanska federala myndigheters kontor, inklusive huvudkontor, samt en rangordnad lista över delstater med stora koncentrationer av federala myndigheter och tjänstemän.

• Fördelningen av USA:s federala personal per delstat.

• Personer i USA, exempelvis programledare på Voice of America, inklusive deras tidigare intervjuer och intresseområden.

• Nätforum och webbplatser som ofta används av yrkesverksamma och arbetssökande inom ekonomi- och finansbranschen i USA.

Ett konto begärde särskilt vägledning om hur plattformen FaceFusion, som används för ansiktsbyte och annan medieförbättring, kunde laddas ned och installeras på datorn. I sin aktivitet på ChatGPT uppgav kontot att avsikten var att specifikt använda plattformens funktion för ansiktsbyte i realtid. Kontot bad om enkla, icke-tekniska installationsanvisningar steg för steg och hävdade att användarna var nybörjare inom programmering. De laddade upp en skärmbild av datorns maskinvaruspecifikationer som underlag för installationen. Modellen svarade med information från FaceFusions offentligt tillgängliga webbplats och dokumentation.

Deras instruktioner om att skapa e-postutkast med våra modeller liknade en utländsk underrättelsetjänsts metodik⁠(öppnas i ett nytt fönster) för social manipulation snarare än vanliga rekryteringsmeddelanden. För varje e-postutkast begärde de följande avsnitt:

Skapa trovärdighet: De framställde ”Nimbus Hub” som ett professionellt strategikonsultföretag med gedigen expertis inom geopolitik och transnationell policy. De inkluderade en länk till Nimbus Hubs webbplats (se skärmbilden nedan).

Anpassa budskapet och smickra måltavlan: De instruerade modellen att uttryckligen hänvisa till mottagarens erfarenhet från offentlig sektor som bevis för att personen var perfekt för rollen. I ett fall laddade kontot upp skärmbilder av LinkedIn-profilen för en person från USA bosatt i Shanghai och instruerade modellen att anpassa e-postutkastet utifrån uppgifter om personens erfarenheter och bakgrund i skärmbilderna.

Stapla incitament: Konsulterbjudandet lockade vanligtvis med en lukrativ möjlighet till distansarbete, prestationsbonusar och värvningsersättning, samtidigt som det faktiska arbetet beskrevs vagt.

Använd lugnande språk och minska den upplevda risken: De hävdade ofta att arbetet var avkopplande, att betalningarna skedde i tid och att uppdraget var konfidentiellt.

Flytta snabbt kommunikationen från plattformen: De försökte alltid få mottagarna att lämna e-postkommunikationen och i stället delta i ett första videomöte via WhatsApp, Zoom eller Teams.

Nätverkens interaktioner med modellerna var i det här fallet inte tekniskt avancerade, och deras förfrågningar liknade ibland trovärdiga utkast till rekryteringsinbjudningar eller legitim programvaruinstallation. Användarnas metoder – att dölja sig bakom en falsk företagsidentitet och visa intresse för geopolitiska frågor – tyder dock på att avsikten kan ha varit fientlig rekrytering.

Utifrån kontonas användning av ChatGPT fanns det inga belägg för att de lyckades få måltavlorna att besvara inbjudningarna. Vi kunde inte oberoende fastställa om e-postinbjudningarna faktiskt skickades eller om någon av de avsedda mottagarna svarade.

Flera demokratiska regeringar (t.ex. USA⁠(öppnas i ett nytt fönster), Storbritannien⁠(öppnas i ett nytt fönster) och Australien⁠(öppnas i ett nytt fönster)) har varnat för att utländska underrättelsetjänster försöker rekrytera nuvarande och tidigare statsanställda genom att utge sig för att vara konsultföretag och andra organisationer på sociala och yrkesinriktade nätverksplattformar. Det kan vara svårt att skilja vanliga rekryteringsmeddelanden från dessa riktade försök till social manipulation, eftersom de har vissa liknande drag. Legitima kontaktförsök är dock vanligtvis anpassade för långsammare urvalsprocesser och innehåller verifierbar information om befattningen, trovärdiga uppgifter om arbetsgivaren, rimliga marknadsmässiga löneintervall och länkar till verkliga platsannonser. Kort sagt: om något verkar för bra för att vara sant är det förmodligen det.