Sølvkant-håndboken: Aktivitet rettet mot amerikanere, trolig med opprinnelse i Kina

Denne casestudien ble opprinnelig publisert i OpenAIs rapport fra februar 2026⁠(åpnes i et nytt vindu) om arbeidet med å stanse ondsinnet bruk av KI.

Vi utestengte en liten gruppe ChatGPT‑kontoer som sannsynligvis hadde opprinnelse i Kina. De brukte modellene våre til å be om informasjon om amerikanere, nettfora og plasseringen av føderale bygninger, få veiledning om programvare for ansiktsbytte og generere e-poster på engelsk som lignet forsøk på sosial manipulering. De skrev instrukser til modellene våre på kinesisk, var mest aktive i arbeidstiden i Fastlands-Kina og brukte VPN for å få tilgang til plattformen vår.

Kontoene genererte e-postutkast som ga inntrykk av å være sendt av ansatte i et Hongkong-basert selskap ved navn «Nimbus Hub Consulting». De skrev imidlertid instruksene til modellene våre med forenklede kinesiske tegn (som vanligvis brukes i Fastlands-Kina), ikke tradisjonelle kinesiske tegn (som vanligvis brukes i Hongkong). Det tyder på at de som faktisk sto bak, befant seg i Fastlands-Kina. I tillegg genererte én konto en e-post der avsenderen utga seg for å representere en PR-organisasjon i Shanghai som fremmer økonomisk og kulturell utveksling mellom USA og Shanghai. Siden selskapsnavnet viser til «nimbus», som betyr regnsky eller glorie, kalte vi denne operasjonen «Sølvkant-håndboken».

Kontoene genererte engelskspråklige e-postutkast adressert til amerikanske myndighetspersoner på delstatsnivå eller politikkanalytikere innen næringsliv og finans. E-postene så ut til å invitere mottakerne til betalte konsulentoppdrag, beskrevet som å tolke politikk og gi strategiske råd til selskapets kunder. De ba om korte, tydelige og profesjonelle e-postutkast, med emnefelt som skapte en følelse av hastverk og brukte subtile psykologiske virkemidler.

ChatGPT‑kontoene brukte også modellene våre til generell informasjonsinnhenting. Modellen svarte med informasjon fra offentlig tilgjengelige kilder. Dette omfattet spørsmål om følgende temaer:

• Plasseringen av amerikanske føderale myndighetskontorer, inkludert hovedkontorer, og en rangert liste over delstater med høy konsentrasjon av føderale etater og myndighetspersoner.

• Fordelingen av amerikanske føderalt ansatte etter delstat.

• Amerikanere, blant annet programledere i Voice of America, inkludert deres tidligere intervjuer og interesseområder.

• Nettfora og nettsteder som er mye brukt av fagfolk og jobbsøkere innen økonomi og finans i USA.

Det er særlig verdt å merke seg at én konto ba om veiledning for å laste ned og installere FaceFusion på datamaskinen sin. Dette er en plattform for ansiktsmanipulering, blant annet ansiktsbytte, og annen medieforbedring. I ChatGPT‑aktiviteten beskrev de at de spesifikt ønsket å bruke funksjonen for ansiktsbytte i sanntid. De ba om trinnvis installasjonsveiledning uten teknisk fagspråk og hevdet at de var nybegynnere i programmering, slik at instruksjonene måtte være enkle. De lastet opp et skjermbilde av datamaskinens maskinvarespesifikasjoner for å få hjelp med installasjonen. Modellen svarte med informasjon hentet fra FaceFusions offentlig tilgjengelige nettsted og dokumentasjon.

Instruksene deres for å generere e-postutkast med modellene våre lignet mer på en oppskrift⁠(åpnes i et nytt vindu) på sosial manipulering brukt av en utenlandsk etterretningstjeneste for å etablere kontakt enn på vanlige rekrutteringshenvendelser. For hvert e-postutkast ba de om følgende deler:

Skap troverdighet: De presenterte «Nimbus Hub» som et profesjonelt strategisk konsulentfirma med tung ekspertise innen geopolitikk og transnasjonal politikk. De inkluderte en lenke til nettstedet til Nimbus Hub (se skjermbildet nedenfor).

Tilpass budskapet og smigre mottakeren: De ba modellen uttrykkelig vise til mottakerens bakgrunn fra offentlig sektor som bevis på at vedkommende passet perfekt til rollen. I ett tilfelle lastet kontoen opp skjermbilder av LinkedIn-profilen til en amerikaner bosatt i Shanghai og ba modellen tilpasse e-postutkastet basert på teksten om personens erfaringer og bakgrunn i skjermbildene.

Lokk med flere fordeler: Konsulenttilbudet ble som regel fremstilt som en lukrativ mulighet til å jobbe på nett, med resultatbonuser og belønning for å henvise andre. Samtidig var beskrivelsen av selve arbeidet vag.

Bruk betryggende språk og få risikoen til å virke mindre: De hevdet ofte at arbeidet var lite krevende og konfidensielt, og at betalingen kom til avtalt tid.

Flytt kommunikasjonen raskt til en annen plattform: De forsøkte alltid å få mottakerne over fra e-post til et innledende videomøte via WhatsApp, Zoom eller Teams.

Nettverkenes bruk av modellene i denne saken var ikke teknisk avansert. Forespørslene lignet noen ganger på vanlige forespørsler om å utforme rekrutteringshenvendelser eller installere programvare til legitime formål. Brukernes taktikk med å skjule seg bak en falsk bedriftsidentitet, sammen med interessen for geopolitiske temaer, tyder imidlertid på en mulig hensikt om å rekruttere til fiendtlige formål.

Ut fra kontienes bruk av ChatGPT fant vi ingen bevis for at de hadde lykkes med å få de utvalgte mottakerne til å svare på invitasjonene. Vi kunne ikke uavhengig fastslå om e-postinvitasjonene faktisk ble sendt, eller om noen av de utvalgte mottakerne svarte.

Myndighetene i flere demokratiske land (for eksempel USA⁠(åpnes i et nytt vindu), Storbritannia⁠(åpnes i et nytt vindu) og Australia⁠(åpnes i et nytt vindu)) har advart om at utenlandske etterretningstjenester forsøker å rekruttere nåværende og tidligere statsansatte ved å utgi seg for å være konsulentfirmaer og andre virksomheter på sosiale medier og profesjonelle nettverksplattformer. Det kan være vanskelig å skille vanlige rekrutteringshenvendelser fra slike målrettede forsøk på sosial manipulering, fordi de har flere fellestrekk. Legitime henvendelser er imidlertid vanligvis tilpasset en mer tidkrevende utvelgelsesprosess og inneholder etterprøvbare opplysninger om stillingstittelen, troverdige opplysninger om arbeidsgiveren, et lønnsspenn i tråd med markedet og lenker til reelle stillingsannonser. Kort sagt: Hvis noe er for godt til å være sant, er det sannsynligvis det.