Operasjon «Onkel Spam»: påvirkningsaktivitet for å polarisere USA
OpenAI utestengte kontoer med opprinnelse i Kina som brukte KI til å lage amerikansk politisk innhold og kartlegge personer, bevegelser og nettsamfunn.
Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra juni 2025(åpnes i et nytt vindu).
Aktør
Etter et tips fra våre kolleger i Meta utestengte vi flere ChatGPT‑kontoer knyttet til en påvirkningsoperasjon med opprinnelse i Kina(åpnes i et nytt vindu). Operasjonen produserte polariserende innhold til sosiale medier som støttet begge sider i splittende spørsmål i den amerikanske politiske debatten. Dette omfattet tekst og KI-genererte profilbilder på plattformer som X og Bluesky.
Atferd
Nettverket brukte modellene våre til flere oppgaver, først og fremst til å lage kommentarer i sosiale medier som enten støttet eller kritiserte tollsatser. Kontoene spurte modellene våre om de beste tidspunktene å publisere på for å få størst mulig engasjement fra publikum, noe som tyder på en planlagt strategi for å øke spredningen.
To innlegg på X med tekst som trusselaktøren laget ved hjelp av modellene våre, og som fremmet hver sin side av tolldebatten.
Kontoene brukte også bildegenerering med modellene våre til å lage stiliserte logoer. Disse ble deretter brukt som profilbilder for fiktive identiteter på ulike sosiale plattformer. Kontoene var særlig opptatt av å skape fiktive identiteter som amerikanske veteraner som var kritiske til den sittende amerikanske regjeringen.
En Bluesky-konto som publiserte innhold laget av dette nettverket. Logoen «Veteraner for rettferdighet» ble laget ved hjelp av modellene våre.
Kontoene ba dessuten gjentatte ganger om kode og metoder for å hente ut personopplysninger fra sosiale plattformer som X og Bluesky, blant annet brukerprofiler, følgerlister og andre opplysninger, ved hjelp av verktøy som Tweepy, Nitter og Blueskys offentlige API. Kontoene brukte i tillegg modellene våre til å få veiledning om hvordan profildata kunne analyseres for å finne personlige kjennetegn og organisasjonstilknytninger, potensielt for å kategorisere personer eller utlede forbindelser og egenskaper.
Resultater
Kontoene produserte polariserende innhold om en rekke temaer i den amerikanske politiske debatten, ofte i løpet av de samme arbeidsøktene. I tråd med kjente metoder for påvirkningsoperasjoner ser dette ut til å ha vært utformet for å utnytte eksisterende politiske skillelinjer snarere enn å fremme et bestemt ideologisk standpunkt. På grunn av innholdsmengden og vektleggingen av budskap rettet mot amerikanere kalte vi operasjonen «Onkel Spam».
Innlegg på X med tekst laget av modellene våre og publisert av fiktive identiteter.
Gjennomslag
Målt med gjennomslagsskalaen(åpnes i et nytt vindu) for påvirkningsoperasjoner vurderer vi dette som kategori 2: aktivitet på flere plattformer, uten gjennombrudd og med minimalt engasjement. Kontoene i sosiale medier som publiserte innhold laget med modellene våre, fikk lite reelt engasjement. De fleste innleggene nettverket publiserte på X, fikk få eller ingen likerklikk eller videredelinger. Bare noen få innlegg fikk noe engasjement. Enkelte av kontoene i sosiale medier hadde flere tusen følgere, men vi kunne ikke vurdere om følgerne var ekte, og antallet følgere så ikke ut til å gi mer engasjement på innleggene.