Operation »Onkel Spam«: påvirkningsaktivitet, der fremmer polarisering i USA
OpenAI udelukkede konti med oprindelse i Kina, som brugte AI til at generere amerikansk politisk indhold og undersøge personer, bevægelser og onlinefællesskaber.
Denne casestudie blev oprindeligt offentliggjort i OpenAIs rapport fra juni 2025(åbner i et nyt vindue).
Aktør
Vi udelukkede en række ChatGPT‑konti med forbindelse til en påvirkningsoperation med oprindelse i Kina(åbner i et nyt vindue) efter et tip fra vores kolleger hos Meta. Operationen genererede polariserende indhold til sociale medier, som støttede begge sider af konfliktfyldte emner i den politiske debat i USA, herunder tekst og AI-genererede profilbilleder på platforme som X og Bluesky.
Adfærd
Netværket brugte vores modeller til flere opgaver, primært til at generere kommentarer på sociale medier, som enten støttede eller kritiserede toldsatser. Kontiene spurgte vores modeller om de optimale tidspunkter at slå indhold op på for at maksimere publikums engagement, hvilket tyder på en kalkuleret strategi for at øge rækkevidden.
To tweets med tekst, som denne trusselsaktør genererede ved hjælp af vores modeller, og som argumenterede for hver sin side af tolddebatten.
For det andet brugte kontiene vores funktioner til billedgenerering til at skabe stiliserede logoer, der derefter blev brugt som profilbilleder for fiktive identiteter på tværs af sociale platforme. Kontiene fokuserede især på at skabe identiteter som amerikanske veteraner, der var kritiske over for den siddende amerikanske regering.
En konto på Bluesky, der slog indhold fra dette netværk op. Logoet »Veterans for Justice« blev genereret ved hjælp af vores modeller.
Endelig anmodede kontiene gentagne gange om kode og metoder til at udtrække personoplysninger såsom brugerprofiler, følgerlister og andre oplysninger fra sociale platforme som X og Bluesky ved hjælp af værktøjer som Tweepy, Nitter og Blueskys offentlige API. Derudover brugte kontiene vores modeller til at få vejledning i at analysere profildata for personlige karakteristika og organisatoriske tilhørsforhold, muligvis for at kategorisere personer eller udlede forbindelser og egenskaber.
Resultater
Kontiene producerede polariserende indhold på tværs af den politiske debat i USA, ofte i de samme arbejdssessioner. I tråd med kendte metoder, der bruges i påvirkningsoperationer, synes formålet at have været at udnytte eksisterende politiske skel frem for at fremme et bestemt ideologisk standpunkt. Mængden af indhold og fokusset på amerikanske budskaber fik os til at døbe operationen »Onkel Spam«.
Tweets med tekst genereret af vores modeller og slået op af fiktive identiteter.
Effekt
Ud fra gennembrudsskalaen(åbner i et nyt vindue) for påvirkningsoperationers effekt vurderer vi dette som kategori 2: aktivitet på flere platforme, men intet gennembrud eller kun minimalt engagement. De konti på sociale medier, der slog indhold genereret af vores modeller op, fik kun lidt autentisk engagement. De fleste opslag på X fra dette netværk fik få eller ingen likes eller reposts, og kun enkelte opslag fik en vis respons. Nogle af kontiene på sociale medier havde flere tusinde følgere, men vi kunne ikke vurdere, om følgerne var autentiske, og antallet af følgere så ikke ud til at føre til engagement i opslagene.