Operation ”Uncle Spam”: påverkansaktivitet för polarisering i USA
OpenAI stängde av konton med ursprung i Kina som använde AI för att skapa politiskt innehåll om USA och kartlägga personer, rörelser och nätgemenskaper.
Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från juni 2025(öppnas i ett nytt fönster).
Aktör
Efter ett tips från våra branschkollegor på Meta stängde vi av ett antal ChatGPT‑konton som var kopplade till en påverkansoperation med ursprung i Kina(öppnas i ett nytt fönster). Operationen skapade polariserande innehåll för sociala medier som stödde båda sidor i kontroversiella frågor inom den politiska debatten i USA. Innehållet bestod bland annat av texter och AI-genererade profilbilder för plattformar som X och Bluesky.
Beteende
Nätverket använde våra modeller för flera uppgifter, främst för att skapa kommentarer i sociala medier som antingen stödde eller kritiserade tullar. Kontona frågade våra modeller om de bästa tidpunkterna för publicering för att maximera publikens engagemang, vilket tyder på planerade metoder för att förstärka spridningen.
Två tweetar med texter som hotaktören skapade med våra modeller och som argumenterar för varsin sida i tulldebatten.
Kontona använde även vår Bildgenerering för att skapa stiliserade logotyper, som sedan användes som profilbilder för fiktiva identiteter på olika sociala plattformar. Kontona fokuserade särskilt på att skapa identiteter som föreställde amerikanska veteraner som var kritiska mot USA:s nuvarande regering.
Ett konto på Bluesky som publicerade innehåll genererat av nätverket. Logotypen ”Veterans for Justice” skapades med våra modeller.
Slutligen efterfrågade kontona återkommande kod och metoder för att hämta personuppgifter, exempelvis användarprofiler, följarlistor och andra uppgifter, från sociala plattformar som X och Bluesky med hjälp av verktyg som Tweepy, Nitter och Blueskys offentliga API. Kontona använde dessutom våra modeller för att få vägledning i hur profildata kunde analyseras för att identifiera personliga egenskaper och organisatoriska kopplingar, potentiellt i syfte att kategorisera personer eller dra slutsatser om deras relationer och egenskaper.
Genererat innehåll
Kontona skapade polariserande innehåll om olika delar av den politiska debatten i USA, ofta under samma arbetssessioner. I linje med kända metoder för påverkansoperationer verkar syftet ha varit att utnyttja befintliga politiska motsättningar snarare än att främja en viss ideologisk ståndpunkt. Den stora mängden innehåll och inriktningen på budskap till en amerikansk publik fick oss att kalla operationen ”Uncle Spam”.
Tweetar med text som genererats av våra modeller och publicerats av fiktiva identiteter.
Genomslag
Enligt Breakout Scale(öppnas i ett nytt fönster), som mäter genomslaget för påverkansoperationer, bedömer vi detta som kategori 2: aktivitet på flera plattformar, utan spridningsgenombrott eller med minimalt engagemang. De konton i sociala medier som publicerade innehåll genererat av våra modeller fick lite genuint engagemang. De flesta inlägg på X som publicerades av nätverket fick få eller inga gilla-markeringar eller återpubliceringar. Endast ett fåtal inlägg fick visst engagemang. Vissa av kontona i sociala medier hade tusentals följare, men vi kunde inte bedöma om följarna var autentiska. Antalet följare verkade inte heller leda till ökat engagemang för inläggen.