Operacija „Ujak Spam”: aktivnosti utjecaja radi polarizacije SAD-a
OpenAI je blokirao račune iz Kine koji su s pomoću umjetne inteligencije stvarali američki politički sadržaj i istraživali osobe, pokrete i internetske zajednice.
Ova studija slučaja izvorno je objavljena u OpenAI-jevu izvješću za lipanj 2025(otvara se u novom prozoru).
Akter
Nakon dojave kolega iz Mete blokirali smo niz računa na ChatGPT‑u povezanih s operacijom utjecaja iz Kine(otvara se u novom prozoru). U sklopu operacije stvaran je polarizirajući sadržaj za društvene mreže koji je podupirao obje strane prijepornih tema u američkom političkom diskursu, uključujući tekstove i profilne slike generirane umjetnom inteligencijom na platformama kao što su X i Bluesky.
Ponašanje
Mreža je naše modele upotrebljavala za više zadataka, ponajprije za stvaranje komentara na društvenim mrežama koji su podržavali ili kritizirali carine. Računi su od naših modela tražili optimalno vrijeme objavljivanja kako bi povećali angažman publike, što upućuje na pomno osmišljenu taktiku povećanja dosega.
Dva tweeta čiji je tekst ovaj akter prijetnje generirao s pomoću naših modela, zastupajući suprotne strane u raspravi o carinama.
Kao drugo, računi su se koristili našim mogućnostima generiranja slike za izradu stiliziranih logotipa, koji su potom služili kao profilne slike izmišljenih identiteta na društvenim platformama. Računi su se osobito usredotočili na osmišljavanje identiteta američkih veterana koji kritiziraju aktualnu američku administraciju.
Račun na Blueskyju koji je objavljivao sadržaj ove mreže. Logotip „Veterani za pravdu” generiran je s pomoću naših modela.
Naposljetku, računi su redovito tražili kôd i metode za izdvajanje osobnih podataka s društvenih platformi kao što su X i Bluesky, uključujući korisničke profile, popise pratitelja i druge pojedinosti, s pomoću alata kao što su Tweepy, Nitter i javni API Blueskyja. Osim toga, računi su od naših modela tražili upute za analizu profilnih podataka radi utvrđivanja osobnih značajki i povezanosti s organizacijama, potencijalno kako bi kategorizirali pojedince ili zaključivali o njihovim vezama i obilježjima.
Rezultati
Računi su stvarali polarizirajući sadržaj iz različitih područja američkog političkog diskursa, često tijekom istih operativnih sesija. U skladu s poznatim metodama operacija utjecaja, čini se da je cilj bio iskoristiti postojeće političke podjele, a ne promicati određeno ideološko stajalište. Zbog količine sadržaja i usmjerenosti na poruke namijenjene američkoj publici ovu smo operaciju nazvali „Ujak Spam”.
Tweetovi s tekstom generiranim našim modelima koje su objavili izmišljeni identiteti.
Učinak
Prema Ljestvici širenja(otvara se u novom prozoru) za procjenu učinka operacija utjecaja, ovu bismo aktivnost svrstali u 2. kategoriju: aktivnost na više platformi, bez šireg odjeka ili uz minimalan angažman. Računi na društvenim mrežama koji su objavljivali sadržaj generiran našim modelima ostvarili su malo autentičnih interakcija. Većina objava te mreže na X-u dobila je malo ili nimalo oznaka „sviđa mi se” i ponovnih objava, dok je tek nekoliko objava privuklo nešto pozornosti. Neki računi na društvenim mrežama imali su tisuće pratitelja, no nismo mogli procijeniti njihovu autentičnost, a činilo se da se broj pratitelja nije odrazio na angažman na objavama.