Operacija „Ujak Spam“: aktivnost utjecaja usmjerena na polarizaciju u SAD-u
OpenAI je blokirao račune porijeklom iz Kine koji su koristili AI za izradu američkog političkog sadržaja i istraživanje ljudi, pokreta i online zajednica.
Ova studija slučaja prvobitno je objavljena u OpenAI-jevom izvještaju iz juna 2025.(otvara se u novom prozoru) godine.
Akter
Blokirali smo više ChatGPT računa povezanih s operacijom utjecaja porijeklom iz Kine(otvara se u novom prozoru) nakon dojave naših kolega iz Mete. Operacija je stvarala polarizirajući sadržaj za društvene mreže koji je podržavao obje strane spornih tema u američkom političkom diskursu, uključujući tekstove i profilne slike generirane pomoću AI-ja na platformama kao što su X i Bluesky.
Ponašanje
Mreža je koristila naše modele za više zadataka, prvenstveno za generiranje komentara na društvenim mrežama koji su podržavali ili kritikovali carine. Računi su od naših modela tražili optimalno vrijeme objavljivanja kako bi maksimalno povećali angažman publike, što ukazuje na planske taktike povećanja dosega.
Dva tvita čiji je tekst ovaj akter prijetnje generirao pomoću naših modela, zastupajući obje strane rasprave o carinama.
Osim toga, računi su koristili naše mogućnosti za generiranje slike kako bi izradili stilizirane logotipe, koji su potom služili kao profilne slike izmišljenih identiteta na društvenim platformama. Računi su se naročito usmjerili na kreiranje identiteta američkih veterana koji kritikuju trenutnu američku administraciju.
Račun na platformi Bluesky koji je objavljivao sadržaj generiran u okviru ove mreže. Logotip „Veterani za pravdu“ generiran je pomoću naših modela.
Konačno, računi su redovno tražili programski kod i metode za izdvajanje ličnih podataka, poput korisničkih profila, spiskova pratilaca i drugih pojedinosti, s društvenih platformi kao što su X i Bluesky, koristeći alate kao što su Tweepy, Nitter i javni API platforme Bluesky. Računi su također koristili naše modele za upute o analiziranju profilnih podataka radi utvrđivanja ličnih osobina i pripadnosti organizacijama, potencijalno kako bi kategorizirali pojedince ili zaključivali o njihovim vezama i osobinama.
Rezultati
Računi su stvarali polarizirajući sadržaj iz različitih oblasti američkog političkog diskursa, često tokom istih operativnih sesija. U skladu s poznatim metodama operacija utjecaja, čini se da je cilj vjerovatno bio iskorištavanje postojećih političkih podjela, a ne promoviranje određenog ideološkog stava. Zbog obima sadržaja i usmjerenosti na poruke namijenjene američkoj publici ovu smo operaciju nazvali „Ujak Spam“.
Tvitovi s tekstom generiranim pomoću naših modela koje su objavili izmišljeni identiteti.
Utjecaj
Prema skali prodora(otvara se u novom prozoru) za procjenu utjecaja operacija utjecaja, ovo bismo ocijenili kao kategoriju 2: aktivnost na više platformi, bez prodora ili uz minimalan angažman. Nalozi na društvenim mrežama koji su objavljivali sadržaj generiran pomoću naših modela ostvarili su malo autentičnog angažmana. Većina objava ove mreže na X-u dobila je malo ili nimalo oznaka „sviđa mi se“ i ponovnih objava, dok je samo nekoliko objava privuklo određeni angažman. Neki računi na društvenim mrežama imali su hiljade pratilaca, ali nismo mogli procijeniti njihovu autentičnost, a činilo se da se broj pratilaca nije odrazio na angažman na objavama.