Operacija »Stric Spam«: dejavnost vplivanja za polarizacijo ZDA
OpenAI je blokiral račune s Kitajske, ki so z umetno inteligenco ustvarjali politične vsebine o ZDA ter raziskovali ljudi, gibanja in spletne skupnosti.
Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz junija 2025(odpre se v novem oknu).
Akter
Na podlagi namiga kolegov iz Mete smo blokirali več računov ChatGPT, povezanih z vplivno operacijo s Kitajske(odpre se v novem oknu). Operacija je ustvarjala polarizirajoče vsebine za družbena omrežja, ki so podpirale obe strani razdiralnih tem v ameriškem političnem diskurzu, vključno z besedili in profilnimi slikami, ustvarjenimi z umetno inteligenco, na platformah, kot sta X in Bluesky.
Vedenje
Omrežje je naše modele uporabljalo za več nalog, predvsem za ustvarjanje komentarjev na družbenih omrežjih, ki so podpirali ali kritizirali carine. Računi so naše modele spraševali po najprimernejšem času objavljanja za čim večji odziv občinstva, kar kaže na premišljeno taktiko povečevanja dosega.
Objavi na platformi X z besedilom, ki ga je ta akter grožnje ustvaril z našimi modeli in z njima zagovarjal obe strani razprave o carinah.
Poleg tega so računi naše zmožnosti generiranja slik uporabljali za ustvarjanje stiliziranih logotipov, ki so jih nato uporabili kot profilne slike izmišljenih oseb na različnih družbenih platformah. Računi so se osredotočali zlasti na oblikovanje izmišljenih oseb ameriških veteranov, kritičnih do sedanje ameriške administracije.
Račun na platformi Bluesky, ki je objavljal vsebine tega omrežja. Logotip »Veterani za pravičnost« je bil ustvarjen z našimi modeli.
Nazadnje so računi redno zahtevali kodo in metode za pridobivanje osebnih podatkov z družbenih platform, kot sta X in Bluesky, denimo uporabniških profilov, seznamov sledilcev in drugih podrobnosti, pri čemer so uporabljali orodja, kot so Tweepy, Nitter in javni API platforme Bluesky. Računi so naše modele uporabljali tudi za navodila pri analizi profilnih podatkov, da bi ugotovili osebne značilnosti in pripadnost organizacijam ter morda razvrščali posameznike ali sklepali o njihovih povezavah in lastnostih.
Rezultati
Računi so ustvarjali polarizirajoče vsebine z različnih področij ameriškega političnega diskurza, pogosto v okviru istih operativnih sej. Skladno z znanimi metodami vplivnih operacij je bila ta dejavnost najverjetneje zasnovana za izkoriščanje obstoječih političnih delitev, ne pa za zagovarjanje določenega ideološkega stališča. Zaradi obsega vsebin in osredotočenosti na sporočila za ameriško javnost smo operacijo poimenovali »Stric Spam«.
Objave izmišljenih oseb na platformi X z besedilom, ustvarjenim z našimi modeli.
Vpliv
Po lestvici prodora(odpre se v novem oknu) za merjenje vpliva vplivnih operacij bi to ocenili kot 2. kategorijo: dejavnost na več platformah brez širšega prodora oziroma z minimalnim odzivom. Računi na družbenih omrežjih, ki so objavljali vsebine, ustvarjene z našimi modeli, so prejeli malo pristnih odzivov. Večina objav tega omrežja na platformi X je prejela malo všečkov in delitev ali pa nobenega; le nekaj objav je pritegnilo nekaj odziva. Nekateri računi na družbenih omrežjih so imeli več tisoč sledilcev, vendar nismo mogli oceniti njihove pristnosti, njihovo število pa se očitno ni odražalo v odzivih na objave.