Operaatio ”Roskapostisetä”: Yhdysvaltoja polarisoiva vaikuttamistoiminta
OpenAI esti Kiinasta peräisin olevia tilejä, jotka tuottivat tekoälyllä Yhdysvaltain politiikkaa käsittelevää sisältöä ja keräsivät tietoa ihmisistä, liikkeistä ja verkkoyhteisöistä.
Tämä tapaustutkimus julkaistiin alun perin OpenAI:n kesäkuun 2025(avautuu uudessa ikkunassa) raportissa.
Toimija
Estimme useita ChatGPT‑tilejä, jotka liittyivät Kiinasta peräisin olevaan vaikuttamisoperaatioon(avautuu uudessa ikkunassa). Saimme siitä vihjeen Metan kollegoiltamme. Operaatiossa tuotettiin polarisoivaa sosiaalisen median sisältöä, joka tuki Yhdysvaltain poliittista keskustelua jakavien aiheiden molempia puolia. Sisältöön kuului tekstiä ja tekoälyllä luotuja profiilikuvia esimerkiksi X- ja Bluesky-alustoilla.
Toimintatavat
Verkosto käytti mallejamme useisiin tehtäviin, ensisijaisesti tuottamaan sosiaalisen median kommentteja, joissa joko kannatettiin tai vastustettiin tulleja. Tilit kysyivät malleiltamme parhaita julkaisuajankohtia yleisön sitoutumisen maksimoimiseksi, mikä viittaa suunnitelmallisiin näkyvyyden lisäämisen keinoihin.
Kaksi twiittiä, joiden tekstit uhkatoimija tuotti malleillamme. Twiitit tukevat tullikeskustelun vastakkaisia puolia.
Lisäksi tilit hyödynsivät Kuvan luonti -ominaisuuksiamme tyyliteltyjen logojen tuottamiseen. Logoja käytettiin sitten profiilikuvina tukemaan tekaistuja henkilöhahmoja eri yhteisöpalveluissa. Tilit keskittyivät erityisesti luomaan henkilöhahmoja, jotka esittivät Yhdysvaltain nykyhallintoa arvostelevia yhdysvaltalaisia veteraaneja.
Bluesky-tili, joka julkaisi verkoston tuottamaa sisältöä. ”Oikeutta veteraaneille” -logo luotiin malleillamme.
Tilit pyysivät myös toistuvasti koodia ja menetelmiä, joilla X:n ja Blueskyn kaltaisista yhteisöpalveluista voisi kerätä henkilötietoja, kuten käyttäjäprofiileja, seuraajaluetteloita ja muita tietoja. Työkaluina käytettiin esimerkiksi Tweepyä, Nitteriä ja Blueskyn julkista API-rajapintaa. Tilit pyysivät malleiltamme myös ohjeita profiilitietojen analysoimiseen henkilökohtaisten ominaisuuksien ja organisaatioyhteyksien selvittämiseksi. Tarkoituksena saattoi olla ihmisten luokittelu tai heidän yhteyksiensä ja ominaisuuksiensa päätteleminen.
Tuotokset
Tilit tuottivat Yhdysvaltain poliittisen keskustelun eri aiheita käsittelevää polarisoivaa sisältöä, usein saman toimintajakson aikana. Tunnettujen vaikuttamisoperaatioiden menetelmien perusteella toiminnan tarkoituksena oli todennäköisesti hyödyntää olemassa olevia poliittisia jakolinjoja eikä edistää tiettyä ideologista kantaa. Sisällön suuren määrän ja yhdysvaltalaisiin kohdistetun viestinnän vuoksi nimesimme operaation ”Roskapostisedäksi”.
Tekaistujen henkilöhahmojen julkaisemia twiittejä, joiden tekstit on tuotettu malleillamme.
Vaikutus
Vaikuttamisoperaatioiden vaikutuksia mittaavalla Breakout Scale -asteikolla(avautuu uudessa ikkunassa) arvioisimme toiminnan kuuluvan luokkaan 2: toimintaa useilla alustoilla, mutta ei läpimurtoa tai vain vähän vuorovaikutusta. Malleillamme tuotettua sisältöä julkaisseet sosiaalisen median tilit saivat vain vähän aitoa vuorovaikutusta. Useimmat verkoston X-julkaisuista saivat vain vähän tai eivät lainkaan tykkäyksiä tai uudelleenjulkaisuja. Vain muutamat julkaisut herättivät jonkin verran vuorovaikutusta. Joillakin sosiaalisen median tileillä oli tuhansia seuraajia, mutta emme pystyneet arvioimaan heidän aitouttaan. Suuret seuraajamäärät eivät myöskään näyttäneet johtavan julkaisujen saamaan vuorovaikutukseen.