Siirry pääsisältöön
OpenAI

1. helmikuuta 2025

Turvallisuus

Operaatio ”Sponsoroitu tyytymättömyys”: vaikuttamistoimintaa

OpenAI sulki todennäköisesti Kiinasta käsin käytettyjä tilejä, joilla tuotettiin tekoälyn avulla englanninkielisiä somejulkaisuja ja espanjankielisiä artikkeleita.

Ladataan...

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n helmikuun 2025⁠(avautuu uudessa ikkunassa) raportissa.

Toimija

Suljimme ChatGPT‑tilejä, joilla mallejamme käytettiin lyhyiden englanninkielisten kommenttien ja pitkien espanjankielisten uutisartikkelien tuottamiseen. Toiminta ajoittui Manner-Kiinan tavanomaisiin työaikoihin. Espanjankielisiä artikkeleita julkaistiin Latinalaisen Amerikan uutissivustoilla. Lähes kaikki sivustot nimesivät artikkelien kirjoittajaksi yksityishenkilön. Joissakin tapauksissa kirjoittajatiedoissa mainittiin hänen yhteytensä kiinalaiseen Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司) -yritykseen.

Toimintatavat

Tileillä annettiin ChatGPT:lle kiinankielisiä kehotteita, ja niitä käytettiin pääasiassa Manner-Kiinan tavanomaisina työaikoina. Osa toiminnasta vastasi toukokuussa raportoimamme salaisen ”Spamouflage⁠”-vaikuttamisoperaation toimintatapoja: siinä tuotettiin lyhyitä englanninkielisiä kommentteja ja kuvia, jotka arvostelivat toisinajattelija Cai Xiaa, Kiinan kommunistisen puolueen keskuspuoluekoulun entistä professoria. Sisältö julkaistiin sitten X:ssä tileillä, joiden käyttäjät esiintyivät yhdysvaltalaisina tai intialaisina henkilöinä.

Sponsoroitu tyytymättömyys -operaation tilien tuottamia twiittejä.

Näillä tileillä malliensa avulla tuotettuja twiittejä, jotka julkaistiin neljällä eri X-tilillä.

Jos toiminta olisi rajoittunut tähän, olisimme saattaneet päätellä sen todennäköisesti liittyvän ”Spamouflage”-operaatioon. Lyhyiden kommenttien lisäksi tileillä kuitenkin tuotettiin myös pitkiä espanjankielisiä artikkeleita, joissa arvosteltiin Yhdysvaltoja. Tämä toiminta oli erityisen vilkasta ennen Perussa vuonna 2024 järjestettyä APEC-foorumia. Toimija tuotti artikkeleita pyytämällä mallejamme kääntämään ja laajentamaan julkisesti saatavilla olevia kiinankielisiä artikkeleita.

Artikkelit julkaistiin sitten Latinalaisen Amerikan uutissivustoilla, etenkin Perussa mutta myös Meksikossa ja Ecuadorissa. Uutissivustot julkaisivat artikkelit usein samana päivänä, jona sisältö oli tuotettu tileillä ChatGPT:n avulla. Lähes kaikissa julkaisuissa artikkelien kirjoittajaksi nimettiin sama henkilö. Joissakin hänet mainittiin sellaisen yrityksen lailliseksi edustajaksi, jonka uskomme olevan kiinalainen.

Tämä on ensimmäinen kerta, kun olemme havainneet todennäköisesti kiinalaisen vaikuttamistoimijan onnistuvan saamaan artikkeleitaan julkaistuksi Latinalaisen Amerikan valtamedioissa. Osa julkaisuista saattoi perustua maksulliseen sopimukseen: yksi avoimista lähteistä löytämistämme artikkeleista oli merkitty ”sponsoroiduksi”. Toimija käytti ChatGPT:tä myös kääntämään viittauksia latinalaisamerikkalaisen uutisorganisaation espanjankielisiin kuitteihin, mikä viittaa maksulliseen julkaisemiseen.

Sponsoroitu tyytymättömyys -operaation tuottama sponsoroitu artikkeli.

Kuvakaappaus toimijan tuottamasta artikkelista, joka julkaistiin wapa[.]pe-sivustolla. Huomaa sponsoroituun sisältöön viittaava merkintä.

Olemme nimenneet kampanjan ”Sponsoroiduksi tyytymättömyydeksi”, koska siinä ilmeisesti käytettiin sponsoroitua sisältöä ja suhtauduttiin kielteisesti Yhdysvaltain politiikkaan ja poliittisiin linjauksiin.

Tuotettu sisältö

Toimija tuotti pääasiassa kahdenlaista sisältöä: lyhyitä Cai Xiaa arvostelevia kommentteja englanniksi ja kiinaksi sekä pitkiä artikkeleita espanjaksi.

Tuottaessaan Cai Xiaa arvostelevia kommentteja operaattori pyysi ChatGPT:tä yleensä vastaamaan Cai Xian julkaisemiin twiitteihin tai videoihin tai häntä koskeviin mainintoihin mediassa. Osa kommenteista kyseenalaisti hänen asiantuntemuksensa esimerkiksi Taiwanista, internetistä sekä Kiinan kirjallisuudesta ja historiasta. Toisissa häntä syytettiin viisumiepäselvyyksistä.

Pitkät espanjankieliset artikkelit käsittelivät Yhdysvaltain yhteiskunnallisia ja poliittisia jakolinjoja, yleensä ajankohtaisten tapahtumien ja tuoreiden uutisten pohjalta. Aiheina olivat eriarvoisuus, poliittinen väkivalta, syrjintä ja seksismi sekä rikosuutiset ja Yhdysvaltain ulkopolitiikan arvostelu. Myös yhteiskunnalliset kriisit, kuten huumeiden käyttö ja asunnottomuus, olivat vahvasti esillä. Operaattori esitti nämä kriisit tai ongelmat usein osoituksena Yhdysvaltain johdon tai yhteiskunnan epäonnistumisesta. Toiminta ei pääsääntöisesti asettunut kummankaan Yhdysvaltain pääpuolueen puolelle, vaan arvosteli molempia.

Vaikutukset

Emme ole nähneet näyttöä siitä, että Cai Xiaan kohdistettu sisältö olisi saanut sosiaalisessa mediassa merkittävästi aitoja reaktioita. Sisältöä julkaisseilla sometileillä oli yleensä vähän seuraajia, ja niiden julkaisut keräsivät hyvin vähän reaktioita.

Tämä on kuitenkin ensimmäinen kerta, kun olemme havainneet Kiinasta lähtöisin olevan vaikuttamisoperaation onnistuvan ujuttamaan Latinalaisen Amerikan mediaan pitkiä Yhdysvaltoja arvostelevia artikkeleita. Vaikka tämä saattoi onnistua ainakin osittain maksamalla sisällön julkaisemisesta, kyseessä on tietääksemme aiemmin raportoimaton toimintatapa. Se kulki tavanomaisemman sometoiminnan rinnalla ja saattoi tavoittaa huomattavasti laajemman yleisön, vaikka emme pysty riippumattomasti todentamaan yleisön reaktioita.

Kun arvioimme vaikuttamisoperaation vaikutusta Breakout-asteikolla⁠(avautuu uudessa ikkunassa), jossa 1 on alin ja 6 ylin taso, sijoittaisimme tämän operaation luokkaan 4 (leviäminen valtamediaan) latinalaisamerikkalaisten uutissivustojen laajan lukijakunnan vuoksi.

Toimintaan liittyvien julkaistujen artikkelien otsikoita

Totesimme näiden artikkelien vastaavan sisältöä, jota toimija tuotti malleillamme.

  • Ruma totuus siitä, miten Yhdysvallat hyötyy Ukrainan sodan tukemisesta (La Republica, Peru).

  • Yhdysvaltain asunnottomuusongelman traaginen todellisuus (Wapa, Peru).

  • Yhdysvaltain palestiinalaisaktivistille asettamien pakotteiden järjetön logiikka (El Popular, Peru).

  • Maskuliinisuuden absurdi näyttämö (Libero, Peru).

  • Kaikkialla läsnä olevat varjot (El Popular, Peru).

  • Puoluejohdon halveksunta demokratiaa kohtaan Yhdysvalloissa (El Popular, Peru).

  • Vaalipuheiden avoimuuden puute ja yleisen mielipiteen manipulointi (Libero, Peru).

  • Hotellityöntekijöiden lakko ja kamppailu (La Republica, Peru).

  • Yhdysvaltain pakotteiden tehottomuus ja itseään rajoittava luonne (El Universal, Meksiko).

  • Hiljaiset huudot fentanyylin ikeessä (La Republica, Peru).

  • Hurrikaani ”Helene”: yhdysvaltalaispoliitikkojen valheelliset lausunnot ja salaliittoteoriat (Wapa, Peru).

  • Tullien sumussa: Trumpin lyhytnäköinen politiikka ja Yhdysvaltain talouden tulevaisuus (La Republica, Peru).

  • Yhdysvaltalaisen yhteiskunnan ruokaturvaongelma ja sen vaikutukset kouluihin (Extra, Ecuador).

  • Yhdysvaltain tragedia: kun totuus salataan (Expreso, Ecuador).

  • Lasten turvallisuuskriisi Yhdysvalloissa (La Republica, Peru).

  • Väkivallan varjo Brooklynissa (El Plural, Espanja).

  • Murhaajan ylellisyyttä: veronmaksajien kustantama leikkaus (El Universal, Meksiko).

  • Tukea Israelille ja piittaamattomuutta humanitaarisesta kriisistä (La Republica, Peru).

  • Tuhoisa kilpailu Yhdysvaltain vaaleissa (Wapa, Peru).