Siirry pääsisältöön
OpenAI

1. toukokuuta 2024

Turvallisuus

Operaatio ”Zero Zeno”: Israeliin liittyvä vaikuttamistoiminta

OpenAI esti tilit, jotka liittyivät aiemmin raportoimattomaan israelilaislähtöiseen ”Zero Zenoksi” nimeämäämme operaatioon. Siinä tekoälyllä tuotettiin Hamasin, Qatarin ja BJP:n vastaista sekä Israelia ja Histadrutia tukevaa sisältöä.

Ladataan...

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n toukokuun 2024⁠(avautuu uudessa ikkunassa) raportissa.

Toimija

Estimme Israelista käsin hallinnoidun tiliryhmän, jolla tuotettiin ja muokattiin sisältöä X:ssä, Facebookissa, Instagramissa, verkkosivustoilla ja YouTubessa toteutettua vaikuttamisoperaatiota varten. Verkostoa hallinnoi israelilainen poliittisten kampanjoiden hallinnointiyritys STOIC. Nimesimme verkoston ”Zero Zenoksi” stoalaisen filosofikoulukunnan perustajan kunniaksi ja kuvastamaan verkoston saamaa vähäistä huomiota.

Toiminta

Operaatio kohdisti englannin- ja hepreankielistä sisältöä yleisöille Kanadassa, Yhdysvalloissa ja Israelissa. Toukokuun alussa se alkoi kohdistaa englanninkielistä sisältöä yleisöille Intiassa. Se vaikuttaa myös valmistelleen Ghanaan kohdistuvaa vaikuttamisoperaatiota.

Operaatiossa malleillamme tuotettiin verkkoartikkeleita ja sosiaalisen median kommentteja, jotka julkaistiin useilla alustoilla, etenkin Instagramissa, Facebookissa ja X:ssä.

Tämän verkoston tuottamia englanninkielisiä kommentteja, jotka julkaistiin Instagramissa. Sekä alkuperäinen julkaisu että vastaukset olivat tämän kampanjan tuottamia.

Tämän verkoston tuottamia englanninkielisiä kommentteja, jotka julkaistiin Instagramissa. Sekä alkuperäinen julkaisu että vastaukset olivat tämän kampanjan tuottamia.

Operaatiossa malleillamme luotiin myös kuvitteellisia henkilöitä ja näiden sosiaalisen median esittelytekstejä esimerkiksi iän, sukupuolen ja sijainnin perusteella. Lisäksi niillä etsittiin tietoa israelilaisista, jotka olivat kommentoineet julkisesti Israelin Histadrut-ammattiliittoa. Mallimme kieltäytyivät antamasta henkilötietoja vastauksena näihin kehotteisiin.

Verkoston tuottamaa sisältöä julkaistiin useilla sosiaalisen median alustoilla. Atlantic Councilin Digital Forensic Research Labin⁠(avautuu uudessa ikkunassa) avoimiin lähteisiin perustuvassa tutkimuksessa tunnistettiin verkoston sisältöä Facebookissa, Instagramissa ja X:ssä. Kun tilit suljettiin, operaatio hankki uusia. Muuta sisältöä julkaistiin neljällä verkkosivustolla, jotka esiintyivät Gazan konfliktiin sekä juutalaisten ja muslimien välisiin suhteisiin laajemmin keskittyvinä aktivistiryhminä: uc4canada.com, the-good-samaritan.com, ufnews.io ja nonagenda.com.

Joissakin tapauksissa havaitsimme operaation valetilien kommentoivan operaation omia sosiaalisen median julkaisuja, luultavasti luodakseen vaikutelman yleisön aktiivisuudesta.

DFRLabin ensimmäisenä tunnistamaan toimintaan liittyvän tilin julkaisu X:ssä vastauksineen. Kaikki kuvan vastaukset olivat tämän kampanjan tuottamia.

DFRLabin ensimmäisenä tunnistamaan toimintaan liittyvän tilin julkaisu X:ssä vastauksineen. Kaikki kuvan vastaukset olivat tämän kampanjan tuottamia.

Monet tämän verkoston sisältöä julkaisseet sosiaalisen median tilit käyttivät profiilikuvia, jotka vaikuttivat olevan peräisin vanhemmalla tekoälytekniikalla eli generatiivisilla kilpailevilla verkoilla (GAN) luoduista kuvista. Tällaisia kuvia voi ladata helposti internetistä. Vaikka tällaisia kuvia on helppo luoda, tunnistimme verkostosta useita sosiaalisen median tilejä, jotka käyttivät samaa kuvaa. Joskus vähintään kaksi samalla profiilikuvalla varustettua tiliä vastasi samaan sosiaalisen median julkaisuun.

Tämän verkoston tuottamia kommentteja julkaisseiden X-tilien profiilikuvia. Kuvassa on GAN-menetelmällä luotuihin kuviin viittaavia piirteitä.

Tämän verkoston tuottamia kommentteja julkaisseiden X-tilien profiilikuvia. Kuvassa on GAN-menetelmällä luotuihin kuviin viittaavia piirteitä.

Sisältö

Operaatio jakautui useisiin aihekohtaisiin kampanjoihin, joista useimmat liittyivät löyhästi Gazan konfliktiin sekä laajemmin juutalaisten ja muslimien välisiin suhteisiin. Toukokuussa keskeytimme Intian vaaleihin keskittynyttä toimintaa alle 24 tuntia sen alkamisen jälkeen.

Helmikuussa julkaistu avoimiin lähteisiin perustuva tutkimus⁠(avautuu uudessa ikkunassa) kuvasi, kuinka verkosto arvosteli YK:n palestiinalaispakolaisten avustusjärjestöä UNRWAa. DFRLabin maaliskuinen raportti⁠(avautuu uudessa ikkunassa) nosti esiin Kanadaan keskittynyttä sisältöä, jossa arvosteltiin kampanjan julkaisuissa ”radikaaleiksi islamisteiksi” kutsuttuja tahoja. Yksi ryhmä keskittyi Yhdysvaltain yliopistoihin ja syytti Palestiinaa tukevia mielenosoittajia antisemitismin ja terrorismin edistämisestä. Neljäs ryhmä keskittyi Qatariin ja esitti sen Yhdysvaltoihin tekemät sijoitukset uhkana amerikkalaiselle elämäntavalle. Viides ryhmä tuotti hepreankielisiä julkaisuja sosiaaliseen mediaan. Niissä yleensä ylistettiin Histadrut-ammattiliittojärjestöä ja sen johtoa. Toukokuussa verkosto alkoi lopulta tuottaa Intiaan keskittyviä kommentteja, joissa arvosteltiin hallitsevaa BJP-puoluetta ja ylistettiin oppositiossa olevaa kongressipuoluetta.

Verkosto näyttää toisinaan vaihtaneen tiliensä aihetta. Esimerkiksi aiemmin Kanadasta julkaisseet tilit siirtyivät käsittelemään Yhdysvaltoja, Intiaa tai Histadrutia, joskus useampaakin näistä.

Kolme X-kommenttia tililtä, joka julkaisi toistuvasti tämän kampanjan tuottamaa sisältöä 1.–4. toukokuuta 2024. Varhaisin julkaisu (alhaalla) vaikuttaa olleen yritys rakentaa peitehenkilöllisyyttä. Toinen julkaisu keskittyy Kanadaan ja sisältää tämän verkoston tärkeimmän Kanada-aiheisen tilin julkaisun. Kolmas keskittyy Intiaan.

Kolme X-kommenttia tililtä, joka julkaisi toistuvasti tämän kampanjan tuottamaa sisältöä 1.–4. toukokuuta 2024. Varhaisin julkaisu (alhaalla) vaikuttaa olleen yritys rakentaa peitehenkilöllisyyttä. Toinen julkaisu keskittyy Kanadaan ja sisältää tämän verkoston tärkeimmän Kanada-aiheisen tilin julkaisun. Kolmas keskittyy Intiaan.

Osa verkoston tuottamasta sisällöstä julkaistiin sosiaalisessa mediassa vastauksina tunnettujen länsimaisten vaikuttajien julkaisuihin poliittisen kentän molemmilta laidoilta. Vastaukset eivät yleensä liittyneet mitenkään alkuperäiseen julkaisuun. Esimerkiksi kommentti, jonka mukaan Qatar oli ”ostamassa” Amerikkaa, julkaistiin vastauksena entisen presidentin Trumpin musiikkimieltymyksiä käsitelleeseen julkaisuun.

Ylhäällä Laura Ingrahamin julkaisu presidentti Trumpin musiikkimieltymyksistä. Alhaalla julkaisu, joka sisältää tämän verkoston tuottaman kommentin. Huomaa alkuperäisen julkaisun ja vastauksen sitoutumislukujen ero.

Ylhäällä Laura Ingrahamin julkaisu presidentti Trumpin musiikkimieltymyksistä. Alhaalla julkaisu, joka sisältää tämän verkoston tuottaman kommentin. Huomaa alkuperäisen julkaisun ja vastauksen sitoutumislukujen ero.

Vaikutusten arviointi

Zero Zenon toiminta vaikuttaa saaneen vain vähän tai ei lainkaan huomiota muilta kuin sen omilta epäaidoilta tileiltä. (Meta ja X ovat jo sulkeneet monia tilejä, joten nykyiset sitoutumisluvut eivät välttämättä anna kattavaa kuvaa.)

Kun vaikuttamisoperaation vaikutusta arvioidaan Breakout Scale -asteikolla⁠(avautuu uudessa ikkunassa) yhdestä (matalin) kuuteen (korkein), luokittelisimme tämän kategorian 2 operaatioksi. Sille oli ominaista julkaiseminen useilla alustoilla ja verkkosivustoilla, mutta mikään ei viittaa siihen, että verkoston ulkopuoliset ihmiset olisivat vahvistaneet sen näkyvyyttä merkittävästi.

Operaation Kanadaan keskittyvään kampanjaan liittyvä YouTube-kanava. Kanavalla oli 25. huhtikuuta 2024 yksi video, jota ei ollut katsottu kertaakaan.

Operaation Kanadaan keskittyvään kampanjaan liittyvä YouTube-kanava. Kanavalla oli 25. huhtikuuta 2024 yksi video, jota ei ollut katsottu kertaakaan.

Tunnisteet

Tunnistimme seuraavat verkkotunnukset Zero Zenon kampanjoihin liittyviksi.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io