IUVM: Iran-tilknyttet nettverk for påvirkningsinnhold
OpenAI utestengte kontoer knyttet til den iranske operasjonen «IUVM», som brukte KI til å generere og oversette Iran-vennlig, antiisraelsk og antiamerikansk innhold til nettsteder.
Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra mai 2024(åpnes i et nytt vindu).
Aktør
Vi utestengte et lite antall kontoer knyttet til personer med forbindelser til International Union of Virtual Media (IUVM)(åpnes i et nytt vindu), en iransk organisasjon som miljøet for åpne kilder har undersøkt siden 2018.
Atferd
Kampanjen var rettet mot et globalt publikum og fokuserte på å produsere innhold på engelsk og fransk. Den brukte modellene våre til å generere og korrekturlese artikler(åpnes i et nytt vindu), overskrifter og tagger til nettsteder. Innholdet ble deretter publisert på IUVMs nåværende nettsted, iuvmpress.co (tidligere IUVM-domener ble beslaglagt av FBI i 2020(åpnes i et nytt vindu)).
Artiklene ble vanligvis laget dagen før de ble publisert. Taggene til nettstedet ble laget rett før publisering og var sannsynligvis automatisert. Ved ett tilfelle fant vi et sett med tagger til nettstedet som inneholdt svarmeldingen fra modellen vår, noe som tyder på automatisering (eller mangelfull korrekturlesing).
Tagger for en artikkel publisert av iuvmpress.co. Legg merke til de to første taggene, som inneholder svaret fra modellen vår.
Innhold
Innholdet som nettverket genererte, besto av lengre artikler, overskrifter og tagger til nettsteder. Innholdet var vanligvis antiamerikansk og antiisraelsk og omtalte palestinerne, Iran og «motstandsaksen» i rosende ordelag.
Effektvurdering
IUVMs tilstedeværelse på nettet er blitt redusert gjennom gjentatte fjerninger fra sosiale medier(åpnes i et nytt vindu) og FBIs beslag av domenene deres(åpnes i et nytt vindu). I tillegg til nettstedet fant vi per 23. mai 2024 IUVM-merkede kontoer på TikTok, VKontakte og Odnoklassniki. Disse kontoene i sosiale medier hadde henholdsvis 10, 76 og 274 følgere eller abonnenter.
Ved hjelp av Breakout-skalaen(åpnes i et nytt vindu), som vurderer effekten av påvirkningsoperasjoner fra 1 (lavest) til 6 (høyest), ville vi klassifisert dette som en kategori 2-operasjon. Den kjennetegnes av publisering på flere plattformer, men uten gjennombrudd eller betydelig publikumsengasjement på noen av dem.
Indikatorer
Vi identifiserte følgende domener som tilknyttet denne kampanjen.
iuvmpress.co
iuvmarchive.org