IUVM: netværk for påvirkningsindhold med forbindelse til Iran
OpenAI udelukkede konti med forbindelse til den iranske operation »IUVM«, som brugte AI til at generere og oversætte proiransk, antiisraelsk og antiamerikansk webindhold.
Denne casestudie blev oprindeligt offentliggjort i OpenAIs rapport fra maj 2024(åbner i et nyt vindue).
Aktør
Vi udelukkede et mindre antal konti med forbindelse til personer, der var knyttet til International Union of Virtual Media (IUVM)(åbner i et nyt vindue), en iransk organisation, som open source-miljøet har undersøgt siden 2018.
Adfærd
Denne kampagne var rettet mod målgrupper over hele verden og fokuserede på at generere indhold på engelsk og fransk. Den brugte vores modeller til at generere og korrekturlæse artikler(åbner i et nyt vindue), overskrifter og tags til websteder. Indholdet blev derefter offentliggjort på IUVMS nuværende websted, iuvmpress.co (tidligere IUVM-domæner blev beslaglagt af FBI i 2020(åbner i et nyt vindue)).
Artiklerne blev typisk skrevet dagen før udgivelsen. Webstedets tags blev oprettet umiddelbart før udgivelsen og var sandsynligvis automatiserede. I ét tilfælde fandt vi en række tags til et websted, som indeholdt vores models svarmeddelelse, hvilket tydede på automatisering (eller mangelfuld korrekturlæsning).
Tags på en artikel udgivet af iuvmpress.co. Bemærk de første to tags, som indeholder svaret fra vores model.
Indhold
Det indhold, som netværket genererede, bestod af længere artikler, overskrifter og tags til websteder. Indholdet var typisk antiamerikansk og antiisraelsk og roste palæstinenserne, Iran og »Modstandsaksen«.
Konsekvensvurdering
IUVMS tilstedeværelse online er blevet reduceret af gentagne fjernelser fra sociale medier(åbner i et nyt vindue) og FBIs beslaglæggelse af organisationens domæner(åbner i et nyt vindue). Ud over organisationens websted fandt vi pr. 23. maj 2024 IUVM-brandede konti på TikTok, VKontakte og Odnoklassniki. Disse konti på sociale medier havde henholdsvis 10, 76 og 274 følgere eller abonnenter.
Med Breakout-skalaen(åbner i et nyt vindue), som vurderer påvirkningsoperationers effekt fra 1 (lavest) til 6 (højest), ville vi klassificere dette som en kategori 2-operation, der var kendetegnet ved opslag på flere platforme, men uden gennembrud eller betydeligt publikumsengagement på nogen af dem.
Indikatorer
Vi identificerede følgende domæner som værende forbundet med denne kampagne.
iuvmpress.co
iuvmarchive.org