IUVM: sieť šíriaca vplyvový obsah napojená na Irán
OpenAI zablokovala účty spojené s operáciou „IUVM“ pochádzajúcou z Iránu, ktorá pomocou umelej inteligencie vytvárala a prekladala obsah webov podporujúci Irán a namierený proti Izraelu a USA.
Táto prípadová štúdia bola pôvodne publikovaná v správe OpenAI za máj 2024(otvorí sa v novom okne).
Aktér
Zablokovali sme malý počet účtov prepojených s ľuďmi združenými v organizácii International Union of Virtual Media (IUVM)(otvorí sa v novom okne), iránskom subjekte, ktorý komunita využívajúca otvorené zdroje skúma od roku 2018.
Správanie
Táto kampaň cielila na publikum po celom svete a zameriavala sa na tvorbu obsahu v angličtine a francúzštine. Naše modely využívala na tvorbu a korektúru článkov(otvorí sa v novom okne), nadpisov a štítkov webu. Tento obsah následne zverejňovala na súčasnom webe IUVM iuvmpress.co (predchádzajúce domény IUVM zabavila FBI v roku 2020(otvorí sa v novom okne)).
Články sa zvyčajne vytvárali deň pred zverejnením. Štítky webu vznikali tesne pred zverejnením a pravdepodobne sa generovali automaticky. V jednom prípade sme našli skupinu štítkov webu, ktorá obsahovala správu s odpoveďou nášho modelu, čo naznačuje automatizáciu (alebo nedôslednú korektúru).
Štítky pri článku zverejnenom na iuvmpress.co. Všimnite si prvé dva štítky, ktoré obsahujú odpoveď nášho modelu.
Obsah
Obsah vytváraný touto sieťou pozostával z dlhších článkov, nadpisov a štítkov webu. Tento obsah bol zvyčajne namierený proti USA a Izraelu a vyzdvihoval Palestínčanov, Irán a „Os odporu“.
Hodnotenie vplyvu
Prítomnosť IUVM na internete sa zmenšila v dôsledku opakovaného odstraňovania zo sociálnych sietí(otvorí sa v novom okne) a zabavenia jej domén zo strany FBI(otvorí sa v novom okne). Okrem jej webu sme k 23. máju 2024 identifikovali účty označené značkou IUVM na platformách TikTok, VKontakte a Odnoklassniki. Tieto účty na sociálnych sieťach mali v uvedenom poradí 10, 76 a 274 sledovateľov alebo odberateľov.
Pri hodnotení vplyvu vplyvových operácií pomocou škály Breakout Scale(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižší vplyv) po 6 (najvyšší vplyv), by sme túto operáciu zaradili do kategórie 2. Vyznačovala sa zverejňovaním obsahu na viacerých platformách, no na žiadnej z nich nedosiahla širší dosah ani výraznejšie zapojenie publika.
Indikátory
Identifikovali sme nasledujúce domény spojené s touto kampaňou.
iuvmpress.co
iuvmarchive.org