IUVM: aan Iran gelieerd netwerk voor beïnvloedingscontent
OpenAI blokkeerde accounts die verband hielden met de uit Iran afkomstige operatie "IUVM", die AI gebruikte om pro-Iraanse, anti-Israëlische en anti-Amerikaanse websitecontent te genereren en te vertalen.
Deze casestudy verscheen oorspronkelijk in het rapport van OpenAI van mei 2024(opent in een nieuw venster).
Actor
We blokkeerden een klein aantal accounts die waren gekoppeld aan mensen die banden hadden met de International Union of Virtual Media (IUVM)(opent in een nieuw venster), een Iraanse organisatie die sinds 2018 door de opensourcegemeenschap wordt onderzocht.
Gedrag
Deze campagne richtte zich op een wereldwijd publiek en concentreerde zich op het genereren van Engelstalige en Franstalige content. De campagne gebruikte onze modellen om artikelen(opent in een nieuw venster), koppen en websitetags te genereren en te controleren. Deze content werd vervolgens gepubliceerd op de huidige website van IUVM, iuvmpress.co (eerdere domeinen van IUVM werden in 2020 door de FBI in beslag genomen(opent in een nieuw venster)).
De artikelen werden doorgaans een dag voor publicatie gemaakt; de websitetags werden vlak voor publicatie aangemaakt en dat proces was waarschijnlijk geautomatiseerd. In één geval ontdekten we een reeks websitetags waarin het antwoordbericht van ons model stond, wat wees op automatisering (of gebrekkige controle).
Tags bij een artikel dat is gepubliceerd door iuvmpress.co. Let op de eerste twee tags, waarin het antwoord van ons model staat.
Content
De content die dit netwerk genereerde, bestond uit lange artikelen, koppen en websitetags. Deze content was doorgaans anti-Amerikaans en anti-Israëlisch en sprak lovend over de Palestijnen, Iran en de "As van Verzet".
Effectbeoordeling
De online aanwezigheid van IUVM is afgenomen door herhaalde verwijderingen van sociale media(opent in een nieuw venster) en de inbeslagname van zijn domeinen door de FBI(opent in een nieuw venster). Naast de website troffen we op 23 mei 2024 accounts met IUVM-branding aan op TikTok, VKontakte en Odnoklassniki. Deze socialemedia-accounts hadden respectievelijk 10, 76 en 274 volgers of abonnees.
Op basis van de Breakout Scale(opent in een nieuw venster), die de impact van beïnvloedingsoperaties beoordeelt op een schaal van 1 (laagste) tot 6 (hoogste), zouden we dit aanmerken als een operatie van categorie 2: er werd op meerdere platforms content geplaatst, maar op geen daarvan was sprake van een doorbraak of noemenswaardige publieksbetrokkenheid.
Indicatoren
We stelden vast dat de volgende domeinen verband hielden met deze campagne.
iuvmpress.co
iuvmarchive.org