IUVM: xarxa de continguts d'influència vinculada a l'Iran
OpenAI va bloquejar comptes associats amb l'operació d'origen iranià "IUVM", que feia servir IA per generar i traduir contingut web proiranià, antiisraelià i antiestatunidenc.
Aquest estudi de cas es va publicar originalment a l'informe de maig de 2024(s'obre en una finestra nova) d'OpenAI.
Actor
Vam bloquejar un petit nombre de comptes vinculats a persones relacionades amb la Unió Internacional de Mitjans Virtuals (IUVM)(s'obre en una finestra nova), una entitat iraniana que la comunitat de fonts obertes estudia des del 2018.
Comportament
Aquesta campanya s'adreçava a públics d'arreu del món i se centrava a generar contingut en anglès i francès. Feia servir els nostres models per generar i revisar articles(s'obre en una finestra nova), titulars i etiquetes de llocs web. Després, aquest contingut es publicava al lloc web actual d'IUVM, iuvmpress.co (els dominis anteriors d'IUVM van ser confiscats per l'FBI el 2020(s'obre en una finestra nova)).
Normalment, els articles es creaven el dia abans de publicar-se; les etiquetes del lloc web es creaven just abans de la publicació i probablement estaven automatitzades. En una ocasió, vam detectar un conjunt d'etiquetes del lloc web que incloïa el missatge de resposta del nostre model, fet que apuntava a una automatització (o a una revisió deficient).
Etiquetes d'un article publicat per iuvmpress.co. Fixeu-vos en les dues primeres, que inclouen la resposta del nostre model.
Contingut
El contingut que generava aquesta xarxa consistia en articles extensos, titulars i etiquetes de llocs web. Aquest contingut solia ser antiestatunidenc i antiisraelià, i elogiava els palestins, l'Iran i l'"Eix de la Resistència".
Avaluació de l'impacte
La presència en línia d'IUVM s'ha reduït arran de les repetides retirades de comptes de les xarxes socials(s'obre en una finestra nova) i de la confiscació dels seus dominis per part de l'FBI(s'obre en una finestra nova). A més del seu lloc web, el 23 de maig de 2024 vam identificar comptes amb la marca IUVM a TikTok, VKontakte i Odnoklassniki. Aquests comptes de xarxes socials tenien, respectivament, 10, 76 i 274 seguidors o subscriptors.
Segons l'Escala de Propagació(s'obre en una finestra nova) per avaluar l'impacte de les operacions d'influència, que les puntua de l'1 (mínim) al 6 (màxim), consideraríem que es tracta d'una operació de categoria 2, caracteritzada per l'activitat de publicació en diverses plataformes, però sense propagació ni una interacció significativa del públic en cap d'elles.
Indicadors
Vam identificar els dominis següents com a associats amb aquesta campanya.
iuvmpress.co
iuvmarchive.org