IUVM: powiązana z Iranem sieć treści służących wywieraniu wpływu
OpenAI zablokowało konta powiązane z pochodzącą z Iranu operacją „IUVM”, która wykorzystywała AI do tworzenia i tłumaczenia treści internetowych popierających Iran oraz wymierzonych w Izrael i USA.
To studium przypadku opublikowano pierwotnie w raporcie OpenAI z maja 2024 r.(otwiera nowe okno).
Podmiot
Zablokowaliśmy niewielką liczbę kont powiązanych z osobami związanymi z Międzynarodową Unią Wirtualnych Mediów (IUVM)(otwiera nowe okno) — irańską organizacją badaną przez społeczność analityków otwartych źródeł od 2018 r.
Działania
Kampania była skierowana do odbiorców na całym świecie i koncentrowała się na tworzeniu treści w języku angielskim i francuskim. Wykorzystywała nasze modele do tworzenia i korekty artykułów(otwiera nowe okno), nagłówków i tagów stron internetowych. Treści te publikowano następnie w aktualnym serwisie IUVM, iuvmpress.co (wcześniejsze domeny IUVM zostały przejęte przez FBI w 2020 r.(otwiera nowe okno)).
Artykuły tworzono zwykle dzień przed publikacją, natomiast tagi stron internetowych — tuż przed nią, prawdopodobnie w sposób zautomatyzowany. W jednym przypadku wykryliśmy zestaw tagów strony internetowej zawierający komunikat z odpowiedzią naszego modelu, co wskazywało na automatyzację (lub niedbałą korektę).
Tagi artykułu opublikowanego w serwisie iuvmpress.co. Zwróć uwagę na pierwsze dwa tagi, które zawierają odpowiedź naszego modelu.
Treści
Treści generowane przez tę sieć obejmowały obszerne artykuły, nagłówki i tagi stron internetowych. Treści te były zwykle wymierzone w USA i Izrael, a zarazem wychwalały Palestyńczyków, Iran i „Oś Oporu”.
Ocena wpływu
Obecność IUVM w internecie została ograniczona wskutek wielokrotnego usuwania jej kont z mediów społecznościowych(otwiera nowe okno) oraz przejęcia jej domen przez FBI(otwiera nowe okno). Poza witryną internetową według stanu na 23 maja 2024 r. zidentyfikowaliśmy konta sygnowane marką IUVM w serwisach TikTok, VKontakte i Odnoklassniki. Konta te miały odpowiednio 10, 76 i 274 obserwujących lub subskrybentów.
Stosując skalę rozprzestrzeniania się (Breakout Scale)(otwiera nowe okno), która ocenia wpływ operacji wpływu informacyjnego w skali od 1 (najniższa ocena) do 6 (najwyższa), uznalibyśmy tę operację za należącą do kategorii 2: publikowała ona na wielu platformach, lecz na żadnej nie przebiła się do szerszego obiegu ani nie wywołała znaczącego zaangażowania odbiorców.
Wskaźniki
Zidentyfikowaliśmy następujące domeny powiązane z tą kampanią.
iuvmpress.co
iuvmarchive.org