Операция „A2Z“: многоезична дейност за влияние

Този анализ на конкретен случай първоначално беше публикуван в доклада на OpenAI от октомври 2024 г.⁠(отваря се в нов прозорец)

Забранихме неразкрита до този момент група акаунти, които използваха нашия API, за да създават коментари, публикувани впоследствие в X и Facebook. Много от тези коментари възхваляваха Азербайджан или защитаваха репутацията му по отношение на правата на човека, но операцията обхващаше и редица други теми, което може да подсказва, че е провеждана с търговска цел. Заради честите похвали за Азербайджан и опита за използване на ИИ в множество етапи на операцията нарекохме тази мрежа „A2Z“.

Подобно на рускоезичната операция в Telegram, която разкрихме през май и нарекохме „Лоша граматика“, тази операция използваше нашите модели за публикуване на коментари в социалните мрежи. Тя използваше ИИ, за да управлява фалшиви профили в социалните мрежи, да създава биографии, да анализира публикации и коментари, да подготвя отговори на много езици и да ги коригира. След това отговорите бяха публикувани в X или Facebook. Повечето материали бяха кратки коментари, но имаше и стилизирани изображения. Те често имитираха плакатите от 30-те години на XX век и изглежда бяха предназначени по-скоро да привличат внимание и ангажираност, отколкото да заблуждават. Типичните публикации с такива стилизирани изображения обаче получаваха едва по 0–5 взаимодействия.

Използването на ИИ позволяваше на операцията да управлява едновременно много акаунти в социалните мрежи: установихме около 150 акаунта в X и Facebook, съответстващи на тази дейност, а подозираме съществуването и на още. Така операцията понякога успяваше и да участва в дискусии с реални хора в интернет. Понякога наблюдавахме кратки разговори между реални хора и фалшивите акаунти, чиито отговори бяха генерирани с нашите модели.

Преди появата на ИИ операция с такъв мащаб вероятно би изисквала голям екип от тролове, както и всички свързани с подобно начинание разходи и рискове от изтичане на информация. Зависимостта на операцията от ИИ обаче я направи и необичайно уязвима на нашите действия за прекъсването ѝ. Тъй като тя използваше ИИ в толкова много звена от веригата на атаката, прекратяването на достъпа ѝ прекъсна едновременно много от тях. След като прекъснахме тази дейност в началото на юни, акаунтите в социалните мрежи, които бяхме свързали с операцията, спряха да публикуват през целите изборни периоди в ЕС, Обединеното кралство и Франция. Някои възобновиха публикациите си в края на август. Малка част от публикациите им съдържаха признаци, че вероятно са генерирани от ИИ. Съдържанието с такива признаци не беше създадено с нашите модели.

Тази кампания генерираше кратки коментари по широк кръг политически теми. Най-отчетлива беше възхвалата на азербайджанското правителство и ролята му във вътрешната, регионалната и международната политика — например за насърчаването на единството между страните от Централна Азия или домакинството на Конференцията на ООН за изменението на климата. Акаунти на английски и италиански възхваляваха ролята на Азербайджан като доставчик на енергия за Европа — понякога в отговор на критики към спазването на правата на човека от азербайджанското правителство.

Други направления на дейността се съсредоточаваха върху ползите и развитието на ИИ, финансовите пазари, екологичните въпроси, криптовалутите и технологиите като цяло. Една група се съсредоточаваше върху Обединените арабски емирства, представяйки ги като стабилно място за инвестиции и често противопоставяйки това на твърдения за политическа нестабилност в Съединените щати.

Някои фалшиви профили се съсредоточаваха върху политиката в Европа или Съединените щати. Идеологията зад тази дейност се различаваше според региона. Например един акаунт в X, насочен към Съединените щати, се представяше за либерален и критикуваше бившия президент на САЩ Тръмп, докато някои френскоезични акаунти във Facebook критикуваха президента Макрон и подкрепяха партията „Национален сбор“ (RN). Понякога критиките се съсредоточаваха върху вътрешни проблеми, за да се твърди, че съответната държава не бива да се намесва в международни въпроси, включително руската инвазия в Украйна.

Операцията беше много активна във Facebook и X и вероятно използваше стотици акаунти. Някои от акаунтите ѝ в X имаха синя отметка за платена верификация. Сред приблизително 150-те акаунта, които анализирахме в двете платформи, не открихме нито един със значителен брой последователи: най-голямата аудитория в X, установена при разследването ни, беше 222 последователи; по-типичните стойности бяха между около 15 и малко над 20, а обичайните публикации в X получаваха едноцифрен брой взаимодействия. По подобен начин най-големият брой реакции на публикация във Facebook, наблюдаван при разследването ни, беше 36, а по-типичните стойности бяха между 0 и 5. Все пак установихме отделни случаи, в които публикациите на операцията привличаха отговори от реални хора. Тези отговори невинаги бяха положителни и понякога реални хора опровергаваха фалшивите акаунти, но те показват поне известна способност за ангажиране на аудитории в различни платформи, на различни езици и по различни теми.

Според Breakout Scale за оценка на въздействието на операциите за влияние, която ги класира от 1 (най-ниско) до 6 (най-високо), бихме поставили тази операция в горната граница на втора категория, с риск да премине в трета: тя се характеризираше с публикуване в множество платформи и имаше известни доказателства, че реални хора взаимодействат със съдържанието ѝ. След като забранихме на участниците в операцията да използват нашите модели и споделихме информация с партньори от сектора, установените от нас акаунти в социалните мрежи замлъкнаха за много седмици. Така тази операция показва както по-големите възможности, които използването на ИИ дава на операторите, така и повишената им уязвимост към прекъсване поради зависимостта от модел с ИИ.