Операција „A2Z“: вишејезичне активности утицаја

Ова студија случаја првобитно је објављена у извештају OpenAI-а из октобра 2024.⁠(отвара се у новом прозору)

Забранили смо раније непријављену групу налога који су помоћу нашег API-ја правили коментаре, а затим их објављивали на платформама X и Facebook. Многи од тих коментара хвалили су Азербејџан или бранили стање људских права у тој земљи, али су обухватали и низ других тема, што би могло указивати на комерцијално вођену операцију. Због учесталих похвала Азербејџану и покушаја коришћења вештачке интелигенције у више фаза операције, ову мрежу назвали смо „A2Z“.

Као и операција на руском језику на Telegram-у, коју смо разоткрили у мају и назвали „Лоша граматика“, и ова операција је користила наше моделе за писање коментара на друштвеним мрежама. Користила је вештачку интелигенцију за управљање лажним профилима на друштвеним мрежама, писање биографија, анализу објава и коментара, састављање одговора на бројним језицима и њихову лектуру. Одговори су затим објављивани на платформама X или Facebook. Већину садржаја чинили су кратки коментари, али је било и стилизованих слика. Оне су често биле у стилу плаката из тридесетих година 20. века, па делује да су осмишљене да привуку пажњу и подстакну интеракције, а не да обману. Ипак, типичне објаве са овим стилизованим сликама имале су свега 0–5 интеракција.

Употреба вештачке интелигенције омогућила је операцији да истовремено управља многим налозима на друштвеним мрежама: препознали смо око 150 налога на платформама X и Facebook који су одговарали овом обрасцу активности, а сумњамо да их је било и више. То је операцији омогућило и да се повремено укључује у расправе са стварним људима на интернету. Повремено смо примећивали кратке разговоре између стварних људи и лажних налога, у којима су одговори лажних налога генерисани помоћу наших модела.

Операција ових размера пре појаве вештачке интелигенције вероватно би захтевала велики тим тролова, уз све трошкове и ризике од цурења информација које такав подухват носи. Међутим, због ослањања на вештачку интелигенцију ова операција је уједно била неуобичајено подложна нашем ометању. Пошто је користила вештачку интелигенцију у многим карикама ланца напада, њеним уклањањем смо истовремено прекинули многе карике тог ланца. Након што смо почетком јуна омели ове активности, налози на друштвеним мрежама које смо препознали као део операције престали су да објављују током изборних периода у ЕУ, Уједињеном Краљевству и Француској. Неки су поново почели да објављују крајем августа. Мали број њихових објава садржао је назнаке да их је вероватно генерисала вештачка интелигенција. Садржај са таквим назнакама није потекао од наших модела.

Ова кампања је генерисала кратке коментаре о широком спектру политичких тема. Најзаступљеније су биле похвале влади Азербејџана и њеној улози у домаћој, регионалној и међународној политици — на пример, у промовисању јединства земаља Централне Азије или организовању Конференције УН о климатским променама. Налози на енглеском и италијанском хвалили су улогу Азербејџана као снабдевача Европе енергијом — понекад као одговор на критике стања људских права под азербејџанском владом.

Остале активности биле су усмерене на користи и развој вештачке интелигенције, финансијска тржишта, еколошка питања, криптовалуте и технологију уопште. Једна група била је усмерена на Уједињене Арапске Емирате, које је представљала као стабилно одредиште за улагања, често насупрот тврдњама о политичкој нестабилности у Сједињеним Државама.

Неки лажни профили били су усмерени на политику у Европи или Сједињеним Државама. Идеолошка усмереност ових активности разликовала се од региона до региона. На пример, један налог на платформи X усмерен на Сједињене Државе представљао се као либералан и критиковао бившег америчког председника Трампа, док су неки налози на Facebook-у који су објављивали на француском критиковали председника Макрона и подржавали странку Национално окупљање (RN). Та критика се понекад усредсређивала на унутрашња питања како би се тврдило да одређена земља не треба да се меша у међународна питања, укључујући руску инвазију на Украјину.

Ова операција је била веома активна на платформама Facebook и X, вероватно са стотинама налога. Неки њени налози на платформи X имали су плаву ознаку плаћене верификације. Међу приближно 150 налога које смо узорковали на обе платформе нисмо пронашли ниједан са значајним бројем пратилаца: највећи број који смо током истраге уочили на платформи X био је 222, док су типичније вредности биле од петнаестак до нешто више од двадесет пратилаца, а уобичајене објаве на платформи X имале су једноцифрен број интеракција. Слично томе, највећи број реакција на објаву на Facebook-у који смо уочили током истраге био је 36, док су типичније вредности биле од 0 до 5. Ипак, пронашли смо неколико случајева у којима су објаве операције привукле одговоре стварних људи. Ти одговори нису увек били позитивни и понекад су стварни људи противречили лажним налозима, али ипак показују бар извесну способност привлачења публике на више платформи, на више језика и у вези са више тема.

Према скали Breakout Scale за процену утицаја операција утицаја, која их оцењује од 1 (најнижа оцена) до 6 (највиша оцена), ову операцију бисмо сврстали на сам врх друге категорије, уз ризик од преласка у трећу: одликовала се објављивањем на више платформи и постојали су извесни докази да су стварни људи ступали у интеракцију с њеним садржајем. Међутим, пошто смо овој операцији забранили коришћење наших модела и поделили информације са колегама из сектора, налози на друштвеним мрежама које смо препознали утихнули су на много недеља. Ова операција стога показује да употреба вештачке интелигенције може повећати способности оператера, али и да их ослањање на модел вештачке интелигенције чини подложнијим ометању.