Operacija „A2Z“: višejezična aktivnost utjecaja

Ova studija slučaja izvorno je objavljena u izvješću OpenAI-ja iz listopada 2024.⁠(otvara se u novom prozoru)

Zabranili smo prethodno neprijavljenu skupinu računa koji su se koristili našim API-jem za izradu komentara koji su zatim objavljivani na platformama X i Facebook. Mnogi od tih komentara hvalili su Azerbajdžan ili branili njegovo stanje ljudskih prava, no operacija se bavila i brojnim drugim temama, što možda upućuje na komercijalno vođenu operaciju. S obzirom na to koliko je često hvalila Azerbajdžan i da je pokušala primijeniti umjetnu inteligenciju u više faza operacije, ovu smo mrežu nazvali „A2Z“.

Poput operacije na ruskom jeziku na Telegramu, koju smo razotkrili u svibnju i nazvali „Loša gramatika“, ova se operacija koristila našim modelima za komentiranje na društvenim mrežama. Umjetnom inteligencijom upravljala je lažnim identitetima na društvenim mrežama, izrađivala biografije, analizirala objave i komentare, sastavljala odgovore na brojnim jezicima te ih lektorirala. Odgovori su zatim objavljivani na platformama X ili Facebook. Većinu sadržaja činili su kratki komentari, ali uključivao je i stilizirane slike. One su često oponašale stil plakata iz 1930-ih, pa se čini da su bile osmišljene za privlačenje pozornosti i reakcija, a ne za obmanjivanje. Međutim, uobičajene objave s tim stiliziranim slikama dobivale su tek od 0 do 5 reakcija.

Ova primjena umjetne inteligencije omogućila je operaciji istodobno upravljanje mnogim računima na društvenim mrežama: na platformama X i Facebook prepoznali smo oko 150 računa koji su odgovarali toj aktivnosti, a sumnjamo na još računa. Operaciji je također omogućila da se povremeno uključuje u rasprave u komentarima sa stvarnim ljudima na internetu. Povremeno smo uočili kratke razgovore između stvarnih ljudi i lažnih računa, pri čemu su odgovori lažnih računa bili izrađeni s pomoću naših modela.

Operacija takvih razmjera prije pojave umjetne inteligencije vjerojatno bi zahtijevala velik tim trolova, uz sve troškove i rizike od curenja podataka povezane s takvim pothvatom. Međutim, zbog oslanjanja na umjetnu inteligenciju ova je operacija ujedno bila neuobičajeno podložna našem ometanju. Budući da se služila umjetnom inteligencijom u mnogim karikama lanca napada, našim smo uklanjanjem istodobno prekinuli brojne karike. Nakon što smo početkom lipnja omeli ovu aktivnost, računi na društvenim mrežama koje smo prepoznali kao dio operacije prestali su objavljivati tijekom izbornih razdoblja u EU-u, Ujedinjenoj Kraljevini i Francuskoj. Neki su ponovno počeli objavljivati krajem kolovoza. Malen broj njihovih objava sadržavao je naznake da ih je vjerojatno izradila umjetna inteligencija. Sadržaj s takvim naznakama nije potjecao iz naših modela.

Ova je kampanja izrađivala kratke komentare o brojnim političkim temama. Najistaknutija tema bila je pohvala azerbajdžanskoj vladi i njezinoj ulozi u domaćoj, regionalnoj i međunarodnoj politici, primjerice u promicanju jedinstva među zemljama srednje Azije ili organizaciji UN-ove konferencije o klimatskim promjenama. Računi na engleskom i talijanskom hvalili su ulogu Azerbajdžana kao dobavljača energije Europi, ponekad kao odgovor na kritike stanja ljudskih prava pod azerbajdžanskom vlašću.

Druge grane aktivnosti bavile su se koristima i razvojem umjetne inteligencije, financijskim tržištima, ekološkim pitanjima, kriptovalutama i tehnologijom općenito. Jedna skupina bavila se Ujedinjenim Arapskim Emiratima, prikazujući ih kao stabilno odredište za ulaganja i često ih uspoređujući s navodnom političkom nestabilnošću u Sjedinjenim Američkim Državama.

Neki lažni identiteti bavili su se politikom u Europi ili Sjedinjenim Američkim Državama. Ideologija ove aktivnosti razlikovala se od regije do regije. Primjerice, jedan račun na platformi X usmjeren na Sjedinjene Američke Države predstavljao se kao liberal i kritizirao bivšeg američkog predsjednika Trumpa, dok su neki računi na Facebooku koji su objavljivali na francuskom kritizirali predsjednika Macrona i podržavali stranku Nacionalno okupljanje (RN). Katkad se ta kritika usredotočivala na domaća pitanja kako bi se zagovaralo da se dotična zemlja ne miješa u međunarodna pitanja, uključujući rusku invaziju na Ukrajinu.

Ova je operacija bila vrlo aktivna na Facebooku i platformi X, vjerojatno sa stotinama računa. Na platformi X neki su njezini računi imali plavu kvačicu plaćene potvrde identiteta. Među približno 150 računa koje smo uzorkovali na objema platformama nismo pronašli nijedan sa znatnim brojem pratitelja: najveći broj koji smo tijekom istrage pronašli na platformi X bio je 222, uobičajeniji broj iznosio je od petnaestak do nešto više od dvadeset, a tipične objave na toj platformi dobivale su jednoznamenkast broj reakcija. Slično tomu, najveći broj reakcija na objavu na Facebooku koji smo uočili tijekom istrage bio je 36, dok se uobičajeniji broj kretao od 0 do 5. Međutim, pronašli smo nekoliko slučajeva u kojima su objave operacije privukle odgovore stvarnih ljudi. Ti odgovori nisu uvijek bili pozitivni i katkad su stvarni ljudi proturječili lažnim računima, ali ipak pokazuju određenu sposobnost privlačenja publike na više platformi, jezika i tema.

Prema ljestvici Breakout Scale za procjenu učinka operacija utjecaja, na kojoj se ocjenjuju od 1 (najniže) do 6 (najviše), ovu bismo operaciju svrstali na gornju granicu druge kategorije, uz rizik prelaska u treću: obilježavala ju je aktivnost objavljivanja na više platformi, uz određene dokaze da su stvarni ljudi reagirali na njezin sadržaj. Međutim, nakon što smo operaciji zabranili upotrebu naših modela i podijelili informacije s drugim tvrtkama u industriji, računi na društvenim mrežama koje smo prepoznali tjednima su mirovali. Ova operacija stoga pokazuje veće mogućnosti koje umjetna inteligencija može pružiti operaterima, ali i veću podložnost ometanju koju donosi njihovo oslanjanje na model umjetne inteligencije.