Operacija „A2Z“: Višejezične aktivnosti utjecaja

Ova studija slučaja prvobitno je objavljena u OpenAI izvještaju iz oktobra 2024.⁠(otvara se u novom prozoru)

Zabranili smo ranije neprijavljenu grupu računa koji su koristili naš API za izradu komentara, a zatim ih objavljivali na platformama X i Facebook. Mnogi od tih komentara hvalili su Azerbejdžan ili branili njegovo stanje ljudskih prava, ali operacija se bavila i brojnim drugim temama, što bi moglo ukazivati na komercijalno vođenu operaciju. S obzirom na učestalost hvaljenja Azerbejdžana i pokušaje korištenja AI-ja u više faza operacije, ovu smo mrežu nazvali „A2Z“.

Poput operacije na ruskom jeziku na Telegramu koju smo razotkrili u maju i nazvali „Loša gramatika“, ova je operacija koristila naše modele za komentiranje na društvenim mrežama. Koristila je AI za upravljanje lažnim profilima na društvenim mrežama, izradu biografija, analizu objava i komentara, sastavljanje odgovora na brojnim jezicima te njihovu lekturu. Odgovori su zatim objavljivani na platformama X ili Facebook. Većinu sadržaja činili su kratki komentari, ali obuhvatao je i stilizirane slike. One su često oponašale plakate iz 1930-ih, pa izgleda da su bile osmišljene kako bi privukle pažnju i potaknule interakcije, a ne da bi obmanule ljude. Međutim, uobičajene objave s tim stiliziranim slikama imale su svega 0–5 interakcija.

Ovakva upotreba AI-ja omogućila je operaciji da istovremeno upravlja brojnim računima na društvenim mrežama: na platformama X i Facebook identificirali smo oko 150 računa povezanih s ovom aktivnošću, a sumnjamo da ih ima još. To je operaciji također omogućilo da se ponekad uključuje u rasprave s pravim ljudima na internetu. Povremeno smo zabilježili kratke razgovore između stvarnih ljudi i lažnih računa, pri čemu su odgovori lažnih računa generirani pomoću naših modela.

Operacija ovih razmjera prije pojave AI-ja vjerovatno bi zahtijevala veliki tim trolova, uz sve troškove i rizike od curenja informacija povezane s takvim poduhvatom. Međutim, oslanjanje na AI učinilo je ovu operaciju i neuobičajeno podložnom našem ometanju. Budući da je koristila AI na toliko karika lanca napada, našim smo uklanjanjem istovremeno prekinuli mnoge karike tog lanca. Nakon što smo početkom juna omeli ovu aktivnost, računi na društvenim mrežama koje smo identificirali kao dio operacije prestali su objavljivati tokom izbornih perioda u EU, Ujedinjenom Kraljevstvu i Francuskoj. Neki su ponovo počeli objavljivati krajem augusta. Mali broj njihovih objava sadržavao je naznake da ih je vjerovatno generirao AI. Sadržaj s takvim naznakama nije potjecao iz naših modela.

Ova kampanja generirala je kratke komentare o brojnim političkim temama. Najistaknutije je bilo hvaljenje vlade Azerbejdžana i njene uloge u domaćoj, regionalnoj i međunarodnoj politici, naprimjer promoviranjem jedinstva zemalja Centralne Azije ili organiziranjem Konferencije UN-a o klimatskim promjenama. Računi na engleskom i italijanskom hvalili su ulogu Azerbejdžana kao dobavljača energije Evropi, ponekad odgovarajući na kritike stanja ljudskih prava pod azerbejdžanskom vladom.

Drugi pravci aktivnosti bili su usmjereni na koristi i razvoj AI-ja, finansijska tržišta, ekološka pitanja, kriptovalute i tehnologiju općenito. Jedna grupa bila je usmjerena na Ujedinjene Arapske Emirate, prikazujući ih kao stabilno odredište za ulaganja i često ih poredeći s navodnom političkom nestabilnošću u Sjedinjenim Američkim Državama.

Neki lažni profili bavili su se politikom u Evropi ili Sjedinjenim Američkim Državama. Ideologija ove aktivnosti razlikovala se od regije do regije. Naprimjer, jedan račun na platformi X usmjeren na Sjedinjene Američke Države predstavljao se kao liberalan i kritizirao bivšeg američkog predsjednika Trumpa, dok su neki računi na Facebooku koji su objavljivali na francuskom kritizirali predsjednika Macrona i podržavali stranku Nacionalno okupljanje (RN). Ponekad se ta kritika usmjeravala na domaća pitanja kako bi se tvrdilo da se dotična zemlja ne treba miješati u međunarodna pitanja, uključujući rusku invaziju na Ukrajinu.

Ova operacija bila je veoma aktivna na Facebooku i platformi X, vjerovatno putem stotina računa. Na platformi X neki njeni računi imali su plavu kvačicu plaćene verifikacije. Među približno 150 računa koje smo uzorkovali na obje platforme nismo pronašli nijedan sa značajnim brojem pratilaca: najveći broj koji smo tokom istrage utvrdili na platformi X bio je 222, uobičajeniji brojevi kretali su se od petnaestak do nešto više od dvadeset, a tipične objave na platformi X imale su jednocifren broj interakcija. Slično tome, najveći broj reakcija na objavu na Facebooku koji smo zabilježili tokom istrage bio je 36, dok su se uobičajeniji brojevi kretali od 0 do 5. Ipak, pronašli smo nekoliko slučajeva u kojima su objave operacije privukle odgovore stvarnih ljudi. Ti odgovori nisu uvijek bili pozitivni i ponekad su stvarni ljudi proturječili lažnim računima, ali ipak pokazuju određenu sposobnost privlačenja publike na više platformi, jezika i tema.

Prema Skali prodora za procjenu utjecaja informacijskih operacija, koja ih ocjenjuje od 1 (najniže) do 6 (najviše), ovu bismo operaciju svrstali u gornji dio druge kategorije, uz rizik prelaska u treću: obilježavala ju je aktivnost objavljivanja na više platformi, uz određene dokaze da su stvarni ljudi stupali u interakciju s njenim sadržajem. Međutim, nakon što smo ovoj operaciji zabranili korištenje naših modela i podijelili informacije s kolegama iz industrije, računi na društvenim mrežama koje smo identificirali sedmicama nisu ništa objavljivali. Ova operacija stoga pokazuje kako AI operaterima može pružiti veće mogućnosti, ali i kako ih oslanjanje na AI model čini podložnijim ometanju.