Operacija »A2Z«: večjezična dejavnost vplivanja

Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz oktobra 2024⁠(odpre se v novem oknu).

Blokirali smo prej neznano skupino računov, ki so z našim API-jem ustvarjali komentarje, nato objavljene na omrežjih X in Facebook. Številni komentarji so hvalili Azerbajdžan ali zagovarjali njegovo spoštovanje človekovih pravic, vendar je operacija obravnavala tudi številne druge teme, kar bi lahko nakazovalo, da je bila vodena komercialno. Zaradi pogostega hvaljenja Azerbajdžana in poskusov uporabe umetne inteligence v več fazah operacije smo omrežje poimenovali »A2Z«.

Podobno kot rusko govoreča operacija na Telegramu, ki smo jo razkrili maja in poimenovali »Slaba slovnica«, je tudi ta operacija uporabljala naše modele za objavljanje komentarjev na družbenih omrežjih. Z umetno inteligenco je upravljala lažne profile na družbenih omrežjih, ustvarjala biografije, analizirala objave in komentarje, pripravljala odgovore v številnih jezikih ter jih lektorirala. Odgovori so bili nato objavljeni na omrežju X ali Facebooku. Večino vsebine so predstavljali kratki komentarji, vključevala pa je tudi stilizirane slike. Te so pogosto posnemale plakate iz 30. let prejšnjega stoletja, zato so bile očitno namenjene pritegovanju pozornosti in odzivov, ne pa zavajanju. Kljub temu so običajne objave s temi stiliziranimi slikami prejele le od 0 do 5 odzivov.

Uporaba umetne inteligence je operaciji omogočila hkratno upravljanje številnih računov na družbenih omrežjih: na omrežjih X in Facebook smo odkrili približno 150 računov, povezanih s to dejavnostjo, obstajal pa je tudi sum o dodatnih računih. Operaciji je omogočila tudi občasno sodelovanje v nitih komentarjev z resničnimi ljudmi na spletu. Občasno smo opazili kratke pogovore med resničnimi ljudmi in lažnimi računi, pri čemer so bili odgovori lažnih računov ustvarjeni z našimi modeli.

Operacija takšnega obsega pred pojavom umetne inteligence bi verjetno zahtevala veliko skupino trolov ter vse stroške in tveganja razkritja, povezana s takšnim podvigom. Toda zaradi odvisnosti od umetne inteligence je bila ta operacija tudi neobičajno dovzetna za naše ukrepanje. Ker je umetno inteligenco uporabljala v številnih členih verige napada, smo z odstranitvijo hkrati prekinili številne člene te verige. Ko smo v začetku junija prekinili to dejavnost, so računi na družbenih omrežjih, ki smo jih prepoznali kot del operacije, prenehali objavljati za celotno obdobje volitev v EU, Združenem kraljestvu in Franciji. Nekateri so konec avgusta znova začeli objavljati. Manjše število njihovih objav je kazalo znake, da so bile verjetno ustvarjene z umetno inteligenco. Vsebina s takšnimi znaki ni izvirala iz naših modelov.

Ta kampanja je ustvarjala kratke komentarje o najrazličnejših političnih temah. Najizrazitejše je bilo hvaljenje azerbajdžanske vlade in njene vloge v domači, regionalni in mednarodni politiki, na primer spodbujanja enotnosti med državami Srednje Azije ali gostiteljstva konference ZN o podnebnih spremembah. Računi v angleščini in italijanščini so hvalili vlogo Azerbajdžana kot dobavitelja energije Evropi, včasih kot odziv na kritike azerbajdžanske vlade zaradi njenega odnosa do človekovih pravic.

Drugi sklopi dejavnosti so se osredotočali na koristi in razvoj umetne inteligence, finančne trge, ekološka vprašanja, kriptovalute ter tehnologijo na splošno. En sklop se je osredotočal na Združene arabske emirate in jih predstavljal kot stabilno naložbeno okolje, pogosto v nasprotju s trditvami o politični nestabilnosti v Združenih državah.

Nekateri lažni profili so se osredotočali na politiko v Evropi ali Združenih državah. Ideološka usmeritev te dejavnosti se je med regijami razlikovala. En račun na omrežju X, osredotočen na Združene države, se je na primer predstavljal kot liberalen in kritiziral nekdanjega ameriškega predsednika Trumpa, nekateri francosko govoreči računi na Facebooku pa so kritizirali predsednika Macrona in podpirali stranko Nacionalni zbor (RN). Včasih se je ta kritika osredotočala na domača vprašanja, da bi utemeljila, zakaj se zadevna država ne bi smela vmešavati v mednarodna vprašanja, vključno z rusko invazijo na Ukrajino.

Ta operacija je bila zelo dejavna na Facebooku in omrežju X ter je verjetno uporabljala več sto računov. Nekateri njeni računi na omrežju X so imeli modro kljukico plačljivega preverjanja pristnosti. Med približno 150 računi, ki smo jih vzorčili na obeh platformah, nismo odkrili nobenega z velikim številom sledilcev: največje občinstvo, ki smo ga med preiskavo odkrili na omrežju X, je štelo 222 sledilcev, običajnejše število pa je bilo med približno 15 in nekaj več kot 20; običajne objave na omrežju X so prejele manj kot deset odzivov. Podobno je bilo največje število odzivov na objavo na Facebooku, ki smo ga opazili med preiskavo, 36, običajnejše število pa je bilo od 0 do 5. Vendar smo odkrili nekaj primerov, ko so objave operacije pritegnile odgovore resničnih ljudi. Ti odgovori niso bili vedno pozitivni in včasih so resnični ljudje nasprotovali lažnim računom, vendar kažejo vsaj določeno sposobnost pritegniti občinstvo na več platformah, v več jezikih in pri več temah.

Na lestvici prodora za ocenjevanje vpliva operacij vplivanja (IO), ki jih razvršča od 1 (najnižje) do 6 (najvišje), bi to operacijo uvrstili na zgornjo mejo druge kategorije, s tveganjem preboja v tretjo kategorijo: zaznamovalo jo je objavljanje na več platformah, pri čemer so obstajali nekateri dokazi, da se resnični ljudje odzivajo na njeno vsebino. Toda ko smo operaciji onemogočili uporabo naših modelov in informacije posredovali drugim predstavnikom panoge, so računi na družbenih omrežjih, ki smo jih odkrili, za več tednov utihnili. Ta operacija tako ponazarja večje zmogljivosti, ki jih umetna inteligenca omogoča izvajalcem, pa tudi njihovo večjo dovzetnost za motnje zaradi odvisnosti od modela umetne inteligence.