„A2Z” művelet: többnyelvű befolyásolási tevékenység

Ez az esettanulmány eredetileg az OpenAI 2024. októberi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk egy korábban nem dokumentált fiókcsoportot, amely az API-nkkal készített hozzászólásokat, majd ezeket az X-en és a Facebookon tette közzé. E hozzászólások közül sok Azerbajdzsánt méltatta vagy az emberi jogi helyzetét védte, de számos más témával is foglalkoztak, ami arra utalhat, hogy kereskedelmi alapon működtetett akcióról volt szó. Mivel a hálózat gyakran méltatta Azerbajdzsánt, és az akció több szakaszában is megpróbált MI-t használni, az „A2Z” nevet adtuk neki.

A májusban leleplezett és „Rossz nyelvtan” névre keresztelt orosz nyelvű Telegram-akcióhoz hasonlóan ez az akció is a modelljeinket használta a közösségimédia-hozzászólások készítéséhez. MI segítségével kezeltek hamis közösségimédia-személyiségeket, írtak bemutatkozásokat, elemeztek bejegyzéseket és hozzászólásokat, fogalmaztak válaszokat számos nyelven, valamint ellenőrizték a szövegeket. A válaszokat ezután az X-en vagy a Facebookon tették közzé. A tartalmak többsége rövid hozzászólás volt, de stilizált képeket is közzétettek. Ezek gyakran az 1930-as évek plakátjainak stílusát idézték, ezért vélhetően inkább a figyelem és az aktivitás növelését, semmint a megtévesztést szolgálták. Az ilyen stilizált képeket tartalmazó átlagos bejegyzések azonban egyenként csupán 0–5 interakciót értek el.

Az MI használata lehetővé tette, hogy az akció egyszerre számos közösségimédia-fiókot kezeljen: az X-en és a Facebookon mintegy 150, e tevékenységhez köthető fiókot azonosítottunk, és továbbiakat is gyanítunk. Így az akció időnként valódi internetezőkkel is bekapcsolódhatott a hozzászólásfolyamokba. Esetenként rövid beszélgetéseket figyeltünk meg valódi személyek és hamis fiókok között; az utóbbiak válaszait a modelljeinkkel hozták létre.

Az MI előtti korszakban egy ilyen léptékű akcióhoz valószínűleg nagyszámú trollból álló csapat kellett volna, az ilyen vállalkozással járó összes költséggel és kiszivárgási kockázattal együtt. Az MI-re való támaszkodás azonban szokatlanul sebezhetővé is tette az akciót a beavatkozásunkkal szemben. Mivel a támadási lánc számos pontján MI-t használtak, a leállítással egyszerre több láncszemet is megszakítottunk. Miután június elején megszakítottuk ezt a tevékenységet, az akció részeként azonosított közösségimédia-fiókok az EU, az Egyesült Királyság és Franciaország választási időszakai alatt mindvégig szüneteltették a közzétételt. Néhány fiók augusztus végén újra közzétenni kezdett. Bejegyzéseik kis része arra utalt, hogy valószínűleg MI-vel hozták létre. Az ilyen jeleket mutató tartalmak nem a mi modelljeinktől származtak.

A kampány rövid hozzászólásokat készített, amelyek politikai témák széles körével foglalkoztak. A legjellemzőbb Azerbajdzsán kormányának, valamint a bel-, regionális és nemzetközi politikában betöltött szerepének méltatása volt – például a közép-ázsiai országok közötti egység előmozdítása vagy az ENSZ éghajlatváltozási konferenciájának megrendezése kapcsán. Angol és olasz nyelvű fiókok méltatták Azerbajdzsán európai energiaszállítói szerepét – olykor az azeri kormány emberi jogi helyzetét érő bírálatokra válaszolva.

A tevékenység más ágai az MI előnyeire és fejlődésére, a pénzügyi piacokra, a környezetvédelmi kérdésekre, a kriptovalutákra és általában a technológiára összpontosítottak. Az egyik csoport az Egyesült Arab Emírségekre összpontosított, stabil befektetési célpontként mutatva be az országot, gyakran szembeállítva ezt az Egyesült Államok állítólagos politikai instabilitásával.

Néhány hamis személyiség az európai vagy az egyesült államokbeli politikára összpontosított. A tevékenység ideológiai irányultsága régiónként eltért. Egy Egyesült Államokra összpontosító X-fiók például liberálisnak adta ki magát, és bírálta Trump volt amerikai elnököt, míg egyes francia nyelvű Facebook-fiókok Macron elnököt bírálták, és a Nemzeti Tömörülés (RN) pártot támogatták. A bírálatok néha belpolitikai ügyekre hivatkozva érveltek amellett, hogy az adott országnak nem kellene beavatkoznia nemzetközi kérdésekbe, köztük Ukrajna orosz megszállásába.

Az akció rendkívül aktív volt a Facebookon és az X-en, és valószínűleg több száz fiókot használt. Az X-en néhány fiók rendelkezett a fizetős ellenőrzést jelző kék pipával. A két platformról mintavétellel kiválasztott mintegy 150 fiók között egyet sem találtunk jelentős követőtáborral: vizsgálatunk során az X-en azonosított legnagyobb követőtábor 222 főből állt, jellemzőbb volt a 15–25 körüli érték, az átlagos X-bejegyzések pedig tíznél kevesebb interakciót értek el. Hasonlóképpen a vizsgálatunk során megfigyelt Facebook-bejegyzésekre legfeljebb 36 reakció érkezett, a jellemzőbb érték pedig 0 és 5 között volt. Azonosítottunk azonban néhány olyan esetet, amikor az akció bejegyzései valódi személyektől kaptak válaszokat. Ezek nem mindig voltak pozitívak, és olykor valódi személyek cáfolták a hamis fiókok állításait, de azt mutatják, hogy az akció bizonyos mértékben képes volt több platformon, több nyelven és több témában is bevonni a közönséget.

A befolyásolási műveletek hatását 1-től (legalacsonyabb) 6-ig (legmagasabb) értékelő Breakout-skála alapján ezt az akciót a második kategória felső határára sorolnánk, azzal a kockázattal, hogy a harmadik kategóriába lép: több platformon is aktívan tett közzé, és bizonyíték utalt arra, hogy valódi személyek is kapcsolatba léptek a tartalmaival. Miután azonban letiltottuk az akció hozzáférését a modelljeinkhez, és információkat osztottunk meg az iparági partnerekkel, az általunk azonosított közösségimédia-fiókok hosszú hetekre elhallgattak. Ez az akció tehát jól szemlélteti, hogy az MI használata növelheti az üzemeltetők képességeit, ugyanakkor az MI-modelltől való függésük fokozottan sebezhetővé is teszi őket a beavatkozással szemben.