Operatsioon „A2Z“: mitmekeelne mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2024. aasta oktoobri⁠(avaneb uues aknas) aruandes.

Blokeerisime varem kajastamata kontorühma, mis kasutas meie API-t kommentaaride loomiseks ja postitas need seejärel X-i ning Facebooki. Paljud kommentaarid kiitsid Aserbaidžaani või kaitsesid selle inimõiguste olukorda, kuid käsitlesid ka paljusid muid teemasid, mis võib viidata äritegevusena korraldatud operatsioonile. Kuna võrgustik kiitis sageli Aserbaidžaani ja püüdis kasutada tehisaru operatsiooni mitmes etapis, panime sellele nimeks „A2Z“.

Nagu mais paljastatud venekeelne Telegrami operatsioon, mille nimetasime „Bad Grammariks“, kasutas ka see operatsioon meie mudeleid sotsiaalmeedias kommenteerimiseks. Tehisaru abil hallati sotsiaalmeedias võltsidentiteete, loodi elulookirjeldusi, analüüsiti postitusi ja kommentaare, koostati vastuseid paljudes keeltes ning tehti keelekorrektuuri. Seejärel postitati vastused X-i või Facebooki. Suurem osa sisust koosnes lühikommentaaridest, kuid leidus ka stiliseeritud pilte. Piltidel kasutati sageli 1930. aastate plakatite stiili, mistõttu näivad need olevat mõeldud pigem tähelepanu ja kaasatuse saavutamiseks kui petmiseks. Tüüpilised selliste stiliseeritud piltidega postitused said siiski vaid 0–5 kaasatust.

Tehisaru võimaldas operatsioonil hallata korraga paljusid sotsiaalmeediakontosid: tuvastasime X-is ja Facebookis umbes 150 sellele tegevusele vastavat kontot ning kahtlustasime veel teisigi. Samuti võimaldas see operatsioonil mõnikord päris inimestega kommentaarilõimudes suhelda. Vahel täheldasime päris inimeste ja võltskontode lühikesi vestlusi, kus võltskontode vastused loodi meie mudelite abil.

Enne tehisaru oleks sellise ulatusega operatsioon tõenäoliselt nõudnud suurt trollide meeskonda koos kõigi sellega kaasnevate kulude ja lekkeohtudega. Operatsiooni sõltuvus tehisarust muutis selle aga ka meie sekkumise suhtes ebatavaliselt haavatavaks. Kuna tehisaru kasutati ründeahela nii paljudes lülides, katkestas meie sekkumine korraga mitu ahela lüli. Pärast seda, kui me juuni alguses tegevuse katkestasime, lõpetasid operatsiooniga seostatud sotsiaalmeediakontod postitamise kogu EL-i, Ühendkuningriigi ja Prantsusmaa valimisperioodiks. Mõni konto hakkas augusti lõpus uuesti postitama. Vähestel nende postitustel oli märke, et need olid tõenäoliselt loodud tehisaruga. Selliste märkidega sisu ei pärinenud meie mudelitest.

Kampaania lõi lühikommentaare, mis käsitlesid paljusid poliitilisi teemasid. Kõige enam kiideti Aserbaidžaani valitsust ning selle rolli sise-, regionaal- ja rahvusvahelises poliitikas, näiteks Kesk-Aasia riikide ühtsuse edendamisel või ÜRO kliimamuutuste konverentsi korraldamisel. Inglise- ja itaaliakeelsed kontod kiitsid Aserbaidžaani rolli Euroopa energiatarnijana, mõnikord vastuseks Aserbaidžaani valitsuse inimõiguste olukorra kriitikale.

Teised tegevussuunad keskendusid tehisaru eelistele ja arengule, finantsturgudele, keskkonnaküsimustele, krüptorahale ning tehnoloogiale laiemalt. Üks kontorühm keskendus Araabia Ühendemiraatidele, kujutades neid stabiilse investeerimiskohana ja vastandades seda sageli väidetele Ameerika Ühendriikide poliitilise ebastabiilsuse kohta.

Mõni võltsidentiteet keskendus Euroopa või Ameerika Ühendriikide poliitikale. Selle tegevuse ideoloogiline suunitlus erines piirkonniti. Näiteks esines üks Ameerika Ühendriikidele keskendunud X-i konto liberaalina ja kritiseeris USA endist presidenti Trumpi, samas kui mõned prantsuskeelsed Facebooki kontod kritiseerisid president Macroni ning toetasid parteid Rahvuslik Liit (RN). Mõnikord keskenduti kriitikas riigisisestele probleemidele, et väita, et asjaomane riik ei tohiks sekkuda rahvusvahelistesse küsimustesse, sealhulgas Venemaa sissetungi Ukrainasse.

Operatsioon tegutses Facebookis ja X-is väga aktiivselt ning kasutas tõenäoliselt sadu kontosid. Mõnel selle X-i kontol oli tasulise kinnituse sinine märk. Mõlemalt platvormilt valimisse võetud ligikaudu 150 konto seast ei leidnud me ühtegi märkimisväärse jälgijaskonnaga kontot: uurimise ajal tuvastatud suurimal X-i kontol oli 222 jälgijat, tavaliselt oli neid 15–22 ning X-i postitused said enamasti alla kümne kaasatuse. Samamoodi oli uurimise ajal nähtud Facebooki postituse suurim reaktsioonide arv 36, kuid tavaliselt jäi see 0–5 vahele. Tuvastasime siiski mõned juhtumid, kus operatsiooni postitustele vastasid päris inimesed. Vastused ei olnud alati positiivsed ja vahel vaidlesid päris inimesed võltskontodele vastu, kuid see näitab siiski mõningast võimet kaasata eri platvormidel, keeltes ja teemadel publikut.

Hinnates mõjutusoperatsiooni mõju Breakout Scale’i järgi skaalal 1-st (madalaim) 6-ni (kõrgeim), paigutaksime selle operatsiooni teise kategooria ülemisse otsa, kust on oht jõuda kolmandasse kategooriasse: tegevust iseloomustas postitamine mitmel platvormil ning oli tõendeid, et päris inimesed suhtlesid selle sisuga. Pärast seda, kui keelasime operatsioonil oma mudelite kasutamise ja jagasime teavet valdkonna teiste ettevõtetega, vaikisid tuvastatud sotsiaalmeediakontod mitmeks nädalaks. Operatsioon näitab seega, et tehisaru võib tegutsejate võimekust suurendada, kuid sõltuvus tehisarumudelist muudab nad ka tegevuse katkestamise suhtes haavatavamaks.