Operacioni «A2Z»: Veprimtari shumëgjuhëshe ndikimi

Ky rast studimor u botua fillimisht në raportin e OpenAI të tetorit 2024⁠(hapet në një dritare të re).

Bllokuam një grup llogarish të paraportuara më parë, të cilat përdornin API-në tonë për të krijuar komente që më pas postoheshin në X dhe Facebook. Shumë prej këtyre komenteve lavdëronin Azerbajxhanin ose mbronin bilancin e tij për të drejtat e njeriut, por operacioni trajtonte edhe shumë tema të tjera, çka mund të tregojë se drejtohej për qëllime tregtare. Duke pasur parasysh sa shpesh lavdëronte Azerbajxhanin dhe përpjekjen për të përdorur IA-në në disa faza të operacionit, këtë rrjet e kemi quajtur «A2Z».

Ashtu si operacioni në gjuhën ruse në Telegram, të cilin e zbuluam në maj dhe e quajtëm «Bad Grammar», edhe ky operacion përdori modelet tona për të mundësuar komentimin në rrjetet sociale. Ai shfrytëzoi IA-në për të menaxhuar persona të rremë në rrjetet sociale, për të krijuar biografi, analizuar postime e komente, hartuar përgjigje në shumë gjuhë dhe korrigjuar tekstet. Përgjigjet më pas postoheshin në X ose Facebook. Pjesa më e madhe e përmbajtjes përbëhej nga komente të shkurtra, por përfshinte edhe imazhe të stilizuara. Këto shpesh përdornin stilin e posterëve të viteve 1930; prandaj duket se ishin krijuar për të tërhequr vëmendje dhe ndërveprime, jo për të mashtruar. Megjithatë, postimet tipike me këto imazhe të stilizuara morën vetëm 0–5 ndërveprime secili.

Ky përdorim i IA-së i mundësoi operacionit të menaxhonte njëherësh shumë llogari në rrjetet sociale: identifikuam rreth 150 llogari në X dhe Facebook që përputheshin me këtë veprimtari, si dhe dyshuam për llogari të tjera. Gjithashtu, kjo i mundësoi operacionit të përfshihej herë pas here në diskutime me komente me persona të vërtetë në internet. Herë pas here vërejtëm biseda të shkurtra mes personave të vërtetë dhe llogarive të rreme, ku përgjigjet e llogarive të rreme krijoheshin duke përdorur modelet tona.

Para IA-së, një operacion i kësaj shkalle ka të ngjarë të kërkonte një ekip të madh trollësh, me të gjitha kostot dhe rreziqet e rrjedhjes së informacionit që do të sillte një përpjekje e tillë. Megjithatë, varësia nga IA-ja e bëri këtë operacion edhe jashtëzakonisht të cenueshëm ndaj ndërhyrjes sonë. Meqë shfrytëzonte IA-në në kaq shumë hallka të zinxhirit të sulmit, ndërhyrja jonë i këputi njëherësh shumë hallka. Pasi e ndërpremë këtë veprimtari në fillim të qershorit, llogaritë në rrjetet sociale që kishim identifikuar si pjesë të këtij operacioni ndaluan së postuari gjatë periudhave zgjedhore në BE, Mbretërinë e Bashkuar dhe Francë. Disa rifilluan të postonin në fund të gushtit. Një numër i vogël postimesh të tyre shfaqnin shenja se me gjasë ishin krijuar nga IA-ja. Përmbajtja që shfaqte shenja të tilla nuk vinte nga modelet tona.

Kjo fushatë krijoi komente të shkurtra të përqendruara në një gamë të gjerë temash politike. Tema më e spikatur ishte lavdërimi i qeverisë së Azerbajxhanit dhe rolit të saj në politikën e brendshme, rajonale dhe ndërkombëtare—për shembull, nxitja e unitetit mes vendeve të Azisë Qendrore ose organizimi i Konferencës së OKB-së për Ndryshimet Klimatike. Llogaritë në anglisht dhe italisht lavdëronin rolin e Azerbajxhanit si furnizues energjie për Evropën—ndonjëherë në përgjigje të kritikave për bilancin e qeverisë azere lidhur me të drejtat e njeriut.

Degë të tjera të veprimtarisë përqendroheshin te përfitimet dhe zhvillimi i IA-së, tregjet financiare, çështjet ekologjike, kriptomonedhat dhe teknologjia në përgjithësi. Një grup u përqendrua te Emiratet e Bashkuara Arabe, duke i paraqitur si një destinacion të qëndrueshëm investimesh dhe shpesh duke e krahasuar këtë me pretendimet për paqëndrueshmëri politike në Shtetet e Bashkuara.

Disa persona të rremë përqendroheshin te politika në Evropë ose në Shtetet e Bashkuara. Ideologjia e kësaj veprimtarie ndryshonte nga një rajon në tjetrin. Për shembull, një llogari në X e përqendruar te Shtetet e Bashkuara hiqej si liberale dhe kritikonte ish-presidentin amerikan Trump, ndërsa disa llogari në Facebook që postonin në frëngjisht kritikonin presidentin Macron dhe mbështetnin partinë Tubimi Kombëtar (RN). Ndonjëherë, këto kritika përqendroheshin në çështjet e brendshme për të argumentuar se vendi në fjalë nuk duhej të ndërhynte në çështje ndërkombëtare, përfshirë pushtimin rus të Ukrainës.

Ky operacion ishte shumë aktiv në Facebook dhe X, me gjasë me qindra llogari. Në X, disa nga llogaritë e tij kishin shenjën blu të verifikimit me pagesë. Nga rreth 150 llogari që morëm si kampion në të dyja platformat, nuk identifikuam asnjë me numër të konsiderueshëm ndjekësish: numri më i madh që gjetëm në X gjatë hetimit ishte 222 ndjekës, shifrat tipike varionin nga mesi i dhjetësheve deri në fillim të njëzetave dhe postimet tipike në X merrnin më pak se dhjetë ndërveprime. Po kështu, numri më i lartë i reagimeve ndaj një postimi në Facebook që vërejtëm gjatë hetimit ishte 36, ndërsa shifrat më tipike varionin nga 0–5. Megjithatë, identifikuam disa raste kur postimet e operacionit tërhoqën përgjigje nga persona të vërtetë. Këto nuk ishin gjithmonë pozitive dhe ndonjëherë përfshinin persona të vërtetë që kundërshtonin llogaritë e rreme, por tregojnë të paktën njëfarë aftësie për të angazhuar audienca në disa platforma, gjuhë dhe tema.

Duke përdorur Shkallën Breakout për të vlerësuar ndikimin e operacioneve të ndikimit, e cila i rendit nga 1 (më e ulëta) në 6 (më e larta), do ta vlerësonim këtë operacion në skajin e sipërm të Kategorisë Dy, me rrezik kalimi në Kategorinë Tre: ai karakterizohej nga postime në disa platforma dhe kishte disa dëshmi se persona të vërtetë ndërvepronin me përmbajtjen e tij. Megjithatë, pasi ia ndaluam këtij operacioni përdorimin e modeleve tona dhe ndamë informacion me organizata të tjera të industrisë, llogaritë në rrjetet sociale që kishim identifikuar heshtën për shumë javë. Kështu, ky operacion nxjerr në pah aftësitë më të mëdha që përdorimi i IA-së mund t'u japë operatorëve, por edhe cenueshmërinë më të madhe ndaj ndërhyrjes që sjell varësia e tyre nga një model IA-je.