Operation »A2Z«: Flersproget påvirkningsaktivitet

Denne casestudie blev oprindeligt udgivet i OpenAI's rapport fra oktober 2024⁠(åbner i et nyt vindue).

Vi udelukkede en hidtil uomtalt gruppe konti, som brugte vores API til at oprette kommentarer, der derefter blev slået op på X og Facebook. Mange af kommentarerne roste Aserbajdsjan eller forsvarede landets menneskerettighedssituation, men operationen fokuserede også på en lang række andre emner, hvilket kan tyde på, at den blev drevet kommercielt. På grund af den hyppige ros af Aserbajdsjan og forsøget på at bruge AI i flere faser af operationen har vi kaldt netværket »A2Z«.

Ligesom den russisksprogede Telegram-operation, som vi afslørede i maj og kaldte »Bad Grammar«, brugte denne operation vores modeller til at skrive kommentarer på sociale medier. Den brugte AI til at administrere falske profiler på sociale medier, generere profiltekster, analysere opslag og kommentarer, skrive svar på mange sprog og korrekturlæse dem. Svarene blev derefter slået op på X eller Facebook. Det meste af indholdet bestod af korte kommentarer, men omfattede også stiliserede billeder. De var ofte udformet som plakater fra 1930'erne og synes derfor snarere at være skabt for at tiltrække opmærksomhed og engagement end for at vildlede. Typiske opslag med disse stiliserede billeder fik dog kun 0-5 interaktioner hver.

Denne brug af AI gjorde det muligt for operationen at administrere mange konti på sociale medier samtidigt: Vi identificerede omkring 150 konti på X og Facebook, der matchede aktiviteten, og mistænkte endnu flere. Det gjorde det også muligt for operationen undertiden at deltage i kommentartråde med virkelige personer på internettet. Af og til observerede vi korte samtaler mellem virkelige personer og de falske konti, hvor de falske kontis svar var genereret ved hjælp af vores modeller.

Før AI ville en operation af denne størrelse sandsynligvis have krævet et stort hold af trolde med alle de omkostninger og risici for lækager, som sådan et foretagende indebærer. Operationens afhængighed af AI gjorde den dog også usædvanligt sårbar over for vores indgreb. Fordi den brugte AI i så mange led af angrebskæden, brød vores indgreb mange led i kæden på én gang. Efter at vi stoppede aktiviteten i begyndelsen af juni, holdt de konti på sociale medier, som vi havde knyttet til operationen, op med at slå indhold op under valgperioderne i EU, Storbritannien og Frankrig. Nogle begyndte igen at slå indhold op sidst i august. Et mindre antal af deres opslag viste tegn på sandsynligvis at være genereret af AI. Indholdet med disse tegn kom ikke fra vores modeller.

Kampagnen genererede korte kommentarer om en lang række politiske temaer. Det mest fremtrædende tema var ros af Aserbajdsjans regering og dens rolle i national, regional og international politik, eksempelvis fremme af sammenhold mellem landene i Centralasien eller værtskabet for FN's klimakonference. Engelsk- og italiensksprogede konti roste Aserbajdsjans rolle som energileverandør til Europa, undertiden som svar på kritik af den aserbajdsjanske regerings menneskerettighedssituation.

Andre dele af aktiviteten fokuserede på fordelene ved og udviklingen af AI, finansmarkeder, miljøspørgsmål, kryptovalutaer og teknologi mere generelt. En gruppe fokuserede på De Forenede Arabiske Emirater, som blev fremstillet som et stabilt sted at investere, ofte i kontrast til påstande om politisk ustabilitet i USA.

Nogle falske profiler fokuserede på politik i Europa eller USA. Aktivitetens ideologi varierede fra region til region. Eksempelvis udgav en USA-fokuseret konto på X sig for at være liberal og kritiserede USA's tidligere præsident Trump, mens nogle fransksprogede Facebook-konti kritiserede præsident Macron og støttede partiet Rassemblement National (RN). Undertiden fokuserede kritikken på indenrigspolitiske spørgsmål for at argumentere for, at det pågældende land ikke burde gribe ind i internationale spørgsmål, herunder Ruslands invasion af Ukraine.

Operationen var meget aktiv på Facebook og X og omfattede sandsynligvis hundredvis af konti. På X havde nogle af kontiene det blå flueben for betalt verificering. Blandt de cirka 150 konti, vi undersøgte på begge platforme, fandt vi ingen med et betydeligt antal følgere. Den største følgerskare på X, vi fandt under undersøgelsen, var 222. Mere typiske tal lå mellem cirka 15 og 22, og typiske opslag på X fik et encifret antal interaktioner. Tilsvarende var det højeste antal reaktioner på et Facebook-opslag, som vi observerede under undersøgelsen, 36, mens de typiske tal lå mellem 0 og 5. Vi fandt dog enkelte tilfælde, hvor operationens opslag fik svar fra virkelige personer. Svarene var ikke altid positive og omfattede undertiden virkelige personer, der modsagde de falske konti. De viser dog en vis evne til at engagere målgrupper på flere platforme, på flere sprog og om flere emner.

Hvis vi bruger Breakout Scale, som vurderer påvirkningsoperationers gennemslagskraft på en skala fra 1 (lavest) til 6 (højest), placerer vi denne operation i den øverste del af kategori 2 med risiko for at rykke op i kategori 3. Den var kendetegnet ved aktivitet på flere platforme og visse tegn på, at virkelige personer interagerede med indholdet. Efter at vi udelukkede operationen fra at bruge vores modeller og delte oplysninger med branchekolleger, var de konti på sociale medier, som vi havde identificeret, dog tavse i mange uger. Operationen fremhæver således både de øgede muligheder, AI kan give operatører, og den øgede sårbarhed over for indgreb, som deres afhængighed af en AI-model medfører.