Operațiunea „A2Z”: activitate multilingvă de influență

Acest studiu de caz a fost publicat inițial în raportul OpenAI din octombrie 2024⁠(se deschide într-o fereastră nouă).

Am blocat un grup de conturi despre care nu se mai relatase și care folosea API-ul nostru pentru a crea comentarii publicate ulterior pe X și Facebook. Multe dintre aceste comentarii lăudau Azerbaidjanul sau îi apărau bilanțul privind drepturile omului, însă operațiunea aborda și multe alte subiecte, ceea ce ar putea indica faptul că era desfășurată în scop comercial. Având în vedere frecvența cu care lăuda Azerbaidjanul și încercarea de a folosi IA în mai multe etape ale operațiunii, am numit această rețea „A2Z”.

La fel ca operațiunea în limba rusă de pe Telegram pe care am expus-o în mai și am numit-o „Bad Grammar”, această operațiune a folosit modelele noastre pentru a publica comentarii pe rețelele sociale. A folosit IA pentru a gestiona identități false pe rețelele sociale, a genera biografii, a analiza postări și comentarii, a redacta răspunsuri în numeroase limbi și a le corecta. Răspunsurile erau apoi publicate pe X sau Facebook. Conținutul consta în principal în comentarii scurte, dar includea și imagini stilizate. Acestea imitau adesea stilul afișelor din anii 1930, părând astfel concepute mai degrabă să atragă atenția și interacțiunile decât să inducă în eroare. Cu toate acestea, postările obișnuite cu astfel de imagini stilizate au primit fiecare doar 0–5 interacțiuni.

Folosirea IA a permis operațiunii să gestioneze simultan numeroase conturi de pe rețelele sociale: am identificat aproximativ 150 de conturi pe X și Facebook asociate acestei activități și suspectăm existența altora. De asemenea, i-a permis operațiunii să participe uneori la discuții online în comentarii cu persoane reale. Am observat ocazional conversații scurte între persoane reale și conturile false, ale căror răspunsuri erau generate folosind modelele noastre.

Înainte de apariția IA, o operațiune de asemenea amploare ar fi necesitat probabil o echipă numeroasă de troli, cu toate costurile și riscurile de scurgere a informațiilor aferente. Totuși, dependența acestei operațiuni de IA a făcut-o și neobișnuit de vulnerabilă la intervenția noastră. Deoarece folosea IA în foarte multe verigi ale lanțului de atac, eliminarea sa de către noi a rupt simultan numeroase verigi. După ce am perturbat această activitate la începutul lunii iunie, conturile de pe rețelele sociale pe care le identificaserăm ca făcând parte din operațiune au încetat să publice pe toată durata alegerilor din UE, Regatul Unit și Franța. Unele au reînceput să publice la sfârșitul lunii august. Un număr mic dintre postările lor prezentau indicii că fuseseră probabil generate de IA. Conținutul care prezenta astfel de indicii nu provenea de la modelele noastre.

Această campanie a generat comentarii scurte despre o gamă largă de teme politice. Tema principală era elogierea guvernului Azerbaidjanului și a rolului său în politica internă, regională și internațională, promovând, de exemplu, unitatea țărilor din Asia Centrală sau găzduirea Conferinței ONU privind schimbările climatice. Conturi în engleză și italiană lăudau rolul Azerbaidjanului ca furnizor de energie pentru Europa, uneori ca răspuns la criticile privind bilanțul guvernului azer în domeniul drepturilor omului.

Alte direcții de activitate s-au concentrat pe beneficiile și evoluția IA, piețele financiare, problemele ecologice, criptomonede și tehnologie în sens mai larg. Un grup s-a axat pe Emiratele Arabe Unite, prezentându-le drept o destinație stabilă pentru investiții și contrastând adesea această imagine cu afirmații despre instabilitatea politică din Statele Unite.

Unele identități false s-au concentrat pe politica din Europa sau din Statele Unite. Orientarea ideologică a acestei activități varia de la o regiune la alta. De exemplu, un cont X axat pe Statele Unite se prezenta drept liberal și îl critica pe fostul președinte american Trump, în timp ce unele conturi Facebook care publicau în franceză îl criticau pe președintele Macron și susțineau partidul Adunarea Națională (RN). Uneori, criticile vizau probleme interne pentru a susține că țara respectivă nu ar trebui să intervină în chestiuni internaționale, inclusiv în invazia Rusiei în Ucraina.

Această operațiune a fost foarte activă pe Facebook și X, folosind probabil sute de conturi. Pe X, unele dintre conturile sale aveau bifa albastră acordată prin verificarea contra cost. Dintre cele aproximativ 150 de conturi analizate pe ambele platforme, nu am identificat niciunul cu un număr semnificativ de urmăritori: cel mai mare public identificat pe X în timpul investigației a fost de 222 de urmăritori, valorile obișnuite erau între aproximativ 15 și puțin peste 20, iar postările tipice de pe X primeau mai puțin de zece interacțiuni. În mod similar, cel mai mare număr de reacții observat în timpul investigației la o postare pe Facebook a fost 36, iar valorile obișnuite se situau între 0 și 5. Totuși, am identificat câteva situații în care postările operațiunii au atras răspunsuri de la persoane reale. Acestea nu erau întotdeauna pozitive și includeau uneori persoane reale care contraziceau conturile false, dar demonstrează totuși o anumită capacitate de a atrage publicul pe mai multe platforme, în mai multe limbi și pe teme diverse.

Folosind Breakout Scale pentru a evalua impactul operațiunilor de influență, pe o scară de la 1 (minim) la 6 (maxim), am încadra această operațiune la limita superioară a Categoriei a doua, cu riscul de a trece în Categoria a treia: s-a remarcat prin activitate pe mai multe platforme și au existat unele dovezi că persoane reale interacționau cu acest conținut. Totuși, după ce am interzis operațiunii să ne mai folosească modelele și am transmis informații altor companii din domeniu, conturile de pe rețelele sociale pe care le identificaserăm au rămas inactive timp de multe săptămâni. Această operațiune evidențiază astfel atât capacitățile sporite pe care utilizarea IA le poate oferi operatorilor, cât și vulnerabilitatea mai mare la perturbări pe care o creează dependența lor de un model de IA.