Operațiunea „Doppelganger”: activitate rusă de influență care vizează Ucraina

Acest studiu de caz a fost publicat inițial în raportul OpenAI din mai 2024⁠(se deschide într-o fereastră nouă).

Am blocat patru grupuri de conturi care foloseau modelele noastre și aveau legături cu persoane ce acționau în numele operațiunii ruse de influență cunoscute drept „Doppelganger”⁠(se deschide într-o fereastră nouă). Fiecare grup folosea tactici, tehnici și proceduri (TTP) diferite, ceea ce corespunde unei operațiuni alcătuite din echipe cu funcții distincte.

Această activitate viza publicul din Europa și America de Nord și se concentra pe generarea de conținut pentru site-uri web și rețele sociale.

Primul grup de conturi genera comentarii scurte în engleză, franceză, germană, italiană și poloneză. Acestea erau publicate pe 9GAG și X alături de meme-uri, videoclipuri și linkuri care nu par să fi fost generate cu ajutorul modelelor noastre. Unele meme-uri fuseseră copiate de pe internet și păreau să fie vechi de câțiva ani.

Pe 9GAG, conturile care publicau conținutul acestei campanii aveau de obicei drept imagini de profil celebrități sau pisici. Acestea își publicau meme-urile și videoclipurile pe numeroase canale, inclusiv „Random” și canale dedicate animalelor de companie, sportului, umorului și chiar relațiilor și întâlnirilor romantice.

De fiecare dată când campania publica un meme sau un videoclip pe 9GAG, între trei și cinci conturi răspundeau, de obicei cu mesaje simple precum „hahaha” sau „lol”. Fiecare dintre aceste conturi interacționa exclusiv cu conținutul campaniei, iar majoritatea fuseseră create în aceeași zi. Acest comportament atrăgea adesea comentarii critice din partea altor utilizatori, mulți dintre ei denunțând conturile drept „boți”.

Pe X, comentariile campaniei erau publicate de conturi care, în general, aveau doar una sau două postări fiecare. Comentariile erau însoțite de obicei de un link aparent aleatoriu, precum „solarpanelfor.sale”. Aceste linkuri redirecționau către un grup de site-uri atribuite în mod repetat operațiunii Doppelganger. Site-urile aveau restricții geografice, astfel încât numai persoanele cu o adresă IP din țara vizată le puteau accesa. Operatorii par însă să fi făcut o greșeală, astfel încât unele articole în engleză, germană și poloneză puteau fi accesate numai de la o adresă IP din Franța.

Probabil pentru a evita detectarea, acest grup ne-a accesat modelele printr-un serviciu asociat unor companii din Rusia și Cehia. Acest serviciu urmărea să le permită persoanelor din Rusia să eludeze politica noastră privind accesul din țările acceptate⁠(se deschide într-o fereastră nouă). Am dezactivat accesul acestui serviciu la API.

Al doilea grup traducea articole din rusă în engleză și franceză; textele rusești par să fi fost creații originale. Multe dintre aceste articole au fost publicate ulterior pe rrn.media, un site atribuit în mod repetat operațiunii Doppelganger. Același grup genera comentarii scurte despre articolele sale, care apăreau ulterior pe rețelele sociale.

Al treilea grup era folosit pentru a genera, revizui și corecta articole în limba franceză. Articolele erau apoi publicate pe franceeteu.today, un alt site atribuit operațiunii Doppelganger.

Ultimul grup opera în limba germană. Acesta prelua conținut de pe grenzezank.com, un site Doppelganger, și îl folosea pentru a genera postări scurte destinate unui grup și unei pagini de Facebook denumite după site.

Cea mai mare parte a conținutului publicat online de această campanie se concentra asupra războiului din Ucraina. Campania prezenta Ucraina, SUA, NATO și UE într-o lumină negativă, iar Rusia într-o lumină pozitivă. Comentariile tipice susțineau că Rusia este un partener economic important pentru țările europene, că liderii occidentali care critică Rusia nu înțeleg preocupările propriilor alegători și că Ucraina este slabă, coruptă și/sau în pragul înfrângerii.

În unele cazuri, actorii Doppelganger au încercat să determine modelele noastre să genereze caricaturi ale unor politicieni europeni proeminenți și ale criticilor Rusiei. Modelele noastre au refuzat aceste solicitări.

Niciuna dintre campaniile Doppelganger pe care le-am identificat nu pare să fi obținut un nivel semnificativ de interacțiuni pozitive din partea unui public autentic.

Pe 9GAG, postările obișnuite primeau între 5 și 10 voturi pozitive, în principal de la conturi care publicau și conținutul campaniei, și între 15 și 200 de voturi negative. Pe X, postările obișnuite aveau aproximativ 1.000 de distribuiri, niciun răspuns și nicio apreciere. Discrepanța este atât de mare, încât sugerează o amplificare neautentică. O postare a primit trei răspunsuri, toate denunțând-o drept falsă.

Folosind scala Breakout⁠(se deschide într-o fereastră nouă) pentru a evalua impactul operațiunilor de influență, pe care le clasifică de la 1 (cel mai scăzut) la 6 (cel mai ridicat), am încadra activitatea asociată utilizării modelelor noastre în Categoria 2, caracterizată prin postări pe mai multe platforme, dar fără răspândire amplă sau interacțiuni semnificative din partea publicului pe vreuna dintre ele.