Blocarea operațiunilor cu entități-paravan sprijinite de IA

În ultimii doi ani și jumătate, am relatat despre numeroase exemple privind modul în care actori rău intenționați au încercat să folosească modelele noastre pentru atacuri cibernetice, operațiuni de influență clandestine (IO), escrocherii și alte încălcări ale politicilor noastre de utilizare. Publicăm aceste rapoarte pentru a informa autoritățile de reglementare, colegii din industrie și societatea în ansamblu despre încercările observate ale actorilor rău intenționați de a folosi IA și pentru a evidenția vulnerabilitățile pe care încearcă să le exploateze.

Am interzis recent două operațiuni de influență — una din Rusia și una din Iran — care foloseau modelele noastre împreună cu tehnici și tehnologii mai tradiționale pentru a susține entități-paravan sofisticate. Prin aceste entități, transmiteau publicului-țintă mesaje geopolitice legate de conflicte, mascându-le originea. Operațiunea iraniană folosea șapte identități fictive de „jurnaliști” pentru a propune articole ample unor publicații online mici și mijlocii din întreaga lume; operațiunea rusească pare să fi cooptat, fără știrea lor, persoane din America Latină pentru a gestiona un „centru de analiză” local.

Ambele operațiuni acționau pe mai multe planuri, încercând diverse tactici pentru a-și atinge obiectivele. Pe lângă articole ample, operațiunea iraniană genera serii de comentarii pentru rețelele sociale, în general pe teme legate de războiul dintre SUA și Iran. Pe lângă controlul asupra „centrului de analiză”, operațiunea rusească crea documente false, pretins „scurse”, și scenarii audio, dintre care unele au fost identificate de noi circulând online. Ambele operațiuni foloseau intens IA și pentru redactarea rapoartelor interne (pentru operațiunea rusească, aceasta era utilizarea principală); în ambele cazuri, actorii foloseau metodologii discutabile sau de-a dreptul înșelătoare pentru a exagera eficiența operatorilor.

Cel mai frapant este că aceste operațiuni semănau foarte mult cu operațiunile complexe de influență din epoca de dinaintea IA, dar foloseau IA pentru a simplifica unele fluxuri de lucru. Jurnaliștii fictivi ai operațiunii iraniene aminteau de falsa jurnalistă „Alice⁠(se deschide într-o fereastră nouă) Donovan⁠(se deschide într-o fereastră nouă)”, un paravan al serviciului rus de informații militare, ale cărei articole au fost publicate de diverse instituții de presă occidentale în 2016–2017. În 2020, persoane asociate cu activități anterioare ale Agenției ruse de Cercetare a Internetului administrau o publicație falsă de „știri”, numită „PeaceData⁠(se deschide într-o fereastră nouă)”, care coopta jurnaliști din întreaga lume să scrie pentru ea fără să-i cunoască adevărata natură.

Aceste operațiuni se remarcau și prin amploarea publicului la care puteau ajunge. Pe scala de răspândire⁠(se deschide într-o fereastră nouă) a operațiunilor de influență, care le evaluează de la 1 (minim) la 6 (maxim), am încadra operațiunea de origine rusă în categoria 5. Este prima operațiune de categoria 5 pe care am blocat-o de când am început să publicăm rapoarte. Operațiunea de origine iraniană a atins categoria 4. Ambele au reușit să-și plaseze conținutul în presa consacrată, nu doar pe rețelele sociale; nu tot acest conținut fusese generat cu modelele noastre. Acest lucru corespunde unui tipar observat în cele 30 de operațiuni de influență clandestine demascate de noi în ultimii doi ani și jumătate: cele care încearcă să-și plaseze conținutul în publicații reale, în loc să se bazeze pe distribuirea prin conturi false pe rețelele sociale, tind să aibă cel mai mare potențial de răspândire și impact.

Matricea celor 30 de operațiuni de influență demascate de noi de la începutul anului 2024, evaluate după metoda principală de distribuire (rețele sociale, site administrat de operațiune, publicații externe) și scorul pe scala de răspândire. Operațiunile care foloseau mai multe metode, precum administrarea unui site și promovarea lui pe rețelele sociale, sunt clasificate după metoda care părea să constituie nucleul operațiunii.

IA poate oferi acestor operațiuni cu entități-paravan o amploare și o eficiență mai mari, o exprimare mai fluentă și capacități editoriale mai bune. Operatorii pot folosi aceste avantaje pentru a exploata victime care nu bănuiesc nimic, precum angajați sau redactori, și pentru a-și aduce conținutul în fața unui public care nu știe cine l-a produs sau cu ce intenții. Aceste operațiuni arată și cât de complexe și sofisticate sunt metodele prin care actorii rău intenționați folosesc identități și entități false pentru a-și atinge obiectivele. Înțelegerea vulnerabilităților exploatate în aceste demersuri și a modului în care ele se pot transforma în audiență și răspândire va fi esențială pentru menținerea unei protecții solide în organizații.

Însă caracterul clandestin al acestor operațiuni cu entități-paravan le face și deosebit de vulnerabile la dezvăluirea responsabilă. Atât „Alice Donovan”, cât și „PeaceData” și-au încetat activitatea după ce au fost demascate. De aceea, raportând aceste operațiuni cu entități-paravan, urmărim să facilităm cercetarea și blocarea lor ulterioară și să le îngreunăm continuarea.

Actori de origine rusă care desfășoară campanii de influență în America Latină.

Am interzis un grup de conturi ChatGPT provenite din Rusia. Acestea foloseau ChatGPT pentru diverse sarcini asociate unor operațiuni de influență clandestine care vizau țări din America Latină. O mare parte a activității părea să urmărească subminarea reputației Ucrainei în regiune, dar unele acțiuni păreau să vizeze influențarea evoluțiilor politice locale, mai ales în Argentina și Bolivia. Majoritatea operatorilor scriau prompturi în rusă; unul scria în spaniolă, dar părea totuși să se afle în Rusia. Am transmis informații despre acest caz autorităților competente.

Operatorii foloseau ChatGPT pentru trei sarcini principale: redactarea de rapoarte interne despre activitățile lor (și ale altora, pentru care își puteau atribui în mod plauzibil meritele), crearea de conținut pentru operațiuni și redactarea de rapoarte privind performanța unei autoproclamate „platforme de cercetare” din America Latină, numită Centrul de Cercetare Socială (SRC). Se pare că gestionau SRC printr-o identitate fictivă numită „Mia Clark”; pornind de la acest nume, am denumit operațiunea „Dark Clark”. Deoarece nu permitem accesul la modelele noastre din Rusia, foloseau VPN-uri pentru a se conecta la serviciile noastre.

În rapoartele interne, operatorii susțineau că răspândiseră relatări false în America Latină pentru a submina Ucraina sau lideri locali. Unele dintre aceste falsuri au fost atribuite de cercetători⁠(se deschide într-o fereastră nouă) care folosesc surse deschise⁠(se deschide într-o fereastră nouă) unei entități rusești cunoscute drept „Politology” sau „La Compania”, despre care se spune că ar fi succesoarea Grupului Wagner și a altor entități fondate de oligarhul rus Evgheni Prigojin. Operatorii cereau modelelor noastre și să traducă sau să explice relatări publice despre Politology și Wagner, mult mai des decât despre orice alte rețele de origine rusă.

Această operațiune se remarca prin două aspecte. În primul rând, pare să fi reușit să coopteze persoane din America Latină pentru a lucra la SRC. Rapoartele operatorilor ruși despre SRC menționau decizii privind grile salariale, angajări și concedieri, sugerând că aceștia controlau entitatea, nu doar cooperau cu ea. Dovezile disponibile indică faptul că angajații SRC din America Latină nu știau că lucrau pentru un grup rusesc. Spre deosebire de un alt „centru de analiză” cu legături rusești, pe care l-am demascat recent, SRC pare să fi produs în majoritate conținut original prin personalul cooptat. Aceasta este cea mai complexă tentativă de a gestiona o identitate-paravan pe care am blocat-o în ultimii doi ani și jumătate.

În al doilea rând, unele dovezi din surse deschise sugerează că falsurile Dark Clark s-au răspândit suficient de mult încât să provoace verificări ale informațiilor⁠(se deschide într-o fereastră nouă) și dezmințiri oficiale⁠(se deschide într-o fereastră nouă), indicând un nivel de pătrundere în spațiul public superior oricăreia dintre operațiunile de influență blocate de noi în ultimii doi ani. Un fals pe care operațiunea susținea că îl plasase în Peru a alimentat chiar tensiuni publice între Ucraina și Polonia.

Operatorii foloseau ChatGPT în principal pentru a redacta și actualiza rapoarte interne destinate unui superior necunoscut. Aceste rapoarte periodice descriau eforturi de a desfășura campanii de influență clandestine în America Latină. Ele acopereau trei direcții principale: denigrarea Ucrainei și subminarea recrutării pentru Forțele Armate ale Ucrainei; ingerința în politica internă a anumitor țări, mai ales Bolivia și Argentina; și administrarea SRC. În majoritatea cazurilor, nu am observat folosirea modelelor noastre de către actorii rău intenționați pentru a crea conținut pentru campanii, ci doar pentru a redacta rapoarte despre acestea (puținele excepții sunt descrise mai jos⁠).

Rapoartele erau bogate în detalii tactice și arătau cum încerca operațiunea să submineze Ucraina și unii lideri naționali, în special președinții Argentinei, Boliviei și Ecuadorului. Unele descriau eforturi de a păcăli localnici să desfășoare activități pe care operatorii le puteau exploata; altele descriau false „scurgeri de informații” pe care operatorii susțineau că le răspândiseră.

În două cazuri, dovezile leagă operatorii de relatări publice despre „Politology”. Operatorii raportau că, în 2024, desfășuraseră două campanii împotriva președintelui Argentinei, Javier Milei. În prima, spuneau că răspândiseră o știre falsă potrivit căreia Milei cumpărase pentru câinii săi zgărzi Cartier cu pietre prețioase. În a doua, susțineau că plătiseră persoane locale pentru a realiza graffiti împotriva lui Milei în Buenos Aires. Pe baza unor documente scurse, ambele acțiuni au fost atribuite⁠(se deschide într-o fereastră nouă) public⁠(se deschide într-o fereastră nouă) entităților „Politology” și „La Compania”.

Multe alte falsuri nu fuseseră asociate anterior cu operațiuni de influență rusești. De exemplu, operatorii au susținut că, în mai 2026, au creat o adresă de e-mail falsă, pretinzând că aparținea Direcției Regionale de Educație din Lima, Peru. Au folosit-o pentru a le cere școlilor din district să organizeze evenimente dedicate Ucrainei cu ocazia Zilei naționale a diversității culturale și lingvistice (21 mai). E-mailurile conțineau instrucțiuni explicite de a-l menționa, printre alții, pe controversatul naționalist ucrainean din secolul XX Stepan Bandera, considerat de unii ucraineni un simbol al independenței, dar asociat în Rusia și Polonia cu fascismul, colaboraționismul din timpul războiului și atrocitățile. Potrivit operatorilor, unele școli au răspuns la adresa de e-mail falsă, confirmând că organizaseră astfel de evenimente și trimițând chiar fotografii.

Operatorii au susținut apoi că plasaseră în presa din Peru și Polonia relatări despre evenimente, însoțite de acuzații potrivit cărora Ucraina „exporta” ideologii ultranaționaliste, stârnind indignare. Căutările în surse deschise au identificat relatări care corespundeau acestei afirmații în presa peruană⁠(se deschide într-o fereastră nouă) și⁠(se deschide într-o fereastră nouă) poloneză⁠(se deschide într-o fereastră nouă), în articole de presă⁠(se deschide într-o fereastră nouă), precum și într-o publicație în limba engleză din Ungaria⁠(se deschide într-o fereastră nouă) (unele articole au fost șterse între timp). Unele⁠(se deschide într-o fereastră nouă) articole⁠(se deschide într-o fereastră nouă) includeau reacția unui europarlamentar polonez care propunea ca persoanele ce manifestau „ostilitate față de Polonia” să fie declarate persona non grata în Polonia. Astfel, falsul rusesc a exploatat și, în același timp, a alimentat tensiunile istorice dintre ucraineni și polonezi.

În mod similar, în iunie, operatorii au susținut că folosiseră o altă adresă de e-mail falsă pentru a păcăli școli din Ecuador să organizeze o ceremonie de depunere a unui jurământ de credință față de președintele Daniel Noboa și Erik Prince, fostul șef al companiei militare private Blackwater. Operatorii au susținut că incidentul stârnise indignare în Ecuador și pusese presiune pe guvern să dezmintă falsul, făcându-l astfel cunoscut unui public național. Și în acest caz, cercetarea în surse deschise a identificat relatări⁠(se deschide într-o fereastră nouă) jurnalistice⁠(se deschide într-o fereastră nouă) în presa⁠(se deschide într-o fereastră nouă) ecuadoriană⁠(se deschide într-o fereastră nouă) care corespundeau îndeaproape acestei afirmații și chiar o dezmințire detaliată⁠(se deschide într-o fereastră nouă) din partea ministrului educației din Ecuador.

Operatorii au folosit diverse tehnici pentru a-și susține relatările false. Potrivit rapoartelor lor interne, în martie au răspândit două falsuri distincte care vizau Ecuadorul. Unul folosea o înregistrare audio falsă atribuită consulului Ucrainei în Ecuador, în care acesta ar fi făcut comentarii denigratoare la adresa ecuadorienilor. Investigația noastră în surse deschise a identificat o postare pe TikTok care corespundea exact acestei afirmații; părea să fi atras puține interacțiuni. Celălalt descria un videoclip fals răspândit pe X și TikTok, cu sigla unui canal de știri real, care susținea că guvernul Noboa recruta tineri pentru a lupta în Ucraina. La începutul lunii aprilie, verificatorii de informații⁠(se deschide într-o fereastră nouă) din Ecuador au descris o campanie care corespundea acestei descrieri.

Videoclip publicat pe TikTok la 8 aprilie 2026, cu înregistrarea audio falsă revendicată de această operațiune și atribuită consulului ucrainean.

Un alt raport intern descria un fals răspândit în Bolivia la sfârșitul lunii mai, în plin val de proteste antiguvernamentale. Operatorii au precizat explicit că scopul campaniei era agravarea crizei generate de proteste. Campania folosea o înregistrare audio falsă a unui angajat al companiei de stat de apă, EPSAS, care spunea că guvernul urma să întrerupă alimentarea cu apă a capitalei administrative, La Paz, și să declare starea de urgență. Cercetarea noastră în surse deschise a identificat o demonstrație a falsității⁠(se deschide într-o fereastră nouă) acestei afirmații și o dezmințire oficială⁠(se deschide într-o fereastră nouă) din partea EPSAS.

Alte rapoarte interne menționau falsuri a căror existență nu am putut-o confirma din surse deschise, posibil pentru că fuseseră deja eliminate sau nu reușiseră să se răspândească. De exemplu, operatorii au susținut că răspândiseră în ianuarie o relatare potrivit căreia o influenceriță și fotomodel din Brazilia fusese traficată în Ucraina de reprezentanți ai Ambasadei Ucrainei și ucisă la Kiev. În iunie, au susținut că răspândiseră o altă înregistrare audio falsă în Bolivia, de această dată atribuită unui angajat al Băncii Centrale a Boliviei, care avertiza că banca urma să limiteze retragerile de numerar. Au mai susținut că răspândiseră o scrisoare falsificată a agenției pentru hidrocarburi a țării, care avertiza asupra unor restricții privind vânzarea de carburanți pentru autoturismele private.

În alte rapoarte, operatorii au cerut modelelor noastre să-i ajute să identifice incidente din țările vizate pentru care își puteau atribui meritele, chiar dacă nu fuseseră implicați. De exemplu, în Argentina, operatorii au susținut că ministrul argentinian de externe citase operațiunea lor la o reuniune a unui comitet ONU privind Insulele Falkland/Malvine. Operatorii și-au atribuit meritul de a fi lansat argumentele potrivit cărora principiul autodeterminării nu se aplică insulelor, iar Regatul Unit menține acolo o prezență militară disproporționată. În realitate, ambele argumente fac parte din poziția oficială a Argentinei de mulți⁠(se deschide într-o fereastră nouă) ani⁠(se deschide într-o fereastră nouă). În mod similar, în iunie, presa braziliană a relatat⁠(se deschide într-o fereastră nouă) cazul unui cetățean brazilian care plecase în Ucraina pentru a se înrola, fusese capturat de forțele ruse și declarase apoi la televiziune că fusese păcălit să lupte. Operatorii care foloseau ChatGPT au încercat să susțină că relatarea reproducea mesajele operațiunii lor; în realitate, aceasta cita chiar înregistrarea video a prizonierului⁠(se deschide într-o fereastră nouă). Acest lucru sugerează că operatorii încercau să desfășoare o operațiune de influență asupra propriilor angajatori, nu asupra unui public extern.

Unele rapoarte ale operatorilor menționau o autoproclamată „platformă de cercetare” numită Centrul de Cercetare Socială (în rusă, Центр социологических исследований). Potrivit site-ului SRC, centrul se concentrează pe diaspora indiană din America Latină și pe relațiile dintre India și țările regiunii.

Rapoartele interne sugerau că operatorii controlau centrul de analiză, nu doar colaborau cu el. Acestea menționau, de exemplu, decizii de angajare și concediere, grile salariale, planuri de personal și proiecte de cercetare în curs. Un aspect esențial: rapoartele precizau și că operatorii creaseră o identitate fictivă, „Mia Clark”, pentru a gestiona activitatea operațiunii pe rețelele sociale și a comunica cu personalul de pe teren din America Latină. Dovezile disponibile sugerează că acești angajați locali nu știau că lucrau pentru o operațiune rusească și își îndeplineau sarcinile de cercetare cu bună-credință. Folosirea unor intermediari fără știrea lor seamănă foarte mult cu practica unei operațiuni rusești anterioare, legată tot de cercurile lui Prigojin: „PeaceData”, pe care Meta a demascat-o⁠(se deschide într-o fereastră nouă) în 2020.

Judecând după rapoartele operatorilor ruși, personalul lor de pe teren din America Latină intervieva experți și comentatori din întreaga regiune, apoi redacta lucrări de cercetare pe baza constatărilor. Temele variau de la o analiză amplă a opiniei publice despre grupul BRICS până la o comparație detaliată a economiei braziliene în mandatele președinților Jair Bolsonaro și Luiz Inácio Lula da Silva. Uneori, operatorii ruși redactau rapoarte de progres despre proiectele de cercetare înainte de publicarea lor, ceea ce indica o implicare strânsă în procesul de realizare. Am identificat cu mult peste 60 de articole pe site-ul SRC, marea majoritate părând a fi texte originale. Acest lucru distinge Dark Clark de operațiunea de origine rusă pe care am demascat-o recent și care folosea tot un centru de analiză drept paravan, dar plagia cea mai mare parte a conținutului. El sugerează intenția de a construi o entitate-paravan mai durabilă, cu contacte în toată America Latină.

Pentru a promova activitatea SRC, operatorii ruși au susținut că încercaseră să creeze o rețea de conturi și pagini pe platformele sociale. Potrivit rapoartelor lor, această activitate pe rețelele sociale a întâmpinat probleme când operatori din diferite părți ale lumii au încercat să acceseze aceleași conturi, ceea ce a dus la restricționarea lor. Urme ale acestui fapt apar în sursele deschise: de exemplu, informațiile de transparență ale contului principal al SRC pe X indicau o locație în Germania (posibil din cauza folosirii unui VPN), dar o conexiune prin App Store din Federația Rusă, în timp ce informațiile unui cont Instagram indicau un administrator aflat în Venezuela. Niciunul dintre cele trei conturi Facebook cu identitatea vizuală a SRC pe care le-am identificat nu avea suficienți urmăritori pentru afișarea locației administratorului.

În stânga, contul X asociat Centrului de Cercetare Socială. Observați informația de transparență care arată conectarea prin magazinul de aplicații din Federația Rusă. În dreapta, contul Instagram al SRC: observați locația din Venezuela.

Operatorii au semnalat probleme mai ales pe LinkedIn, unde au spus că au creat un cont explicit fals pentru a reprezenta SRC, dar au întâmpinat apoi dificultăți în construirea unei rețele de contacte. Potrivit rapoartelor lor, soluția a fost să creeze mai multe conturi false care să-l urmărească pe primul și să-l facă mai credibil. La 17 august, un cont LinkedIn cu aceeași identitate vizuală a Centrului de Cercetare Socială avea 961 de urmăritori și declara 200–500 de angajați, dar lista doar doi.

Uneori, pe lângă folosirea IA pentru actualizarea rapoartelor, operatorii cereau modelului nostru ajutor pentru a concepe și crea texte utilizabile în operațiuni: de exemplu, pentru a se asigura că falsurile lor foloseau accentul, vocabularul și stilul instituțional potrivite pentru diferite țări. Aceasta reprezenta o proporție relativ mică din volumul total de muncă, poate pentru că operațiunea pare să fi inclus cel puțin un vorbitor nativ de spaniolă din America Latină și avea, așadar, mai puțină nevoie de sprijin lingvistic din partea IA.

De exemplu, într-un caz, unul dintre operatorii vorbitori de rusă a cerut modelului ajutor pentru a redacta în rusă o scrisoare care să-l implice pe consulul onorific al Ucrainei în Panama în fapte de corupție. Operatorul vorbitor de spaniolă a cerut apoi modelului să traducă scrisoarea în spaniolă și să genereze un scenariu audio care să o însoțească. O fotografie care corespundea textului scrisorii, însoțită de o narațiune audio conformă cu scenariul operatorului, a fost publicată pe TikTok de un cont care pretindea că este o publicație de știri, dar folosea sigla TVN Noticias⁠(se deschide într-o fereastră nouă) din Panama. Canalul TikTok avea un singur urmăritor și a încetat să publice după plasarea acestui fals.

Postare TikTok care arată scrisoarea al cărei text a fost generat de această operațiune, însoțită de o narațiune audio bazată pe un scenariu generat tot de operațiune.

Cu altă ocazie, operatorul vorbitor de spaniolă din Rusia a furnizat modelului un scenariu în rusă care susținea că Noboa insultase oamenii săraci din Ecuador și a cerut traducerea lui în spaniola ecuadoriană. Într-un al treilea caz, în martie, același utilizator a cerut modelului să corecteze un proiect de contract în spaniolă între o companie numită „International Security Solutions FZE” și o persoană din Ecuador, având ca presupus obiect furnizarea de servicii de infrastructură în Ucraina. Întrebările utilizatorului vizau îmbunătățirea limbajului și a aranjării în pagină, inclusiv ce cuvinte ar trebui scrise cu caractere aldine.

Prompturile utilizatorului despre contract s-au încheiat odată cu definitivarea formulării. Totuși, cercetarea în surse deschise arată că o imagine a „contractului” a fost ulterior distribuită pe rețelele sociale⁠(se deschide într-o fereastră nouă). A fost folosită pentru a susține afirmația că guvernul Noboa colaborase cu o companie-paravan pentru a păcăli ecuadorieni să se înroleze în armata ucraineană. Falsul s-a răspândit suficient pentru a declanșa o verificare a informațiilor⁠(se deschide într-o fereastră nouă) la începutul lunii aprilie: verificatorii au concluzionat că firma „nu apare în registrul Autorității de Supraveghere a Companiilor, Valorilor Mobiliare și Asigurărilor din Ecuador”.

Impactul acestei operațiuni necesită o evaluare deosebit de atentă. După cum am menționat, una dintre abordările principale ale operatorilor era să-și atribuie meritele pentru activități fără legătură cu operațiunea lor. Prin urmare, propriile afirmații despre impact din rapoartele interne nu pot fi acceptate ca atare. La fel, unele relatări false pe care susțineau că le plasaseră nu au apărut în cercetarea din surse deschise, posibil pentru că circulaseră pe canale nepublice, fuseseră deja eliminate sau nu fuseseră publicate efectiv.

Totuși, dovezile din surse deschise ne-au permis să confirmăm unele dintre afirmațiile lor. Unele falsuri pe care operațiunea susținea că le răspândise au fost ulterior semnalate de verificatorii de informații și dezmințite de guverne, sugerând că se răspândiseră suficient de mult pentru a justifica un răspuns. În alte cazuri, am putut identifica online conținut care corespundea îndeaproape celui generat de această operațiune. Cel mai relevant caz: operațiunea susținea că păcălise o școală peruană să organizeze un eveniment în care era prezentat Bandera. Cazul a fost ulterior relatat atât în America Latină, cât și în Europa și pare să fi provocat comentarii din partea cel puțin a unui europarlamentar polonez.

Pe scala de răspândire⁠(se deschide într-o fereastră nouă) a operațiunilor de influență, care le evaluează de la 1 (minim) la 6 (maxim), am încadra această operațiune în categoria 5, dovezile sugerând că a provocat comentarii publice din partea unor politicieni din mai multe țări. Este prima operațiune de categoria 5 pe care am blocat-o de când am început să publicăm rapoarte.

Operațiune de origine iraniană care plasează articole ample, sub semnături false, în publicații de știri online.

Am interzis un grup de conturi ChatGPT provenite din Iran. Acestea foloseau prompturi în persană și generau conținut în persană și engleză. Actorii își mascau locația folosind VPN-uri pentru a accesa ChatGPT.

Operațiunea folosea modelele noastre pentru a îmbunătăți articole ample și propuneri editoriale, a genera comentarii pentru rețelele sociale și a perfecționa rapoarte interne. Operatorii foloseau șapte semnături diferite pentru a-și propune articolele, așa că am denumit campania „Bogus Bylines”. Articolele ample se concentrau pe conflictul dintre SUA și Iran. Majoritatea comentariilor abordau tot conflictul; o mică parte vizau politica SUA, de regulă în contextul mai larg al conflictului.

Impactul aparent al principalelor lor direcții de activitate a variat semnificativ. Am identificat aproape 100 de articole publicate sau preluate sub semnăturile operațiunii de aproximativ douăsprezece publicații online din întreaga lume. Erau publicații mici și mijlocii, axate în general pe afaceri internaționale, geopolitică și evenimente din Orientul Mijlociu. În schimb, niciunul dintre comentariile de pe rețelele sociale nu pare să fi generat un număr semnificativ de aprecieri, distribuiri sau răspunsuri. De fapt, rapoartele interne ale operatorilor foloseau un calcul înșelător pentru a măsura impactul pe rețelele sociale, posibil pentru a le exagera eficiența aparentă.

Activitatea în ansamblu părea compatibilă cu cea a unui actor comercial care desfășura o campanie de influență contra cost, dar nu putem identifica actorul implicat. Am transmis informații despre acest caz autorităților competente.

Activitatea cu cea mai mare răspândire a acestei operațiuni a constat în solicitarea ajutorului ChatGPT pentru revizuirea și îmbunătățirea unor articole ample, în engleză, despre geopolitica conflictului dintre SUA și Iran. De obicei, prompturile cereau modelului să evalueze o ciornă în engleză în raport cu criteriile de acceptare ale unei anumite publicații online și să sugereze modificări pentru respectarea lor. După aprobarea modificărilor, operatorii cereau modelului să genereze un e-mail prin care să propună articolul redactorului publicației online respective.

Aceste mesaje de propunere erau redactate sub șapte semnături false: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams și Alice Johnson. Potrivit biografiilor publicate online alături de unele articole, fiecare identitate fictivă pretindea că aparține unui jurnalist occidental, de regulă american (deși biografia lui Noah Lamington indica Noua Zeelandă), specializat adesea în politică internațională, Orientul Mijlociu, drepturile omului sau conflicte. Pentru una dintre identități, „Michael Harrison”, operatorii au cerut modelului să scrie chiar biografia. (De remarcat că, în martie, Meta a blocat⁠(se deschide într-o fereastră nouă) o operațiune de influență iraniană care folosea și ea un jurnalist fictiv numit „Michael Harrison”.)

Unele dintre aceste identități fictive erau susținute de conturi pe diverse platforme sociale. De exemplu, identitatea Michael Harrison era susținută de conturi pe Medium, X și Facebook. Identitatea fictivă Ervin B. Hoskins avea conturi pe X, Facebook, Instagram și Threads. Biografia îl prezenta ca „autor american independent”, dar informațiile de transparență ale rețelelor sociale localizau conturile în Iran.

Sus, biografia de pe Instagram a identității fictive Ervin Hoskins. Jos, în stânga, informațiile de transparență ale contului X, care arată folosirea aplicației Android pentru Asia de Vest. Jos, în dreapta, informațiile de transparență ale contului Instagram, care indică o locație în Iran. Meta a interzis contul Instagram în august.

Folosind tehnici de investigație în surse deschise, am identificat aproape 100 de articole publicate sub una sau alta dintre semnăturile operatorilor, în peste douăsprezece publicații diferite. Aceste publicații se axau în general pe afaceri internaționale, geopolitică și evenimente din Orientul Mijlociu, uneori dintr-o perspectivă antirăzboi sau progresistă. Cel mai vechi articol identificat a fost publicat în iulie 2025, iar cel mai recent, în octombrie 2026. Frecvența articolelor a crescut puternic după izbucnirea conflictului dintre SUA și Iran.

Cronologia articolelor, după autor și temă, iulie 2025–septembrie 2026. Observați densitatea articolelor despre relațiile SUA–Iran începând din martie 2026.

Exemple de titluri ale unor articole publicate sub semnături asociate acestei operațiuni între februarie și iulie 2026, în diverse publicații online.

Cel puțin o parte dintre articole au fost apoi promovate pe conturile de rețele sociale ale publicațiilor respective, oferindu-le operatorilor iranieni o posibilă cale de acces la un public la care altfel nu ar fi ajuns.

Pe lângă articole, actorii rău intenționați au cerut ChatGPT să genereze serii de comentarii pe teme geopolitice sau politice, în engleză ori persană. De regulă, aceștia introduceau textul sau o captură de ecran a unei postări de pe rețelele sociale și cereau modelului un set de răspunsuri conforme cu orientarea lor generală. Răspunsurile erau apoi publicate online, adesea la câteva minute unul de altul. Rapoartele interne ale operatorilor menționau atât publicarea manuală, cât și cea automatizată; nu avem dovezi că automatizarea ar fi fost realizată cu ajutorul modelelor noastre.

Postări pe X în engleză, în stânga, și în persană, în dreapta, generate de această operațiune și publicate în iulie. Comentariile în engleză răspundeau unei postări în engleză care avertiza că SUA pregăteau un „atac de amploare” asupra Iranului. Toate comentariile din această imagine au fost publicate într-un interval de 10 minute. Comentariile în persană răspundeau unei postări în persană despre atacurile SUA asupra Iranului și au fost publicate într-un interval de 13 minute.

O parte a activității de generare a comentariilor în serie consta în răspunsuri la postări de pe rețelele sociale despre propriile articole ale operațiunii. În aceste cazuri, operatorii introduceau capturi de ecran ale postărilor care le promovau articolele, apoi generau comentarii de laudă sau susținere, probabil pentru a face articolele să pară mai populare.

Postare pe Facebook a unei pagini americane de știri locale care distribuie un articol generat de operațiune, alături de comentarii la acea postare generate tot de operațiune.

Majoritatea seriilor de comentarii vizau, mai general, conflictul dintre Iran, Statele Unite și Israel. Utilizatorii cereau comentarii despre atacuri cu rachete, încetări ale focului și manevre diplomatice, precizând că textele trebuiau să prezinte SUA ca agresor, Israelul ca aliat nesigur al SUA, iar Iranul ca victimă sfidătoare, dar rezilientă. Operatorii au generat un număr deosebit de mare de răspunsuri la postările Iran International, un post de televiziune prin satelit cu sediul în Regatul Unit, critic al regimului iranian: peste douăzeci și patru de serii de răspunsuri ostile în persană. O mică parte a seriilor conțineau răspunsuri la postări despre chestiuni politice din SUA, de regulă tot în contextul mai larg al conflictului.

Comentarii Instagram generate de această operațiune ca răspuns la postări despre politica SUA.

Am identificat un număr mic dintre aceste răspunsuri publicate online; mult mai multe nu au apărut în căutările noastre în surse deschise, posibil pentru că nu fuseseră publicate sau proveneau de la conturi deja eliminate. (De exemplu, trei identități fictive de jurnaliști — Ericka Feusier, Alice Johnson și Jenny Williams — indicau nume de utilizator X în biografiile publicate: toate conturile erau suspendate în august 2026.) Unele conturi care publicau comentarii online aveau nume aparent occidentale, dar indicau locații în Iran.

Informațiile de transparență ale conturilor Instagram care au publicat comentariile ilustrate mai sus, arătând că se aflau în Iran.

Acolo unde am găsit aceste răspunsuri publicate, ele reprezentau de regulă o mică parte din totalul comentariilor la postarea respectivă, sugerând că operatorii nu dominau discuția în raport cu răspunsurile autentice. Nici nu păreau să fi atras interacțiuni semnificative: de fapt, multe aprecieri la răspunsurile operațiunii proveneau de la conturi asociate tot cu aceasta. Am transmis informații despre acest caz partenerilor din industrie, care sunt cel mai bine plasați pentru a evalua în ansamblu interacțiunile.

Încercarea de a face activitatea să pară mai populară nu se limita la postările publice. Pe lângă generarea de conținut, operatorii cereau uneori ChatGPT să îmbunătățească texte care păreau a fi rapoarte interne despre campania lor pe rețelele sociale. De regulă, furnizau modelului o serie de statistici și îi cereau să le transforme în prezentări bine finisate.

Nu este prima operațiune blocată de noi care folosea IA pentru a-și scrie propria⁠(se deschide într-o fereastră nouă) autoevaluare⁠(se deschide într-o fereastră nouă). Cel mai frapant aspect al eforturilor operatorilor iranieni de a-și evalua singuri activitatea era metoda folosită. Principalul indicator de „impact” folosit era numărul de vizualizări ale postărilor la care răspundeau (nu al răspunsurilor propriu-zise), măsurat înainte de publicarea răspunsurilor și la un interval nespecificat după aceasta. Calculul nu ținea cont de vizualizările care puteau rezulta din alți factori, precum popularitatea postărilor originale sau alte comentarii. Astfel, cifrele privind impactul operațiunii erau mult exagerate, ceea ce sugerează că operatorii fie nu cunoșteau o metodă de calcul mai eficientă, fie au ales să nu o folosească.

În realitate, pe baza dovezilor ce pot fi obținute din surse deschise, cele două direcții principale ale operațiunii par să fi avut un impact probabil foarte diferit.

Răspunsurile de pe rețelele sociale pe care le-am putut identifica aveau, în general, puține aprecieri, vizualizări și comentarii (de ordinul unităților sau zecilor). După cum am menționat, răspunsurile reprezentau de regulă o mică parte din totalul comentariilor la postarea respectivă. Pe scala de răspândire⁠(se deschide într-o fereastră nouă) a operațiunilor de influență, care le evaluează de la 1 (minim) la 6 (maxim), am încadra această parte a operațiunii în categoria 2: comentarii pe mai multe platforme, dar puține semne de răspândire dincolo de acestea sau de capacitate de a domina discuția.

În schimb, jurnaliștii fictivi au reușit să-și publice articolele în diverse publicații, unele cu mulți urmăritori: de exemplu, în august 2026, una dintre publicațiile online care găzduiau articolele operațiunii avea aproape 2 milioane de urmăritori pe Facebook, aproape 355.000 pe X și peste 544.000 pe Instagram. Am încadra această parte a operațiunii în categoria 4, dată fiind răspândirea sa constantă în mai multe publicații de presă.