Suzbijanje operacija s lažnim paravanima uz pomoć AI-ja
Tijekom posljednje dvije i pol godine izvještavali smo o mnogim primjerima različitih načina na koje su zlonamjerni akteri pokušavali upotrijebiti naše modele za kibernetičke napade, prikrivene operacije utjecaja (IO), prijevare i druga kršenja naših Pravila upotrebe. Te izvještaje objavljujemo kako bismo regulatore, kolege u industriji i širu javnost informirali o načinima na koje zlonamjerni akteri pokušavaju iskoristiti AI te razotkrili slabosti koje nastoje iskoristiti.
Nedavno smo blokirali dvije operacije utjecaja, jednu iz Rusije i jednu iz Irana, koje su naše modele kombinirale s tradicionalnijim tehnikama i tehnologijama kako bi poduprle sofisticirane organizacije i identitete koji su im služili kao lažni paravani. Te su paravane koristile kako bi ciljanoj publici plasirale geopolitičke poruke povezane sa sukobima, prikrivajući njihov pravi izvor. Iranska operacija koristila je sedam lažnih „novinarskih” identiteta kako bi nudila opsežne članke malim i srednje velikim internetskim medijima diljem svijeta; čini se da je ruska operacija angažirala ljude u Latinskoj Americi koji nisu bili svjesni njezine prave prirode da na terenu vode „analitički centar”.
Obje su operacije djelovale na više razina i isprobavale niz različitih taktika kako bi ostvarile svoje ciljeve. Osim opsežnih članaka, iranska je operacija generirala skupine komentara za društvene mreže, uglavnom o temama povezanima s ratom SAD-a i Irana. Osim što je upravljala „analitičkim centrom”, ruska je operacija izrađivala lažne „procurjele” dokumente i tekstove za audiosnimke, od kojih smo neke pronašli kako se šire internetom. Obje su operacije također intenzivno koristile AI za sastavljanje internih izvještaja (ruskoj je operaciji to bila najčešća namjena). U oba su slučaja akteri koristili upitne ili otvoreno obmanjujuće metodologije kako bi preuveličali učinkovitost operatora.
Najviše se ističe to što su te operacije uvelike nalikovale složenim operacijama utjecaja iz vremena prije AI-ja, ali su AI koristile kako bi olakšale neke radne procese. Lažni novinarski identiteti iranske operacije podsjećali su na lažnu novinarku „Alice(otvara se u novom prozoru) Donovan(otvara se u novom prozoru)”, paravan ruske vojne obavještajne službe čije su članke 2016. i 2017. objavljivali različiti zapadni mediji. Godine 2020. osobe povezane s ranijim djelovanjem ruske Agencije za istraživanje interneta vodile su lažni „informativni” medij „PeaceData(otvara se u novom prozoru)”, koji je angažirao novinare diljem svijeta da za njega pišu ne znajući njegovu pravu prirodu.
Te su operacije bile neobične i po svojem potencijalnom dosegu. Prema ljestvici proboja(otvara se u novom prozoru), koja operacije utjecaja ocjenjuje od 1 (najniže) do 6 (najviše), operaciju ruskog podrijetla svrstali bismo u kategoriju 5. To je prva operacija kategorije 5 koju smo onemogućili otkako smo počeli izvještavati. Operacija iranskog podrijetla dosegla je kategoriju 4. Obje su uspjele plasirati svoj sadržaj, koji nije u cijelosti generiran našim modelima, u etablirane medije umjesto da ga samo objavljuju na društvenim mrežama. To odgovara obrascu koji smo uočili u 30 prikrivenih operacija utjecaja koje smo razotkrili u posljednje dvije i pol godine: operacije koje pokušavaju plasirati sadržaj u stvarne medije, umjesto da se oslanjaju na distribuciju putem lažnih računa na društvenim mrežama, obično imaju najveći potencijalni doseg i učinak.
Matrica 30 operacija utjecaja koje smo razotkrili od početka 2024., razvrstanih prema glavnom načinu distribucije (društvene mreže, mrežna stranica pod kontrolom operacije, vanjske publikacije) i ocjeni na ljestvici proboja. Operacije koje su koristile više načina distribucije, primjerice vodile mrežnu stranicu i promovirale je na društvenim mrežama, razvrstane su prema načinu koji je, prema našoj procjeni, činio srž operacije.
AI takvim operacijama s lažnim paravanima može povećati opseg, učinkovitost, jezičnu tečnost i uredničke sposobnosti. Operatori te prednosti mogu iskoristiti za iskorištavanje žrtava koje ništa ne sumnjaju, poput zaposlenika ili urednika, te plasirati sadržaj publici koja ne zna tko stoji iza njega ni koji su njegovi motivi. Te operacije također pokazuju koliko složeno i sofisticirano zlonamjerni akteri koriste lažne identitete i organizacije kako bi ostvarili svoje ciljeve. Razumijevanje slabosti koje pritom iskorištavaju i načina na koji im te slabosti omogućuju pristup publici i veći doseg bit će ključno za održavanje snažne obrane u organizacijama.
No prikrivena priroda tih operacija s lažnim paravanima čini ih i posebno ranjivima na odgovorno javno razotkrivanje. I „Alice Donovan” i „PeaceData” prestali su djelovati nakon što su razotkriveni. Zato izvještavanjem o tim operacijama s lažnim paravanima želimo olakšati daljnje istraživanje i njihovo suzbijanje, a otežati nastavak njihova djelovanja.
Akteri iz Rusije koji provode kampanje utjecaja diljem Latinske Amerike.
Blokirali smo skupinu povezanih računa za ChatGPT podrijetlom iz Rusije. Koristili su ChatGPT za niz zadataka povezanih s prikrivenim operacijama utjecaja usmjerenima na zemlje diljem Latinske Amerike. Činilo se da je velik dio tih aktivnosti usmjeren na narušavanje ugleda Ukrajine u regiji, a dio na utjecanje na lokalne političke ishode, osobito u Argentini i Boliviji. Većina operatora unosila je upite na ruskom; jedan ih je unosio na španjolskom, no i za njega se činilo da se nalazi u Rusiji. Informacije o ovom slučaju podijelili smo s nadležnim tijelima.
Operatori su koristili ChatGPT za tri glavna zadatka: pisanje internih izvještaja o svojim aktivnostima (i tuđim aktivnostima za koje su mogli uvjerljivo preuzeti zasluge), stvaranje sadržaja za svoje operacije i sastavljanje izvještaja o radu samoproglašene „istraživačke platforme” u Latinskoj Americi nazvane Centar za društvena istraživanja (SRC). Čini se da su SRC-om upravljali putem lažnog identiteta „Mia Clark”; prema tom smo imenu operaciji dali nadimak „Mračni Clark”. Budući da ne dopuštamo pristup našim modelima iz Rusije, za povezivanje s našim uslugama koristili su VPN-ove.
U internim su izvještajima operatori tvrdili da su širili lažne priče diljem Latinske Amerike kako bi narušili ugled Ukrajine ili lokalnih čelnika. Neke od tih krivotvorina istraživači(otvara se u novom prozoru) javno dostupnih izvora(otvara se u novom prozoru) pripisali su ruskoj organizaciji poznatoj kao „Politology” ili „La Compania”, navodnom nasljedniku skupine Wagner i drugih organizacija koje je osnovao ruski oligarh Jevgenij Prigožin. Operatori su također tražili od naših modela da prevedu ili objasne javne izvještaje o Politologyju i Wagneru, znatno češće nego što su postavljali pitanja o bilo kojim drugim mrežama ruskog podrijetla.
Ta je operacija bila neobična na dva načina. Prvo, čini se da je uspješno angažirala pojedince u Latinskoj Americi da rade za SRC ne znajući njegovu pravu prirodu. Izvještaji ruskih operatora o SRC-u spominjali su odluke o pitanjima poput platnih razreda, zapošljavanja i otkaza, što upućuje na to da su upravljali tom organizacijom, a ne samo surađivali s njom. Dostupni dokazi pokazuju da zaposlenici SRC-a u Latinskoj Americi nisu znali da rade za rusku skupinu. Za razliku od drugog „analitičkog centra” povezanog s Rusijom koji smo nedavno razotkrili, čini se da je SRC preko tako angažiranog osoblja stvarao uglavnom izvorni sadržaj. To je najsloženiji pokušaj djelovanja pod paravanom koji smo onemogućili u posljednje dvije i pol godine.
Drugo, neki javno dostupni dokazi upućuju na to da su se krivotvorine Mračnog Clarka proširile dovoljno da izazovu provjere činjenica(otvara se u novom prozoru) i službene demantije(otvara se u novom prozoru), što pokazuje razinu prodora veću nego kod bilo koje operacije utjecaja koju smo onemogućili u posljednje dvije godine. Jedna krivotvorina za koju je operacija tvrdila da ju je plasirala u Peruu čak je pridonijela javnim napetostima između Ukrajine i Poljske.
Operatori su ChatGPT ponajprije koristili za sastavljanje i ažuriranje internih izvještaja nepoznatom nadređenom. Ti su redoviti izvještaji opisivali nastojanja da se provedu prikrivene kampanje utjecaja diljem Latinske Amerike. Obuhvaćali su tri glavna područja rada: ocrnjivanje Ukrajine i ometanje novačenja za ukrajinske oružane snage; miješanje u unutarnju politiku pojedinih zemalja, osobito Bolivije i Argentine; te upravljanje SRC-om. U većini slučajeva nismo uočili da su zlonamjerni akteri koristili naše modele za stvaranje sadržaja za kampanje, nego samo za izvještavanje o njima (nekoliko iznimaka opisano je u nastavku).
Izvještaji su obilovali taktičkim pojedinostima koje su otkrivale kako je operacija nastojala narušiti ugled Ukrajine i pojedinih državnih čelnika, osobito predsjednika Argentine, Bolivije i Ekvadora. Neki su opisivali pokušaje da se lokalno stanovništvo prevarom navede na aktivnosti koje bi operatori mogli zloupotrijebiti; drugi su opisivali lažne „procurjele informacije” za koje su operatori tvrdili da su ih proširili.
U dva slučaja dokazi povezuju operatore s javnim izvještajima o „Politologyju”. Operatori su naveli da su 2024. proveli dvije kampanje usmjerene na argentinskog predsjednika Javiera Mileija. Prvo su naveli da su proširili lažnu vijest kako je Milei svojim psima kupio Cartierove ogrlice ukrašene draguljima. Drugo su tvrdili da su platili lokalnim akterima da u Buenos Airesu ispišu grafite protiv Mileija. Na temelju procurjelih dokumenata obje su te aktivnosti javno(otvara se u novom prozoru) pripisane(otvara se u novom prozoru) organizacijama „Politology” i „La Compania”.
Mnoge druge krivotvorine dosad nisu bile povezane s ruskim operacijama utjecaja. Primjerice, operatori su tvrdili da su u svibnju 2026. izradili lažnu adresu e-pošte koja se predstavljala kao adresa Regionalne uprave za obrazovanje u Limi u Peruu. Njome su školama u tom okrugu naložili da na nacionalni Dan kulturne i jezične raznolikosti (21. svibnja) održe događanja posvećena Ukrajini. Poruke e-pošte sadržavale su izričite upute da se, među ostalima, spomene kontroverzni ukrajinski nacionalist iz dvadesetog stoljeća Stepan Bandera, kojeg neki Ukrajinci smatraju borcem za neovisnost, ali ga se u Rusiji i Poljskoj povezuje s fašizmom, ratnim kolaboracionizmom i zločinima. Prema navodima operatora, neke su škole odgovorile na lažnu adresu e-pošte, potvrdile da su održale takva događanja i čak poslale fotografije.
Operatori su zatim tvrdili da su u medije u Peruu i Poljskoj plasirali priče o tim događanjima, uz optužbe da Ukrajina „izvozi” ultranacionalističke ideologije, što je izazvalo ogorčenje. Pretragama javno dostupnih izvora pronađene su priče koje odgovaraju toj tvrdnji u peruanskom(otvara se u novom prozoru) i(otvara se u novom prozoru) poljskom(otvara se u novom prozoru) tisku(otvara se u novom prozoru) te u publikaciji na engleskom jeziku u Mađarskoj(otvara se u novom prozoru) (neki su članci u međuvremenu izbrisani). Neki(otvara se u novom prozoru) članci(otvara se u novom prozoru) sadržavali su reakciju poljskog zastupnika u Europskom parlamentu koji je predložio da se osobe koje pokazuju „antipoljske stavove” proglase nepoželjnim osobama u Poljskoj. Ruska krivotvorina tako je istodobno iskorištavala i produbljivala povijesne napetosti između Ukrajinaca i Poljaka.
Slično tome, operatori su u lipnju tvrdili da su drugom lažnom adresom e-pošte prevarili škole u Ekvadoru i naveli ih da održe svečanost prisege vjernosti predsjedniku Danielu Noboi i Eriku Princeu, bivšem čelniku privatne vojne tvrtke Blackwater. Operatori su tvrdili da je incident izazvao ogorčenje u Ekvadoru i pritisak na vladu da opovrgne laž, čime je ona doprla do publike u cijeloj zemlji. Istraživanjem javno dostupnih izvora ponovno su pronađeni medijski(otvara se u novom prozoru) izvještaji(otvara se u novom prozoru) u ekvadorskom(otvara se u novom prozoru) tisku(otvara se u novom prozoru) koji su vrlo blisko odgovarali toj tvrdnji, pa čak i detaljan demanti(otvara se u novom prozoru) ekvadorske ministrice obrazovanja.
Operatori su se služili nizom tehnika kako bi potkrijepili svoje lažne priče. Prema njihovim internim izvještajima, u ožujku su širili dvije različite krivotvorine usmjerene na Ekvador. U jednoj je upotrijebljena lažna audiosnimka pripisana ukrajinskom konzulu u Ekvadoru, na kojoj je navodno iznosio omalovažavajuće komentare o Ekvadorcima. Našom istragom javno dostupnih izvora pronađena je objava na TikToku koja je točno odgovarala toj tvrdnji; činilo se da je privukla tek malo reakcija. U drugoj je opisan lažni videoisječak koji se širio na X-u i TikToku s logotipom stvarnog informativnog kanala, uz tvrdnju da Noboina vlada novači mladiće za borbu u Ukrajini. Provjeravatelji činjenica(otvara se u novom prozoru) u Ekvadoru početkom travnja opisali su kampanju koja je odgovarala tom opisu.
Videozapis objavljen na TikToku 8. travnja 2026. s lažnom audiosnimkom pripisanom ukrajinskom konzulu, za koju je ova operacija preuzela odgovornost.
U drugom internom izvještaju opisana je krivotvorina koju su širili u Boliviji krajem svibnja, na vrhuncu protuvladinih prosvjeda. Operatori su izričito naveli da je cilj te kampanje produbiti krizu povezanu s prosvjedima. U kampanji je korištena lažna audiosnimka zaposlenika državnog vodovodnog poduzeća EPSAS koji govori da će vlada prekinuti opskrbu vodom administrativne prijestolnice La Paza i proglasiti izvanredno stanje. Našim istraživanjem javno dostupnih izvora pronađeni su članak koji opovrgava(otvara se u novom prozoru) tu tvrdnju i službeni demanti(otvara se u novom prozoru) EPSAS-a.
Drugi interni izvještaji uključivali su krivotvorine čije postojanje nismo mogli potvrditi u javno dostupnim izvorima, možda zato što su već bile uklonjene ili se nisu uspjele proširiti. Primjerice, operatori su tvrdili da su u siječnju proširili priču prema kojoj su predstavnici ukrajinskog veleposlanstva trgovinom ljudima odveli brazilsku influencericu i manekenku u Ukrajinu, gdje je ubijena u Kijivu. U lipnju su tvrdili da su u Boliviji proširili još jedan lažni audioisječak, ovaj put navodnog zaposlenika Središnje banke Bolivije, koji upozorava da će banka uskoro ograničiti podizanje gotovine. Također su tvrdili da su proširili krivotvoreno pismo državne agencije za ugljikovodike koje upozorava na ograničenja prodaje goriva za privatne automobile.
U drugim su izvještajima operatori tražili od naših modela da im pomognu pronaći incidente u ciljanim zemljama za koje bi mogli preuzeti zasluge, čak i ako u njima nisu sudjelovali. Primjerice, u Argentini su operatori tvrdili da je argentinski ministar vanjskih poslova citirao njihovu operaciju na sastanku odbora Ujedinjenih naroda o Falklandskom otočju odnosno Malvinima. Operatori su preuzeli zasluge za plasiranje argumenata da se načelo samoodređenja ne primjenjuje na to otočje i da Ujedinjena Kraljevina ondje održava nerazmjerno veliku vojnu prisutnost. Zapravo su oba argumenta dio službenog stajališta Argentine već mnogo(otvara se u novom prozoru) godina(otvara se u novom prozoru). Slično tome, brazilski su mediji u lipnju izvijestili(otvara se u novom prozoru) o slučaju brazilskog državljanina koji je otputovao u Ukrajinu kako bi se pridružio vojsci, ondje su ga zarobile ruske snage, a zatim je u televizijskoj izjavi tvrdio da je prevarom naveden na sudjelovanje u borbama. Operatori koji su koristili ChatGPT pokušali su ustvrditi da je taj izvještaj prenio poruke njihove operacije; zapravo je citirao videozapis samog zarobljenika(otvara se u novom prozoru). To upućuje na pokušaj operatora da provedu operaciju utjecaja usmjerenu na vlastite poslodavce, a ne na vanjsku publiku.
Neki izvještaji operatora spominjali su samoproglašenu „istraživačku platformu” nazvanu Centar za društvena istraživanja (na ruskom: Центр социологических исследований). Prema njegovoj mrežnoj stranici, SRC se bavi indijskom dijasporom u Latinskoj Americi i odnosima Indije sa zemljama regije.
Interni izvještaji upućivali su na to da su operatori upravljali tim analitičkim centrom, a ne samo surađivali s njim. Primjerice, spominjali su odluke o zapošljavanju i otkazima, platne razrede, kadrovske planove i tekuće istraživačke projekte. Posebno je važno to što su naveli i da su operatori stvorili lažni identitet pod imenom „Mia Clark” za vođenje aktivnosti operacije na društvenim mrežama i komunikaciju s osobljem na terenu u Latinskoj Americi. Dostupni dokazi upućuju na to da ti zaposlenici na terenu nisu znali da rade za rusku operaciju te da su istraživačke zadatke obavljali u dobroj vjeri. Takva upotreba posrednika koji nisu svjesni svoje uloge izrazito podsjeća na raniju rusku operaciju „PeaceData”, također povezanu s Prigožinovim krugom, koju je Meta razotkrila(otvara se u novom prozoru) 2020.
Sudeći prema izvještajima ruskih operatora, njihovo je osoblje na terenu u Latinskoj Americi intervjuiralo stručnjake i komentatore diljem regije, a zatim na temelju nalaza izrađivalo istraživačke radove. Teme su obuhvaćale sve od široke analize javnog mnijenja o skupini BRICS do detaljne usporedbe brazilskog gospodarstva za mandata predsjednika Jaira Bolsonara i Luiza Inácija Lule da Silve. Ruski su operatori katkad sastavljali izvještaje o napretku istraživačkih projekata prije njihove objave, što upućuje na blisku uključenost u proces izrade. Na mrežnoj stranici SRC-a pronašli smo znatno više od 60 članaka, od kojih je velika većina djelovala kao izvorni rad. To razlikuje Mračnog Clarka od operacije ruskog podrijetla koju smo nedavno razotkrili, a koja je također koristila analitički centar kao paravan, ali je većinu sadržaja plagirala. To upućuje na namjeru da se izgradi trajnija paravanska organizacija s kontaktima diljem Latinske Amerike.
Ruski su operatori tvrdili da su, radi promicanja rada SRC-a, pokušali stvoriti mrežu računa i stranica na društvenim mrežama. Prema njihovim izvještajima, te su aktivnosti naišle na probleme kada su operatori iz različitih dijelova svijeta pokušali pristupiti istim računima, što je dovelo do ograničenja računa. Tragovi toga vidljivi su u javno dostupnim podacima: primjerice, podaci o transparentnosti glavnog računa SRC-a na X-u prikazivali su lokaciju u Njemačkoj (moguće zbog upotrebe VPN-a), ali povezivanje putem trgovine App Store za Rusku Federaciju, dok su podaci o transparentnosti jednog od njegovih računa na Instagramu prikazivali lokaciju administratora u Venezueli. Nijedan od triju računa na Facebooku s oznakama SRC-a koje smo pronašli nije imao dovoljno pratitelja da bi se prikazivala lokacija administratora.
Lijevo: račun na X-u povezan s Centrom za društvena istraživanja. Obratite pozornost na podatak o transparentnosti koji pokazuje povezivanje putem trgovine aplikacijama za Rusku Federaciju. Desno: račun SRC-a na Instagramu; obratite pozornost na lokaciju u Venezueli.
Operatori su izvijestili o posebnim problemima na LinkedInu, gdje su, kako su naveli, stvorili izričito lažan račun za predstavljanje SRC-a, ali su potom teško uspostavljali mrežu kontakata. Prema njihovim izvještajima, rješenje je bilo stvoriti dodatne lažne račune koji bi pratili prvi račun i učinili ga uvjerljivijim. Na dan 17. kolovoza račun na LinkedInu s istim oznakama Centra za društvena istraživanja imao je 961 pratitelja i navodio 200–500 zaposlenika, no na njemu su bila navedena samo dva zaposlenika.
Osim upotrebe AI-ja za ažuriranje izvještaja, operatori su povremeno tražili od našeg modela pomoć u osmišljavanju i izradi tekstova za svoje operacije. Primjerice, tražili su pomoć kako bi njihove krivotvorine imale odgovarajući naglasak, rječnik i institucionalni stil za različite zemlje. To je činilo razmjerno malen dio ukupnog posla, možda zato što je u operaciji, čini se, sudjelovao barem jedan izvorni govornik španjolskog iz Latinske Amerike, pa je potreba za jezičnom podrškom AI-ja bila manja.
Primjerice, jednom je jedan od operatora koji su govorili ruski zatražio od modela pomoć pri sastavljanju pisma na ruskom koje bi ukrajinskog počasnog konzula u Panami povezalo s korupcijom. Operator koji je govorio španjolski zatim je zatražio od modela da pismo prevede na španjolski i generira popratni tekst za audiosnimku. Fotografija koja je odgovarala tekstu pisma, uz naraciju koja je odgovarala operatorovu tekstu, objavljena je na TikToku s računa koji se predstavljao kao informativni medij, ali je koristio logotip panamskog TVN Noticias(otvara se u novom prozoru). Kanal na TikToku imao je samo jednog pratitelja i prestao je objavljivati nakon što je plasirao tu krivotvorinu.
Objava na TikToku koja prikazuje pismo čiji je tekst nastao u sklopu ove operacije, uz naraciju čiji je tekst također generiran u sklopu operacije.
Drugom je prilikom operator u Rusiji koji je govorio španjolski dao modelu tekst na ruskom u kojem se tvrdilo da je Noboa vrijeđao siromašne ljude u Ekvadoru te zatražio prijevod na ekvadorski španjolski. Trećom je prilikom, u ožujku, isti korisnik zatražio od modela da lektorira nacrt ugovora na španjolskom između tvrtke „International Security Solutions FZE” i pojedinca u Ekvadoru, navodno za pružanje infrastrukturnih usluga u Ukrajini. Korisnikova pitanja bila su usmjerena na poboljšanje jezika i oblikovanja, uključujući pitanje koje riječi treba podebljati.
Korisnik je prestao postavljati upite o ugovoru nakon što je tekst dovršen. Međutim, istraživanje javno dostupnih izvora pokazuje da se slika tog „ugovora” naknadno širila društvenim mrežama(otvara se u novom prozoru). Njome se potkrepljivala tvrdnja da je Noboina vlada surađivala s paravanskom tvrtkom kako bi prevarom navela Ekvadorce da se pridruže ukrajinskoj vojsci. Krivotvorina se dovoljno proširila da početkom travnja potakne provjeru činjenica(otvara se u novom prozoru): provjeravatelji su zaključili da tvrtka „nije navedena u registru ekvadorskog Nadzornog tijela za trgovačka društva, vrijednosne papire i osiguranje”.
Učinak ove operacije zahtijeva osobito pažljivu procjenu. Kao što je prethodno navedeno, jedan od glavnih pristupa operatora bio je preuzimanje zasluga za aktivnosti koje nisu imale veze s njihovom operacijom. Stoga se njihove tvrdnje o učinku iz internih izvještaja ne mogu prihvatiti bez provjere. Slično tome, neke lažne priče za koje su tvrdili da su ih plasirali nisu pronađene istraživanjem javno dostupnih izvora, možda zato što su se širile nejavnim kanalima, već bile uklonjene ili zapravo nisu ni objavljene.
Ipak, javno dostupni dokazi omogućili su nam da potvrdimo dio njihovih tvrdnji. O nekim krivotvorinama za koje je operacija tvrdila da ih je proširila naknadno su izvijestili provjeravatelji činjenica, a vlade su ih opovrgnule, što upućuje na to da su se proširile dovoljno da zasluže odgovor. U drugim smo slučajevima na internetu uspjeli pronaći sadržaj koji je vrlo blisko odgovarao sadržaju generiranom u sklopu ove operacije. Posebno se ističe tvrdnja operacije da je prevarom navela školu u Peruu da održi događanje na kojem je prikazan Bandera. O tome se naknadno izvještavalo i u Latinskoj Americi i u Europi, a čini se da je izazvalo komentar barem jednog poljskog zastupnika u Europskom parlamentu.
Prema ljestvici proboja(otvara se u novom prozoru), koja operacije utjecaja ocjenjuje od 1 (najniže) do 6 (najviše), ovu bismo operaciju svrstali u kategoriju 5, uz dokaze koji upućuju na to da je potaknula javne komentare političara u više zemalja. To je prva operacija kategorije 5 koju smo onemogućili otkako smo počeli izvještavati.
Operacija iz Irana koja plasira opsežne članke pod lažnim autorskim imenima u internetske informativne medije.
Blokirali smo skupinu povezanih računa za ChatGPT podrijetlom iz Irana. Unosili su upite na perzijskom i generirali sadržaj na perzijskom i engleskom. Akteri su prikrivali svoju lokaciju koristeći VPN-ove za pristup ChatGPT‑u.
Operacija je koristila naše modele za doradu opsežnih članaka i ponuda urednicima, generiranje komentara na društvenim mrežama te doradu internih izvještaja. Operatori su nudili članke pod sedam različitih autorskih imena, pa smo njihovu kampanju nazvali „Lažni autorski potpisi”. Opsežni članci bili su usmjereni na sukob SAD-a i Irana. Većina komentara također se bavila sukobom, a manji dio američkom politikom, obično u širem kontekstu sukoba.
Vidljivi učinak njihovih glavnih aktivnosti znatno se razlikovao. Pronašli smo gotovo 100 članaka objavljenih ili prenesenih pod autorskim potpisima te operacije u desetak internetskih medija diljem svijeta. Bili su to mali i srednje veliki mediji, uglavnom usmjereni na međunarodne odnose, geopolitiku i događaje na Bliskom istoku. Nasuprot tome, čini se da nijedan komentar na društvenim mrežama nije privukao znatniji broj oznaka „sviđa mi se”, dijeljenja ili daljnjih odgovora. Štoviše, u internim izvještajima operatora za mjerenje učinka na društvenim mrežama korišten je zavaravajući izračun, možda kako bi se njihova učinkovitost prikazala većom nego što jest.
Ukupne aktivnosti odgovarale su djelovanju komercijalnog aktera koji provodi kampanju utjecaja po narudžbi, ali ne možemo utvrditi o kojem je akteru riječ. Informacije o ovom slučaju podijelili smo s nadležnim tijelima.
Aktivnost ove operacije s najvećim dosegom sastojala se od traženja da ChatGPT pregleda i doradi opsežne članke na engleskom jeziku o geopolitici sukoba SAD-a i Irana. U tipičnim upitima tražilo se od modela da procijeni nacrt na engleskom jeziku prema kriterijima za objavu u određenom internetskom mediju i predloži izmjene kako bi ih tekst zadovoljio. Nakon što bi operatori odobrili izmjene, tražili su od modela da sastavi poruku e-pošte kojom bi članak ponudili uredniku dotičnog internetskog medija.
Te su ponude sastavljane pod sedam različitih lažnih autorskih imena: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams i Alice Johnson. Prema biografijama objavljenima na internetu uz neke od tih članaka, svi su se ti lažni identiteti predstavljali kao zapadni novinari, uglavnom američki, iako je u biografiji Noaha Lamingtona pisalo da se nalazi na Novom Zelandu. Često su navodili da su usmjereni na međunarodnu politiku, Bliski istok, ljudska prava ili sukobe. Za jedan od tih identiteta, „Michaela Harrisona”, operatori su zatražili od modela da napiše i samu biografiju. (Vrijedi napomenuti da je Meta u ožujku onemogućila(otvara se u novom prozoru) iransku operaciju utjecaja koja je također koristila lažni novinarski identitet „Michael Harrison”.)
Vjerodostojnost nekih od tih identiteta potkrepljivali su računi na različitim društvenim mrežama. Primjerice, lažni identitet Michaela Harrisona imao je račune na Mediumu, X-u i Facebooku. Lažni identitet Ervina B. Hoskinsa imao je račune na X-u, Facebooku, Instagramu i Threadsu. U njegovoj je biografiji pisalo da je „američki samostalni autor”, no podaci o transparentnosti na društvenim mrežama pokazivali su da se računi nalaze u Iranu.
Gore: biografija lažnog identiteta Ervina Hoskinsa na Instagramu. Dolje lijevo: podaci o transparentnosti računa na X-u koji pokazuju upotrebu aplikacije za Android za zapadnu Aziju. Dolje desno: podaci o transparentnosti računa na Instagramu koji pokazuju lokaciju u Iranu. Meta je u kolovozu blokirala račun na Instagramu.
Tehnikama istraživanja javno dostupnih izvora pronašli smo gotovo 100 članaka objavljenih pod nekim od autorskih imena operatora u više od desetak različitih publikacija. Te su publikacije uglavnom bile usmjerene na međunarodne odnose, geopolitiku i događaje na Bliskom istoku, katkad iz antiratne ili progresivne perspektive. Najraniji članak koji smo pronašli objavljen je u srpnju 2025., a najnoviji u listopadu 2026. Učestalost objavljivanja članaka znatno je porasla nakon izbijanja sukoba SAD-a i Irana.
Vremenski prikaz članaka prema autoru i temi, od srpnja 2025. do rujna 2026. Obratite pozornost na velik broj objava o odnosima SAD-a i Irana od ožujka 2026. nadalje.
Primjeri naslova članaka objavljenih pod autorskim imenima povezanima s ovom operacijom od veljače do srpnja 2026. u različitim internetskim medijima.
Barem dio članaka zatim je promoviran na računima tih medija na društvenim mrežama, čime su iranski operatori dobili priliku doprijeti do publike koju inače ne bi dosegnuli.
Uz članke, zlonamjerni su akteri od ChatGPT‑a tražili da generira skupine komentara o geopolitičkim ili političkim temama na engleskom ili perzijskom jeziku. Njihov uobičajeni pristup bio je unijeti tekst ili snimku zaslona objave na društvenoj mreži i tražiti od modela niz odgovora usklađenih s njihovim općim ciljevima. Ti su se odgovori zatim objavljivali na internetu, često u razmaku od svega nekoliko minuta. Interni izvještaji operatora spominjali su i ručno i automatizirano objavljivanje; nemamo dokaza da je ta automatizacija provedena uz pomoć naših modela.
Tweetovi na engleskom, lijevo, i perzijskom, desno, nastali u sklopu ove operacije i objavljeni u srpnju. Komentari na engleskom odgovarali su na tweet na engleskom koji je upozoravao da SAD priprema „napad velikih razmjera” na Iran. Svi ti komentari na slici objavljeni su u rasponu od 10 minuta. Komentari na perzijskom odgovarali su na tweet na perzijskom o američkim napadima na Iran i objavljeni su unutar 13 minuta.
Dio tog skupnog generiranja komentara sastojao se od izrade odgovora na objave na društvenim mrežama o novinskim člancima same operacije. Operatori su unosili snimke zaslona objava koje su promovirale njihove članke, a zatim generirali komentare koji su ih hvalili ili podržavali, vjerojatno kako bi članci izgledali popularniji.
Objava stranice lokalnog američkog medija na Facebooku koja dijeli članak nastao u sklopu operacije te komentari na tu objavu koje je također generirala operacija.
Većina skupina komentara bila je šire usmjerena na sukob Irana, Sjedinjenih Američkih Država i Izraela. Korisnici su tražili komentare o temama poput raketnih napada, prekida vatre i diplomatskih manevara, uz zahtjev da se SAD prikaže kao agresor, Izrael kao nepouzdan saveznik SAD-a, a Iran kao prkosna, ali otporna žrtva. Operatori su generirali osobito velik broj odgovora na objave satelitske mreže Iran International sa sjedištem u Ujedinjenoj Kraljevini, koja kritizira iranski režim: izradili su više od dvadeset četiri skupine neprijateljskih odgovora na perzijskom. Manji dio skupina sadržavao je odgovore na objave o američkim političkim pitanjima, obično također u širem kontekstu sukoba.
Komentari na Instagramu nastali u sklopu ove operacije kao odgovori na objave o američkoj politici.
Pronašli smo mali broj tih odgovora objavljenih na internetu; mnoge druge nismo pronašli pretragom javno dostupnih izvora, možda zato što nisu bili objavljeni ili su ih objavili računi koji su već bili uklonjeni. (Primjerice, tri lažna novinarska identiteta — Ericka Feusier, Alice Johnson i Jenny Williams — u objavljenim su biografijama navodila korisnička imena na X-u: svi ti računi bili su suspendirani do kolovoza 2026.) Neki računi koji su objavljivali komentare imali su imena koja su zvučala zapadnjački, ali su podaci o lokaciji upućivali na Iran.
Podaci o transparentnosti računa na Instagramu s kojih su objavljeni prethodno prikazani komentari, a koji pokazuju da su se računi nalazili u Iranu.
Ondje gdje smo pronašli te objavljene odgovore, oni su obično činili manjinu svih komentara na dotičnu objavu, što upućuje na to da operatori nisu bili dominantan glas među autentičnim odgovorima. Nisu, čini se, privukli ni znatniji broj reakcija: štoviše, mnoge oznake „sviđa mi se” na odgovorima operacije dolazile su s računa koji su i sami bili povezani s njom. Informacije o ovom slučaju podijelili smo s partnerima iz industrije, koji imaju najbolji uvid za cjelovitu procjenu angažmana publike.
Pokušaji da svoje aktivnosti prikažu popularnijima nisu bili ograničeni na javne objave. Uz generiranje sadržaja, operatori su povremeno tražili od ChatGPT‑a da doradi tekstove koji su djelovali kao interni izvještaji o njihovoj kampanji na društvenim mrežama. Obično bi modelu dali niz statističkih podataka i zatražili da ih pretvori u profesionalno oblikovane prezentacije.
Ovo nije prva operacija koju smo onemogućili, a koja je koristila AI za pisanje vlastite(otvara se u novom prozoru) procjene rada(otvara se u novom prozoru). U nastojanjima iranskih operatora da sami ocijene svoj rad najviše se isticala metoda koju su koristili. Glavno mjerilo „učinka” bio je broj pregleda objava na koje su odgovarali (ne broj pregleda samih odgovora), izmjeren prije objave odgovora i nakon neodređenog vremena od njihove objave. Taj izračun nije uzimao u obzir preglede koji su mogli biti rezultat drugih čimbenika, poput popularnosti izvornih objava ili drugih komentara. Time su brojke o učinku operacije bile znatno preuveličane, što upućuje na to da operatori ili nisu znali za bolji način izračuna ili su ga odlučili ne koristiti.
Zapravo, prema dokazima koji se mogu prikupiti praćenjem javno dostupnih izvora, čini se da su dva glavna područja rada operacije imala vrlo različite razine vjerojatnog učinka.
Odgovori na društvenim mrežama koje smo uspjeli pronaći uglavnom su imali malen broj oznaka „sviđa mi se”, pregleda i komentara, izražen jednoznamenkastim ili dvoznamenkastim brojkama. Kao što je prethodno navedeno, odgovori su obično činili manjinu svih komentara na dotičnu objavu. Prema ljestvici proboja(otvara se u novom prozoru), koja operacije utjecaja ocjenjuje od 1 (najniže) do 6 (najviše), taj bismo dio operacije svrstali u kategoriju 2: komentari su se pojavljivali na više platformi, ali bilo je malo znakova šireg proboja ili sposobnosti da prevladaju među odgovorima.
Nasuprot tome, lažni novinarski identiteti uspjeli su objaviti članke u različitim medijima, od kojih su neki imali velik broj pratitelja. Primjerice, jedan internetski medij koji je objavljivao članke ove operacije u kolovozu 2026. imao je gotovo 2 milijuna pratitelja na Facebooku, gotovo 355.000 na X-u i više od 544.000 na Instagramu. Taj bismo dio operacije svrstali u kategoriju 4 zbog redovitog proboja u više medija.
