AI-ondersteunde dekmanteloperaties verstoren

De afgelopen tweeënhalf jaar hebben we gerapporteerd over veel van de manieren waarop verschillende kwaadwillende partijen onze modellen probeerden te gebruiken voor cyberaanvallen, heimelijke beïnvloedingsoperaties (IO), oplichting en andere overtredingen van ons gebruiksbeleid. We publiceren deze rapporten om toezichthouders, sectorgenoten en de samenleving te informeren over hoe kwaadwillenden volgens onze waarnemingen AI proberen in te zetten, en om de kwetsbaarheden bloot te leggen die ze proberen uit te buiten.

Onlangs hebben we twee beïnvloedingsoperaties geblokkeerd — één uit Rusland en één uit Iran — die onze modellen samen met traditionelere technieken en technologieën gebruikten om geavanceerde dekmantels te ondersteunen. Via die dekmantels brachten ze geopolitieke boodschappen over conflicten bij hun doelgroepen onder de aandacht, zonder de werkelijke herkomst prijs te geven. De Iraanse operatie gebruikte zeven fictieve "journalisten" om lange artikelen aan te bieden aan kleine en middelgrote onlinemedia wereldwijd. De Russische operatie lijkt onwetende mensen in Latijns-Amerika te hebben ingeschakeld om ter plaatse een "denktank" te runnen.

Beide operaties hadden meerdere onderdelen en probeerden uiteenlopende tactieken om hun doelen te bereiken. Naast lange artikelen genereerde de Iraanse operatie reeksen socialemediareacties, doorgaans over onderwerpen die verband hielden met de oorlog tussen de VS en Iran. Naast het aansturen van de "denktank" maakte de Russische operatie vervalste "gelekte" documenten en audioscripts, waarvan we er enkele online terugvonden. Beide operaties gebruikten AI ook intensief om interne rapporten op te stellen (bij de Russische operatie was dit veruit het voornaamste gebruik). In beide gevallen gebruikten de betrokkenen dubieuze of ronduit misleidende methoden om hun doeltreffendheid te overdrijven.

Het opvallendste aan deze operaties is dat ze sterk leken op complexe beïnvloedingsoperaties van vóór het AI-tijdperk, maar AI gebruikten om sommige werkprocessen te vereenvoudigen. De fictieve journalisten van de Iraanse operatie vertoonden overeenkomsten met de nepjournalist "Alice⁠(opent in een nieuw venster) Donovan⁠(opent in een nieuw venster)", een dekmantel voor de Russische militaire inlichtingendienst, wier artikelen in 2016–2017 door verschillende westerse media werden gepubliceerd. In 2020 runden personen met banden met eerdere activiteiten van het Russische Internet Research Agency een nepnieuwsmedium met de naam "PeaceData⁠(opent in een nieuw venster)". Ze schakelden wereldwijd journalisten in die er nietsvermoedend voor schreven.

Deze operaties vielen ook op door hun potentiële bereik. Op de Breakout Scale⁠(opent in een nieuw venster), die beïnvloedingsoperaties beoordeelt op een schaal van 1 (laagst) tot 6 (hoogst), zouden we de operatie uit Rusland indelen in Categorie 5. Dit is de eerste operatie in Categorie 5 die we hebben verstoord sinds we met deze rapportages begonnen. De operatie uit Iran bereikte Categorie 4. Beide wisten hun content (die niet volledig met onze modellen was gegenereerd) in reguliere media geplaatst te krijgen, in plaats van die alleen op sociale media te posten. Dit past in een patroon dat we hebben waargenomen bij de 30 heimelijke beïnvloedingsoperaties die we de afgelopen tweeënhalf jaar hebben ontmaskerd: operaties die hun content in echte media proberen te plaatsen, in plaats van te vertrouwen op verspreiding via nepaccounts op sociale media, hebben doorgaans het grootste potentiële bereik en de grootste potentiële impact.

Matrix van de 30 beïnvloedingsoperaties die we sinds begin 2024 hebben ontmaskerd, ingedeeld naar voornaamste verspreidingsmethode (sociale media, eigen website, externe publicaties) en score op de Breakout Scale. Operaties die meer dan één verspreidingsmethode gebruikten, zoals een eigen website die ze op sociale media promootten, zijn ingedeeld op basis van de methode die de kern van de operatie leek te vormen.

AI kan zulke dekmanteloperaties helpen om op grotere schaal en efficiënter te werken, natuurlijker taalgebruik te produceren en hun teksten beter te redigeren. De uitvoerders kunnen die voordelen gebruiken om nietsvermoedende slachtoffers, zoals medewerkers of redacteuren, te misbruiken en hun content onder de aandacht te brengen van een publiek dat niet weet wie erachter zit of welke motieven die partij heeft. Deze operaties laten ook zien hoe complex en geraffineerd kwaadwillenden fictieve personen en organisaties inzetten om hun doelen te bereiken. Om organisaties goed te blijven beschermen, is het essentieel te begrijpen welke kwetsbaarheden kwaadwillenden hierbij uitbuiten en hoe die kwetsbaarheden hun een publiek en bereik kunnen opleveren.

Maar het heimelijke karakter van deze dekmanteloperaties maakt ze ook bijzonder kwetsbaar voor verantwoorde openbaarmaking. Zowel "Alice Donovan" als "PeaceData" staakte de activiteiten na de ontmaskering. Daarom willen we met onze rapportages over deze dekmanteloperaties verder onderzoek en verstoring vergemakkelijken — en het voortzetten van de operaties bemoeilijken.

Partijen uit Rusland die beïnvloedingscampagnes uitvoeren in heel Latijns-Amerika.

We hebben een groep ChatGPT‑accounts uit Rusland geblokkeerd. Ze gebruikten ChatGPT voor uiteenlopende taken rond heimelijke beïnvloedingsoperaties gericht op landen in heel Latijns-Amerika. Een groot deel van deze activiteiten leek erop gericht de reputatie van Oekraïne in de regio te ondermijnen. Sommige leken echter bedoeld om lokale politieke ontwikkelingen te beïnvloeden, vooral in Argentinië en Bolivia. De meeste uitvoerders schreven hun prompts in het Russisch; één schreef in het Spaans, maar leek zich desondanks in Rusland te bevinden. We hebben informatie over deze zaak gedeeld met de bevoegde autoriteiten.

De uitvoerders gebruikten ChatGPT voor drie hoofdtaken: interne rapporten schrijven over hun activiteiten (en activiteiten van anderen waarvoor ze geloofwaardig de eer konden opeisen), content maken voor hun operaties en rapporten opstellen over de prestaties van het Social Research Center (SRC), een zelfbenoemd "onderzoeksplatform" in Latijns-Amerika. Ze lijken het SRC te hebben aangestuurd via een fictieve identiteit met de naam "Mia Clark". Naar die naam hebben we deze operatie "Dark Clark" genoemd. Omdat we geen toegang tot onze modellen vanuit Rusland toestaan, gebruikten ze VPN's om verbinding te maken met onze diensten.

In hun interne rapporten beweerden de uitvoerders in heel Latijns-Amerika verzonnen verhalen te hebben verspreid om Oekraïne of lokale leiders te ondermijnen. Sommige van deze vervalsingen zijn door onderzoekers die openbare bronnen⁠(opent in een nieuw venster) gebruiken⁠(opent in een nieuw venster) toegeschreven aan een Russische organisatie die bekendstaat als "Politology" of "La Compania". Die zou een opvolger zijn van de Wagnergroep en andere organisaties die zijn opgericht door de Russische oligarch Jevgeni Prigozjin. De uitvoerders vroegen onze modellen ook om openbare berichtgeving over Politology en Wagner te vertalen of uit te leggen, veel vaker dan over andere netwerken uit Rusland.

Deze operatie was in twee opzichten ongebruikelijk. Ten eerste lijkt ze erin te zijn geslaagd mensen in Latijns-Amerika in te schakelen om voor het SRC te werken. De rapporten van de Russische uitvoerders over het SRC verwezen naar beslissingen over onder meer salarisschalen en het aannemen en ontslaan van personeel. Dit suggereert dat ze de organisatie aanstuurden, in plaats van ermee samen te werken. De beschikbare aanwijzingen duiden erop dat de SRC-medewerkers in Latijns-Amerika niet wisten dat ze voor een Russische groep werkten. Anders dan een andere aan Rusland gelieerde "denktank" die we onlangs ontmaskerden, lijkt het SRC via zijn ingeschakelde medewerkers voornamelijk oorspronkelijke content te hebben geproduceerd. Dit is de meest complexe poging om onder een dekmantel te opereren die we de afgelopen tweeënhalf jaar hebben verstoord.

Ten tweede suggereren sommige openbare bronnen dat de vervalsingen van Dark Clark zich zo breed verspreidden dat ze aanleiding gaven tot factchecks⁠(opent in een nieuw venster) en officiële ontkenningen⁠(opent in een nieuw venster). Dit wijst op een mate van doordringing die verder gaat dan bij alle andere beïnvloedingsoperaties die we de afgelopen twee jaar hebben verstoord. Een vervalsing die de operatie naar eigen zeggen in Peru had verspreid, droeg zelfs bij aan openlijke spanningen tussen Oekraïne en Polen.

De uitvoerders gebruikten ChatGPT vooral om interne rapporten voor een onbekende leidinggevende op te stellen en bij te werken. Deze periodieke rapporten beschreven pogingen om heimelijke beïnvloedingscampagnes in heel Latijns-Amerika uit te voeren. Ze bestreken drie hoofdactiviteiten: Oekraïne zwartmaken en de werving voor de Oekraïense strijdkrachten ondermijnen; zich mengen in de binnenlandse politiek van bepaalde landen, vooral Bolivia en Argentinië; en het SRC aansturen. In de meeste gevallen zagen we de kwaadwillenden onze modellen niet gebruiken om content voor de campagnes te maken, maar alleen om erover te rapporteren (de weinige uitzonderingen worden hieronder⁠ beschreven).

De rapporten bevatten veel tactische details en maakten duidelijk hoe de operatie Oekraïne en enkele nationale leiders probeerde te ondermijnen, met name de presidenten van Argentinië, Bolivia en Ecuador. Sommige beschreven pogingen om lokale inwoners tot activiteiten te verleiden die de uitvoerders vervolgens voor hun doelen konden misbruiken; andere beschreven vervalste "lekken" die de uitvoerders naar eigen zeggen hadden verspreid.

In twee gevallen leggen de aanwijzingen een verband tussen de uitvoerders en openbare berichtgeving over "Politology". De uitvoerders meldden dat ze in 2024 twee campagnes hadden gevoerd tegen de Argentijnse president Javier Milei. Ten eerste zeiden ze een vals bericht te hebben verspreid dat Milei met edelstenen versierde Cartier-halsbanden voor zijn honden had gekocht. Ten tweede beweerden ze lokale personen te hebben betaald om in Buenos Aires graffiti tegen Milei aan te brengen. Op basis van gelekte documenten zijn beide activiteiten openbaar⁠(opent in een nieuw venster) toegeschreven⁠(opent in een nieuw venster) aan "Politology" en "La Compania".

Veel meer vervalsingen zijn niet eerder in verband gebracht met Russische beïnvloedingsoperaties. Zo beweerden de uitvoerders dat ze in mei 2026 een vals e-mailadres hadden aangemaakt dat afkomstig leek van de regionale onderwijsdirectie in Lima, Peru. Daarmee droegen ze scholen in het district op om op de nationale Dag van Culturele en Taalkundige Diversiteit (21 mei) evenementen over Oekraïne te houden. De e-mails bevatten expliciete instructies om onder anderen aandacht te besteden aan de omstreden twintigste-eeuwse Oekraïense nationalist Stepan Bandera. Sommige Oekraïners zien hem als een onafhankelijkheidsstrijder, maar in Rusland en Polen wordt hij geassocieerd met fascisme, collaboratie tijdens de oorlog en gruweldaden. Volgens de uitvoerders antwoordden sommige scholen op het valse e-mailadres met de bevestiging dat ze zulke evenementen hadden gehouden, en stuurden ze zelfs foto's mee.

De uitvoerders beweerden vervolgens dat ze berichten over de evenementen in zowel Peruaanse als Poolse media hadden laten plaatsen, samen met beschuldigingen dat Oekraïne ultranationalistische ideologieën "exporteerde", wat tot verontwaardiging leidde. Onderzoek in openbare bronnen leverde berichten op die overeenkwamen met deze bewering in de Peruaanse⁠(opent in een nieuw venster) en⁠(opent in een nieuw venster) Poolse⁠(opent in een nieuw venster) pers⁠(opent in een nieuw venster) en in een Engelstalige publicatie in Hongarije⁠(opent in een nieuw venster) (sommige artikelen zijn inmiddels verwijderd). Sommige⁠(opent in een nieuw venster) artikelen⁠(opent in een nieuw venster) bevatten een reactie van een Pools lid van het Europees Parlement, die voorstelde mensen met een "anti-Poolse houding" in Polen tot persona non grata te verklaren. De Russische vervalsing speelde zo in op historische spanningen tussen Oekraïners en Polen en wakkerde die tegelijkertijd aan.

In juni beweerden de uitvoerders op vergelijkbare wijze een ander vals e-mailadres te hebben gebruikt om scholen in Ecuador ertoe te misleiden een ceremonie te houden waarin trouw werd gezworen aan president Daniel Noboa en aan Erik Prince, het voormalige hoofd van het particuliere militaire bedrijf Blackwater. Volgens de uitvoerders leidde het incident tot verontwaardiging in Ecuador en zette het de regering onder druk om het valse bericht te ontkennen, waardoor het een landelijk publiek bereikte. Ook nu leverde onderzoek in openbare bronnen berichten⁠(opent in een nieuw venster) op⁠(opent in een nieuw venster) in de Ecuadoraanse⁠(opent in een nieuw venster) pers⁠(opent in een nieuw venster) die nauw aansloten bij deze bewering, en zelfs een uitvoerige weerlegging⁠(opent in een nieuw venster) door de Ecuadoraanse minister van Onderwijs.

De uitvoerders gebruikten uiteenlopende technieken om hun verzonnen verhalen te onderbouwen. Volgens hun interne rapportages verspreidden ze in maart twee verschillende vervalsingen gericht op Ecuador. Bij de ene werd een vervalste geluidsopname gebruikt die werd toegeschreven aan de Oekraïense consul in Ecuador, waarin hij neerbuigende opmerkingen over Ecuadoranen zou hebben gemaakt. Ons onderzoek in openbare bronnen leverde een TikTok-bericht op dat exact overeenkwam met deze bewering; het leek slechts weinig interactie op te leveren. De andere betrof een vervalste videoclip die op X en TikTok werd verspreid met het logo van een echte nieuwszender, met de bewering dat de regering van Noboa jonge mannen rekruteerde om in Oekraïne te vechten. Factcheckers⁠(opent in een nieuw venster) in Ecuador beschreven begin april een campagne die hiermee overeenkwam.

TikTok-video van 8 april 2026 met de vervalste geluidsopname die volgens de uitvoerders door deze operatie was gemaakt en aan de Oekraïense consul werd toegeschreven.

Een ander intern rapport beschreef een vervalsing die ze eind mei in Bolivia verspreidden, op het hoogtepunt van de protesten tegen de regering. De uitvoerders omschreven het doel van deze campagne expliciet als het verergeren van de crisis rond de protesten. De campagne gebruikte een vervalste geluidsopname van een medewerker van het staatswaterbedrijf EPSAS, die zei dat de regering de watertoevoer naar de regeringszetel La Paz zou afsluiten en de noodtoestand zou uitroepen. Ons onderzoek in openbare bronnen leverde een weerlegging⁠(opent in een nieuw venster) van diezelfde bewering op, evenals een officiële ontkenning⁠(opent in een nieuw venster) van EPSAS.

Andere interne rapporten beschreven vervalsingen waarvan we de verspreiding niet konden bevestigen met openbare bronnen, mogelijk omdat ze al waren verwijderd of zich niet verder hadden verspreid. Zo beweerden de uitvoerders in januari een verhaal te hebben verspreid dat een Braziliaanse influencer en model door vertegenwoordigers van de Oekraïense ambassade naar Oekraïne was verhandeld en in Kyiv was vermoord. In juni beweerden ze in Bolivia nog een vervalste geluidsopname te hebben verspreid, ditmaal zogenaamd van een medewerker van de centrale bank van Bolivia, die waarschuwde dat de bank op het punt stond geldopnames te beperken. Ze beweerden ook een vervalste brief van de nationale instantie voor olie en gas te hebben verspreid, waarin werd gewaarschuwd voor beperkingen op de brandstofverkoop aan particuliere auto's.

Voor andere rapporten vroegen de uitvoerders onze modellen om incidenten in de doellanden te vinden waarvoor ze de eer konden opeisen, ook als ze er niet bij betrokken waren geweest. Zo beweerden de uitvoerders dat de Argentijnse minister van Buitenlandse Zaken hun operatie had geciteerd tijdens een commissievergadering van de Verenigde Naties over de Falklandeilanden/Malvinas. De uitvoerders eisten de eer op voor het in omloop brengen van de argumenten dat het zelfbeschikkingsbeginsel niet van toepassing is op de eilanden en dat het VK er een onevenredig grote militaire aanwezigheid handhaaft. In werkelijkheid maken beide argumenten al vele⁠(opent in een nieuw venster) jaren⁠(opent in een nieuw venster) deel uit van het officiële standpunt van Argentinië. Een vergelijkbaar geval deed zich voor in juni, toen Braziliaanse media berichtten⁠(opent in een nieuw venster) over een Braziliaanse burger die naar Oekraïne was gereisd om zich bij het leger aan te sluiten, door Russische troepen gevangen was genomen en vervolgens op televisie verklaarde dat hij door misleiding aan het vechten was geraakt. De uitvoerders die ChatGPT gebruikten, probeerden te claimen dat dit bericht de boodschap van hun operatie overnam; in werkelijkheid citeerde het de video van de gevangene zelf⁠(opent in een nieuw venster). Dit wijst erop dat de uitvoerders een beïnvloedingsoperatie probeerden uit te voeren die op hun eigen werkgevers was gericht, in plaats van op een extern publiek.

Sommige rapporten van de uitvoerders verwezen naar een zelfbenoemd "onderzoeksplatform" met de naam Social Research Center (in het Russisch: Центр социологических исследований). Volgens de website richt het SRC zich op de Indiase diaspora in Latijns-Amerika en de betrekkingen tussen India en de landen in de regio.

De interne rapporten wezen erop dat de uitvoerders de denktank aanstuurden, en er niet alleen mee samenwerkten. Ze verwezen bijvoorbeeld naar beslissingen over het aannemen en ontslaan van personeel, salarisschalen, personeelsplannen en lopende onderzoeksprojecten. Belangrijk was ook dat de rapporten vermeldden dat de uitvoerders een fictieve identiteit, "Mia Clark", hadden gecreëerd om de sociale media van de operatie te beheren en contact te onderhouden met medewerkers ter plaatse in Latijns-Amerika. De beschikbare aanwijzingen suggereren dat deze lokale medewerkers niet wisten dat ze voor een Russische operatie werkten en hun onderzoekstaken te goeder trouw uitvoerden. Dit gebruik van onwetende tussenpersonen lijkt sterk op de eerdere Russische operatie "PeaceData", die eveneens banden had met het netwerk rond Prigozjin en die Meta in 2020 ontmaskerde⁠(opent in een nieuw venster).

Afgaand op de rapporten van de Russische uitvoerders interviewden hun medewerkers ter plaatse deskundigen en commentatoren in heel Latijns-Amerika en schreven ze vervolgens onderzoeksrapporten op basis van hun bevindingen. De onderwerpen liepen uiteen van een brede analyse van de publieke opinie over de BRICS-groep tot een gedetailleerde vergelijking van de Braziliaanse economie onder de presidenten Jair Bolsonaro en Luiz Inácio Lula da Silva. Soms schreven de Russische uitvoerders voortgangsrapporten over onderzoeksprojecten voordat de resultaten waren gepubliceerd, wat wijst op nauwe betrokkenheid bij het productieproces. We vonden ruim 60 artikelen op de website van het SRC, waarvan het overgrote deel oorspronkelijk werk leek te zijn. Dit onderscheidt Dark Clark van de operatie uit Rusland die we onlangs ontmaskerden. Die gebruikte ook een denktank als dekmantel, maar pleegde voor de meeste content plagiaat. Het wijst op de intentie om een duurzamere dekmantelorganisatie op te bouwen, met contacten in heel Latijns-Amerika.

De Russische uitvoerders beweerden dat ze een netwerk van socialemediakanalen hadden proberen op te zetten om het werk van het SRC te promoten. Volgens hun rapporten stuitten deze socialemedia-activiteiten op problemen toen uitvoerders in verschillende delen van de wereld toegang probeerden te krijgen tot dezelfde accounts, waardoor die accounts werden beperkt. Sporen hiervan zijn zichtbaar in openbare bronnen: de transparantiegegevens van het belangrijkste SRC-account op X vermeldden bijvoorbeeld een locatie in Duitsland (mogelijk door VPN-gebruik), maar een verbinding via de App Store van de Russische Federatie. De transparantiegegevens van een van de Instagram-accounts vermeldden daarentegen een beheerder in Venezuela. Geen van de drie Facebook-accounts onder de naam SRC die we vonden, had genoeg volgers om de locatie van de beheerder te laten weergeven.

Links: X-account dat is gekoppeld aan het Social Research Center. Let op de transparantiegegevens waaruit blijkt dat het account verbinding maakte via de App Store van de Russische Federatie. Rechts: Instagram-account van het SRC; let op de locatie Venezuela.

De uitvoerders meldden vooral problemen op LinkedIn. Daar hadden ze naar eigen zeggen een uitdrukkelijk nepaccount aangemaakt om het SRC te vertegenwoordigen, maar lukte het vervolgens moeilijk om daarmee een netwerk op te bouwen. Volgens hun rapporten was de oplossing om meer nepaccounts aan te maken die het eerste account volgden, zodat het geloofwaardiger leek. Op 17 augustus telde een LinkedIn-account met dezelfde huisstijl van het Social Research Center 961 volgers. Het vermeldde een personeelsomvang van 200–500 medewerkers, maar toonde slechts twee werknemers.

Naast het bijwerken van rapporten met AI vroegen de uitvoerders ons model af en toe ook om teksten voor hun operaties te helpen bedenken en schrijven. Zo vroegen ze hulp om hun vervalsingen te voorzien van het juiste accent, de juiste woordkeus en de passende ambtelijke stijl voor verschillende landen. Dit vormde een relatief klein deel van de totale werkzaamheden, wellicht omdat de operatie minstens één Spaanstalige moedertaalspreker uit Latijns-Amerika leek te omvatten en daardoor minder taalondersteuning van AI nodig had.

Zo vroeg een van de Russischtalige uitvoerders het model eens om te helpen een brief in het Russisch op te stellen die de Oekraïense honorair consul in Panama in verband zou brengen met corruptie. De Spaanstalige uitvoerder vroeg het model vervolgens om de brief in het Spaans te vertalen en er een begeleidend audioscript bij te genereren. Een foto die overeenkwam met de brieftekst, met een voice-over die overeenkwam met het script van de uitvoerder, werd op TikTok geplaatst door een account dat zich voordeed als nieuwsmedium, maar het logo van het Panamese TVN Noticias⁠(opent in een nieuw venster) gebruikte. Het TikTok-kanaal had slechts één volger en plaatste na deze vervalsing geen berichten meer.

TikTok-bericht met de brief waarvan de tekst door deze operatie was gegenereerd, voorzien van een voice-over waarvan het script eveneens door de operatie was gegenereerd.

Een andere keer gaf de Spaanstalige uitvoerder in Rusland het model een Russischtalig script waarin werd beweerd dat Noboa arme mensen in Ecuador had beledigd, met het verzoek dit in Ecuadoraans Spaans te vertalen. Bij een derde gelegenheid, in maart, vroeg dezelfde gebruiker het model een Spaanstalig conceptcontract na te kijken tussen een bedrijf met de naam "International Security Solutions FZE" en een persoon in Ecuador, zogenaamd voor infrastructuurdiensten in Oekraïne. De vragen van de gebruiker gingen over het verbeteren van de taal en de opmaak, onder meer over welke woorden vetgedrukt moesten worden.

De prompts van de gebruiker over het contract stopten zodra de formulering definitief was. Uit onderzoek in openbare bronnen blijkt echter dat een afbeelding van het "contract" vervolgens op sociale media werd verspreid⁠(opent in een nieuw venster). Die werd gebruikt om de bewering kracht bij te zetten dat de regering van Noboa met een dekmantelbedrijf had samengewerkt om Ecuadoranen door misleiding voor het Oekraïense leger te rekruteren. De vervalsing verspreidde zich breed genoeg om begin april aanleiding te geven tot een factcheck⁠(opent in een nieuw venster). De factcheckers concludeerden dat het bedrijf "niet voorkomt in het register van de Ecuadoraanse toezichthouder op bedrijven, effecten en verzekeringen".

De impact van deze operatie vereist een bijzonder zorgvuldige beoordeling. Zoals hierboven opgemerkt, was een van de belangrijkste werkwijzen van de uitvoerders om de eer op te eisen voor activiteiten die niets met hun operatie te maken hadden. Hun eigen beweringen over impact in de interne rapportages kunnen daarom niet zonder meer worden aangenomen. Ook kwamen sommige verzonnen verhalen die ze naar eigen zeggen hadden verspreid niet naar voren in onderzoek in openbare bronnen. Mogelijk waren ze via besloten kanalen verspreid, al verwijderd of nooit daadwerkelijk geplaatst.

Met openbare bronnen konden we echter wel een deel van hun beweringen bevestigen. Sommige vervalsingen die de operatie naar eigen zeggen had verspreid, werden later door factcheckers beschreven en door overheden weerlegd. Dit suggereert dat ze zich breed genoeg hadden verspreid om een reactie te rechtvaardigen. In andere gevallen konden we online content vinden die sterk overeenkwam met de content die deze operatie had gegenereerd. Het opvallendste geval was de bewering van de operatie dat ze een Peruaanse school door misleiding een evenement had laten organiseren waarin Bandera werd afgebeeld. Daarover werd later zowel in Latijns-Amerika als in Europa bericht, en het lijkt te hebben geleid tot een reactie van ten minste één Poolse Europarlementariër.

Op de Breakout Scale⁠(opent in een nieuw venster), die beïnvloedingsoperaties beoordeelt op een schaal van 1 (laagst) tot 6 (hoogst), zouden we deze operatie indelen in Categorie 5. Er zijn aanwijzingen dat ze tot openbare reacties van politici in meerdere landen heeft geleid. Dit is de eerste operatie in Categorie 5 die we hebben verstoord sinds we met deze rapportages begonnen.

Operatie uit Iran die lange artikelen onder misleidende auteursnamen in onlinenieuwsmedia liet plaatsen.

We hebben een groep ChatGPT‑accounts uit Iran geblokkeerd. Ze schreven hun prompts in het Perzisch en genereerden content in het Perzisch en Engels. De betrokkenen verhulden hun locatie door via VPN's toegang te krijgen tot ChatGPT.

De operatie gebruikte onze modellen om lange artikelen en voorstellen aan redacties aan te scherpen, socialemediareacties te genereren en interne rapporten te verbeteren. De uitvoerders gebruikten zeven verschillende auteursnamen om hun artikelen aan te bieden. Daarom hebben we hun campagne "Bogus Bylines" genoemd. De lange artikelen richtten zich op het conflict tussen de VS en Iran. De meeste reacties gingen eveneens over het conflict; een minderheid ging over de Amerikaanse politiek, doorgaans in de bredere context van het conflict.

De impact van hun belangrijkste activiteiten leek sterk uiteen te lopen. We vonden bijna 100 artikelen die onder de auteursnamen van de operatie waren gepubliceerd of overgenomen door ongeveer een dozijn onlinemedia wereldwijd. Dit waren kleine tot middelgrote media, doorgaans gericht op internationale aangelegenheden, geopolitiek en gebeurtenissen in het Midden-Oosten. Daarentegen lijkt geen van de socialemediareacties veel interactie te hebben opgeleverd in de vorm van likes, gedeelde berichten of verdere reacties. De interne rapporten van de uitvoerders gebruikten zelfs een misleidende berekening om hun impact op sociale media te meten, mogelijk om hun doeltreffendheid groter te laten lijken.

Het geheel aan activiteiten leek te passen bij een commerciële partij die tegen betaling een beïnvloedingscampagne uitvoerde, maar we kunnen niet vaststellen welke partij dit was. We hebben informatie over deze zaak gedeeld met de bevoegde autoriteiten.

De activiteit met het grootste bereik binnen deze operatie bestond uit verzoeken aan ChatGPT om lange, Engelstalige artikelen over de geopolitiek van het conflict tussen de VS en Iran te beoordelen en aan te scherpen. In een typische prompt werd het model gevraagd een Engelstalige concepttekst te toetsen aan de inzendcriteria van een specifiek onlinemedium en wijzigingen voor te stellen om eraan te voldoen. Nadat de uitvoerders de wijzigingen hadden goedgekeurd, vroegen ze het model een e-mail te genereren waarmee ze het artikel konden aanbieden aan de redacteur van het betreffende onlinemedium.

Deze aanbiedingsmails werden opgesteld onder zeven verschillende fictieve auteursnamen: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams en Alice Johnson. Volgens de biografieën die bij sommige artikelen online verschenen, stelde elke fictieve identiteit een westerse journalist voor (meestal een Amerikaan, al vermeldde de biografie van Noah Lamington Nieuw-Zeeland als verblijfplaats), vaak met een focus op internationale politiek, het Midden-Oosten, mensenrechten of conflicten. Voor een van de fictieve identiteiten, "Michael Harrison", vroegen de uitvoerders het model om ook de biografie te schrijven. (Opvallend is dat Meta in maart een Iraanse beïnvloedingsoperatie verstoorde⁠(opent in een nieuw venster) die eveneens een fictieve journalist met de naam "Michael Harrison" gebruikte.)

Sommige van deze fictieve identiteiten werden geloofwaardiger gemaakt met accounts op verschillende socialemediaplatforms. Zo werd de identiteit van Michael Harrison ondersteund met accounts op Medium, X en Facebook. De fictieve Ervin B. Hoskins had accounts op X, Facebook, Instagram en Threads. Zijn biografie omschreef hem als "een Amerikaanse freelanceschrijver", maar de transparantiegegevens op sociale media wezen Iran aan als locatie van de accounts.

Boven: Instagram-biografie van de fictieve Ervin Hoskins. Linksonder: transparantiegegevens van het X-account, waaruit het gebruik van de Android-app voor West-Azië blijkt. Rechtsonder: transparantiegegevens van het Instagram-account, met Iran als locatie. Meta heeft het Instagram-account in augustus geblokkeerd.

Met onderzoekstechnieken voor openbare bronnen vonden we bijna 100 artikelen die onder een van de auteursnamen van de uitvoerders waren gepubliceerd in meer dan een dozijn verschillende media. Deze media richtten zich doorgaans op internationale aangelegenheden, geopolitiek en gebeurtenissen in het Midden-Oosten, soms vanuit een anti-oorlogsstandpunt of een progressief perspectief. Het vroegste artikel dat we vonden, verscheen in juli 2025 en het meest recente in oktober 2026. Na het uitbreken van het conflict tussen de VS en Iran nam de frequentie van de artikelen sterk toe.

Tijdlijn van artikelen, naar auteur en thema, juli 2025–september 2026. Let op de concentratie van publicaties over de betrekkingen tussen de VS en Iran vanaf maart 2026.

Voorbeelden van koppen van artikelen die tussen februari en juli 2026 in verschillende onlinemedia verschenen onder auteursnamen die aan deze operatie zijn gekoppeld.

Ten minste een deel van de artikelen werd vervolgens gepromoot via de socialemedia-accounts van de betreffende media. Dat bood de Iraanse uitvoerders mogelijk toegang tot een publiek dat ze anders niet zouden hebben bereikt.

Naast de artikelen vroegen de kwaadwillenden ChatGPT om reeksen reacties over geopolitieke of politieke onderwerpen te genereren in het Engels of Perzisch. Hun gebruikelijke aanpak was om de tekst of een screenshot van een socialemediabericht in te voeren en het model te vragen om een reeks reacties die aansloten bij hun algemene koers. Die werden vervolgens online geplaatst, vaak binnen enkele minuten na elkaar. De interne rapportages van de uitvoerders verwezen naar zowel handmatig als geautomatiseerd plaatsen van berichten; we hebben geen aanwijzingen dat deze automatisering met behulp van onze modellen plaatsvond.

Tweets in het Engels (links) en Perzisch (rechts), gegenereerd door deze operatie en geplaatst in juli. De Engelse reacties waren antwoorden op een Engelstalige tweet die waarschuwde dat de VS een "grootschalige aanval" op Iran voorbereidde. Alle reacties in deze afbeelding werden binnen tien minuten geplaatst. De Perzische reacties waren antwoorden op een Perzischtalige tweet over Amerikaanse aanvallen op Iran en werden binnen dertien minuten geplaatst.

Een deel van deze in reeksen gegenereerde reacties was bedoeld voor socialemediaberichten over de eigen nieuwsartikelen van de operatie. Hiervoor voerden de uitvoerders screenshots in van berichten die hun artikelen promootten. Vervolgens genereerden ze lovende of instemmende reacties, waarschijnlijk om de artikelen populairder te laten lijken.

Facebook-bericht van een lokale Amerikaanse nieuwspagina die een door de operatie gegenereerd artikel deelt, met reacties op dat bericht die eveneens door de operatie zijn gegenereerd.

De meeste reeksen reacties richtten zich algemener op het conflict tussen Iran, de Verenigde Staten en Israël. De gebruikers vroegen om reacties over onderwerpen als raketaanvallen, wapenstilstanden en diplomatieke manoeuvres. Ze gaven daarbij aan dat de teksten de VS als agressor moesten afschilderen, Israël als een onbetrouwbare bondgenoot van de VS en Iran als een opstandig maar veerkrachtig slachtoffer. De uitvoerders genereerden bijzonder veel reacties op berichten van Iran International, een in het VK gevestigde satellietzender die kritisch is over het Iraanse regime: meer dan 24 reeksen vijandige reacties in het Perzisch. Een minderheid van de reeksen bestond uit reacties op socialemediaberichten over Amerikaanse politieke kwesties, doorgaans ook in de bredere context van het conflict.

Instagram-reacties die deze operatie genereerde als antwoord op berichten over de Amerikaanse politiek.

We vonden een klein aantal van deze reacties online terug. Veel meer verschenen niet in onze zoekopdrachten in openbare bronnen, mogelijk omdat ze niet waren geplaatst of waren geplaatst door accounts die al waren verwijderd. (Zo vermeldden drie van de fictieve journalisten — Ericka Feusier, Alice Johnson en Jenny Williams — X-gebruikersnamen in hun gepubliceerde biografieën. In augustus 2026 waren al die accounts geschorst.) Sommige accounts die wel reacties online plaatsten, hadden westers klinkende namen, maar vermeldden Iran als accountlocatie.

De transparantiegegevens van de Instagram-accounts die de hierboven afgebeelde reacties plaatsten, waaruit blijkt dat ze zich in Iran bevonden.

Waar we deze reacties wel online terugvonden, vormden ze doorgaans een minderheid van alle reacties op het betreffende bericht. Dit suggereert dat de uitvoerders tussen de authentieke reacties geen dominante stem hadden. Ze leken ook weinig interactie uit te lokken: veel likes op de reacties van de operatie kwamen zelfs van accounts die zelf aan de operatie waren gekoppeld. We hebben informatie over deze zaak gedeeld met partners in de sector, die het best in staat zijn een volledig beeld van de interactie te geven.

De pogingen om hun activiteiten populairder te laten lijken, beperkten zich niet tot openbare berichten. Naast het genereren van content vroegen de uitvoerders ChatGPT af en toe om teksten aan te scherpen die interne rapporten over hun socialemediacampagne leken te zijn. Meestal gaven ze het model een reeks statistieken met het verzoek die om te zetten in verzorgde presentaties.

Dit is niet de eerste operatie die we hebben verstoord die AI gebruikte om haar eigen⁠(opent in een nieuw venster) zelfevaluatie⁠(opent in een nieuw venster) te schrijven. Het opvallendste aan de pogingen van de Iraanse uitvoerders om hun eigen werk te beoordelen, was de methode die ze daarvoor gebruikten. Hun belangrijkste maatstaf voor "impact" was het aantal weergaven van de berichten waarop ze reageerden (niet het aantal weergaven van de reacties zelf), gemeten vóór en op een niet nader gespecificeerd moment na het plaatsen van de reacties. Deze berekening hield geen rekening met weergaven die mogelijk het gevolg waren van andere factoren, zoals de populariteit van de oorspronkelijke berichten of andere reacties. Daardoor werd de impact van de operatie in de cijfers sterk overdreven. Dit suggereert dat de uitvoerders geen betere berekeningsmethode kenden, of ervoor kozen die niet te gebruiken.

Op basis van wat we in openbare bronnen kunnen waarnemen, lijken de twee hoofdactiviteiten van de operatie in werkelijkheid sterk te hebben verschild in hun waarschijnlijke impact.

De socialemediareacties die we konden terugvinden, kregen doorgaans weinig likes, weergaven en reacties: enkele tot tientallen. Zoals hierboven opgemerkt, vormden de reacties doorgaans een minderheid van alle reacties op het betreffende bericht. Op de Breakout Scale⁠(opent in een nieuw venster), die beïnvloedingsoperaties beoordeelt op een schaal van 1 (laagst) tot 6 (hoogst), zouden we dit onderdeel van de operatie indelen in Categorie 2: reacties op meerdere platforms, maar weinig aanwijzingen dat ze verder doordrongen of de reacties konden domineren.

De fictieve journalisten slaagden er daarentegen in hun artikelen bij verschillende media gepubliceerd te krijgen, waarvan sommige veel volgers hadden. Zo had een van de onlinemedia die artikelen van deze operatie publiceerden in augustus 2026 bijna 2 miljoen volgers op Facebook, bijna 355.000 op X en meer dan 544.000 op Instagram. We zouden dit onderdeel van de operatie indelen in Categorie 4, omdat de content consequent doordrong tot verschillende media.