Aan VRC gelieerde beïnvloedingsoperaties richten zich op AI-debatten in de VS

Onze missie is ervoor te zorgen dat kunstmatige algemene intelligentie de hele mensheid ten goede komt. We bevorderen deze missie door onze innovaties in te zetten om democratische AI te bouwen: AI die wordt gevormd door democratische principes, wordt bestuurd door regels van gezond verstand en is ontworpen om mensen te helpen moeilijke problemen op te lossen en hen tegelijk te beschermen tegen echte schade. Die missie vereist ook dat pogingen van autoritaire regimes en hun proxy’s om AI-systemen te gebruiken om critici te dwingen, gemeenschappen te surveilleren of heimelijk in te grijpen in democratische samenlevingen, worden opgespoord en verstoord.

In dit rapport beschrijven we twee clusters van ChatGPT‑accounts die waarschijnlijk uit China afkomstig zijn. We hebben deze geblokkeerd nadat ze onze modellen gebruikten ter ondersteuning van schijnbaar heimelijke beïnvloedingsoperaties. Deze operaties verspreidden narratieven om een legitiem debat over het Amerikaanse AI- en bredere technologiebeleid te manipuleren.

Het eerste cluster genereerde reacties en afbeeldingen voor sociale media waarin werd beweerd dat de uitbouw van datacenters voor AI de elektriciteitsprijzen voor gemiddelde gezinnen opdreef. We noemden dit cluster de campagne ‘Datacenter-bandwagon’.

Het tweede cluster genereerde reacties en afbeeldingen die Amerikaanse importheffingen bekritiseerden als pogingen om de technologische concurrentie te domineren, en specificeerde in hun prompts dat de content de Chinese leider Xi Jinping niet in de output mocht opnemen en in plaats daarvan alleen president Trump moest bevatten. Dit cluster was verbonden met een netwerk van waarschijnlijk niet-authentieke socialemedia-accounts die waarschijnlijk ook OpenAI als doelwit hadden door te beweren dat ChatGPT‑gebruikersgegevens waren gecompromitteerd. Deze beschuldigingen waren volledig onwaar. We noemden dit tweede cluster de campagne ‘Tech en importheffingen’.

Dat OpenAI en de uitbouw van Amerikaanse datacenters het doelwit waren, is belangrijk. Niet omdat de operatie de publieke opinie lijkt te hebben veranderd, maar omdat het aantoont dat beïnvloedingsactoren uit de VRC narratieven testen op AI-infrastructuur: een fundament van Amerikaans technologisch leiderschap, economische groei en het bredere ecosysteem van democratische AI. De operatie probeerde bestaande publieke zorgen over energieprijzen en lokale gevolgen van datacenterontwikkeling uit te buiten en te versterken, maar we vonden geen bewijs van betekenisvolle verspreiding buiten de eigen activiteit. Buitenlandse beïnvloedingsoperaties proberen al lang aan te haken bij bestaande lokale kwesties en oprechte overtuigingen, en gebruiken die om geloofwaardigheid op te bouwen, verdeeldheid te versterken of publiek wantrouwen te vergroten. In dit geval probeerden de operators zich heimelijk te mengen in een lopend Amerikaans debat over de toekomst van de AI-capaciteiten van het land, terwijl ze verborgen wie ze waren en wat hen motiveerde.

Door deze bevindingen te publiceren, willen we onze sector, overheden, het maatschappelijk middenveld en het publiek helpen pogingen van buitenlandse dreigingsactoren beter te herkennen en te verstoren wanneer zij legitieme publieke debatten manipuleren, democratische instellingen verzwakken en totalitarisme met AI-kenmerken bevorderen: het gebruik van AI voor surveillance, censuur en controle over het politieke, sociale en privéleven.