Herferðin „Gagnaveralestin“: Áhrifastarfsemi sem beindist að Bandaríkjunum

Þessi tilviksrannsókn birtist upphaflega í júnískýrslu OpenAI 2026⁠(opnast í nýjum glugga) um áhrifaaðgerðir tengdar Alþýðulýðveldinu Kína sem beindust að umræðu um gervigreind í Bandaríkjunum.

Við lokuðum hópi ChatGPT‑reikninga sem líklega áttu uppruna sinn í Kína og notuðu ChatGPT til að búa til efni fyrir samfélagsmiðla í þágu leynilegrar áhrifaaðgerðar. Þau sendu ChatGPT fyrirmæli á einfaldaðri kínversku en báðu ítrekað um svör á ensku og kínversku þar sem þau þóttust vera Bandaríkjamenn af ólíkum uppruna. Efnið var síðan birt á fjölmörgum samfélagsmiðlum. Þar sem við heimilum ekki aðgang að líkönum okkar frá Kína notuðu þau VPN-tengingar til að komast inn á verkvanginn okkar.

Stjórnendur reikninganna voru líklega hluti af samfélagsmiðlateymi hjá einkareknu kínversku tæknifyrirtæki sem vann fyrir kínversk stjórnvöld á héraðsstigi. Starfsemin virðist falla að viðskiptalegu vistkerfi sem styður forgangsmál flokksríkisins við stýringu almenningsálits⁠(opnast í nýjum glugga). Í annarri skýrslu sem þau hlóðu upp í ChatGPT var markmiðum þeirra og aðferðum við að hafa áhrif á almenningsálit lýst, auk þess hvernig stofna mætti samfélagsmiðlareikninga sem kæmust hjá greiningarkerfum verkvanganna.

Reikningarnir sem við lokuðum reyndu að hafa áhrif á tvo markhópa. Þau beindu sjónum sínum fyrst og fremst að bandarískum almenningi og bjuggu til stuttar athugasemdir og myndir á ensku þar sem því var haldið fram að gagnaver og gervigreindarforrit ykju raforkuþörf og kostnað almennra Bandaríkjamanna.

Þau báðu til dæmis um teiknimyndasögur um verð í afkastagetuuppboðum stjórnanda raforkukerfis, byggðar á fréttum trausts héraðsblaðs. Þau báðu ChatGPT að láta athugasemdirnar fjalla um hækkandi verð á afkastagetu vegna hámarksálags á raforkukerfið, setja nýju eftirspurnina í samhengi við gagnaver og gervigreindarforrit og halda því fram að þessi kostnaður félli að lokum á almenn heimili. Athugasemdirnar og myndirnar voru birtar á X af hópi reikninga sem líklega voru ekki raunverulegir, ásamt tenglum á traustar fréttir um afkastagetuuppboð stjórnanda raforkukerfisins og raforkuþörf gagnavera.

Efnið sem gervigreind bjó til var birt á X með myllumerkjum á borð við #capacityauction, #datacentersuccess og #datacenters. Þau notuðu ChatGPT einnig til að breyta myndum og bættu texta við almennar myndir af raforkumarkaði til að styðja þá frásögn að almenningur niðurgreiddi innviði gervigreindar.

Skjámyndir af færslum á X með texta og myndum sem ChatGPT bjó til.

Hinn markhópurinn sem reikningaþyrpingin beindi sér að var Kínverjar búsettir erlendis, sem samræmdist því hlutverki hennar að styðja forgangsmál kínverskra stjórnvalda. Þau báðu um opinberar upplýsingar um kínverska andófsmanninn Li Ying, einnig þekktan sem „Li kennara“, og báðu ChatGPT að semja stuttar, móðgandi athugasemdir um hann sem beint var að X-reikningi teymis hans, @whyyoutouzhele. Í síðustu ógnarskýrslu okkar⁠ bentum við á að Li hefði orðið fyrir sambærilegu áreiti á netinu af hálfu einstaklings sem tengdist kínverskum lögregluyfirvöldum. Í þessu tilviki neituðu líkön okkar að búa til æsandi efni eða persónulegar árásir gegn Li. Meðal annarra kínverskra stjórnmálaskýrenda sem þau reyndu að áreita voru Lu Yiheng, Xu Chi og eigandi X-reikningsins @SydneyDaddy1.

Athyglisverð aðferð fólst í að þykjast á netinu vera kínverskir innflytjendur, verkamenn, námsmenn, mæður, skrifstofufólk og fjárfestar í Bandaríkjunum. Markmiðið var að hvetja fyrrverandi kínverskan lögreglumann þar í landi til að gagnrýna Bandaríkin og afhjúpa „dökku hliðina“ á þeim. Gerendurnir báðu ChatGPT að semja skilaboð til YouTube-efnishöfundar þar sem fyrrverandi lögreglumaðurinn var hvattur til að ræða mistök í stefnu Bandaríkjanna. Þetta virtist vera nýstárleg aðferð þar sem uppspunnin gervi kínverskra innflytjenda í Bandaríkjunum voru notuð til að hvetja áhrifavald til að birta efni sem gagnrýndi Bandaríkin.

Auk þess að búa til efni fyrir samfélagsmiðla notuðu reikningarnir ChatGPT til að gera verkferla sína sjálfvirka og auka umfang þeirra. Þar á meðal voru beiðnir um kóða til að gera innskráningu og umsýslu samskipta á mörgum samfélagsmiðlum sjálfvirka. Þau notuðu ChatGPT einnig sem textavinnslutól til að draga út notendanöfn, setja X- eða YouTube-tengla fyrir framan þau, fjarlægja tengla og sníða gögn fyrir vinnublöð.

Upprunaleg mynd af gagnaveri.

Mynd breytt með gervigreind og birt á X af reikningi sem líklega var ósvikinn.

Reikningarnir báðu ChatGPT að semja, fínpússa og breyta vinnuskýrslum sem afhjúpuðu öryggissjónarmið starfseminnar á samfélagsmiðlum og skilning þeirra á greiningarkerfum verkvanganna. Þau sögðu markmiðin vera að koma á fót varanlegum og trúverðugum reikningum, framleiða sjónrænt aðlaðandi efni til að ná til fleiri í markhéruðum og tryggja langlífi reikninganna með því að sjá fyrir aðgerðir verkvanganna.

Ein skýrslan fjallaði sérstaklega um starfsemi á Facebook og lagði áherslu á að skapa raunverulegar, traustvekjandi hversdagspersónur, móta ímynd nýrra reikninga með lífsstíls-, frétta-, álits- og fagefni og nota samskipti milli reikninga til að magna upp frásagnir án þess að glata yfirbragði eðlilegrar þátttöku. Þetta benti til þróaðri verkferla til að viðhalda varanlegri viðveru á bandarískum samfélagsmiðlum og nýta gervigreind við skipulagningu aðgerðanna.

Sama skýrsla sýnir að þau höfðu greint verkvang Facebook ítarlega til að ná til fleiri og draga úr hættu á truflunum. Þau ræddu hvernig nýta mætti efnisvistkerfi Facebook, hópa, síður, myllumerki, auglýsingatól, meðmælakerfi og tilkynningaleiðir til að byggja upp áhrif og ná með tímanum til nýrra markhópa. Þau lýstu þessu sem tveggja þátta nálgun þar sem eðlileg þátttaka og Facebook-auglýsingar færu saman, studdar ítrekuðum prófunum á efni, framsetningu og markhópum. Þau lögðu einnig áherslu á öryggi reikninga, stofnun varareikninga og aðgreiningu á starfsemi reikninga svo verkvangurinn greindi ekki samhæfinguna sem hluta af verkferlinu.