Aðgerð „Ruslpóstsfrændi“: Áhrifastarfsemi sem ýtir undir skautun í Bandaríkjunum
OpenAI lokaði reikningum frá Kína sem notuðu gervigreind til að búa til bandarískt stjórnmálaefni og afla upplýsinga um fólk, hreyfingar og netsamfélög.
Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá júní 2025(opnast í nýjum glugga).
Aðili
Við lokuðum nokkrum ChatGPT‑reikningum sem tengdust áhrifaaðgerð frá Kína(opnast í nýjum glugga), eftir ábendingu frá samstarfsfólki okkar hjá Meta. Aðgerðin framleiddi skautandi efni fyrir samfélagsmiðla sem studdi báðar hliðar umdeildra mála í bandarískri stjórnmálaumræðu, þar á meðal texta og prófílmyndir gerðar með gervigreind fyrir miðla á borð við X og Bluesky.
Hegðun
Netið notaði líkön okkar í margvísleg verkefni, einkum til að semja athugasemdir á samfélagsmiðlum sem ýmist studdu eða gagnrýndu tolla. Reikningarnir spurðu líkön okkar um bestu birtingartímana til að hámarka viðbrögð notenda, sem bendir til úthugsaðra aðferða við að auka útbreiðslu.
Tvö tíst sem þessi ógnaraðili samdi með líkönum okkar og studdu sitt hvora hlið umræðunnar um tolla.
Í öðru lagi notuðu reikningarnir getu okkar til myndunar mynda til að búa til stílfærð merki. Þau voru síðan notuð sem prófílmyndir fyrir skáldaðar persónur á samfélagsmiðlum. Reikningarnir lögðu sérstaka áherslu á að skapa persónur bandarískra uppgjafarhermanna sem gagnrýndu núverandi ríkisstjórn Bandaríkjanna.
Reikningur á Bluesky sem birti efni frá þessu neti. Merkið „Uppgjafarhermenn fyrir réttlæti“ var búið til með líkönum okkar.
Að lokum óskuðu reikningarnir ítrekað eftir kóða og aðferðum til að sækja persónuupplýsingar af samfélagsmiðlum á borð við X og Bluesky, svo sem notendasnið, fylgjendalista og aðrar upplýsingar, með verkfærum eins og Tweepy, Nitter og opinberu API-viðmóti Bluesky. Reikningarnir notuðu einnig líkön okkar til að fá leiðbeiningar um greiningu prófílgagna með tilliti til persónueinkenna og tengsla við stofnanir, mögulega til að flokka einstaklinga eða álykta um tengsl þeirra og eiginleika.
Úttak
Reikningarnir framleiddu skautandi efni úr bandarískri stjórnmálaumræðu, oft innan sömu aðgerðarlotu. Í samræmi við þekktar aðferðir áhrifaaðgerða virðist markmiðið fremur hafa verið að nýta sér fyrirliggjandi pólitíska sundrungu en að ýta undir tiltekna hugmyndafræði. Vegna umfangs efnisins og áherslunnar á skilaboð til Bandaríkjamanna kölluðum við aðgerðina „Ruslpóstsfrænda“.
Tíst frá skálduðum persónum með texta sem líkön okkar bjuggu til.
Áhrif
Samkvæmt Breakout-kvarðanum(opnast í nýjum glugga) fyrir áhrif áhrifaaðgerða myndum við meta þetta sem flokk 2: starfsemi á mörgum miðlum, án verulegrar útbreiðslu og með lítil eða engin viðbrögð. Samfélagsmiðlareikningarnir sem birtu efni búið til með líkönum okkar fengu lítil raunveruleg viðbrögð. Flestar X-færslur netsins fengu fá eða engin læk eða endurbirtingar og aðeins örfáar færslur fengu einhver viðbrögð. Sumir samfélagsmiðlareikninganna voru með þúsundir fylgjenda, en við gátum ekki metið hvort þeir væru raunverulegir og fjöldi þeirra virtist ekki skila sér í viðbrögðum við færslum.