Operatsioon „Onu Rämpspost“: USA lõhestamisele suunatud mõjutustegevus
OpenAI blokeeris Hiinast pärit kontod, mis kasutasid tehisintellekti USA poliitilise sisu loomiseks ning inimeste, liikumiste ja veebikogukondade uurimiseks.
See juhtumiuuring avaldati algselt OpenAI 2025. aasta juuni(avaneb uues aknas) aruandes.
Tegutseja
Blokeerisime Meta kolleegidelt saadud vihje põhjal mitu ChatGPT kontot, mis olid seotud Hiinast lähtunud mõjutusoperatsiooniga(avaneb uues aknas). Operatsiooni käigus loodi polariseerivat sotsiaalmeediasisu, mis toetas USA poliitilise arutelu lõhestavate teemade mõlemat poolt. Selline tekst ja tehisintellektiga loodud profiilipildid ilmusid muu hulgas platvormidel X ja Bluesky.
Tegevus
Võrgustik kasutas meie mudeleid mitmeks ülesandeks, eelkõige tollimakse toetavate või kritiseerivate sotsiaalmeediakommentaaride loomiseks. Kontod küsisid meie mudelitelt, millal oleks publiku kaasatuse maksimeerimiseks parim aeg postitada. See viitab läbimõeldud võimendamistaktikale.
Kaks säutsu, mille tekstid lõi see ohutegutseja meie mudelite abil, toetades tollimaksude arutelu vastaspooli.
Teiseks kasutati meie pildi genereerimise võimalusi stiliseeritud logode loomiseks. Neid kasutati seejärel sotsiaalmeediaplatvormidel väljamõeldud isikute profiilipiltidena. Eelkõige keskendusid kontod USA veteranidena esinevate väljamõeldud isikute loomisele, kes kritiseerisid USA praegust valitsust.
Bluesky konto, mis postitas selle võrgustiku loodud sisu. Logo „Veteranid õigluse eest“ loodi meie mudelite abil.
Lisaks küsisid kontod järjepidevalt koodi ja meetodeid, millega hankida sellistelt sotsiaalmeediaplatvormidelt nagu X ja Bluesky isikuandmeid, sealhulgas kasutajaprofiile, jälgijate loendeid ja muid üksikasju. Selleks sooviti kasutada selliseid tööriistu nagu Tweepy, Nitter ja Bluesky avalik API. Kontod küsisid meie mudelitelt ka juhiseid, kuidas analüüsida profiiliandmeid isikuomaduste ja organisatsiooniliste sidemete tuvastamiseks, et inimesi potentsiaalselt liigitada või järeldada nende seoseid ja omadusi.
Väljundid
Kontod lõid USA poliitilise arutelu eri teemasid hõlmavat polariseerivat sisu, sageli samade operatiivseansside jooksul. See näib olevat kooskõlas mõjutusoperatsioonide tuntud meetoditega ja tõenäoliselt mõeldud olemasolevate poliitiliste lõhede ärakasutamiseks, mitte kindla ideoloogilise seisukoha edendamiseks. Sisu maht ja keskendumine ameeriklastele suunatud sõnumitele ajendas meid nimetama seda operatsiooniks „Onu Rämpspost“.
Väljamõeldud isikute postitatud säutsud, mille tekst loodi meie mudelitega.
Mõju
Mõjutusoperatsioonide mõju hindamise läbimurdeskaalal(avaneb uues aknas) liigitaksime selle 2. kategooriasse: tegevus mitmel platvormil, läbimurre puudub ja kaasatus on minimaalne. Meie mudelite loodud sisu postitanud sotsiaalmeediakontod said vähe ehtsat kaasatust. Enamik selle võrgustiku X-is avaldatud postitusi sai vähe või üldse mitte meeldimisi ega taaspostitusi. Vaid mõni postitus pälvis mõningast tähelepanu. Mõnel sotsiaalmeediakontol oli tuhandeid jälgijaid, kuid me ei suutnud nende ehtsust hinnata ning jälgijate arv ei paistnud suurendavat postituste kaasatust.