Operācija “Tēvocis Spams”: ietekmes aktivitātes ASV polarizēšanai
OpenAI bloķēja ar Ķīnu saistītus kontus, kas izmantoja MI, lai radītu politisku saturu par ASV un pētītu cilvēkus, kustības un tiešsaistes kopienas.
Šis gadījuma pētījums sākotnēji publicēts OpenAI 2025. gada jūnija(atveras jaunā logā) ziņojumā.
Īstenotājs
Pēc informācijas saņemšanas no kolēģiem uzņēmumā Meta mēs bloķējām vairākus ChatGPT kontus, kas bija saistīti ar Ķīnas izcelsmes ietekmes operāciju(atveras jaunā logā). Operācijā tika radīts polarizējošs sociālo tīklu saturs, kas atbalstīja pretējas nostājas strīdīgos ASV politiskā diskursa jautājumos, tostarp teksts un MI ģenerēti profila attēli tādās platformās kā X un Bluesky.
Rīcība
Tīkls izmantoja mūsu modeļus vairākiem uzdevumiem, galvenokārt tādu sociālo tīklu komentāru radīšanai, kuros tarifi tika atbalstīti vai kritizēti. Konti mūsu modeļiem vaicāja optimālo publicēšanas laiku, lai panāktu maksimālu auditorijas iesaisti, kas liecina par apzinātu satura izplatības pastiprināšanas taktiku.
Divi tvīti, kuru tekstu šis apdraudējuma īstenotājs radīja ar mūsu modeļiem, paužot pretējas nostājas diskusijā par tarifiem.
Otrkārt, konti izmantoja mūsu attēlu ģenerēšanas iespējas, lai radītu stilizētus logotipus, kurus pēc tam lietoja kā profila attēlus izdomātām personām dažādās sociālajās platformās. Konti īpaši pievērsās tādu ASV veterānu personu veidošanai, kuri kritizēja pašreizējo ASV administrāciju.
Bluesky konts, kurā tika publicēts šī tīkla radītais saturs. Logotips “Veterāni par taisnīgumu” tika izveidots, izmantojot mūsu modeļus.
Visbeidzot, konti regulāri pieprasīja kodu un metodes personas datu, piemēram, lietotāju profilu, sekotāju sarakstu un citas informācijas, iegūšanai no tādām sociālajām platformām kā X un Bluesky, izmantojot tādus rīkus kā Tweepy un Nitter, kā arī Bluesky publisko API. Konti arī izmantoja mūsu modeļus, lai saņemtu norādījumus profilu datu analīzei un noteiktu personiskās īpašības un saistību ar organizācijām, iespējams, lai iedalītu cilvēkus kategorijās vai izsecinātu viņu saiknes un īpašības.
Radītais saturs
Konti radīja polarizējošu saturu par dažādiem ASV politiskā diskursa jautājumiem, bieži vien vienas un tās pašas operatīvās sesijas laikā. Atbilstoši zināmajām ietekmes operāciju metodēm šīs darbības, visticamāk, bija paredzētas pastāvošo politisko domstarpību izmantošanai, nevis kādas konkrētas ideoloģiskas nostājas popularizēšanai. Satura apjoma un koncentrēšanās uz vēstījumiem ASV auditorijai dēļ mēs šo operāciju iesaucām par “Tēvoci Spamu”.
Izdomātu personu publicēti tvīti ar mūsu modeļu radītu tekstu.
Ietekme
Vērtējot ietekmes operācijas ietekmi pēc Izplatības skalas(atveras jaunā logā), mēs to klasificētu 2. kategorijā: aktivitātes vairākās platformās bez plašākas izplatības vai ar minimālu iesaisti. Sociālo tīklu konti, kas publicēja mūsu modeļu radīto saturu, saņēma maz īstu lietotāju iesaistes. Vairums šī tīkla ierakstu platformā X saņēma maz atzīmju “Patīk” un pārpublicējumu vai nesaņēma tos vispār; nelielu iesaisti guva tikai daži ieraksti. Dažiem sociālo tīklu kontiem bija vairāki tūkstoši sekotāju, taču mēs nevarējām novērtēt šo sekotāju autentiskumu, un to skaits, šķiet, neveicināja iesaisti ierakstos.