Operacija „Pašaipų apžvalga“: įtakos veikla iš Kinijos
OpenAI užblokavo paskyras, kurios naudodamos DI kūrė įrašus, kritikuojančius Taivano socialinių tinklų nuomonės formuotoją ir su JAV susijusias temas.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. birželio(atsidaro naujame lange) ataskaitoje.
Veikėjas
Užblokavome ChatGPT paskyras, kurios, kaip nustatėme, naudodamos mūsų modelius masiškai generavo socialinių tinklų įrašus, būdingus slaptai įtakos operacijai. Tyrimo metu taip pat pastebėjome, kad šiomis paskyromis buvo rengiami vidiniai veiklos rezultatų vertinimai.
Iš šių paskyrų užklausos daugiausia buvo teikiamos kinų kalba ir buvo susijusios su Kinijai aktualiomis politinėmis bei geopolitinėmis temomis. Vienas naudotojas užklausoje teigė dirbantis Kinijos propagandos departamente, tačiau neturime nepriklausomų įrodymų šiam teiginiui patvirtinti.
Elgsena
Mūsų užblokuotos paskyros buvo naudojamos dviem pagrindinėmis veiklos kryptimis. Aktyviausia kryptis buvo trumpų socialinių tinklų komentarų generavimas anglų ir kinų kalbomis; keli komentarai sukurti urdu kalba. Daugelį šių komentarų aptikome paskelbtus „TikTok“ ir „X“, o papildomo turinio rasta „Reddit“, „Facebook“ ir įvairiose interneto svetainėse.
Įprastai pradinis komentaras būdavo paskelbiamas iš „pagrindinės“ paskyros, dažnai, regis, sukurtos vien tam įrašui, o tada iš kitų paskyrų paskelbiama virtinė atsakymų. Tokia elgsena, regis, turėjo sudaryti klaidingą natūralaus įsitraukimo įspūdį.
Su šia veikla susijęs „TikTok“ įrašas pavadinimu „#USAID uždarymas – tik #PRADŽIA!“ Kanalo pavadinimą, vaizdo įrašo subtitrus ir visus šioje ekrano kopijoje matomus komentarus šis tinklas sugeneravo naudodamas ChatGPT.
„TikTok“ komentarus skelbusios paskyros naudojo įvairių kalbų ir abėcėlių rodomus vardus, dažnai nesusijusius su jų skelbiamo turinio kalba. Pavyzdžiui, paskyra korėjietišku vardu paskelbė komentarą urdu kalba, o paskyros tajų ir hebrajų vardais skelbė šio tinklo sugeneruotus komentarus anglų kalba. „X“ komentarus skelbusios paskyros paprastai naudojo animacinius profilio vaizdus, o kai kurių jų vardai buvo susiję su kriptovaliutomis.
Tviterio įrašas ir atsakymai į jį – viską šis tinklas sugeneravo naudodamas ChatGPT.
„Facebook“ tinkle šis tinklas veikė ne taip aktyviai. Jo veiklą daugiausia sudarė dviejų naujienų kanalais apsimetusių puslapių pavadinimų ir profilio nuotraukų generavimas. Nė vienas puslapis neturėjo sekėjų ar patiktukų, o kiekviename buvo vos po kelis įrašus.
„Facebook“ įrašas, kuriame bendrinamas vaizdo įrašas, mūsų vertinimu, veikiausiai susijęs su šia operacija.
Kartais tinklas generuodavo ilgesnius įrašus kinų arba anglų kalba. Vieną tokį įrašą aptikome „Reddit“, dar du – įvairiuose interneto forumuose. Antroji veiklos kryptis buvo ChatGPT naudojimas dokumentams, kurie, regis, buvo skirti vidaus politikai ar veiklos rezultatams vertinti, generuoti.
Sugeneruotas turinys
Šio grėsmės veikėjo sugeneruotas socialinių tinklų turinys apėmė įvairias temas, glaudžiai susijusias su Kinijos geostrateginiais interesais.
Dalis turinio buvo skirta Taivanui, ypač „Apverstam frontui“(atsidaro naujame lange) („逆統戰“) – į Taivaną orientuotam vaizdo ir stalo žaidimui apie pasipriešinimą Kinijos komunistų partijai. Tinklas kinų kalba sugeneravo dešimtis kritiškų komentarų apie šį žaidimą, o paskui – ilgą straipsnį, kuriame teigta, kad žaidimas sulaukė plataus pasipiktinimo. Tai buvo išskirtiniausia šios operacijos veikla, todėl operaciją pavadinome „Pašaipų apžvalga“.
Kitas turinys anglų ir urdu kalbomis buvo nukreiptas prieš Pakistano aktyvistę Mahrang Baloch, kuri viešai kritikavo Kinijos investicijas Beludžistane(atsidaro naujame lange). Su tinklu susieta „TikTok“ paskyra ir „Facebook“ puslapis paskelbė vaizdo įrašą, kuriame Baloch melagingai kaltinta pasirodžiusi pornografiniame filme. Tada operacija abiem kalbomis sugeneravo šimtus trumpų komentarų, kad imituotų platų įsitraukimą.
Pasibaisėjimą reiškiantys komentarai po Mahrang Baloch „TikTok“ vaizdo įrašu.
Paskutinė turinio grupė buvo skirta JAV Tarptautinės plėtros agentūros (USAID) uždarymui: buvo generuojami trumpi komentarai, kuriuose šis sprendimas giriamas arba kritikuojamas. Šie komentarai buvo skelbiami „TikTok“ ir „X“.
Šio tinklo naudojant ChatGPT sugeneruoti tviterio įrašai, kuriuose paramos klausimas siejamas su muitų klausimu.
Galiausiai grėsmės veikėjai mūsų modeliais generavo, regis, vidaus dokumentus, įskaitant išsamią oficialaus visuomenės saugumo dokumento stiliumi parašytą analizę ir veiklos rezultatų apžvalgą, kurioje aprašyti operacijos sukūrimo bei vykdymo veiksmai.
Poveikis
Kai sustabdėme šios operacijos vykdytojų galimybę naudotis mūsų modeliais, operacija, regis, dar buvo pradiniame etape. Nė vienas „Facebook“ puslapis neturėjo sekėjų. Vienas „Reddit“ įrašas sulaukė 44 teigiamų įvertinimų, o kitus du užblokavo arba pašalino bendruomenės, kuriose jie buvo paskelbti.
„Reddit“ paskyros, kurią priskyrėme šiam tinklui, įrašo ekrano kopija, rodanti, kad platformos filtrai jį pašalino.
Įsitraukimas „X“ ir „TikTok“ buvo įvairesnis: abu „TikTok“ vaizdo įrašai iš viso sulaukė 25 000 patiktukų, o pagrindinės operacijos paskyros tviterio įrašai paprastai surinkdavo maždaug po 10 000 peržiūrų. Tačiau daugelį šių įrašų komentarų tinklas sugeneravo naudodamas ChatGPT, o tai rodo, kad bent dalis įsitraukimo buvo neautentiška. Todėl visus įsitraukimo rodiklius reikėtų vertinti atsargiai.
Pagal įtakos operacijų poveikio „Breakout“ skalę(atsidaro naujame lange) šią operaciją priskirtume žemutinei 3 kategorijos ribai, jei įsitraukimo „X“ ir „TikTok“ rodikliai būtų autentiški. Šį vertinimą sumažintume, jei atsirastų daugiau įrodymų, pagrindžiančių prielaidą, kad dauguma patiktukų ir peržiūrų, kaip ir dauguma komentarų, buvo neautentiški.