Operacija „Dėdė šlamštas“: JAV susipriešinimą kurstanti įtakos veikla
OpenAI užblokavo su Kinija siejamas paskyras, kurios pasitelkė DI kurdamos JAV politinį turinį ir rinkdamos informaciją apie žmones, judėjimus bei interneto bendruomenes.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. birželio(atsidaro naujame lange) ataskaitoje.
Veikėjas
Gavę informacijos iš kolegų bendrovėje Meta, užblokavome kelias ChatGPT paskyras, susijusias su Kinijoje vykdyta įtakos operacija(atsidaro naujame lange). Vykdant operaciją buvo kuriamas visuomenę skaldantis socialinių tinklų turinys, palaikantis abi nesutarimus keliančių JAV politinių diskusijų temų puses, įskaitant tekstus ir DI sukurtus profilio vaizdus tokiose platformose kaip X ir Bluesky.
Elgsena
Tinklas mūsų modelius naudojo įvairioms užduotims, daugiausia – socialinių tinklų komentarams, kuriuose muitai buvo palaikomi arba kritikuojami, kurti. Paskyrų valdytojai mūsų modelių klausė, kada geriausia skelbti įrašus, kad auditorijos įsitraukimas būtų kuo didesnis. Tai rodo apgalvotą turinio sklaidos didinimo taktiką.
Du šio grėsmę keliančio veikėjo įrašai platformoje X, kurių tekstai sukurti naudojant mūsų modelius ir palaiko skirtingas diskusijos dėl muitų puses.
Be to, paskyrų valdytojai pasitelkė mūsų vaizdų generavimo funkcijas stilizuotiems logotipams kurti. Vėliau šie logotipai buvo naudojami kaip išgalvotų asmenų profilio nuotraukos įvairiose socialinėse platformose. Paskyrų valdytojai ypač daug dėmesio skyrė dabartinę JAV administraciją kritikuojančių JAV veteranų tapatybėms kurti.
Bluesky paskyra, skelbusi šio tinklo sukurtą turinį. Logotipas „Veteranai už teisingumą“ sukurtas naudojant mūsų modelius.
Galiausiai paskyrų valdytojai nuolat prašė kodo ir metodų, padedančių iš tokių socialinių platformų kaip X ir Bluesky išgauti asmens duomenis, pavyzdžiui, naudotojų profilius, sekėjų sąrašus ir kitą informaciją, naudojant Tweepy, Nitter bei viešąją Bluesky API. Paskyrų valdytojai taip pat naudojosi mūsų modelių patarimais, kaip analizuoti profilių duomenis, siekiant nustatyti asmenines savybes ir ryšius su organizacijomis, galbūt tam, kad būtų galima suskirstyti žmones į kategorijas ar numanyti jų ryšius bei savybes.
Rezultatai
Paskyrų valdytojai kūrė įvairias JAV politinio diskurso temas apimantį visuomenę skaldantį turinį, dažnai per tas pačias veiklos sesijas. Kaip būdinga žinomiems įtakos operacijų metodams, šia veikla greičiausiai siekta pasinaudoti esama politine priešprieša, o ne propaguoti konkrečią ideologinę poziciją. Dėl didelio turinio kiekio ir dėmesio JAV auditorijai šią operaciją praminėme „Dėde šlamštu“.
Išgalvotų asmenų paskelbti įrašai platformoje X, kurių tekstai sukurti mūsų modeliais.
Poveikis
Pagal įtakos operacijų poveikiui vertinti skirtą išplitimo skalę(atsidaro naujame lange) šią veiklą priskirtume 2 kategorijai: veikla vykdyta keliose platformose, tačiau neišplito arba sulaukė minimalaus įsitraukimo. Socialinių tinklų paskyros, skelbusios mūsų modelių sukurtą turinį, sulaukė mažai tikro naudotojų įsitraukimo. Dauguma šio tinklo įrašų platformoje X sulaukė vos kelių arba nė vieno patiktuko ar pasidalijimo; tik keli įrašai sulaukė kiek didesnio dėmesio. Kai kurios socialinių tinklų paskyros turėjo tūkstančius sekėjų, tačiau negalėjome įvertinti jų autentiškumo, o didelis sekėjų skaičius, regis, nepadidino įsitraukimo į įrašus.