Operacija „Podrugljiva recenzija“: aktivnost utjecaja porijeklom iz Kine
OpenAI je blokirao račune koji su koristili AI za generisanje objava s kritikama tajvanskog influensera i povezanih tema iz SAD-a.
Ova studija slučaja prvobitno je objavljena u OpenAI-jevom izvještaju iz juna 2025(otvara se u novom prozoru). godine.
Akter
Blokirali smo ChatGPT račune za koje smo utvrdili da koriste naše modele za masovno generisanje objava na društvenim mrežama u skladu s aktivnostima prikrivene operacije utjecaja. Tokom istrage također smo primijetili da se ovi računi koriste za izradu internih ocjena učinka.
S ovih računa uglavnom su slani upiti na kineskom jeziku, usmjereni na političke i geopolitičke teme relevantne za Kinu. Jedan korisnik naveo je u upitu da radi za kineski Odjel za propagandu, ali nemamo nezavisne dokaze kojima bismo potvrdili tu tvrdnju.
Ponašanje
Računi koje smo blokirali korišteni su za dvije glavne vrste aktivnosti. Najzastupljenija je bila izrada kratkih komentara za društvene mreže na engleskom i kineskom jeziku, uz nekoliko komentara na urdu jeziku. Mnoge od tih komentara pronašli smo na TikToku i X-u, dok se dodatni sadržaj pojavljivao na Redditu, Facebooku i različitim web-stranicama.
Uobičajeni obrazac podrazumijevao je objavljivanje početnog komentara s „glavnog“ računa, koji je često naizgled bio otvoren samo za tu objavu, nakon čega je slijedio niz odgovora s drugih računa. Čini se da je cilj takvog ponašanja bio stvoriti lažan dojam spontanih interakcija.
Objava na TikToku pod naslovom „Gašenje #USAID-a samo je #POČETAK!“, povezana s ovom aktivnošću. Naziv kanala, tekst titlova u videozapisu i sve komentare vidljive na ovom snimku ekrana generisala je ova mreža pomoću ChatGPT‑a.
Na TikToku su računi koji su ostavljali komentare koristili korisnička imena na različitim jezicima i pismima, često nepovezanim s jezikom sadržaja koji su objavljivali. Naprimjer, račun s korejskim imenom objavio je komentar na urdu jeziku, dok su računi s tajlandskim i hebrejskim imenima objavljivali komentare na engleskom koje je generisala ova mreža. Na X-u su računi koji su ostavljali komentare obično imali crtane profilne slike, a u nekim slučajevima i imena povezana s kriptovalutama.
Objava na X-u i odgovori na nju, koje je ova mreža generisala pomoću ChatGPT‑a.
Mreža je bila manje aktivna na Facebooku. Njena aktivnost uglavnom se odnosila na generisanje naziva i profilnih slika za dvije stranice koje su se predstavljale kao mediji. Nijedna stranica nije imala pratioce ni oznake „sviđa mi se“, a na svakoj je bilo svega nekoliko objava.
Objava na Facebooku u kojoj je podijeljen videozapis za koji smo utvrdili da je vjerovatno povezan s ovom operacijom.
Mreža je povremeno generisala duže objave na kineskom ili engleskom jeziku. Jednu takvu objavu pronašli smo na Redditu, a još dvije na različitim internetskim forumima. Druga vrsta aktivnosti sastojala se od korištenja ChatGPT‑a za izradu dokumenata koji su, čini se, bili namijenjeni internim politikama ili ocjeni učinka.
Generisani sadržaj
Sadržaj za društvene mreže koji je generisao ovaj akter prijetnje obuhvatao je niz tema usko povezanih s geostrateškim interesima Kine.
Dio sadržaja bio je usmjeren na Tajvan, posebno na „Obrnuti front“(otvara se u novom prozoru) („逆統戰“), videoigru i društvenu igru usmjerenu na Tajvan koja zamišlja otpor Komunističkoj partiji Kine. Mreža je generisala desetine kritičkih komentara o igri na kineskom jeziku, nakon čega je uslijedio dugačak članak u kojem se tvrdilo da je igra naišla na široku osudu. To je bila najupečatljivija aktivnost ove operacije, pa smo je zbog toga nazvali „Podrugljiva recenzija“.
Drugi sadržaj, na engleskom i urdu jeziku, bio je usmjeren na pakistansku aktivisticu Mahrang Baloch, koja je javno kritizirala kineska ulaganja u Balochistanu(otvara se u novom prozoru). TikTok račun i Facebook stranica povezani s mrežom objavili su videozapis u kojem se Baloch lažno optužuje da se pojavila u pornografskom filmu. Operacija je zatim generisala stotine kratkih komentara na oba jezika kako bi stvorila privid velikog broja interakcija.
Zgroženi komentari na TikTok videozapisu o Mahrang Baloch.
Posljednji skup sadržaja bio je usmjeren na zatvaranje američke Agencije za međunarodni razvoj (USAID), uz generisanje kratkih komentara koji su taj potez hvalili ili kritizirali. Ti komentari objavljeni su na TikToku i X-u.
Objave na X-u koje povezuju pitanje pomoći s pitanjem carina, a koje je ova mreža generisala pomoću ChatGPT‑a.
Na kraju, akteri prijetnje koristili su naše modele za izradu dokumenata koji su, čini se, bili interni, uključujući detaljan esej napisan u stilu službenog dokumenta javne sigurnosti i ocjenu učinka s opisom koraka poduzetih radi uspostavljanja i vođenja operacije.
Utjecaj
Čini se da je ova operacija bila u početnoj fazi kada smo joj onemogućili korištenje naših modela. Nijedna Facebook stranica nije imala pratioce. Na Redditu je jedna objava dobila 44 pozitivna glasa, dok su druge dvije blokirane ili uklonjene s podreddita na kojima su objavljene.
Snimak ekrana objave s Reddit računa koji smo identificirali kao dio ove mreže, a koji pokazuje da su je uklonili filteri platforme.
Broj interakcija na X-u i TikToku bio je neujednačeniji: dva videozapisa na TikToku zajedno su prikupila 25.000 oznaka „sviđa mi se“, dok su objave glavnog računa ove operacije na X-u obično imale oko 10.000 pregleda. Međutim, mnoge komentare na tim objavama generisala je ova mreža pomoću ChatGPT‑a, što ukazuje na to da su barem neke interakcije bile neautentične. Stoga sve podatke o interakcijama treba tumačiti s oprezom.
Prema Skali prodora(otvara se u novom prozoru) za mjerenje utjecaja operacija utjecaja, ovu bismo operaciju svrstali na donji kraj kategorije 3 ako su podaci o interakcijama na X-u i TikToku autentični. Tu bismo ocjenu snizili ako se pojavi više dokaza koji podržavaju pretpostavku da je većina oznaka „sviđa mi se“ i pregleda, kao i većina komentara, bila neautentična.