Pāriet uz galveno saturu
OpenAI

2025. gada 1. februāris

Drošība

Operācija „Sponsorēta neapmierinātība”: ietekmēšanas darbības

OpenAI bloķēja kontus, kuru izcelsme, visticamāk, bija Ķīnā un kuros ar MI ģenerēja sociālo tīklu ierakstus angļu valodā un rakstus spāņu valodā.

Notiek ielāde…

Šī gadījuma izpēte sākotnēji tika publicēta OpenAI 2025. gada februāra⁠(atveras jaunā logā) ziņojumā.

Darbību veicējs

Mēs bloķējām ChatGPT kontus, kuros ar mūsu modeļiem ģenerēja īsus komentārus angļu valodā un izvērstus ziņu rakstus spāņu valodā. Šo darbību laiks atbilda darba laikam kontinentālajā Ķīnā. Rakstus spāņu valodā publicēja Latīņamerikas ziņu vietnes. Gandrīz visās vietnēs kā rakstu autors bija norādīta viena persona; dažos gadījumos autora norādē šī persona bija saistīta ar Ķīnas uzņēmumu Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Rīcība

Šajos kontos uzvednes ChatGPT tika ievadītas ķīniešu valodā, un konti bija aktīvi galvenokārt kontinentālās Ķīnas darba laikā. Dažas darbības atbilda slēptajai ietekmes operācijai „Spama maskēšanās⁠”, par kuru ziņojām maijā: tika ģenerēti īsi komentāri angļu valodā un attēli, kuros kritizēta disidente un bijusī Ķīnas Komunistiskās partijas Centrālās partijas skolas profesore Cai Sja. Pēc tam šis saturs tika publicēts platformā X no kontiem, kuru lietotāji uzdevās par cilvēkiem no Amerikas Savienotajām Valstīm vai Indijas.

Operācijas „Sponsorēta neapmierinātība” kontos ģenerētie tvīti.

Tvīti, kas šajos kontos ģenerēti ar mūsu modeļiem un publicēti četros dažādos X kontos.

Ja tās būtu bijušas vienīgās darbības, mēs, iespējams, būtu secinājuši, ka tās, visticamāk, ir saistītas ar operāciju „Spama maskēšanās”. Tomēr līdztekus šiem īsajiem komentāriem kontos tika ģenerēti arī izvērsti raksti spāņu valodā, kuros kritizētas ASV. Šī aktivitāte bija īpaši izteikta pirms 2024. gada APEC foruma Peru. Darbību veicējs ģenerēja šos rakstus, lūdzot mūsu modeļiem tulkot un izvērst publiski pieejamus rakstus ķīniešu valodā.

Pēc tam šos rakstus publicēja Latīņamerikas ziņu vietnes, īpaši Peru, bet arī Meksikā un Ekvadorā. Ziņu vietnes bieži publicēja rakstus tajā pašā dienā, kad kontos ar ChatGPT tika ģenerēts to saturs. Gandrīz visās publikācijās kā rakstu autors bija norādīta viena un tā pati persona. Dažās publikācijās šī persona bija norādīta kā juridiskais pārstāvis uzņēmumam, kas, mūsuprāt, ir Ķīnas uzņēmums.

Šī ir pirmā reize, kad esam novērojuši, ka ietekmēšanas darbību veicējam, visticamāk, no Ķīnas, izdodas publicēt rakstus Latīņamerikas lielajos medijos. Dažas publikācijas, iespējams, tapušas uz finansiālas vienošanās pamata: viens no rakstiem, ko atradām, pētot atklātos avotus, bija atzīmēts kā „apmaksāts”. Turklāt darbību veicējs izmantoja ChatGPT, lai tulkotu atsauces uz kādas Latīņamerikas ziņu organizācijas maksājumu kvītīm spāņu valodā, kas liecina par maksas publikāciju.

Operācijas „Sponsorēta neapmierinātība” ietvaros ģenerēts apmaksāts raksts.

Ekrānuzņēmums ar šī darbību veicēja ģenerētu rakstu, kas publicēts vietnē wapa[.]pe. Pievērsiet uzmanību norādei „apmaksāts”, kas apzīmē apmaksātu saturu.

Ņemot vērā šķietamo apmaksāta satura izmantošanu un šīs kampaņas negatīvo nostāju pret ASV politisko dzīvi un īstenoto politiku, mēs to nosaucām par „Sponsorētu neapmierinātību”.

Ģenerētais saturs

Šis darbību veicējs ģenerēja divu galveno veidu saturu: īsus, pret Cai Sja vērstus kritiskus komentārus angļu un ķīniešu valodā un izvērstus rakstus spāņu valodā.

Ģenerējot pret Cai Sja vērstu kritiku, operators parasti lūdza ChatGPT atbildēt uz viņas publicētajiem tvītiem vai video, vai uz medijos pausto par viņu. Dažos komentāros tika apšaubīta viņas kompetence tādos jautājumos kā Taivāna, internets, ķīniešu literatūra un vēsture. Citos viņa tika apsūdzēta ar vīzu saistītos pārkāpumos.

Izvērstie raksti spāņu valodā bija veltīti sociālajai un politiskajai sašķeltībai Amerikas Savienotajās Valstīs, parasti balstoties uz aktuāliem notikumiem un jaunākajām ziņām. Tēmas ietvēra nevienlīdzību, politisko vardarbību, diskrimināciju un seksismu, kā arī ziņas par noziedzību un ASV ārpolitikas kritiku. Nozīmīgas tēmas bija arī sociālās krīzes, piemēram, narkotiku lietošana un bezpajumtniecība. Operators bieži atainoja šīs krīzes vai problēmas kā pierādījumu Amerikas vadības vai sabiedrības nespējai. Kritika kopumā nebija vērsta tikai pret vienu politisko pusi — tika kritizētas abas galvenās ASV partijas.

Ietekme

Mēs neesam atraduši pierādījumus tam, ka pret Cai Sja vērstais saturs sociālajos tīklos būtu izraisījis būtisku īstu lietotāju iesaisti. Sociālo tīklu kontiem, kuros tas tika publicēts, parasti bija maz sekotāju un minimāla lietotāju iesaiste.

Tomēr šī ir pirmā reize, kad esam novērojuši, ka Ķīnas izcelsmes ietekmes operācijas ietvaros izdodas panākt izvērstu, ASV kritizējošu rakstu publicēšanu Latīņamerikas medijos. Lai gan tas vismaz daļēji varētu būt panākts, maksājot par satura publicēšanu, cik mums zināms, tas ir iepriekš neaprakstīts darbības virziens. Tas pastāvēja līdztekus ierastākām darbībām sociālajos tīklos un, iespējams, sasniedza ievērojami plašāku auditoriju, lai gan mēs nevaram neatkarīgi pārbaudīt iesaistes līmeni.

Izmantojot izplatības skalu⁠(atveras jaunā logā), kurā ietekmes operāciju ietekmi vērtē no 1 (zemākais līmenis) līdz 6 (augstākais līmenis), mēs šo operāciju ierindotu 4. kategorijā (nonākšana lielajos medijos), jo Latīņamerikas ziņu vietnēm ir plašs lasītāju loks.

Ar šīm darbībām saistīto publicēto rakstu virsraksti

Mēs konstatējām, ka šie raksti atbilst saturam, ko šis darbību veicējs ģenerēja ar mūsu modeļiem.

  • Nepatīkamā patiesība par to, kā ASV gūst labumu no palīdzības Ukrainai karā (La Republica, Peru).

  • Bezpajumtniecības problēmas traģiskā realitāte ASV (Wapa, Peru).

  • ASV sankciju pret palestīniešu aktīvistu neprātīgā loģika (El Popular, Peru).

  • Vīrišķības absurdā skatuve (Libero, Peru).

  • Visuresošās ēnas (El Popular, Peru).

  • Partiju augstāko aprindu nicinājums pret demokrātiju ASV (El Popular, Peru).

  • Atklātības trūkums vēlēšanu runās un manipulēšana ar sabiedrisko domu (Libero, Peru).

  • Viesnīcu darbinieku streiks un cīņa (La Republica, Peru).

  • ASV sankciju bezspēcība un pašu radītie ierobežojumi (El Universal, Meksika).

  • Klusie kliedzieni fentanila jūgā (La Republica, Peru).

  • Viesuļvētra „Helēna”: ASV politiķu nepatiesie apgalvojumi un sazvērestības teorijas (Wapa, Peru).

  • Muitas tarifu migla: Trampa tuvredzīgā politika un ASV ekonomikas nākotne (La Republica, Peru).

  • Pārtikas nodrošinājuma problēma ASV sabiedrībā un tās ietekme uz skolām (Extra, Ekvadora).

  • ASV traģēdija: kad patiesība tiek slēpta (Expreso, Ekvadora).

  • Bērnu drošības krīze ASV (La Republica, Peru).

  • Vardarbības ēna Bruklinā (El Plural, Spānija).

  • Slepkavas greznība: nodokļu maksātāju apmaksāta operācija (El Universal, Meksika).

  • Atbalsts Izraēlai un vienaldzība pret humanitāro krīzi (La Republica, Peru).

  • Destruktīvā sāncensība ASV vēlēšanās (Wapa, Peru).