Пређите на главни садржај
OpenAI

1. фебруар 2025.

Безбедност

Операција „Спонзорисано незадовољство“: Активности утицаја

OpenAI је забранио налоге вероватно пореклом из Кине који су помоћу вештачке интелигенције генерисали објаве за друштвене мреже на енглеском и чланке на шпанском.

Учитавање…

Ова студија случаја првобитно је објављена у извештају компаније OpenAI из фебруара 2025.⁠(отвара се у новом прозору) године.

Актер

Забранили смо ChatGPT налоге који су користили наше моделе за генерисање кратких коментара на енглеском и дугих новинских чланака на шпанском. Временски распоред ових активности одговарао је радном времену у континенталној Кини. Чланке на шпанском објављивали су информативни сајтови у Латинској Америци. Готово сви сајтови наводили су једну особу као аутора чланака; у неким случајевима су је у потпису чланака повезивали са кинеском компанијом Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Понашање

Са ових налога слати су упити у ChatGPT на кинеском, а налози су углавном били активни током радног времена у континенталној Кини. Део активности одговарао је прикривеној операцији утицаја познатој као „Спамуфлаж⁠“, о којој смо извештавали у мају: генерисани су кратки коментари на енглеском и слике којима се критиковала Цај Сја, дисиденткиња и бивша професорка Централне партијске школе Комунистичке партије Кине. Овај садржај је затим објављиван на мрежи X са налога који су се лажно представљали као особе из Сједињених Држава или Индије.

Твитови које су генерисали налози операције „Спонзорисано незадовољство“.

Твитови које су ови налози генерисали помоћу наших модела, а који су објављени са четири различита налога на мрежи X.

Да је то била једина активност, можда бисмо закључили да је вероватно повезана са „Спамуфлажом“. Међутим, поред ових кратких коментара, налози су генерисали и дуге чланке на шпанском у којима су критиковане САД. Ова активност била је нарочито изражена уочи форума Азијско-пацифичке економске сарадње (APEC) у Перуу 2024. године. Актер је генерисао ове чланке тако што је од наших модела тражио да преведу и прошире јавно доступне чланке на кинеском.

Те чланке су затим објављивали латиноамерички информативни сајтови, пре свега у Перуу, али и у Мексику и Еквадору. Информативни сајтови су често објављивали чланке истог дана када су налози генерисали садржај помоћу ChatGPT‑а. Готово сви медији који су објавили чланке наводили су исту особу као аутора. Неки су ту особу навели као законског заступника компаније за коју верујемо да је кинеска.

Ово је први пут да смо приметили да је актер који спроводи активности утицаја, вероватно из Кине, успео да објави чланке у водећим медијима у Латинској Америци. Неке објаве су можда биле резултат финансијског договора: један од чланака које смо пронашли истраживањем отворених извора био је означен као „спонзорисан“. Поред тога, актер је користио ChatGPT и за превођење навода о потврдама о уплати на шпанском које је издала једна латиноамеричка медијска организација, што указује на плаћено објављивање.

Спонзорисани чланак генерисан у оквиру операције „Спонзорисано незадовољство“.

Снимак екрана чланка који је генерисао овај актер, а објавио сајт wapa[.]pe. Обратите пажњу на ознаку „спонзорисано“, која указује на спонзорисани садржај.

С обзиром на то да је, по свему судећи, коришћен спонзорисани садржај и да је кампања имала негативан став према америчкој политици и политичким мерама, назвали смо је „Спонзорисано незадовољство“.

Генерисани одговори

Овај актер је генерисао две главне врсте садржаја: кратке критике Цај Сје на енглеском и кинеском и дуге чланке на шпанском.

При генерисању критика Цај Сје, оператер је обично тражио од ChatGPT‑а да одговори на њене твитове или видео-снимке, или на медијске објаве у којима се она помиње. Неки коментари доводили су у питање њено познавање тема као што су Тајван, интернет и кинеска књижевност и историја. Други су је оптуживали за неправилности у вези са визама.

Дуги чланци на шпанском бавили су се друштвеним и политичким поделама у Сједињеним Државама, углавном полазећи од актуелних догађаја и најновијих вести. Међу темама су биле неједнакост, политичко насиље, дискриминација и сексизам, као и извештаји о криминалу и критике спољне политике САД. Значајно место заузимале су и друштвене кризе, попут употребе дрога и бескућништва. Оператер је често настојао да ове кризе или проблеме прикаже као показатељ неуспеха америчког руководства или друштва. Активност је углавном била усмерена на обе водеће странке у САД, уз критике на рачун и једне и друге.

Утицај

Нисмо пронашли доказе да је садржај усмерен против Цај Сје на друштвеним мрежама изазвао значајније реакције стварних корисника. Налози на друштвеним мрежама који су га објављивали обично су имали мало пратилаца и веома мало интеракција.

Међутим, ово је први пут да смо приметили да је операција утицаја пореклом из Кине успела да пласира дуге чланке у латиноамеричке медије ради критиковања САД. Иако је то можда постигнуто бар делимично плаћањем за објављивање садржаја, реч је, колико нам је познато, о досад незабележеном правцу деловања. Он се одвијао упоредо са уобичајенијим активностима на друштвеним мрежама и можда је допро до знатно шире публике, мада не можемо независно да утврдимо обим интеракција.

Према скали пробоја⁠(отвара се у новом прозору) за процену учинка операција утицаја, која их оцењује од 1 (најниже) до 6 (највише), ову операцију бисмо сврстали у категорију 4 (пробој у водеће медије), због широке читалачке публике латиноамеричких информативних сајтова.

Наслови објављених чланака повезаних са овом активношћу

Утврдили смо да се ови чланци подударају са садржајем који је овај актер генерисао помоћу наших модела.

  • Ружна истина о томе како Сједињене Државе профитирају од ратне помоћи Украјини (Ла република, Перу).

  • Трагична стварност проблема бескућништва у Сједињеним Државама (Вапа, Перу).

  • Сулуда логика америчких санкција против палестинског активисте (Ел популар, Перу).

  • Апсурдна позорница мушкости (Либеро, Перу).

  • Свеприсутне сенке (Ел популар, Перу).

  • Презир партијског врха према демократији у САД (Ел популар, Перу).

  • Недостатак транспарентности у предизборним говорима и манипулација јавним мњењем (Либеро, Перу).

  • Штрајк и борба хотелских радника (Ла република, Перу).

  • Немоћ америчких санкција и ограничења која саме себи намећу (Ел универзал, Мексико).

  • Неми крици под јармом фентанила (Ла република, Перу).

  • Ураган „Хелен“: Лажне изјаве и теорије завере америчких политичара (Вапа, Перу).

  • Царинска магла: Трампова кратковида политика и будућност америчке привреде (Ла република, Перу).

  • Проблем прехрамбене сигурности у америчком друштву и његов утицај на школе (Екстра, Еквадор).

  • Трагедија Сједињених Држава: Када се истина прикрива (Експресо, Еквадор).

  • Криза безбедности деце у Сједињеним Државама (Ла република, Перу).

  • Сенка насиља у Бруклину (Ел плурал, Шпанија).

  • Луксуз једног убице: Операција коју плаћају порески обвезници (Ел универзал, Мексико).

  • Подршка Израелу и презир према хуманитарној кризи (Ла република, Перу).

  • Деструктивно надметање на изборима у САД (Вапа, Перу).