Преминаване към основното съдържание
OpenAI

1 февруари 2025 г.

Безопасност

Операция „Спонсорирано недоволство“: дейност за оказване на влияние

OpenAI блокира акаунти с вероятен произход от Китай, използващи ИИ за генериране на публикации за социалните мрежи на английски и статии на испански.

Зареждане…

Този анализ на конкретен случай е публикуван за първи път в доклада на OpenAI от февруари 2025 г.⁠(отваря се в нов прозорец).

Извършител

Блокирахме акаунти в ChatGPT, които използваха нашите модели за генериране на кратки коментари на английски и обширни новинарски статии на испански. Часовете на тази активност съвпадаха с работното време в континентален Китай. Статиите на испански бяха публикувани от новинарски сайтове в Латинска Америка. Почти всички сайтове посочваха конкретно лице като автор на статиите; в някои случаи в авторското каре те свързваха това лице с китайската компания Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Поведение

Акаунтите подаваха подкани към ChatGPT на китайски и бяха активни предимно през работното време в континентален Китай. Част от дейността съответстваше на скритата операция за влияние, известна като „Спамуфлаж⁠“, за която докладвахме през май: генерираха се кратки коментари на английски и изображения, критикуващи Цай Ся — дисидентка и бивша преподавателка в Централната партийна школа на Китайската комунистическа партия. След това съдържанието се публикуваше в X от акаунти, които се представяха за хора от Съединените щати или Индия.

Туитове, генерирани от акаунти на „Спонсорирано недоволство“.

Туитове, генерирани от тези акаунти с помощта на нашите модели и публикувани от четири различни акаунта в X.

Ако това беше единствената дейност, можеше да заключим, че тя вероятно е свързана със „Спамуфлаж“. Наред с тези кратки коментари обаче акаунтите генерираха и обширни статии на испански, критикуващи САЩ. Тази дейност беше особено интензивна в навечерието на форума на Азиатско-тихоокеанското икономическо сътрудничество (APEC) през 2024 г. в Перу. Извършителят генерираше тези статии, като искаше от нашите модели да превеждат и разширяват публично достъпни статии на китайски.

След това статиите се публикуваха от новинарски сайтове в Латинска Америка — най-вече в Перу, но също и в Мексико и Еквадор. Новинарските сайтове често публикуваха статиите в същия ден, в който акаунтите генерираха съдържанието чрез ChatGPT. Почти всички издания посочваха едно и също лице като автор на статиите. Някои го определяха като законен представител на компания, за която смятаме, че е китайска.

За първи път наблюдаваме как извършител на дейност за влияние, вероятно от Китай, успява да публикува статии в утвърдени медии в Латинска Америка. Някои публикации може да са резултат от финансова договореност: една от статиите, които открихме чрез проучване на открити източници, беше обозначена като „спонсорирана“. Освен това извършителят използваше ChatGPT за превод на текстове, свързани с разписки на испански от латиноамериканска новинарска организация, което също сочи към платено публикуване.

Спонсорирана статия, генерирана в рамките на дейността на „Спонсорирано недоволство“.

Екранна снимка на статия, генерирана от този извършител и публикувана от сайта wapa[.]pe. Обърнете внимание на обозначението „спонсорирано“, което указва спонсорирано съдържание.

Предвид очевидното използване на спонсорирано съдържание и отрицателното отношение на кампанията към политическия живот и политиките на САЩ я нарекохме „Спонсорирано недоволство“.

Генерирани отговори

Извършителят генерираше два основни вида съдържание: кратки критики към Цай Ся на английски и китайски и обширни статии на испански.

За да генерира критики към Цай Ся, операторът обикновено искаше от ChatGPT да отговори на нейни туитове или видеоклипове, или на споменаванията ѝ в медиите. Някои от коментарите поставяха под съмнение познанията ѝ по теми като Тайван, интернет, китайската литература и история. Други я обвиняваха в нарушения на визовия режим.

Обширните статии на испански се фокусираха върху обществените и политическите разделения в Съединените щати, като обикновено се основаваха на текущи събития и извънредни новини. Темите включваха неравенство, политическо насилие, дискриминация и сексизъм, както и съобщения за престъпления и критики към външната политика на САЩ. Социални кризи като употребата на наркотици и бездомността също бяха сред водещите теми. Операторът често представяше тези кризи или проблеми като признак за провал на американското управление или общество. Критиките като цяло бяха насочени и към двете основни партии в САЩ.

Въздействие

Не открихме доказателства, че съдържанието срещу Цай Ся в социалните мрежи е предизвикало значителна ангажираност от реални потребители. Акаунтите в социалните мрежи, които го публикуваха, обикновено имаха малко последователи и минимални взаимодействия с публикациите.

За първи път обаче наблюдаваме как операция за влияние с произход от Китай успява да прокара в латиноамерикански медии обширни статии, критикуващи САЩ. Макар това да е постигнато поне отчасти чрез заплащане за публикуване на съдържанието, доколкото ни е известно, то представлява досега неописано направление на дейност. То протичаше успоредно с по-типичната активност в социалните мрежи и може да е достигнало значително по-широка аудитория, въпреки че не можем независимо да установим степента на ангажираност.

Прилагайки Скалата за пробив⁠(отваря се в нов прозорец) за оценка на въздействието на операциите за влияние, която ги оценява от 1 (най-ниско) до 6 (най-високо), бихме отнесли тази операция към категория 4 (пробив в утвърдените медии) заради широката читателска аудитория на латиноамериканските новинарски сайтове.

Заглавия на публикувани статии, свързани с тази дейност

Установихме, че тези статии съответстват на съдържание, генерирано от този извършител с помощта на нашите модели.

  • Грозната истина за това как Съединените щати печелят от помощта за войната в Украйна (La Republica, Перу).

  • Трагичната реалност на бездомността в Съединените щати (Wapa, Перу).

  • Безумната логика на американските санкции срещу палестински активист (El Popular, Перу).

  • Абсурдният сценарий на мъжествеността (Libero, Перу).

  • Вездесъщи сенки (El Popular, Перу).

  • Презрението на висшите партийни кръгове към демокрацията в САЩ (El Popular, Перу).

  • Липсата на прозрачност в предизборните речи и манипулирането на общественото мнение (Libero, Перу).

  • Стачката и борбата на хотелските работници (La Republica, Перу).

  • Безсилието и самоограничаването на американските санкции (El Universal, Мексико).

  • Безмълвните викове под игото на фентанила (La Republica, Перу).

  • Ураганът „Хелийн“: неверни твърдения и конспиративни теории на американски политици (Wapa, Перу).

  • Митническа мъгла: късогледата политика на Тръмп и бъдещето на американската икономика (La Republica, Перу).

  • Проблемът с продоволствената сигурност в американското общество и отражението му върху училищата (Extra, Еквадор).

  • Трагедията на Съединените щати: когато истината се прикрива (Expreso, Еквадор).

  • Кризата с безопасността на децата в Съединените щати (La Republica, Перу).

  • Сянката на насилието в Бруклин (El Plural, Испания).

  • Луксът на един убиец: операцията, платена от данъкоплатците (El Universal, Мексико).

  • Подкрепа за Израел и пренебрежение към хуманитарната криза (La Republica, Перу).

  • Разрушителната надпревара на изборите в САЩ (Wapa, Перу).