Операция „Присмехулна рецензия“: дейност за влияние с произход от Китай
OpenAI забрани акаунти, използвали ИИ за създаване на публикации срещу тайванска инфлуенсърка и по свързани със САЩ теми.
Този казус първоначално беше публикуван в доклада на OpenAI от юни 2025 г.(отваря се в нов прозорец)
Извършител
Забранихме акаунти в ChatGPT, за които установихме, че използват моделите ни за масово създаване на публикации в социалните мрежи, съответстващи на дейността на тайна операция за влияние. В хода на разследването забелязахме също, че тези акаунти изготвят вътрешни оценки на представянето.
Тези акаунти изпращаха предимно подкани на китайски и се съсредоточаваха върху политически и геополитически теми, свързани с Китай. В подкана един потребител заяви, че работи за китайския Отдел за пропаганда, но не разполагаме с независими доказателства, които да потвърдят твърдението.
Поведение
Забранените от нас акаунти извършваха два основни вида дейност. По-мащабната дейност включваше създаване на кратки коментари за социалните мрежи на английски и китайски, както и на няколко на урду. Установихме, че много от тези коментари са публикувани в TikTok и X, а допълнително съдържание се появява в Reddit, Facebook и различни уебсайтове.
Обичайният модел беше първоначален коментар от „основен“ акаунт, често очевидно създаден само за тази публикация, последван от поредица от отговори от други акаунти. Изглежда, че целта на това поведение е била да създаде фалшиво впечатление за органична ангажираност.
Публикация в TikTok със заглавие „Закриването на #USAID е само #НАЧАЛОТО!“, свързана с тази дейност. Името на канала, текстът на субтитрите във видеоклипа и всички коментари на тази екранна снимка са създадени от мрежата чрез ChatGPT.
В TikTok коментиращите акаунти използваха имена на различни езици и азбуки, които често нямаха връзка с езика на публикуваното от тях съдържание. Например акаунт с корейско име публикува коментар на урду, а акаунти с тайландски и еврейски имена публикуваха създадени от мрежата коментари на английски. В X коментиращите акаунти обикновено използваха анимационни профилни изображения, а в някои случаи имаха имена, свързани с криптовалути.
Публикация в X и отговорите към нея, създадени изцяло от тази мрежа чрез ChatGPT.
Мрежата беше по-слабо активна във Facebook. Дейността ѝ се състоеше основно в създаване на имена и профилни снимки за две страници, представящи се за новинарски медии. Нито една от страниците нямаше последователи или харесвания, а всяка съдържаше само по няколко публикации.
Публикация във Facebook, споделяща видеоклип, за който установихме, че вероятно е свързан с тази операция.
Понякога мрежата създаваше по-дълги публикации на китайски или английски. Открихме една такава публикация в Reddit и още две в различни уеб форуми. Вторият вид дейност включваше използването на ChatGPT за създаване на документи, които изглежда са били вътрешни политики или оценки на представянето.
Създадено съдържание
Съдържанието за социалните мрежи, създадено от този злонамерен извършител, обхващаше редица теми, тясно свързани с геостратегическите интереси на Китай.
Част от съдържанието беше насочено към Тайван и по-конкретно към „Обърнат фронт“(отваря се в нов прозорец) („逆統戰“) — фокусирана върху Тайван видео и настолна игра, представяща съпротива срещу Китайската комунистическа партия. Мрежата създаде десетки критични коментари за играта на китайски, последвани от дълга статия, в която се твърдеше, че тя е предизвикала широко недоволство. Това беше най-отличителната дейност на операцията и въз основа на нея я нарекохме „Присмехулна рецензия“.
Друго съдържание на английски и урду беше насочено срещу пакистанската активистка Махранг Балоч, която публично критикува китайските инвестиции в Белуджистан(отваря се в нов прозорец). Акаунт в TikTok и страница във Facebook, свързани с мрежата, публикуваха видеоклип, в който Балоч беше невярно обвинена, че е участвала в порнографски филм. След това операцията създаде стотици кратки коментари на двата езика, за да симулира широка ангажираност.
Шокирани коментари под видеоклипа на Махранг Балоч в TikTok.
Последната група съдържание беше посветена на закриването на американската Агенция за международно развитие (USAID) и включваше кратки коментари, които одобряваха или критикуваха решението. Тези коментари бяха публикувани в TikTok и X.
Публикации в X, обвързващи въпроса за помощта с този за митата, създадени от тази мрежа чрез ChatGPT.
Накрая злонамерените извършители използваха моделите ни, за да създадат очевидно вътрешни документи, включително подробно есе в стила на официален документ за обществена сигурност и оценка на представянето, описваща предприетите стъпки за създаване и управление на операцията.
Въздействие
Изглежда, че операцията е била в начален етап, когато прекъснахме използването на моделите ни за нея. Нито една от страниците във Facebook нямаше последователи. В Reddit една публикация получи 44 положителни гласа, а други две бяха блокирани или премахнати от общностите, в които бяха публикувани.
Екранна снимка на публикация от акаунт в Reddit, който идентифицирахме като част от тази мрежа. Вижда се, че публикацията е премахната от филтрите на платформата.
Ангажираността в X и TikTok беше по-различна: двата видеоклипа в TikTok събраха общо 25 000 харесвания, а публикациите от основния акаунт на операцията в X обикновено получаваха около 10 000 гледания всяка. Много от коментарите под тези публикации обаче бяха създадени от мрежата чрез ChatGPT, което показва, че поне част от ангажираността е била неавтентична. Поради това към всички данни за ангажираността трябва да се подхожда предпазливо.
Ако данните за ангажираността в X и TikTok са автентични, по скалата Breakout(отваря се в нов прозорец) за въздействието на операциите за влияние бихме оценили тази операция в долната граница на категория 3. Бихме понижили тази оценка, ако се появят още доказателства в подкрепа на хипотезата, че повечето харесвания и гледания, подобно на повечето коментари, са били неавтентични.