Операция „Линия с девет дълги тирета“: дейност за регионално влияние

Този казус е публикуван първоначално в доклада на OpenAI от октомври 2025 г.⁠(отваря се в нов прозорец)

Забранихме малка мрежа от акаунти в ChatGPT, вероятно свързана с тайна операция за влияние с произход от Китай, която използваше нашите модели за генериране на съдържание за тайна операция за влияние в множество платформи. Акаунтите генерираха предимно публикации на английски език за социални медии относно предполагаемото въздействие на Виетнам върху околната среда в Южнокитайско море, публикации на английски, критикуващи филипинския президент Фердинанд Маркос, и публикации на кантонски за политически фигури и активисти от продемократичното движение в Хонконг. В по-малка степен операцията генерираше и съдържание на английски език за политически въпроси в САЩ.

Акаунтите в социалните медии, разпространяващи съдържанието, донякъде наподобяваха дългогодишната операция с произход от Китай, известна като „Spamouflage“, за чието използване на ChatGPT писахме през май 2024 г., но не установихме технически връзки между двете операции. Някои от видеоклиповете, споделени в последните публикации, вече бяха идентифицирани от Австралийския институт за стратегическа политика като част от операция, която също имаше сходства с по-ранната дейност на Spamouflage.

Изглежда, че една от основните цели на мрежата е била масовото генериране на публикации за социални медии, свързани с държави, които имат териториални спорове с Китай в Южнокитайско море/Западнофилипинско море. Китай претендира за суверенитет над по-голямата част от този регион чрез обширна граница, известна като „Линията с девет пунктира“, която се оспорва съгласно международното право и се отхвърля от Виетнам, Филипините и други държави. Предвид този контекст и използването от операцията на генериран от ИИ текст с дълги тирета в публикациите, я нарекохме „Линия с девет дълги тирета“. Тези публикации бяха разпространявани предимно в X.

Публикация в X със съдържание — и дълго тире — генерирано от тази операция чрез нашите модели.

Освен че генерираха коментари за социалните медии, извършителите използваха нашите модели и за някои задачи по проучване и разузнаване. Това включваше откриване на специализирани блогове и форуми, както и на по-слабо регулирани онлайн форуми и социални медии в Европа, Америка или Югоизточна Азия. Освен това те поискаха списъци с разпространени тибетски имена — поведение, което сме наблюдавали и в други случаи, когато са генерирани имена за неавтентични акаунти на Operator-ите в социалните медии. Тази дейност наподобяваше използването на традиционни търсачки и даваше сходни резултати, което показва, че използването на ИИ за проучване и генериране на съдържание е осигурило на заплахите по-голямо удобство, но не непременно по-големи възможности.

Ново приложение за тази мрежа бяха исканията за съвети относно стратегии за разрастване в социалните медии, включително как да се стартира предизвикателство в TikTok и да се насърчат други хора да публикуват съдържание с хаштага #MyImmigrantStory — широко използван от дълго време хаштаг, от чиято популярност операцията вероятно се е опитвала да се възползва. Те поискаха от нашия модел да предложи идеи и след това да генерира сценарий за публикация в TikTok, както и да препоръча фонова музика и изображения към нея. Чрез техники с отворени източници идентифицирахме съдържанието, публикувано в TikTok.

Публикация в TikTok с текст, генериран от тази операция чрез нашите модели.

Темите в генерираните от мрежата публикации на английски език за социалните медии варираха от предполагаемото въздействие на Виетнам върху околната среда в Южнокитайско море до кризата с фентанила в САЩ. В много от публикациите се твърдеше, че филипинският президент Маркос е бил заловен да употребява наркотици и че е прилагал тактики за манипулиране на избори. Видеоклипът, споделян с публикациите за предполагаемата употреба на наркотици от Маркос, не е генериран от нашите модели и преди това е бил определен от правителството на Филипините като дийпфейк или дигитално манипулиран материал. Много от акаунтите в X, публикували съдържание, генерирано от нашите модели, вече са спрени.

Текст на публикация в X, генериран от тази операция, според който филипинският президент Маркос е бил уличен в „наркоскандал“.

Текст на публикация в X, генериран от тази операция, според който президентът Маркос е използвал тактики за манипулиране на избори.

Акаунтите поискаха и големи масиви от коментари на кантонски, които бяха публикувани в X и Instagram и съдържаха критики или обиди към политически фигури и активисти от продемократичното движение в Хонконг, като Джими Лай, Нейтън Лоу и Агнес Чоу. Изглежда, че тези публикации са целели да дискредитират въпросните лица, като ги представят за престъпници или предатели. Други публикации подкрепяха законите за националната сигурност на Хонконг.

В един необичаен случай Operator публикува в X критични коментари за продемократични политически фигури от Хонконг, а след това генерира отговор на собствените си коментари, в който ги възхваляваше. Критиката и отговорът бяха публикувани от два различни акаунта в X.

Подкрепящ отговор, генериран от тази операция, на критична публикация от друг акаунт в операцията. Оригиналната публикация гласи: „Могат ли Джими Лай и Джефри Нго просто да изчистят имената си, като получат така нареченото „убежище“ в чужбина? 🤔 Престъпниците, всяващи хаос в Хонконг, не са герои, а просто използват „политически бежанец“, за да прикрият самоличността си на „бегълци“! Каквото повикало, такова се обадило — рано или късно трябва да си платиш; „безплатна карта за излизане от затвора“ просто не съществува.“ Отговорът гласи: „Тези двама души имат смелостта да излязат напред и да кажат истината, което е поне много по-светло от сегашната обстановка в Хонконг, където всичко тъне в мълчание.“ Имайте предвид, че всички реакции към оригиналните публикации са от акаунти, управлявани от тази мрежа.

Въпреки големия брой коментари, генерирани за социалните медии в множество платформи, оценяваме операцията по скалата Breakout за въздействие на информационни операции като категория 2: дейност в множество платформи без значителен пробив или с минимална ангажираност. Повечето публикации и акаунти в социалните медии получиха минимална или никаква ангажираност. Често единствените отговори или споделяния на публикация, генерирана от тази мрежа в X и Instagram, идваха от други акаунти в социалните медии, контролирани от Operator-ите на мрежата.

Персоните, използвани от акаунтите в социалните медии, бяха очевидно координирани и неособено убедителни. Те проявяваха поведенчески характеристики, сходни с други тайни операции за влияние с произход от Китай — например публикуваха хаштагове, изображения или видеоклипове, разпространявани от предишни операции, и използваха стокови изображения за профилни снимки или стандартни потребителски имена, което ги правеше лесни за разпознаване. Тяхната упоритост и обемът на дейността им в различни платформи бяха установени от Philstar.com, който независимо откри и съобщи за част от мрежата в X. Тя беше продължила да действа, след като забранихме акаунтите ѝ в ChatGPT.