Операција „Потсмешлива рецензија“: влијателна активност со потекло од Кина
OpenAI забрани сметки што користеле ВИ за да создаваат објави со критики кон тајванска инфлуенсерка на социјалните мрежи и за сродни теми од САД.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од јуни 2025 година(се отвора во нов прозорец).
Актер
Забранивме сметки на ChatGPT за кои откривме дека ги користеле нашите модели за масовно создавање објави на социјалните мрежи, во согласност со активностите на тајна операција за влијание. Во текот на истрагата забележавме и дека овие сметки подготвувале интерни процени на успешноста.
Овие сметки главно задавале промптови на кинески јазик и се фокусирале на политички и геополитички теми важни за Кина. Еден корисник во промпт навел дека работи за кинескиот Оддел за пропаганда, но немаме независни докази за да го потврдиме тоа тврдење.
Однесување
Сметките што ги забранивме биле вклучени во две главни области на работа. Најобемната активност опфаќала создавање кратки коментари за социјалните мрежи на англиски и кинески јазик, како и неколку на урду. Утврдивме дека многу од овие коментари биле објавени на TikTok и X, а дополнителна содржина се појавила на Reddit, Facebook и на различни веб-локации.
Вообичаениот образец опфаќал објавување почетен коментар од „главна“ сметка, која честопати очигледно била создадена само за таа објава, по што следувала низа одговори од други сметки. Се чинеше дека ова однесување било осмислено за да создаде лажен впечаток на органски ангажман.
Објава на TikTok со наслов „Затворањето на #USAID е само #ПОЧЕТОК!“ поврзана со оваа активност. Името на каналот, текстот на титловите во видеото и сите коментари видливи на оваа слика од екранот ги создала оваа мрежа со помош на ChatGPT.
На TikTok, сметките што коментирале користеле кориснички имиња на различни јазици и писма, честопати неповрзани со јазикот на содржината што ја објавувале. На пример, сметка со корејско име објавила коментар на урду, додека сметки со тајландски и хебрејски имиња објавувале коментари на англиски јазик создадени од оваа мрежа. На X, сметките што коментирале обично користеле профилни слики со цртани ликови, а во некои случаи имале имиња поврзани со криптовалути.
Твит и одговори на него, сите создадени од оваа мрежа со помош на ChatGPT.
Мрежата била помалку активна на Facebook. Нејзината активност главно опфаќала создавање имиња и профилни слики за две страници што се претставувале како медиуми. Ниту една од страниците немала следбеници или допаѓања, а на секоја имало само неколку објави.
Објава на Facebook во која се споделува видео што го идентификувавме како веројатно поврзано со оваа операција.
Мрежата повремено создавала подолги објави на кинески или англиски јазик. Идентификувавме една таква објава на Reddit и уште две на различни веб-форуми. Втората област на работа се состоела од користење на ChatGPT за создавање документи што изгледале како интерни процени на политиките или успешноста.
Создадена содржина
Содржината за социјалните мрежи што ја создавал овој актер на закана опфаќала низа теми, сите тесно усогласени со геостратешките интереси на Кина.
Дел од содржината се фокусирал на Тајван, особено насочувајќи се кон „Обратен фронт“(се отвора во нов прозорец) („逆統戰“), видеоигра и друштвена игра посветена на Тајван, која замислува отпор против Кинеската комунистичка партија. Мрежата создала десетици критички коментари за играта на кинески јазик, по што следувала подолга статија во која се тврдело дека играта предизвикала широко распространети негативни реакции. Ова била најпрепознатливата активност на операцијата, па врз таа основа ја нарековме „Потсмешлива рецензија“.
Друга содржина, на англиски и урду, била насочена против пакистанската активистка Махранг Балоч, која јавно ги критикувала кинеските инвестиции во Балочистан(се отвора во нов прозорец). Сметка на TikTok и страница на Facebook поврзани со мрежата објавиле видео во кое Балоч лажно била обвинета дека се појавила во порнографски филм. Потоа, операцијата создала стотици кратки коментари на двата јазика за да симулира широк ангажман.
Шокирани коментари за видеото на Махранг Балоч на TikTok.
Последната група содржини се однесувала на затворањето на американската Агенција за меѓународен развој (USAID), при што биле создадени кратки коментари што ја пофалувале или критикувале одлуката. Овие коментари биле објавени на TikTok и X.
Твитови што го поврзуваат прашањето за помошта со прашањето за царините, создадени од оваа мрежа со помош на ChatGPT.
На крајот, актерите на заканата ги користеле нашите модели за да создадат документи што изгледале како интерни материјали, вклучувајќи детален есеј напишан во стилот на официјален документ за јавна безбедност и процена на успешноста во која биле опишани чекорите за воспоставување и водење на операцијата.
Влијание
Се чини дека операцијата била во почетна фаза кога ја прекинавме нејзината употреба на нашите модели. Ниту една од страниците на Facebook немала следбеници. На Reddit, една објава добила 44 позитивни гласа, додека две други биле блокирани или отстранети од подфорумите каде што биле објавени.
Слика од екранот на објава од сметка на Reddit што ја идентификувавме како дел од оваа мрежа, прикажана како отстранета од филтрите на платформата.
Ангажманот на X и TikTok бил поразновиден: двете видеа на TikTok собрале вкупно 25.000 допаѓања, додека твитовите од главната сметка на операцијата обично добивале по околу 10.000 прегледи. Сепак, многу од коментарите на овие објави биле создадени од оваа мрежа со помош на ChatGPT, што укажува дека барем дел од ангажманот не бил автентичен. Затоа, сите бројки за ангажманот треба да се разгледуваат со претпазливост.
Според скалата Breakout(се отвора во нов прозорец) за влијанието на операциите за влијание, би ја оцениле оваа операција на долната граница од категоријата 3, доколку бројките за ангажманот на X и TikTok се автентични. Би ја намалиле оваа оцена доколку се појават повеќе докази во прилог на хипотезата дека најголемиот дел од допаѓањата и прегледите, како и најголемиот дел од коментарите, не биле автентични.