Операцијата „Spamouflage“: активности за влијание поврзани со Кина

Оваа студија на случај првично беше објавена во извештајот на OpenAI за мај 2024 година⁠(се отвора во нов прозорец).

Блокиравме мал број сметки поврзани со операцијата со потекло од Кина, позната како „Spamouflage“⁠(се отвора во нов прозорец). Meta⁠(се отвора во нов прозорец) ја припиша оваа операција на „лица поврзани со кинеските органи за спроведување на законот“. ФБИ⁠(се отвора во нов прозорец) припиша дел од активностите на оваа операција на социјалните мрежи на единица во рамките на кинеското Министерство за јавна безбедност.

Оваа мрежа беше насочена кон публика низ целиот свет, особено кон припадници на кинеската дијаспора и критичари на кинеската влада. Главно генерираше содржина на кинески, а во помала мера на англиски, јапонски и корејски јазик.

Мрежата ги користеше нашите модели за отстранување грешки во код, барање совети за анализа на социјалните мрежи, истражување вести и тековни настани и генерирање содржина што потоа се објавуваше на блогови, форуми и социјални мрежи.

На пример, во 2023 година мрежата ги користеше нашите модели за отстранување грешки во кодот со кој се поставуваше темата на WordPress за веб-локацијата revealscum.com. На оваа веб-локација се објавуваа критики на кинески јазик и лични информации за припадници на кинеската дијаспора што ја критикуваа кинеската влада. Овие критичари ги нарекуваше „предавници“. Самата содржина не беше генерирана со нашите модели.

Оваа кампања ги користеше нашите модели и за создавање содржина што потоа беше објавувана на социјални мрежи и форуми. На пример, кон крајот на 2023 година операцијата генерираше статии во кои Јапонија беше обвинета дека ѝ штети на морската животна средина со испуштањето отпадна вода од електраната Фукушима. Ги пронајдовме статиите на платформи како Medium, Blogspot и ameblo.jp.

Во април 2024 година кампањата објави низа коментари на англиски јазик во кои се критикуваше кинеската дисидентка Цаи Сја. Откривме една сметка на X што го објавила првичниот коментар и група други сметки што ги објавиле останатите коментари како одговори. Не забележавме одговори од ниту една автентична сметка.

Кампањата ги користеше нашите модели и за истражување од отворени извори, на пример, за тоа како да се пријават за програмерски сметки на социјалните мрежи или за да побараат резимеа на објави од критичари на кинеската влада.

Се чини дека содржината создадена со вештачка интелигенција претставувала само мал дел од вкупната содржина на мрежата. На пример, многу од сметките на X и Medium за кои утврдивме дека објавуваат содржина генерирана од нашите модели објавуваа уште повеќе содржина што изгледаше како да е рачно создадена на англиски и кинески јазик (за што, меѓу другото, сведочеше неприродната употреба на англискиот јазик). Оваа содржина ја објавуваа и пред и по објавувањето на коментарите генерирани со вештачка интелигенција.

Голем дел од содржината генерирана од оваа кампања беше на кинески јазик. Темите се движеа од пофалби за меѓународната соработка на кинеската влада во спроведувањето на законот до критики за злоупотребите врз домородните Американци во Соединетите Американски Држави. Во дел од содржината беа критикувани американската влада и Microsoft затоа што ја разоткриле активноста на кинеската хакерска група позната како „Volt Typhoon“.

Друг дел од содржината беше на англиски јазик. Во неа обично се критикуваа истакнати критичари на кинеската влада, како актерот и активист за Тибет Ричард Гир и дисидентката Цаи Сја. Неколку статии генерирани кон крајот на 2023 година на англиски, јапонски, кинески, корејски и руски јазик ја обвинија Јапонија дека ги загадува водите на Тихиот Океан со испуштањата од нуклеарната централа Фукушима⁠(се отвора во нов прозорец) — долгогодишна тема на кинеските операции за влијание.

Една мала група активности беше насочена кон генерирање позитивни коментари на кинески јазик за посетата на кинескиот министер за јавна безбедност на Узбекистан. Не е познато дека Spamouflage претходно се занимавала со оваа тема. Таа е интересна во контекст на тоа што ФБИ припиша⁠(се отвора во нов прозорец) дел од претходните активности на оваа операција на социјалните мрежи на кинеското Министерство за јавна безбедност.

Се чини дека дел од активностите на мрежата ги одразувале личните интереси на операторите. На пример, еден оператор ги користел нашите модели за истражување објективи за фотоапарати. Друг ги користел нашите модели за да заврши нешто што изгледало како пробна задача за членови на Комунистичката партија на Кина.

Spamouflage е една од најинтензивно истражуваните операции за влијание во светот откако беше првпат јавно опишана во 2019 година⁠(се отвора во нов прозорец). Речиси никогаш не било пријавено дека нејзините активности допреле до автентична публика.

Се чини дека употребата на содржина генерирана со вештачка интелигенција не ја променила таа динамика. Ниту еден од блоговите, статиите и сметките на социјалните мрежи што ги идентификувавме во истрагата не оствари голем број интеракции или следбеници од вистински луѓе. Во некои случаи, достапните показатели покажуваат дека објавите биле прегледани само од нашиот истражен тим.

Според Скалата на пробив⁠(се отвора во нов прозорец) за процена на влијанието на операциите за влијание, која ги оценува на скала од 1 (најниско) до 6 (највисоко), ова би го оцениле како операција од категорија 2: објавувала на многу платформи, но нема докази дека нејзината содржина била значително проширена од луѓе надвор од мрежата.

Утврдивме дека следниов домен е поврзан со оваа кампања.

• revealscum.com