Operacja „Spamouflage”: działania wpływu powiązane z Chinami

To studium przypadku opublikowano pierwotnie w raporcie OpenAI z maja 2024 r.⁠(otwiera nowe okno)

Zablokowaliśmy niewielką liczbę kont powiązanych z operacją pochodzącą z Chin, znaną jako „Spamouflage”⁠(otwiera nowe okno). Według ustaleń firmy Meta⁠(otwiera nowe okno) za tą operacją stały „osoby powiązane z chińskimi organami ścigania”. Część aktywności tej operacji w mediach społecznościowych FBI⁠(otwiera nowe okno) przypisało jednostce chińskiego Ministerstwa Bezpieczeństwa Publicznego.

Sieć kierowała działania do odbiorców na całym świecie, zwłaszcza członków chińskiej diaspory i krytyków chińskiego rządu. Tworzyła treści głównie po chińsku, a w mniejszym stopniu po angielsku, japońsku i koreańsku.

Sieć wykorzystywała nasze modele do debugowania kodu, uzyskiwania porad na temat analizy mediów społecznościowych, wyszukiwania wiadomości i informacji o bieżących wydarzeniach oraz generowania treści publikowanych następnie na forach blogowych i w mediach społecznościowych.

Na przykład w 2023 r. sieć wykorzystała nasze modele do debugowania kodu konfigurującego motyw WordPressa w witrynie revealscum.com. Witryna publikowała po chińsku krytyczne treści i dane osobowe członków chińskiej diaspory, którzy krytykowali chiński rząd. Nazywała tych krytyków „zdrajcami”. Same treści nie zostały wygenerowane za pomocą naszych modeli.

W ramach tej kampanii nasze modele wykorzystywano również do tworzenia treści publikowanych następnie na platformach społecznościowych i forach. Na przykład pod koniec 2023 r. w ramach operacji wygenerowano artykuły oskarżające Japonię o szkodzenie środowisku morskiemu przez odprowadzanie ścieków z elektrowni Fukushima. Zidentyfikowaliśmy te artykuły między innymi na platformach Medium, Blogspot i ameblo.jp.

W kwietniu 2024 r. w ramach kampanii opublikowano serię anglojęzycznych komentarzy krytykujących chińską dysydentkę Cai Xia. Zidentyfikowaliśmy jedno konto na platformie X, które opublikowało pierwszy komentarz, oraz grupę innych kont publikujących pozostałe komentarze w odpowiedziach. Nie zauważyliśmy, aby odpowiadały na nie jakiekolwiek autentyczne konta.

W ramach kampanii nasze modele wykorzystywano również do prowadzenia badań na podstawie otwartych źródeł, na przykład do zdobywania informacji o zakładaniu kont deweloperskich w mediach społecznościowych lub tworzenia podsumowań wpisów krytyków chińskiego rządu.

Treści tworzone przy użyciu sztucznej inteligencji stanowiły prawdopodobnie jedynie niewielką część całej działalności sieci. Na przykład wiele kont na platformach X i Medium, które według naszych ustaleń publikowały treści wygenerowane przez nasze modele, zamieszczało znacznie więcej materiałów prawdopodobnie tworzonych ręcznie po angielsku i chińsku (na co wskazywało między innymi nieidiomatyczne użycie języka angielskiego). Treści te publikowano zarówno przed zamieszczeniem komentarzy wygenerowanych przez AI, jak i po nim.

Znaczna część treści wygenerowanych w ramach tej kampanii była w języku chińskim. Tematy obejmowały zarówno pochwały międzynarodowej współpracy chińskiego rządu w dziedzinie egzekwowania prawa, jak i krytykę krzywd wyrządzanych rdzennym Amerykanom w Stanach Zjednoczonych. Niektóre treści krytykowały rząd USA i firmę Microsoft za ujawnienie działalności chińskiej grupy hakerskiej znanej jako „Volt Typhoon”.

Inne treści były w języku angielskim. Zazwyczaj krytykowały znanych przeciwników chińskiego rządu, takich jak aktor i działacz na rzecz Tybetu Richard Gere oraz dysydentka Cai Xia. W kilku artykułach wygenerowanych pod koniec 2023 r. po angielsku, japońsku, chińsku, koreańsku i rosyjsku oskarżano Japonię o zanieczyszczanie wód Pacyfiku zrzutami z elektrowni jądrowej Fukushima⁠(otwiera nowe okno) — motyw od dawna obecny w chińskich operacjach wpływu.

Jedna niewielka grupa działań koncentrowała się na generowaniu po chińsku przychylnych komentarzy o wizycie chińskiego ministra bezpieczeństwa publicznego w Uzbekistanie. Nie wiadomo, aby Spamouflage podejmowało wcześniej ten temat. Jest on interesujący w świetle ustaleń FBI⁠(otwiera nowe okno), które przypisało część wcześniejszej aktywności tej operacji w mediach społecznościowych chińskiemu Ministerstwu Bezpieczeństwa Publicznego.

Część aktywności sieci prawdopodobnie odzwierciedlała osobiste zainteresowania operatorów. Na przykład jeden operator wykorzystał nasze modele do wyszukiwania informacji o obiektywach fotograficznych. Inny wykorzystał nasze modele do wykonania zadania, które najwyraźniej było testem dla członków Komunistycznej Partii Chin.

Od czasu, gdy Spamouflage po raz pierwszy opisano publicznie w 2019 r.⁠(otwiera nowe okno), jest to jedna z najdokładniej badanych operacji wpływu na świecie. Bardzo rzadko odnotowywano, by jej działania docierały do autentycznych odbiorców.

Wykorzystanie treści generowanych przez AI najwyraźniej nie zmieniło tej sytuacji. Żaden z blogów, artykułów ani kont w mediach społecznościowych, które zidentyfikowaliśmy podczas dochodzenia, nie uzyskał dużej liczby interakcji ani obserwujących wśród prawdziwych użytkowników. W niektórych przypadkach dostępne wskaźniki pokazują, że wpisy wyświetlili wyłącznie członkowie naszego zespołu dochodzeniowego.

Oceniając wpływ operacji za pomocą skali Breakout⁠(otwiera nowe okno), która klasyfikuje je od 1 (najniższy poziom) do 6 (najwyższy poziom), uznalibyśmy tę operację za należącą do kategorii 2: obejmowała publikowanie na wielu platformach, ale nie ma dowodów, że była znacząco nagłaśniana przez osoby spoza sieci.

Zidentyfikowaliśmy następującą domenę powiązaną z tą kampanią.

• revealscum.com