Operacja „Wujek Spam”: działania wpływu pogłębiające polaryzację w USA

To studium przypadku opublikowano pierwotnie w raporcie OpenAI z czerwca 2025 r.⁠(otwiera nowe okno).

Po otrzymaniu informacji od współpracowników z Meta zablokowaliśmy szereg kont ChatGPT powiązanych z operacją wpływu pochodzącą z Chin⁠(otwiera nowe okno). W ramach operacji tworzono polaryzujące treści do mediów społecznościowych, popierające obie strony spornych tematów w amerykańskiej debacie politycznej. Obejmowały one teksty i wygenerowane przez AI zdjęcia profilowe publikowane na platformach takich jak X i Bluesky.

Sieć wykorzystywała nasze modele do wielu zadań, przede wszystkim do tworzenia komentarzy w mediach społecznościowych, które popierały lub krytykowały cła. Konta pytały nasze modele o optymalne pory publikacji, aby maksymalizować zaangażowanie odbiorców, co wskazuje na stosowanie przemyślanych taktyk zwiększania zasięgu.

Konta korzystały też z oferowanej przez nas funkcji generowania obrazu, aby tworzyć stylizowane logotypy. Następnie używały ich jako zdjęć profilowych fikcyjnych postaci na różnych platformach społecznościowych. Konta skupiały się zwłaszcza na kreowaniu postaci amerykańskich weteranów krytycznych wobec obecnej administracji USA.

Konta regularnie prosiły również o kod i metody pozyskiwania z platform takich jak X i Bluesky danych osobowych — między innymi profili użytkowników, list obserwujących i innych informacji — za pomocą narzędzi takich jak Tweepy, Nitter oraz publiczny interfejs API Bluesky. Ponadto konta korzystały z naszych modeli, aby uzyskać wskazówki dotyczące analizowania danych profilowych pod kątem cech osobistych i przynależności organizacyjnej, potencjalnie w celu kategoryzowania osób lub wnioskowania o ich powiązaniach i cechach.

Konta tworzyły polaryzujące treści dotyczące amerykańskiej debaty politycznej, często prezentując przeciwstawne stanowiska podczas tych samych sesji operacyjnych. Zgodnie ze znanymi metodami stosowanymi w operacjach wpływu działania te miały najprawdopodobniej wykorzystywać istniejące podziały polityczne, a nie promować określone stanowisko ideologiczne. Ze względu na ilość treści i skupienie na przekazie skierowanym do Amerykanów nazwaliśmy tę operację „Wujek Spam”.

Według skali przebicia⁠(otwiera nowe okno) służącej do oceny wpływu operacji wpływu zaklasyfikowalibyśmy te działania do kategorii 2: aktywność na wielu platformach bez przebicia lub przy minimalnym zaangażowaniu. Konta w mediach społecznościowych, które publikowały treści wygenerowane przez nasze modele, uzyskały niewielkie autentyczne zaangażowanie. Większość wpisów tej sieci na platformie X otrzymała niewiele polubień i repostów lub nie otrzymała ich wcale. Tylko kilka wpisów wywołało pewne zaangażowanie. Niektóre konta w mediach społecznościowych miały tysiące obserwujących, ale nie mogliśmy ocenić ich autentyczności, a liczba obserwujących nie przekładała się na zaangażowanie pod wpisami.