Operacja „Linia dziewięciu pauz”: działania na rzecz wpływu regionalnego

To studium przypadku opublikowano pierwotnie w raporcie OpenAI z października 2025 r.⁠(otwiera nowe okno)

Zablokowaliśmy niewielką sieć kont ChatGPT, które mogły być powiązane z tajną operacją wpływu pochodzącą z Chin i wykorzystującą nasze modele do generowania treści na potrzeby prowadzonej na wielu platformach tajnej operacji wpływu. Konta generowały głównie anglojęzyczne posty w mediach społecznościowych na temat rzekomego wpływu Wietnamu na środowisko Morza Południowochińskiego, anglojęzyczne wpisy krytykujące prezydenta Filipin Ferdinanda Marcosa oraz kantońskojęzyczne posty dotyczące polityków i aktywistów zaangażowanych w hongkoński ruch prodemokratyczny. W mniejszym stopniu w ramach tej operacji generowano również anglojęzyczne treści o kwestiach politycznych w USA.

Konta w mediach społecznościowych rozpowszechniające te treści wykazywały pewne podobieństwa do prowadzonej od dawna operacji pochodzącej z Chin, znanej jako „Spamouflage”. O wykorzystywaniu przez nią ChatGPT pisaliśmy w maju 2024 r., nie ustaliliśmy jednak technicznych powiązań między tymi operacjami. Niektóre filmy udostępniane w najnowszych postach zostały wcześniej zidentyfikowane przez Australian Strategic Policy Institute w ramach operacji, która również wykazywała podobieństwa do wcześniejszych działań Spamouflage.

Sieć koncentrowała się prawdopodobnie na masowym generowaniu postów w mediach społecznościowych dotyczących państw pozostających w sporach terytorialnych z Chinami na Morzu Południowochińskim, nazywanym na Filipinach Morzem Zachodniofilipińskim. Chiny roszczą sobie prawa do zwierzchnictwa nad większością tego regionu, wyznaczając rozległą granicę znaną jako „linia dziewięciu kresek”. Roszczenie to jest kwestionowane na gruncie prawa międzynarodowego i odrzucane przez Wietnam, Filipiny oraz inne państwa. Ze względu na ten kontekst oraz stosowanie w postach tekstu wygenerowanego przez AI, zawierającego pauzy, nazwaliśmy tę operację „Linią dziewięciu pauz”. Posty te rozpowszechniano głównie na platformie X.

Post na platformie X zawierający treść — i pauzę — wygenerowaną przez tę operację przy użyciu naszych modeli.

Oprócz generowania komentarzy do mediów społecznościowych sprawcy wykorzystywali nasze modele do niektórych zadań badawczych i rozpoznawczych. Obejmowało to wyszukiwanie niszowych blogów i forów, a także słabiej moderowanych forów internetowych i mediów społecznościowych w Europie, Ameryce i Azji Południowo-Wschodniej. Prosili również o listy popularnych tybetańskich imion. Takie zachowanie obserwowaliśmy w innych przypadkach, w których generowano dane osobowe na potrzeby fałszywych kont operatorów w mediach społecznościowych. Działania te przypominały korzystanie z tradycyjnych wyszukiwarek i przynosiły podobne wyniki. Sugeruje to, że wykorzystywanie AI przez sprawców zagrożeń do badań i generowania treści zapewniało im większą wygodę, ale niekoniecznie większe możliwości.

Nowością w działaniach tej sieci były prośby o porady dotyczące strategii zwiększania zasięgów w mediach społecznościowych, w tym o wskazówki, jak zainicjować wyzwanie na TikToku i zachęcić innych do publikowania treści z hashtagiem #MyImmigrantStory. Jest to od dawna powszechnie używany hashtag, którego popularność operatorzy prawdopodobnie chcieli wykorzystać. Poprosili nasz model o opracowanie pomysłów, a następnie wygenerowanie scenariusza posta na TikToku oraz zaproponowanie muzyki w tle i ilustracji, które miały mu towarzyszyć. Za pomocą technik opartych na otwartych źródłach zidentyfikowaliśmy treści publikowane na TikToku.

Post na TikToku zawierający tekst wygenerowany przez tę operację przy użyciu naszych modeli.

Tematy anglojęzycznych postów w mediach społecznościowych generowanych przez tę sieć obejmowały zarówno rzekomy wpływ Wietnamu na środowisko Morza Południowochińskiego, jak i kryzys fentanylowy w USA. W wielu postach twierdzono, że prezydent Filipin Marcos został przyłapany na zażywaniu narkotyków i rzekomo stosował taktyki manipulowania wyborami. Film udostępniany wraz z postami zarzucającymi Marcosowi zażywanie narkotyków nie został wygenerowany przez nasze modele. Rząd Filipin już wcześniej uznał go za deepfake lub materiał zmodyfikowany cyfrowo. Wiele kont na platformie X, które publikowały treści wygenerowane przez nasze modele, zostało już zawieszonych.

Tekst posta na platformie X wygenerowany przez tę operację, według którego prezydent Filipin Marcos został przyłapany w związku ze „skandalem narkotykowym”.

Tekst posta na platformie X wygenerowany przez tę operację, według którego prezydent Marcos stosował taktyki manipulowania wyborami.

Konta prosiły również o duże zbiory komentarzy w języku kantońskim, które następnie publikowano na platformach X i Instagram. Krytykowały one lub obrażały polityków i aktywistów związanych z hongkońskim ruchem prodemokratycznym, takich jak Jimmy Lai, Nathan Law i Agnes Chow. Posty te miały najwyraźniej zdyskredytować te osoby, przedstawiając je jako przestępców lub zdrajców. Inne posty wyrażały poparcie dla hongkońskich przepisów o bezpieczeństwie narodowym.

W jednym nietypowym przypadku operator opublikował na platformie X komentarze krytykujące hongkońskich polityków prodemokratycznych, a następnie wygenerował odpowiedź na własne komentarze, w której pochwalił te osoby. Krytyczny komentarz i odpowiedź opublikowano z dwóch różnych kont na platformie X.

Przychylna odpowiedź wygenerowana przez tę operację na krytyczny post z innego konta należącego do tej samej sieci. Oryginalny post brzmi: „Czy Jimmy Lai i Jeffrey Ngo mogą po prostu wybielić swoją przeszłość, uzyskując za granicą tak zwany «azyl»? 🤔 Przestępcy odpowiedzialni za chaos w Hongkongu nie są bohaterami — jedynie wykorzystują określenie «uchodźca polityczny», by ukryć, że są «zbiegami»! Każdego w końcu dosięgną konsekwencje i prędzej czy później trzeba będzie zapłacić — żaden «bilet do wyjścia z więzienia» po prostu nie istnieje”. Odpowiedź brzmi: „Ci dwaj ludzie mają odwagę wystąpić i powiedzieć prawdę, co jest przynajmniej znacznie jaśniejszym punktem niż obecna sytuacja w Hongkongu, gdzie wszystko pogrążone jest w ciszy”. Wszystkie reakcje pod oryginalnymi postami pochodziły z kont obsługiwanych przez tę sieć.

Pomimo dużej liczby komentarzy wygenerowanych w mediach społecznościowych na wielu platformach oceniamy wpływ tej operacji według skali zasięgu operacji wpływu jako kategorię 2: aktywność na wielu platformach, bez znaczącego zasięgu lub przy minimalnym zaangażowaniu odbiorców. Większość postów i kont w mediach społecznościowych nie wywołała żadnego lub prawie żadnego zaangażowania. Często jedyne odpowiedzi na posty tej sieci oraz ich udostępnienia na platformach X i Instagram pochodziły z innych kont w mediach społecznościowych kontrolowanych przez operatorów tej samej sieci.

Persony wykorzystywane przez konta w mediach społecznościowych były wyraźnie skoordynowane i mało wyrafinowane. Wykazywały cechy podobne do innych tajnych operacji wpływu pochodzących z Chin, takie jak publikowanie hashtagów, obrazów lub filmów rozpowszechnianych podczas wcześniejszych operacji. Jako zdjęcia profilowe wykorzystywały fotografie stockowe, a jako nazwy kont — domyślne identyfikatory przydzielane przez platformy, przez co łatwo było je rozpoznać. Ich długotrwałą i intensywną aktywność na wielu platformach wykrył serwis Philstar.com, który niezależnie zidentyfikował i opisał część sieci działającą na platformie X. Kontynuowała ona działalność po zablokowaniu przez nas jej kont ChatGPT.