Operacja „Stop News”: powracające działania wpływu
OpenAI zablokowało konta powiązane z rosyjską operacją nazwaną przez nas „Stop News”, która wykorzystywała AI do tworzenia kolejnych treści wpływu skierowanych do odbiorców w Afryce i Wielkiej Brytanii.
To studium przypadku opublikowano pierwotnie w raporcie OpenAI z października 2025 r.(otwiera nowe okno).
Podmiot
Zablokowaliśmy grupę kont, które próbowały używać naszych modeli do generowania treści na potrzeby tajnej operacji wpływu opisanej przez nas w październiku 2024 r. pod nazwą „Stop News”. Działania te miały źródło w Rosji i wydawały się zgodne z charakterem operacji prowadzonej przez firmę marketingową. W toku dochodzenia ustaliliśmy, że podmiot ten próbował używać narzędzi AI innych firm do generowania filmów publikowanych następnie w serwisach YouTube i TikTok. Nie jesteśmy w stanie niezależnie potwierdzić, których modeli ostatecznie użyto.
Sposób działania
Podobnie jak w przypadku działań, które udaremniliśmy w październiku 2024 r., operacja ta wykorzystywała nasze modele głównie do generowania treści publikowanych następnie w mediach społecznościowych oraz w grupie witryn podszywających się pod te same serwisy informacyjne z Afryki i Wielkiej Brytanii, o których pisaliśmy w zeszłym roku.
Choć działania te wydawały się próbą kontynuowania wcześniejszej operacji po interwencjach podjętych przez nas i inne firmy z branży, zauważyliśmy kilka istotnych różnic. Po pierwsze, udział generowania obrazu był znacznie mniejszy. Pierwotna operacja Stop News — jak wówczas zauważyliśmy — wykorzystywała obrazy na wyjątkowo dużą skalę. Najnowsze działania skupiały się bardziej na generowaniu tekstu, a generowanie obrazu zdarzało się stosunkowo rzadko. Jest to zgodne z oceną francuskiej agencji ds. cyfrowych VIGINUM, według której „od czasu publikacji raportów Meta i OpenAI wykorzystanie obrazów generowanych przez AI drastycznie spadło”.
Po drugie, w ramach operacji używano również ChatGPT do tworzenia scenariuszy i opisów krótkich filmów stylizowanych na materiały informacyjne. Operatorzy zazwyczaj wprowadzali długi tekst w języku rosyjskim i prosili o utworzenie na jego podstawie scenariusza filmu. Następnie prosili model o przetłumaczenie tekstu na język francuski. Po trzecie, prosili model o wygenerowanie opisu zoptymalizowanego pod kątem SEO oraz hashtagów.
Niektóre z tych scenariuszy wykorzystano w filmach na kanale YouTube powiązanym z afrykańską witryną operacji Stop News, newstop[.]africa. Inne pojawiły się na kanałach w serwisach YouTube i TikTok, które nie posługiwały się marką „Stop News”. Na kanałach tych wiadomości odczytywała osoba wygenerowana przez AI. W większości przypadków krótkie ujęcia prezenterki przeplatano nagraniami wydarzeń rozgrywających się w Afryce lub z nią związanych. Ujęcia prezenterki prawdopodobnie nie zostały wygenerowane przy użyciu naszych modeli. Nie jesteśmy w stanie niezależnie potwierdzić, z jakiej usługi skorzystano. Wygląd prezenterki zmieniał się w 2025 r., co ilustrują poniższe zrzuty ekranu z filmów na TikToku.
Od lewej: wygenerowana przez AI prezenterka wiadomości wychwalająca Rosję w styczniu 2025 r., na początku czerwca 2025 r. i pod koniec czerwca 2025 r. — materiały z konta operacji na TikToku.
W najbardziej rozbudowanych przypadkach operatorzy używali naszych modeli do generowania poleceń wideo, najwyraźniej przeznaczonych dla innych modeli AI. Najpierw generowali rosyjskojęzyczny scenariusz filmu, następnie dzielili go na dwuzdaniowe fragmenty i prosili ChatGPT o wygenerowanie polecenia wideo dla każdego fragmentu. Po utworzeniu poleceń wideo operatorzy prosili model o przetłumaczenie całego scenariusza na język francuski.
Od lewej: trzy zrzuty ekranu z filmu na TikToku wychwalającego rosyjski „Korpus Afrykański”. Operatorzy użyli ChatGPT do wygenerowania rosyjskojęzycznego scenariusza lektorskiego, podzielili go na dwuzdaniowe fragmenty, a następnie dla każdego z nich wygenerowali polecenie wideo przeznaczone dla innego modelu. Powyższe obrazy odpowiadają tym poleceniom. Nie jesteśmy w stanie niezależnie potwierdzić, jakiej usługi użyto do utworzenia filmów. Warto zauważyć, że podpis na obrazie po prawej zawiera błąd gramatyczny („ces” zamiast „ses”), którego nie było we francuskim tłumaczeniu przygotowanym przez ChatGPT. Sugeruje to, że podpis spisano z nagrania i nie został on sprawdzony przez osobę znającą francuski.
Wygenerowane treści
Działania w ramach tej operacji dzieliły się na trzy główne kategorie. Po pierwsze, generowano francuskojęzyczne treści krytykujące rolę Francji i Stanów Zjednoczonych w Afryce oraz wychwalające rolę Rosji na tym kontynencie. Po drugie, generowano anglojęzyczne treści krytykujące Ukrainę i jej międzynarodowych sojuszników. W niektórych przypadkach operatorzy generowali również obrazy towarzyszące treściom tekstowym. Sporadycznie prosili ChatGPT o generowanie artykułów promocyjnych i tekstów reklam Google dla swojej głównej marki informacyjnej „Newstop Africa”. Niektóre z tych artykułów promocyjnych nie skupiały się wyłącznie na Newstop Africa, lecz wymieniały markę Newstop obok wiarygodnych serwisów informacyjnych, prawdopodobnie po to, by poprzez takie skojarzenie zwiększyć jej wiarygodność.
Wpis na X opublikowany przez główne konto operacji poświęcone Afryce. Obraz wygenerowano przy użyciu naszego modelu.
Trzeci rodzaj działań polegał na generowaniu materiałów promocyjnych dla szeregu podmiotów wyglądających na rosyjskie firmy komercyjne. Obejmowało to generowanie reklam nielicencjonowanych internetowych gier hazardowych. Takie połączenie różnych rodzajów generowanych treści odpowiada profilowi firmy komercyjnej, która obok tradycyjnych usług reklamowych prowadzi na zlecenie tajne operacje wpływu. Jest to również zgodne z działaniami opisanymi przez nas w zeszłym roku.
Wpływ
Pomimo większego nacisku na krótkie filmy i bardziej złożonego wykorzystania wielu narzędzi AI publikowane w ramach tej operacji treści najwyraźniej uzyskiwały jedynie ograniczoną liczbę wyświetleń i docierały do niewielkiej grupy odbiorców. W sierpniu 2025 r. główne konto „Newstop Africa” na X miało zaledwie 172 obserwujących, a według funkcji „Najpopularniejsze tweety” w serwisie X żaden z jego wpisów nie został podany dalej więcej niż cztery razy.
Kanały w serwisach YouTube i TikTok, na których występowała prezenterka wygenerowana przez AI, miały po około 1900 obserwujących. Kanał na TikToku uzyskał 5855 polubień, czyli średnio 105 na każdy z 56 opublikowanych filmów. Najpopularniejszy film uzyskał 63 300 wyświetleń, a najmniej popularny zaledwie 87. Kanał YouTube odnotował około 255 000 wyświetleń 50 filmów, czyli średnio 5100 na film. Nie znaleźliśmy jednak dowodów, że filmy te były dalej udostępniane, cytowane w mediach lub zyskały szerszy rozgłos w inny sposób.
W raporcie z października 2024 r. pierwotnie oceniliśmy, że operacja osiągnęła kategorię 3 w skali Breakout Scale. Ocena ta opierała się głównie na szeregu rzekomych „partnerstw informacyjnych”, które najwyraźniej nawiązano z witrynami z Wielkiej Brytanii. Późniejsze badania VIGINUM i badaczy korzystających z otwartych źródeł wykazały jednak, że te „partnerstwa” były prawdopodobnie fikcyjne i „wykorzystywały luki techniczne w zewnętrznych witrynach” do dodawania treści bez wiedzy administratorów. Na tej podstawie obecnie uznalibyśmy, że działania tej operacji trafniej zaliczyć do kategorii 2: aktywność na wielu platformach internetowych, lecz bez znaczącego przeniknięcia do autentycznych społeczności.