Udaremnienie nowej tajnej kampanii wpływu prowadzonej z Rosji

Naszą misją jest zapewnienie, aby ogólna sztuczna inteligencja przynosiła korzyści całej ludzkości. Realizujemy tę misję, wdrażając nasze innowacje i tworząc narzędzia AI, które pomagają ludziom rozwiązywać trudne problemy. Tworzymy też narzędzia, dzięki którym możemy wykrywać, badać, udaremniać i ujawniać tajne operacje wpływu (IO), czyli podstępne próby manipulowania opinią publiczną lub oddziaływania na wyniki polityczne bez ujawniania prawdziwej tożsamości bądź zamiarów stojących za nimi osób.

Niedawno zablokowaliśmy grupę pochodzących z Rosji kont ChatGPT, których używano do promowania International Burke Institute (IBI), działającej w Izraelu organizacji określającej się mianem „społeczności ekspertów”. Śledztwo, które rozpoczęło się od wygenerowanych przez AI postów w mediach społecznościowych, doprowadziło nas do znacznie szerszej operacji wpływu. Jej osią była witryna zawierająca skopiowane i błędnie przypisane prace naukowe oraz indeks „suwerenności” przedstawiający Rosję w korzystnym świetle. Operatorzy próbowali też ukrywać swoje rosyjskie pochodzenie. Choć kampania dotarła prawdopodobnie do stosunkowo niewielkiej grupy odbiorców, jej złożona konstrukcja odróżnia ją od innych powiązanych z Rosją⁠(otwiera nowe okno) operacji⁠(otwiera nowe okno) wpływu⁠(otwiera nowe okno), które udaremniliśmy⁠(otwiera nowe okno) od początku wojny w Ukrainie. W raporcie wyjaśniamy, jak przebiegała ta operacja, jaką rolę odgrywał w niej ChatGPT i co zrobiliśmy, aby ją udaremnić.

Zablokowaliśmy grupę kont ChatGPT, które z bardzo dużym prawdopodobieństwem pochodziły z Rosji. Operatorzy używali rosyjskojęzycznych poleceń do generowania komentarzy publikowanych w mediach społecznościowych na platformach Substack, Telegram, X, Facebook i LinkedIn. Większość wygenerowanych komentarzy była po angielsku, a operatorzy polecali ChatGPT usuwać wszelkie językowe wskazówki mogące zdradzić, że są Rosjanami. Ponieważ nie zezwalamy na dostęp do naszych modeli z Rosji, operatorzy łączyli się z naszą platformą przez sieci VPN.

Duża część wygenerowanych treści służyła promowaniu organizacji International Burke Institute (IBI), która określała się jako „społeczność ekspertów”. Marka IBI była powiązana z witryną zarejestrowaną w lutym 2025 r. Według zamieszczonych tam informacji instytut miał siedzibę w Izraelu. Artykuły opublikowane w witrynie nie zostały wygenerowane przez nasze modele. Wiele z nich skopiowano z prawdziwych publikacji naukowych, czasem przypisując je niewłaściwym autorom. Niektóre zostały najwyraźniej napisane przez osobę posługującą się językiem słowiańskim, a następnie przetłumaczone maszynowo. Na przykład poniższy zrzut ekranu z witryny IBI zawiera nienaturalne wyrażenie, które najłatwiej wyjaśnić jako dosłowne tłumaczenie maszynowe z języka słowiańskiego.

Według naszej najlepszej wiedzy jest to nowa, wcześniej nieopisywana tajna kampania wpływu. Jej najbardziej charakterystycznym elementem było stworzenie „indeksu suwerenności”, za pomocą którego rzekomy „think tank” wychwalał Rosję i oczerniał państwa zachodnie. Po raz pierwszy udaremniliśmy tak rozbudowaną operację wpływu powiązaną z Rosją.

ChatGPT służył w tej operacji głównie do generowania postów w mediach społecznościowych promujących artykuły w witrynie IBI. Zidentyfikowaliśmy takie posty na platformach X, LinkedIn, Facebook, Substack i Telegram. Niektóre publikowały konta oznaczone nazwą i logo IBI, inne zaś sprawiały wrażenie kont zwykłych użytkowników (prawdopodobnie nieautentycznych), których główną aktywnością było zamieszczanie artykułów IBI.

Oprócz publikowania tych postów operatorzy generowali także odpowiedzi na wpisy prawdziwych użytkowników Substack dotyczące różnych tematów. Odpowiedzi te zazwyczaj zawierały prośbę o obserwowanie kanału IBI i były publikowane na Substack przez konto IBI.

Oprócz generowania treści o IBI jeden z operatorów tworzył niemieckojęzyczne posty publikowane na kanale na Telegramie o nazwie „Lahme Ente” („kulawa kaczka”). Posty te regularnie krytykowały Ukrainę, UE i niemiecki rząd oraz opowiadały się za poprawą stosunków z Rosją.

Drugi operator, oprócz tworzenia treści związanych z IBI, wygenerował logotypy dla kilkunastu kanałów na Telegramie (w tym Lahme Ente) poświęconych Niemcom, USA, Francji, Polsce i Turcji. Niektóre z tych kanałów zamieszczały czasem treści o IBI lub udostępniały posty instytutu. Drugi operator wielokrotnie prosił również o rosyjskojęzyczne podsumowania aktywności tych kanałów. Opis jednego z kanałów poświęconych USA, podszywającego się pod amerykański serwis, zawierał liczne oznaki, że napisała go osoba, dla której angielski nie był językiem ojczystym.

Głównym elementem tej operacji był prawdopodobnie International Burke Institute (IBI), choć udaremnione przez nas działania koncentrowały się na treściach w mediach społecznościowych, które promowały witrynę lub zawierały prowadzące do niej linki, a nie na materiałach zamieszczonych bezpośrednio w tej witrynie.

Na stronie IBI przedstawiano instytut jako „społeczność ekspertów” i podawano adres w Izraelu. Według stanu na 17 lipca w witrynie przedstawiano szerokie grono światowej klasy ekspertów, w tym tak wybitne postaci jak Francis Fukuyama i Noam Chomsky, oraz publikowano różnorodne badania. Jednak analiza próbki 36 artykułów przypisanych ekspertom na stronie IBI i opublikowanych od września 2025 r. do maja 2026 r. wykazała, że 34 z nich skopiowano z innych miejsc w Internecie.

Niektóre artykuły miały kilka lat, a inne przypisano niewłaściwym autorom. Na przykład artykuł o Korytarzu Gospodarczym Chiny–Pakistan został najwyraźniej skopiowany z oryginału wydanego przez Cambridge University Press, lecz błędnie przypisano go profesor Uniwersytetu w Nottingham specjalizującej się w polityce Azji Południowej.

Inny artykuł, poświęcony zarządzaniu migracją, został najwyraźniej skopiowany z Migration Policy Institute, lecz błędnie przypisano go australijskiej profesor nauk o żywności. Takie postępowanie wskazuje na próbę uwiarygodnienia witryny IBI przez wypełnienie jej autentycznymi treściami przy jednoczesnym ukrywaniu ich prawdziwego źródła.

Oprócz tych artykułów witryna IBI zawierała raporty o różnych państwach i ich suwerenności mierzonej za pomocą indeksu opracowanego przez instytut. Raporty te nie zostały wygenerowane przy użyciu naszych modeli. Niektóre przedstawiano jako porównania dwóch państw. Inne dotyczyły pojedynczych państw, zwłaszcza krytykujących rosyjską wojnę przeciwko Ukrainie, takich jak Francja i Niemcy, a także Unii Europejskiej. Operacja promowała podobne narracje na temat Stanów Zjednoczonych. Raporty te były zwykle krytyczne, a niekiedy wręcz polemiczne. Oto przykłady:

• Francja⁠(otwiera nowe okno): „Dziesięć lat macronizmu przyniosło dokładnie taki rezultat, jakiego należało oczekiwać po menedżerze, który przybył do Pałacu Elizejskiego z banku Rothschildów: Francję otwarto niczym sejf z historycznym kapitałem, a teraz wyprzedaje się ją po kawałku”.
• USA⁠(otwiera nowe okno): „Trump przybył [do Pekinu] z najwyższym na świecie indeksem suwerenności, a wyjechał po podjęciu szeregu kroków, które [...] można uznać za dobrowolne ograniczenie autonomii”.
• Niemcy⁠(otwiera nowe okno): „Niemcy potrzebują polityki przemysłowej, która chroni miejsca pracy, a nie tylko kursy akcji. Kraj potrzebuje uczciwej dyskusji o tożsamości, bez tematów tabu i histerii. Potrzebuje rzeczywistej suwerenności militarnej, a nie zależności od amerykańskich baz. Potrzebuje też polityków, którzy w pierwszej kolejności są lojalni wobec narodu niemieckiego, a nie rad nadzorczych korporacji w Nowym Jorku”.
• UE⁠(otwiera nowe okno): „Słowacja kontra Włochy: paradoksy suwerenności państw-zakładników «wielkiej» Unii”

Choć treści promujące IBI w mediach społecznościowych generowali użytkownicy ChatGPT w Rosji, którzy starannie ukrywali swoje pochodzenie, a znaczna część zawartości witryny IBI najwyraźniej została skopiowana z innych źródeł, niektóre ślady w Internecie wskazują, że kilka prawdziwych osób w Izraelu mogło również reprezentować IBI, zgłaszając artykuły i uczestnicząc w konferencjach. Nie jesteśmy w stanie ustalić relacji między tymi osobami, IBI i operatorami w Rosji.

Na razie wpływ operacji wydaje się ograniczony: typowe posty w mediach społecznościowych miały niewiele wyświetleń, a oficjalne konta IBI — mało subskrybentów. Kanały operacji na Telegramie przyciągnęły prawdopodobnie więcej subskrybentów; każdy z nich miał na ogół od 10 do 20 tys. obserwujących. Oceniając wpływ tej operacji za pomocą opracowanej przez Brookings skali Breakout Scale⁠(otwiera nowe okno), umieścilibyśmy ją w dolnej części kategorii trzeciej (wiele platform i pewne oznaki dotarcia do rzeczywistych odbiorców).

Znaczenie tej operacji wynika jednak nie tyle z liczby odbiorców, do których dotarła, ile ze stworzonej infrastruktury. Choć osoby stojące za operacją używały ChatGPT jedynie do tworzenia pojedynczych postów promocyjnych, posty te prowadziły do sprawiającej wrażenie wiarygodnej instytucji z rzekomymi ekspertami, ponownie publikowanymi pracami naukowymi oraz rzekomo własnym indeksem ryzyka. Pokazuje to, jak osoby stojące za operacjami wpływu mogą wykorzystywać AI jako narzędzie pomocnicze w ramach szerszych działań, aby budować pozory autorytetu, ukrywać źródło promowanych narracji i tworzyć zasoby, które z czasem można rozwijać. Pokazuje też, jak wykorzystanie AI w roli narzędzia pomocniczego może doprowadzić do ujawnienia szerszej operacji.