Nadużycia powiązane z ChRL: inwigilacja i operacje wywierania wpływu

To studium przypadku opublikowano pierwotnie w raporcie OpenAI z października 2025 r.⁠(otwiera nowe okno)

Osoby najwyraźniej powiązane z instytucjami rządowymi ChRL korzystały z ChatGPT przy tworzeniu narzędzi, profilowaniu i wykonywaniu zadań administracyjnych.

Jak wskazaliśmy w marcu w stanowisku przekazanym Biuru Polityki Naukowej i Technologicznej na potrzeby amerykańskiego planu działania w dziedzinie AI, uważamy, że aby AI przynosiła korzyści jak największej liczbie osób, należy umożliwiać jej rozwój poprzez zdroworozsądkowe przepisy chroniące ludzi przed rzeczywistymi szkodami oraz budować demokratyczną AI. Przez demokratyczną AI rozumiemy AI kształtowaną przez demokratyczne zasady, których Ameryka zawsze broniła. Obejmuje to zapobieganie wykorzystywaniu narzędzi AI przez reżimy autorytarne do umacniania władzy i kontrolowania obywateli.

Nasze inwestycje w wykrywanie i udaremnianie prób nadużywania możliwości ChatGPT przez reżimy autorytarne nie tylko chronią ludzi już teraz, lecz także dostarczają ważnych informacji o tym, jak reżimy te mogą nadużywać przyszłych możliwości. W tej części omawiamy jeden ze zbiorów takich ustaleń, dotyczący osób potencjalnie powiązanych z podobnymi reżimami, ze szczególnym uwzględnieniem ChRL.

Jak pisaliśmy w czerwcu, ChRL czyni wyraźne postępy w rozwijaniu własnej, autokratycznej wersji AI. Zablokowanie przez nas kont ChatGPT używanych przez osoby najwyraźniej powiązane z chińskimi instytucjami rządowymi rzuca nieco światła na obecny sposób wykorzystywania AI w tym autorytarnym środowisku. Niektóre z tych zastosowań miały najwyraźniej wspierać zakrojone na szeroką skalę monitorowanie aktywności w internecie lub przemieszczania się w świecie rzeczywistym, co podkreśla znaczenie naszej ciągłej obserwacji potencjalnych nadużyć ze strony reżimów autorytarnych w tym obszarze. Inne zastosowania miały najwyraźniej służyć bardziej szczegółowemu profilowaniu. Zablokowaliśmy konta powiązane z tą działalnością, a w niniejszym raporcie przedstawiamy nasze ustalenia.

Niniejsze studium opiera się na wybranych przypadkach wykrytej przez nas działalności naruszającej zasady, którą udaremniliśmy poprzez zablokowanie kont. Charakter tej działalności wskazywał, że z ChatGPT korzystali indywidualni użytkownicy, a nie instytucje wdrażające nasze modele na dużą skalę. Jest to zatem jedynie ograniczony obraz wykorzystania różnych modeli AI w tym kontekście.

Niektóre z zablokowanych przez nas kont najwyraźniej próbowały wykorzystać ChatGPT do tworzenia narzędzi służących monitorowaniu na dużą skalę, w tym do analizowania zbiorów danych pozyskiwanych często z zachodnich lub chińskich platform społecznościowych. W lutym informowaliśmy o jednym z takich przypadków. Dotyczył on projektowania opartego na AI narzędzia do monitorowania mediów społecznościowych, które według operatorów miało być przeznaczone dla chińskich służb bezpieczeństwa. Użytkownicy ci zwykle prosili ChatGPT o pomoc w projektowaniu takich narzędzi lub tworzeniu materiałów promocyjnych na ich temat, ale nie o prowadzenie samego monitoringu.

Niedawno zablokowaliśmy na przykład użytkownika, który prawdopodobnie korzystał z VPN, aby uzyskać dostęp do naszych usług z Chin, i prosił ChatGPT o pomoc w opracowaniu materiałów promocyjnych oraz planów projektu narzędzia do monitorowania mediów społecznościowych, rzekomo przeznaczonego dla klienta rządowego. Narzędzie opisano jako „sondę” mediów społecznościowych (探针), która miała rzekomo przeszukiwać Twitter/X, Facebook, Instagram, Reddit, TikTok i YouTube pod kątem treści określanych przez użytkownika jako wypowiedzi ekstremistyczne oraz materiały o charakterze etnicznym, religijnym i politycznym. Użytkownik nie wykorzystał naszego modelu do faktycznego monitorowania mediów społecznościowych. Nie jesteśmy w stanie niezależnie zweryfikować, czy narzędzie to było wykorzystywane przez chińską instytucję rządową.

Podobnie zablokowaliśmy drugiego użytkownika, prawdopodobnie powiązanego z instytucją rządową, który poprosił ChatGPT o pomoc w napisaniu propozycji rozwiązania określanego jako model ostrzegania przed napływem osób wysokiego ryzyka powiązanych z Ujgurami (高危涉维吾尔关注人员流入预警模型). W propozycji opisano narzędzie, które miałoby analizować rezerwacje środków transportu i porównywać je z rejestrami policyjnymi, aby z wyprzedzeniem ostrzegać o podróżach osób sklasyfikowanych jako powiązane z Ujgurami i stanowiące wysokie ryzyko — przy czym kategorii tej nie zdefiniowano. Użytkownik nie prosił naszego modelu o pomoc w stworzeniu takiego narzędzia, lecz jedynie w opracowaniu ogólnej propozycji. Nie jesteśmy więc w stanie niezależnie potwierdzić, jakiej technologii zamierzał użyć ani czy takie narzędzie było wykorzystywane przez chińską instytucję rządową.

Zablokowaliśmy również użytkowników, którzy najwyraźniej byli powiązani z chińskimi instytucjami rządowymi i próbowali wykorzystywać ChatGPT do bardziej spersonalizowanego, ukierunkowanego profilowania oraz wyszukiwania informacji w internecie.

Jeden z użytkowników poprosił na przykład ChatGPT o ustalenie źródeł finansowania konta w serwisie X, które krytykowało chiński rząd. Drugi użytkownik poprosił ChatGPT o zidentyfikowanie organizatorów petycji w Mongolii. W obu przypadkach nasze modele zwróciły wyłącznie informacje dostępne publicznie, które nie obejmowały danych wrażliwych, takich jak źródła finansowania czy tożsamość organizatorów petycji.

Część tej działalności polegała na używaniu naszych modeli jako narzędzia do pozyskiwania informacji z otwartych źródeł, podobnie jak wcześniej korzystano z wyszukiwarek internetowych lub serwisów społecznościowych. Trzeci użytkownik poprosił na przykład ChatGPT o codzienne wyszukiwanie i podsumowywanie najnowszych wiadomości istotnych dla Chin, w tym dotyczących drażliwych tematów, takich jak rocznica masakry na placu Tian’anmen w 1989 r. oraz urodziny Dalajlamy.