OpenAI

16 listopada 2026

Bezpieczeństwo

Nowe narzędzia i wsparcie w walce z wykorzystywaniem seksualnym dzieci w sieci

Nowe narzędzia, praktyczne wskazówki i partnerstwa pomogą zapobiegać wykorzystywaniu seksualnemu dzieci i przemocy seksualnej wobec nich w internecie, wykrywać te zjawiska i na nie reagować.

Dziś udostępniamy nowe narzędzie do wykrywania materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM), mechanizmy interwencji przerywające szkodliwe zachowania i wskazujące, gdzie szukać pomocy, praktyczne zasoby dla deweloperów oraz wsparcie dla śledczych zajmujących się ochroną dzieci. Działania te rozwijają nasz plan ochrony dzieci oraz dotychczasową pracę nad wykrywaniem, blokowaniem i zgłaszaniem nadużyć. Z perspektywy rodziców cel jest prosty: technologia, która pomaga chronić dzieci i pozostaje pod kontrolą człowieka.

Dobrze⁠(otwiera nowe okno) wiadomo⁠(otwiera nowe okno), że walka z osobami dopuszczającymi się przestępstw seksualnych wobec dzieci w internecie wymaga skoordynowanych działań wielu organizacji. Poszczególne firmy, takie jak OpenAI, mają obowiązek zapobiegać wykorzystywaniu swoich technologii przez sprawców do krzywdzenia dzieci. Musimy też współpracować z całą branżą, organizacjami zajmującymi się ochroną dzieci i organami ścigania, by zwiększać skuteczność wspólnych działań na rzecz bezpieczeństwa dzieci w internecie.

Pomoc większej liczbie organizacji w wykrywaniu materiałów przedstawiających wykorzystywanie dzieci

Rozszerzamy obecne zabezpieczenia, udostępniając nowy klasyfikator obrazów, który potrafi wykrywać potencjalne CSAM, w tym materiały generowane przez AI. Nowy klasyfikator szuka wizualnych oznak wykorzystywania dzieci, pomagając zespołom identyfikować nowe obrazy, które mogły nie być wcześniej znane. Zwraca oceny punktowe, które pomagają osobom weryfikującym ustalić, które obrazy mogą wymagać uwagi w pierwszej kolejności. To pierwszy szeroko dostępny klasyfikator CSAM, który osobno sygnalizuje, czy materiał mógł zostać wygenerowany przez AI.

Nasze zespoły wytrenowały, oceniły i przygotowały klasyfikator do wdrożenia w rzeczywistych warunkach przy wsparciu National Center for Missing and Exploited Children (NCMEC)⁠(otwiera nowe okno) — organizacji non profit prowadzącej CyberTipline, centralny punkt zgłaszania przypadków wykorzystywania dzieci w internecie.

Zapewniamy zweryfikowanym organizacjom bezpłatny dostęp do klasyfikatora przez API OpenAI. Dzięki temu wykrywanie CSAM staje się bardziej dostępne zarówno dla organizacji zajmujących się ochroną dzieci, jak i dla całej branży, niezależnie od wielkości zespołów.

Bezpieczeństwo dzieci to wyzwanie dla całej branży, wymagające ścisłej współpracy między organizacjami i różnorodnych rozwiązań. Nawiązaliśmy współpracę z Tech Coalition⁠(otwiera nowe okno) i ROOST⁠(otwiera nowe okno), aby pomogły nam udostępniać to nowe narzędzie. Zdecydowanie wspieramy też rozwiązania innych organizacji, takie jak system wykrywania CSAM Safer od Thorn⁠(otwiera nowe okno). Ponadto niedawno dołączyliśmy do programu Lantern⁠(otwiera nowe okno) prowadzonego przez Tech Coalition. Będziemy w jego ramach wymieniać informacje wskazujące na wykorzystywanie seksualne dzieci i przemoc seksualną wobec nich w internecie, aby wzmocnić współpracę między platformami.

Przetestowaliśmy klasyfikator wewnętrznie i z pierwszymi partnerami, aby zmierzyć, ile materiałów przedstawiających wykorzystywanie dzieci wykrywa, jak często oznacza inne obrazy i jak może wspierać zespoły ds. bezpieczeństwa. Ich opinie pomogły nam zidentyfikować słabe punkty i udoskonalić system.

Wyniki

Wstępne testy sugerują, że klasyfikator może pomóc osobom weryfikującym skupić się na obrazach przedstawiających wykorzystywanie dzieci, a jednocześnie ograniczyć liczbę fałszywych alarmów wymagających sprawdzenia. W ramach oceny obrazów przesłanych przez użytkowników porównaliśmy nowy klasyfikator z obecnymi zabezpieczeniami i ustaliliśmy, że:

  • Nowy klasyfikator mógłby zmniejszyć nakład pracy przy weryfikacji: oszacowaliśmy, że oznaczałby o 48% mniej obrazów, wykrywając przy tym mniej więcej tyle samo obrazów przedstawiających wykorzystywanie dzieci co dotychczasowe narzędzie.

  • Obrazy oznaczone przez nowy klasyfikator zawierały treści przedstawiające wykorzystywanie dzieci około dwa razy częściej.

Partnerzy korzystający z wczesnego dostępu ocenili również, jak klasyfikator wspiera ich własne zespoły ds. bezpieczeństwa. W testach fal⁠(otwiera nowe okno) obejmujących obrazy ze środowiska produkcyjnego, weryfikowane przez ludzi, osoby oceniające potwierdziły, że 72% obrazów oznaczonych przez klasyfikator z wysokim poziomem pewności stanowiło wcześniej niezidentyfikowane CSAM. Testy invideo AI⁠(otwiera nowe okno) wykazały, że co czwarty oznaczony przypadek prowadził do zablokowania konta. W ocenach przeprowadzonych przez SafetyKit⁠(otwiera nowe okno), obejmujących rysunki lub animacje seksualizujące dzieci, klasyfikator wykrył 90% przypadków.

Więcej informacji o klasyfikatorze można znaleźć w karcie modelu klasyfikatora CSAM⁠(otwiera nowe okno). Zainteresowane organizacje będą mogły wnioskować o dostęp do klasyfikatora za pośrednictwem naszego formularza zgłoszeniowego⁠. Będziemy nadal doskonalić klasyfikator na podstawie opinii jego użytkowników.

Przerywanie szkodliwych zachowań i wskazywanie, gdzie szukać pomocy

Już teraz zakazujemy CSAM, uczymy nasze modele odmawiać realizacji próśb o takie materiały i podejmujemy działania wobec kont naruszających nasze zasady. Rozszerzamy te zabezpieczenia o nowe ostrzeżenia w ChatGPT, które przerywają próby wyszukiwania materiałów przedstawiających wykorzystywanie dzieci, wyjaśniają konsekwencje i wskazują, gdzie uzyskać pomoc w zaprzestaniu szkodliwych zachowań.

Ostrzeżenie jasno informuje, że seksualizacja dzieci wyrządza krzywdę — także wtedy, gdy chodzi o materiały generowane przez AI. Oprócz wyświetlenia ostrzeżenia usuniemy oznaczoną rozmowę i zawiesimy dostęp do ChatGPT na 24 godziny. Jednocześnie nadal dostępne będzie specjalistyczne wsparcie pomagające zaprzestać szkodliwych zachowań. Powtarzające się naruszenia mogą skutkować dłuższymi ograniczeniami, a ostatecznie zamknięciem konta lub zgłoszeniem do właściwych organów.

Ostrzeżenia w ChatGPT wyjaśniają, że seksualizacja dzieci jest szkodliwa i może być nielegalna, informują o zawieszeniu konta na 24 godziny i oferują specjalistyczne wsparcie.

Opracowaliśmy to podejście we współpracy z organizacjami i doradcami akademickimi, którzy badają i tworzą programy zapobiegania wykorzystywaniu seksualnemu dzieci. Wśród nich są Protect Children⁠(otwiera nowe okno), Lucy Faithfull Foundation⁠(otwiera nowe okno), dr Caoilte Ó Ciardha, badacz i honorowy wykładowca psychologii sądowej na Uniwersytecie Kent, oraz Joel Scanlan z Uniwersytetu Tasmańskiego, który przeprowadził niezależną ocenę pilotażu⁠(otwiera nowe okno) komunikatów odstraszających.

Praktyczne wsparcie dla deweloperów

Ochrona dzieci w internecie nie kończy się na wykrywaniu zagrożeń. Opublikowaliśmy wytyczne dotyczące CSAM⁠(otwiera nowe okno), które wskazują deweloperom konkretne kroki służące zapobieganiu nadużyciom, wykrywaniu szkodliwych treści i reagowaniu na nie. Wytyczne powstały przy udziale Tech Coalition⁠(otwiera nowe okno), Thorn⁠(otwiera nowe okno), NCMEC⁠(otwiera nowe okno) i Internet Watch Foundation⁠(otwiera nowe okno). Są przeznaczone dla organizacji na różnych etapach budowania systemów bezpieczeństwa.

Wytyczne określają jasne zasady, sposoby zgłaszania obaw przez użytkowników, narzędzia do wykrywania nadużyć oraz procedury weryfikacji i zgłaszania podejrzeń o nadużycia. Wyjaśniają też, jak identyfikatory bezpieczeństwa mogą pomóc deweloperom powiązać nadużycia z konkretnymi użytkownikami oraz jak wspierać osoby weryfikujące wrażliwe treści. Deweloperzy mogą korzystać z wytycznych wraz z narzędziami takimi jak nasz nowy klasyfikator obrazów, API do moderacji⁠(otwiera nowe okno), konsola weryfikacyjna Coop od ROOST, hostowana we własnej infrastrukturze⁠(otwiera nowe okno), oraz wyspecjalizowane usługi wykrywania CSAM, takie jak Safer od Thorn⁠(otwiera nowe okno).

Nasze zaangażowanie we współpracę i wspieranie szerszego ekosystemu deweloperów znajduje też odzwierciedlenie we wspólnych działaniach z Anthropic i Google. Razem zleciliśmy opracowanie nowych wytycznych dotyczących reagowania na ujawniane w systemach AI przypadki wykorzystywania seksualnego dzieci i przemocy seksualnej wobec nich. Wytyczne te, opublikowane niedawno przez Tech Coalition⁠(otwiera nowe okno), zawierają praktyczne zalecenia dla deweloperów dotyczące postępowania w tych delikatnych sytuacjach.

Już obserwujemy, że dzięki tym wytycznym więcej deweloperów sięga po narzędzia do ochrony dzieci i rejestruje się, by zgłaszać CSAM do NCMEC.

Wsparcie jednostek organów ścigania zajmujących się ochroną dzieci

Ochrona dzieci oznacza również wspieranie wyspecjalizowanych śledczych, którzy starają się odnaleźć ofiary i powstrzymać ich krzywdzenie. Jak mówiliśmy w publicznej rozmowie z Thorn⁠(otwiera nowe okno), AI może pomóc śledczym porządkować informacje, ustalać ich priorytety i ograniczać niepotrzebny kontakt z materiałami przedstawiającymi krzywdzenie dzieci.

Wspieramy też jednostki organów ścigania zajmujące się ochroną dzieci, udostępniając im nowe narzędzia i szkolenia z wykorzystania AI w śledztwach. Obejmuje to dedykowane wtyczki, narzędzia śledcze i złożoną analizę danych, a dostępem zarządzają administratorzy programu. Pierwsze udostępnione narzędzie pomoże śledczym analizować obszerne zapisy czatów i materiały uzyskane w odpowiedzi na żądania prawne, identyfikować potencjalne powiązania oraz tworzyć osie czasu. Ustalenia będą powiązane z materiałami źródłowymi.

Pierwsze szkolenie ma mieć formę wprowadzenia i demonstracji, uzupełnionych praktycznym przewodnikiem, z którego zespoły będą mogły później korzystać. Przedstawi narzędzia i sposoby ich wykorzystania w pracy śledczej. Dostęp będzie zależał od zgody właściwej instytucji i spełnienia wymogów programu. Kolejne edycje szkolenia będą proponowane w ramach konferencji regionalnych, krajowych i międzynarodowych.

Dalsza wspólna praca

Wszystkie te działania mają jeden cel: zapobiegać krzywdzeniu dzieci i zwiększać skuteczność reagowania, gdy dochodzi do nadużyć. Będziemy nadal doskonalić nasze zabezpieczenia, a jednocześnie udostępniać organizacjom zajmującym się ochroną dzieci, deweloperom, badaczom i śledczym narzędzia, zasoby oraz wiedzę potrzebne do ochrony dzieci, zwalczania ich wykorzystywania i stawiania sprawców przed wymiarem sprawiedliwości. Działając razem, możemy wykorzystać potencjał AI, by realnie zwiększyć skuteczność walki z wykorzystywaniem seksualnym dzieci i przemocą seksualną wobec nich.