Plan ochrony dzieci
Zapobieganie i ochrona przed seksualnym wykorzystywaniem dzieci z wykorzystaniem AI
Wykorzystywanie seksualne dzieci jest jednym z najpilniejszych wyzwań ery cyfrowej. AI szybko zmienia zakres występowania tego problemu w całej branży oraz wpływa na sposoby skutecznego przeciwdziałania mu na dużą skalę.
W OpenAI stworzyliśmy i nadal udoskonalamy zabezpieczenia mające zapobiegać niewłaściwemu wykorzystywaniu naszych systemów, a także ściśle współpracujemy z partnerami, takimi jak National Center for Missing and Exploited Children (NCMEC), oraz organami ścigania, aby usprawniać wykrywanie i zgłaszanie wszelkich incydentów. Działania te pomogły uwidocznić, gdzie w całej branży potrzebne są lepsze, wspólne standardy.
Przedstawiamy plan operacyjny, który wyznacza ścieżkę zapewniającą rozwój amerykańskich systemów ochrony dzieci w erze AI. Plan ten odzwierciedla i obejmuje opinie kilku czołowych organizacji i ekspertów z całego spektrum organizacji chroniących dzieci, w tym NCMEC, Attorney General Alliance oraz współprzewodniczących grupy ds. AI – Prokuratora Generalnego Karoliny Północnej Jeffa Jacksona i Prokuratora Generalnego Utah Dereka Browna – a także Thorn, co w założeniu ma zapewnić zgodność z ich priorytetami i umożliwić skuteczniejszą współpracę na rzecz zapobiegania krzywdzeniu dzieci.
Plan koncentruje się na trzech kluczowych priorytetach: modernizacji przepisów, aby uwzględniały materiały CSAM generowane i modyfikowane przez AI, usprawnieniu zgłaszania i koordynacji działań przez dostawców usług w celu ułatwienia prowadzenia skutecznych dochodzeń oraz uwzględnianiu (już na etapie projektowania) mechanizmów bezpieczeństwa zawartych bezpośrednio w rozwiązaniach AI, co ma zapobiegać niewłaściwemu użyciu tych technologii i wykrywać wszelkie nadużycia.
Żadna oderwana od reszty kontekstu zmiana nie jest umożliwi rozwiązania tego problemu. Przedstawiona powyżej struktura łączy podejścia prawne, operacyjne i techniczne, których celem jest skuteczniejsze identyfikowanie zagrożeń, przyspieszanie reakcji i wspieranie odpowiedzialności przy jednoczesnym zapewnieniu, że organy egzekwowania prawa zachowają swoją skuteczność wraz z rozwojem technologii.
W zestawieniu działania te pozwolą branży na szybsze i skuteczniejsze zajęcie się kwestią bezpieczeństwa dzieci. Dzięki wcześniejszemu przerywaniu prób wykorzystania, poprawie jakości informacji przekazywanych organom ścigania oraz wzmacnianiu odpowiedzialności w całym ekosystemie, ramy te mają na celu zapobieganie incydentom, zanim do nich dojdzie, oraz zapewnianie szybszej ochrony dzieci, gdy pojawiają się zagrożenia.
„Jako współprzewodniczący grupy ds. AI w organizacji Attorney General Alliance z zadowoleniem przyjmujemy ten plan stanowiący istotny krok w kierunku dostosowania działań sektora technologicznego w zakresie bezpieczeństwa dzieci do realiów egzekwowania prawa, z którymi nasze urzędy mierzą się każdego dnia. Szczególnie budujące jest dla nas to, że w tych ramach uznano, iż skuteczne zabezpieczenia systemów generatywnej sztucznej inteligencji wymagają wielowarstwowej obrony, a nie tylko pojedynczego mechanizmu. Niezbędne jest połączenie metod wykrywania, mechanizmów odmowy dostępu, nadzoru ludzkiego oraz dostosowywania się do stale pojawiających się nowych wzorców nadużyć. Podejście takie odzwierciedla to, co obserwujemy w praktyce: zagrożenia się zmieniają, a statyczne rozwiązania zabezpieczające są niewystarczające. Właściwe zaprojektowanie architektury działań prewencyjnych na wczesnym etapie jest najbardziej efektywną inwestycją, jakiej branża może zrealizować w kontekście ochrony dzieci.
Ostatecznie siła wszelkich dobrowolnych ram działania zależy od zakresu zobowiązań oraz gotowości branży do ponoszenia odpowiedzialności za ich realizację. Liczymy na dalsze partnerstwo z OpenAI, NCMEC i innymi prokuratorami generalnymi, co pozwoli zapewnić, że te zalecenia przełożą się na trwałą ochronę dzieci”,
Jeff Jackson (Karolina Północna) i Derek Brown (Utah), prokuratorzy generalni oraz współprzewodniczący grupy ds. AI w organizacji Attorney General Alliance.
„Grupa Attorney General Alliance wyznacza kierunek działań na rzecz ochrony młodych ludzi w internecie, łącząc prokuratorów generalnych, liderów branży, organizacje non-profit i partnerów z całego świata w celu opracowywania praktycznych i przyszłościowych rozwiązań w zakresie AI i bezpieczeństwa cyfrowego. Dzięki współpracy i innowacjom grupa AGA wyznacza wysokie standardy w zakresie ochrony młodzieży, jednocześnie odpowiedzialnie wdrażając nowe technologie. Doceniamy nieustające zaangażowanie OpenAI na rzecz bezpieczeństwa oraz współpracę z AGA i prokuratorami generalnymi przy opracowywaniu niezwykle ważnego planu na rzecz zapewniania bezpieczeństwa dzieci”,
Karen White, dyrektor wykonawczy Attorney General Alliance
„Generatywna sztuczna inteligencja wpływa na zakres przestępstw seksualnych związanych z wykorzystywaniem dzieci w internecie w sposób budzący głęboki niepokój. Technologia ta redukuje bariery, zwiększa skalę i daje dostęp do nowych form wyrządzania krzywd. Jednocześnie National Center for Missing & Exploited Children (NCMEC) z uznaniem przyjmuje fakt, że firmy takie jak OpenAI skupiają się na projektowaniu swoich narzędzi w bardziej odpowiedzialny sposób i opracowują zabezpieczenia wdrażane już na etapie tworzenia swoich usług. Żadna pojedyncza organizacja, firma ani sektor nie są w stanie samodzielnie rozwiązać tego problemu. Nieustanie współpracujemy z partnerami z całej branży, administracji publicznej i wielu grup zajmujących się ochroną dzieci, aby rozwijać mechanizmy ograniczające szkody i lepiej dbać o bezpieczeństwo dzieci”,
Michelle DeLaune, prezes i dyrektor generalna, National Center for Missing & Exploited Children
