OpenAI popiera kalifornijską ustawę dot. młodzieży używającej AI

Ann O’Leary, wiceprezeska ds. polityki globalnej

OpenAI popiera projekt ustawy Senatu Kalifornii SB 1119, który wprowadza istotne zabezpieczenia dotyczące korzystania z AI przez młodych ludzi, a jednocześnie zapewnia im dostęp do narzędzi pomocnych w nauce, tworzeniu i przygotowaniu się na przyszłość. Poparcie to jest kontynuacją zobowiązania złożonego w ubiegłym roku przez Sama Altmana, współzałożyciela i dyrektora generalnego OpenAI, gdy przedstawiał zasady firmy dotyczące nastolatków.

Wobec braku działań na szczeblu federalnym Kalifornia ma szansę ustanowić rygorystyczny standard bezpieczeństwa dotyczący młodzieży korzystającej z AI.

W naszym liście do gubernatora Newsoma⁠(otwiera nowe okno) wyrażamy uznanie dla niego, senatora Steve’a Padilli, członkiń Zgromadzenia Buffy Wicks i Rebekki Bauer-Kahan oraz legislatury Kalifornii za przywództwo w tej ważnej sprawie. Ustawa SB 1119 opiera się na rozwiązaniach na rzecz bezpieczeństwa młodzieży, które OpenAI wspierało za pośrednictwem swoich produktów, globalnych zasad polityki, działań rzeczniczych w Kalifornii oraz prac nad ustawą Parents & Kids Safe AI Act. Zachęcamy gubernatora Newsoma do podpisania tej ustawy.

Nastolatki są pierwszym pokoleniem dorastającym z AI. Tygodniowo niemal 90% nastolatków korzystających z ChatGPT używa tej technologii do nauki, zdobywania informacji, rozwijania umiejętności lub zwiększania produktywności. Z tą szansą wiąże się wyraźna odpowiedzialność: rozwiązania dla nastolatków powinny uwzględniać ich szczególne potrzeby rozwojowe, zapewniać solidne domyślne zabezpieczenia oraz odpowiednie możliwości uczenia się, tworzenia i odkrywania.

Takie podejście odzwierciedla niedawno uruchomiony ChatGPT for Teens. Model ten zaprojektowano tak, aby pomagał osobom w wieku poniżej 18 lat uczyć się, krytycznie myśleć i tworzyć, a jednocześnie promował zdrowe nawyki użytkowania, zapewniał wbudowane zabezpieczenia i dawał rodzicom dodatkowe możliwości kontroli. Jeśli nasz system oceni, że dana osoba ma mniej niż 18 lat, albo poda ona, że ma od 13 do 17 lat, automatycznie będzie korzystać z ChatGPT for Teens. Zabezpieczenia te są częścią podstawowego środowiska użytkownika, a nie opcjonalnymi ustawieniami, które można wyłączyć.

W szerszej perspektywie uważamy, że nastolatki mogą bezpiecznie korzystać z AI i właśnie ten cel leży u podstaw ustawy SB 1119.

Ustawa SB 1119 łączy solidne zabezpieczenia z ciągłym dostępem do przydatnych narzędzi AI. Zdecydowanie popieramy następujące kluczowe wymogi:

• Ustalać wiek użytkownika;
• Identyfikować i eliminować zagrożenia przed udostępnieniem produktu młodym ludziom;
• Poddawać się niezależnym audytom;
• Chronić młodych ludzi przed szkodliwymi treściami, w tym dotyczącymi samookaleczeń i wykorzystywania seksualnego, oraz innymi niebezpiecznymi działaniami;
• Zapewniać rodzicom narzędzia umożliwiające kierowanie sposobem korzystania z produktu przez dzieci i jego ograniczanie;
• Kierować młodych ludzi do zasobów wsparcia kryzysowego w razie poważnych zagrożeń;
• Ograniczać reklamy ukierunkowane i chronić dane osobowe młodzieży.

Zabezpieczenia te powinny być stosowane automatycznie wobec użytkowników w wieku od 13 do 17 lat. Ustawa ta połączyłaby realną odpowiedzialność z zabezpieczeniami pomagającymi chronić młodzież korzystającą z AI.

W ustawie SB 1119 słusznie uznaje się również, że AI nie jest medium społecznościowym. Ustawa wprowadza zabezpieczenia, które mają pomagać młodym ludziom wykorzystywać AI do nauki, tworzenia i odkrywania. Tworząc te ramy, decydenci starali się zachować dostęp do funkcji edukacyjnych oraz funkcji o kluczowym znaczeniu dla bezpieczeństwa, w tym do odpowiedzialnych zastosowań pamięci ChatGPT, a zarazem promować bezpieczniejsze rozwiązania dostosowane do wieku nastolatków.

ChatGPT for Teens zawiera zestaw funkcji opracowanych specjalnie z myślą o wspieraniu nauki, takich jak quizy, wizualizacje edukacyjne i Tryb nauki. Powstały one we współpracy z nauczycielami i ekspertami w dziedzinie edukacji, aby prowadzić uczniów przez problemy krok po kroku. Narzędzia te mają pogłębiać zrozumienie i pomagać w kształtowaniu lepszych nawyków uczenia się. Funkcje wykorzystujące kontekst wcześniejszych rozmów, w tym pamięć, pomagają konsekwentnie stosować zabezpieczenia, rozpoznawać niepokojące wzorce oraz z czasem zapewniać bardziej użyteczne wsparcie w nauce.

Kontekst usprawnia też bardziej spójne współdziałanie narzędzi wspierających bezpieczeństwo i uczenie się. Dzięki funkcjom takim jak pamięć ChatGPT może zachowywać istotne informacje i preferencje z wcześniejszych rozmów, co pozwala nastolatkom kontynuować długoterminowe projekty edukacyjne bez zaczynania od nowa. Ta ciągłość może również zapobiegać utrwalaniu szkodliwych wzorców oraz umożliwiać skuteczniejsze reagowanie, gdy młoda osoba może potrzebować dodatkowej pomocy lub zasobów.

Godzenie bezpieczeństwa z nauką nie jest dla nas niczym nowym. W ubiegłym roku dodaliśmy kontrolę rodzicielską, przewidywanie wieku, nasz plan bezpieczeństwa nastolatków oraz zasady dotyczące osób poniżej 18. roku życia w naszej specyfikacji modelu — reguły określające zamierzone zachowanie naszych modeli — co pozwala wyznaczyć nowe standardy używania tych narzędzi przez młodzież. Zasady te zabraniają nawiązywania relacji romantycznych, zachęcania do zależności emocjonalnej oraz twierdzenia, że ChatGPT jest człowiekiem lub istotą świadomą. Oferujemy również kontrolę rodzicielską, która pozwala rodzinom zarządzać kluczowymi ustawieniami dla nastolatków i otrzymywać powiadomienia w groźnych sytuacjach.

Ustawa SB 1119 określa solidne ramy bezpieczeństwa młodzieży korzystającej z AI w Kalifornii. Dalsze analizy i współpraca podczas wdrażania mogą pomóc ulepszyć kluczowe przepisy oraz zapewnić skuteczność tych ram w miarę rozwoju technologii. OpenAI z zainteresowaniem oczekuje możliwości wspierania tych prac i dalszego tworzenia rozwiązań AI, które traktują nastolatków odpowiednio do ich wieku, zapewniając solidniejsze automatyczne zabezpieczenia oraz realne możliwości nauki i rozwoju.