Aktualizacja specyfikacji modelu z uwzględnieniem zabezpieczeń dotyczących nastolatków
Nowe zasady U18 oparte na wskazówkach ekspertów określają, w jaki sposób ChatGPT ma wspierać nastolatków w zakresie odpowiedzialnych zachowań adekwatnych do wieku.
Udostępniamy aktualizację specyfikacji modelu, czyli zbioru zasad, wartości i oczekiwań dotyczących zachowania, które określają, jak powinny zachowywać się nasze modele AI, zwłaszcza w trudnych przypadkach lub sytuacjach o potencjalnie poważnych konsekwencjach, wraz z nowymi zasadami dotyczącymi osób poniżej 18 roku życia (U18)(otwiera nowe okno). Zachowanie modelu ma kluczowe znaczenie dla interakcji ludzi z AI, a potrzeby rozwojowe nastolatków znacznie różnią się od potrzeb dorosłych.
Zasady U18 określają, w jaki sposób ChatGPT ma zapewniać bezpieczne i odpowiednie dla wieku środowisko dla nastolatków w wieku od 13 do 17 lat. Podejście to oparte jest na naukach o rozwoju oraz kładzie nacisk na profilaktykę, przejrzystość i wczesną interwencję. W trakcie opracowywania przedstawiliśmy te zasady zewnętrznym ekspertom, w tym Amerykańskiemu Towarzystwu Psychologicznemu, w ramach ciągłego dążenia do wzmocnienia naszego podejścia.
Mimo iż zasady określone w specyfikacji modelu nadal mają zastosowanie zarówno do użytkowników dorosłych, jak i nastolatków, niniejsza aktualizacja wyjaśnia, w jaki sposób dotyczą one nastolatków, zwłaszcza w sytuacjach, w których kwestie bezpieczeństwa nieletnich mogą być szczególnie istotne.
Zasady U18 opierają się na czterech podstawowych zobowiązaniach:
- Bezpieczeństwo nastolatków jest najważniejsze, nawet jeśli może to kolidować z innymi celami
- Promowanie wsparcia w świecie rzeczywistym poprzez zachęcenie do nawiązywania relacji offline i korzystania ze sprawdzonych źródeł informacji
- Traktowanie nastolatków jak nastolatków, ani w sposób protekcjonalny, ani jak osoby dorosłe
- Transparentność poprzez ustalenie jasnych oczekiwań
Zgodnie z naszym planem bezpieczeństwa nastolatków zasady te wyznaczały kierunek naszych dotychczasowych działań na rzecz bezpieczeństwa nastolatków, w tym ochrony treści w odniesieniu do użytkowników, którzy podczas rejestracji podają, że mają mniej niż 18 lat, a także poprzez kontrolę rodzicielską. W tych kontekstach wdrożyliśmy zabezpieczenia, które mają na celu skłonienie modelu do zachowania szczególnej ostrożności podczas omawiania obszarów wysokiego ryzyka, takich jak samookaleczenia i samobójstwa, odgrywanie ról o charakterze romantycznym lub seksualnym, treści graficzne lub jednoznaczne, niebezpieczne działania i substancje, postrzeganie własnego ciała i zaburzenia odżywiania, a także prośby o zachowanie niebezpiecznych zachowań w tajemnicy.
Amerykańskie Towarzystwo Psychologiczne, które przeanalizowało wczesną wersję projektu specyfikacji modelu U18 i przedstawiło ważne spostrzeżenia dotyczące długoterminowych skutków, jasno podkreśla znaczenie ochrony nastolatków:
„APA zachęca firmy tworzące narzędzia AI do wprowadzania w swoich produktach odpowiednich do wieku środków ostrożności dotyczących młodzieży oraz do stosowania bardziej ochronnego podejścia w stosunku do młodszych użytkowników. Dzieci i młodzież mogą korzystać z narzędzi sztucznej inteligencji, jeśli będą one równoważone interakcjami międzyludzkimi, które według badań naukowych mają kluczowe znaczenie dla rozwoju społecznego, psychologicznego, behawioralnego, a nawet biologicznego. Doświadczenia młodzieży związane ze sztuczną inteligencją powinny być dokładnie nadzorowane i omawiane z godnymi zaufania osobami dorosłymi, aby zachęcić do krytycznej oceny tego, co oferują boty AI, a także wspierać rozwój niezależnego myślenia i umiejętności u młodzieży”.
Ta aktualizacja wyjaśnia również, w jaki sposób asystent powinien reagować w przypadku pojawienia się zagrożeń dla bezpieczeństwa nastolatków. Oznacza to, że wobec nastolatków należy stosować silniejsze zabezpieczenia, bezpieczniejsze alternatywy oraz zachęcać ich do uzyskania zaufanej pomocy offline, gdy rozmowy wkraczają na bardziej ryzykowne tematy. W przypadku bezpośredniego zagrożenia nastolatki powinny skontaktować się ze służbami ratunkowymi lub ośrodkami pomocy kryzysowej.
Zasady U18, podobnie jak pozostałe elementy specyfikacji modelu, odzwierciedlają pożądane przez nas zachowania modelu. Będziemy je stale udoskonalać, uwzględniając wyniki nowych badań, opinie ekspertów i praktyczne zastosowania.
Oprócz aktualizacji specyfikacji modelu przyjęliśmy wielopoziomowe podejście do zwiększenia bezpieczeństwa nastolatków podczas korzystania z ChatGPT, które obejmuje zabezpieczenia produktu, wsparcie rodziny i wskazówki ekspertów.
Od momentu wprowadzenia kontroli rodzicielskiej(otwiera nowe okno) rozszerzyliśmy ochronę na nowe produkty, w tym czaty grupowe, przeglądarkę ChatGPT Atlas i aplikację Sora. Te aktualizacje pomagają rodzicom dostosować sposób korzystania z ChatGPT przez nastolatków w miarę wprowadzania nowych produktów i funkcji.
Zgodnie z zaleceniami ekspertów zachęcamy do prowadzenia ciągłych rozmów między rodzicami a nastolatkami na temat właściwego i odpowiedzialnego korzystania ze sztucznej inteligencji w rodzinie. Aby ułatwić te rozmowy, dodaliśmy do centrum zasobów(otwiera nowe okno) dla rodziców nowe materiały sprawdzone przez ekspertów, w tym przewodnik dla rodzin dotyczący odpowiedzialnego korzystania z AI przez nastolatków(otwiera nowe okno) oraz wskazówki dla rodziców(otwiera nowe okno) dotyczące rozmów z dziećmi na temat sztucznej inteligencji, które zostały zweryfikowane przez ConnectSafely i członków naszej rady ekspertów ds. zdrowia emocjonalnego i sztucznej inteligencji. Z czasem będziemy dodawać kolejne zasoby. Ponadto wspieramy prawidłowe korzystanie z produktu poprzez wbudowane przypomnienia o przerwach podczas długich sesji, aby wspierać świadome i zrównoważone wykorzystanie czasu spędzanego z ChatGPT.
Nasze działania na rzecz bezpieczeństwa nastolatków opierają się na ścisłej współpracy z ekspertami z różnych dziedzin posiadającymi różnorodną wiedzę specjalistyczną. W październiku powołaliśmy radę ekspertów ds. zdrowia emocjonalnego i sztucznej inteligencji, której zadaniem jest doradzanie i definiowanie, jak powinny wyglądać prawidłowe interakcje ze sztuczną inteligencją we wszystkich grupach wiekowych. Praca ta posłużyła jako podstawa do opracowania wytycznych dotyczących kontroli rodzicielskiej i powiadomień dla rodziców. Wykorzystujemy również wiedzę kliniczną poprzez naszą globalną sieć lekarzy, aby dostarczać informacji do badań dotyczących bezpieczeństwa i oceniać modelowe zachowania, w tym poprawiać sposób, w jaki ChatGPT rozpoznaje stan zagrożenia i w razie konieczności kieruje osoby potrzebujące do profesjonalnej opieki. W oparciu o te fundamenty stworzyliśmy GPT‑5.2, a także rozszerzyliśmy dostęp do wsparcia w świecie rzeczywistym, udostępniając zlokalizowane infolinie w ChatGPT i Sora dzięki naszej współpracy z ThroughLine(otwiera nowe okno).
Jesteśmy na wczesnym etapie wdrażania modelu przewidywania wieku(otwiera nowe okno) w planach konsumenckich ChatGPT. Pomoże nam on automatycznie zastosować zabezpieczenia w odniesieniu do nastolatków, gdy uznamy, że konto należy do osoby niepełnoletniej. W przypadku braku pewności co do wieku danej osoby lub niekompletnych informacji domyślnie zastosujemy wersję dla osób poniżej 18 roku życia oraz umożliwimy osobom dorosłym weryfikację wieku.
Poprawa bezpieczeństwa nastolatków to ciągły proces. Będziemy nieustannie ulepszać funkcje kontroli rodzicielskiej i możliwości modelu, poszerzać zasoby dla rodziców, a także współpracować z organizacjami, badaczami i partnerami eksperckimi, w tym z radą ds. dobrostanu i globalną siecią lekarzy.
Dążymy do zapewnienia skutecznej ochrony dla nastolatków oraz jej stopniowego ulepszania, aby móc lepiej wspierać młodzież i rodziny.
