Dlaczego nastolatki zasługują na dostęp do bezpiecznej AI

Nastolatki to pierwsze pokolenie dorastające z AI, a ta technologia będzie silnie kształtować ich przyszłość. Obecnie w ciągu jednego tygodnia niemal 9 na 10 nastolatków korzystających z ChatGPT używa go do nauki, zdobywania informacji, rozwijania umiejętności lub zwiększania produktywności. Dlatego uważamy, że dostęp nastolatków do AI ma kluczowe znaczenie. Odsuwanie nastolatków od korzystania z niej aż do dorosłości byłoby jak wymaganie od poprzedniego pokolenia, by do 18. roku życia unikało internetu lub wyszukiwarek — przez co byliby gorzej przygotowani do korzystania z jednej z przełomowych technologii swoich czasów. Dostępowi muszą jednak towarzyszyć zabezpieczenia zaprojektowane specjalnie z myślą o nastolatkach.

Podczas niedawnego wydarzenia OpenAI Academy⁠(otwiera nowe okno) Oriana McKenzie opowiedziała, jak ChatGPT pomógł jej zostać najlepszą uczennicą w klasie dzięki mądrzejszej nauce i lepszemu zarządzaniu obowiązkami — dając jej czas potrzebny na sport i szkolne programy, które kocha. Jej historia pokazuje, co jest możliwe, gdy nastolatki mają dostęp do AI, która pomaga im się uczyć i tworzyć.

Aby w pełni wykorzystać te korzyści, nastolatki potrzebują silniejszych zabezpieczeń dostosowanych do ich etapu życia, w tym automatycznych barier ochronnych, które pozwalają im odkrywać, uczyć się i tworzyć z pewnością, a jednocześnie zapewniają ochronę dopasowaną do wieku. Wraz z rosnącymi możliwościami AI naszym obowiązkiem jest łączenie szerokiego dostępu z zabezpieczeniami odpowiednimi do wieku, aby nastolatki mogły korzystać z tej technologii w miarę jej rozwoju.

W minionym roku oznaczało to wzmacnianie domyślnych zabezpieczeń dla nastolatków, wdrażanie przewidywania wieku⁠, rozszerzanie kontroli rodzicielskiej⁠, tworzenie dodatkowych materiałów dla rodzin⁠(otwiera nowe okno), które pomagają rodzicom wspierać zdrowe i odpowiedzialne korzystanie z technologii, oraz wprowadzanie funkcji edukacyjnych wspierających głębsze zrozumienie, a nie tylko podawanie odpowiedzi.

Naszą pracą kierują cztery kluczowe zobowiązania⁠:

• Stawiamy bezpieczeństwo nastolatków na pierwszym miejscu, nawet gdy może to kolidować z innymi celami.
• Zachęcamy do szukania wsparcia w świecie rzeczywistym w chwilach potrzeby.
• Traktujemy nastolatków jak nastolatków.
• Działamy przejrzyście, wyznaczając jasne oczekiwania.

Nauka to jeden z najczytelniejszych sposobów, w jakie nastolatki korzystają z AI, dlatego tworzymy narzędzia zachęcające do aktywnego zaangażowania, krytycznego myślenia i głębszego zrozumienia. Tryb nauki⁠(otwiera nowe okno) powstał we współpracy z nauczycielami, badaczami procesów uczenia się i ekspertami od pedagogiki, aby pomagać uczniom krok po kroku rozwiązywać problemy dzięki pytaniom naprowadzającym, uporządkowanym wyjaśnieniom i okazjom do refleksji, bez prostego podawania odpowiedzi. Wczesna ocena narzędzi takich jak Tryb nauki pokazała obiecującą poprawę wyników uczniów⁠, pomagając ukierunkować nasze szersze badania nad tym, jak AI może wspierać efekty uczenia się.

Nastolatki mogą włączyć ten tryb samodzielnie, a teraz rodzice z połączonymi kontami nastolatków mogą włączać Tryb nauki⁠ bezpośrednio z poziomu kontroli rodzicielskiej⁠. Po włączeniu jest on domyślnie aktywny zawsze, gdy nastolatek rozpoczyna nowy czat, dając rodzinom kolejny sposób kierowania tym, jak ChatGPT jest używany do zadań szkolnych i nauki.

Niedawno wprowadziliśmy też edukacyjne polecenia startowe dla nastolatków, aby łatwiej było zacząć od takich zadań jak rozbicie tematu na proste kroki, przekształcenie notatek w przewodnik do nauki, tworzenie fiszek lub pytań ćwiczeniowych oraz sprawdzanie dowodów i jasności przekazu.

Nadal rozwijamy również interaktywne doświadczenia edukacyjne⁠. Badania konsekwentnie pokazują⁠, że ludzie uczą się skuteczniej, gdy mogą aktywnie pracować z pojęciami, zamiast biernie przyswajać informacje. Od uruchomienia na początku tego roku 18 milionów użytkowników tygodniowo korzysta już z interaktywnych doświadczeń z matematyki i nauk ścisłych w ChatGPT, a my rozszerzyliśmy je o ponad 250 nowych tematów — od całek i mitozy po fazy Księżyca, fotosyntezę i wiele innych. Wprowadziliśmy też doświadczenie wymowy, które wykorzystuje dźwięk, aby pomagać ludziom uczyć się wymawiania słów w ponad 61 językach.

Jeśli nasz system oszacuje, że osoba korzystająca z ChatGPT ma mniej niż 18 lat,⁠ automatycznie zapewniamy jej bardziej odpowiednie do wieku doświadczenie⁠(otwiera nowe okno). Nastolatki nadal mogą używać ChatGPT do nauki, tworzenia i odkrywania, ale z dodatkowymi zabezpieczeniami zaprojektowanymi tak, by ograniczać kontakt z treściami, które mogą być dla nich nieodpowiednie. Obejmuje to silniejsze zabezpieczenia dotyczące drastycznej przemocy, samookaleczeń, ryzykownych viralowych wyzwań, treści promujących niezdrowy obraz ciała oraz niebezpiecznego, romantycznego lub seksualnego odgrywania ról. Naszym głównym celem jest zapewnienie, by ChatGPT pozostawał narzędziem do nauki i twórczości, a nie substytutem relacji w świecie rzeczywistym.

Projektujemy też ChatGPT tak, aby zachęcał do zdrowych nawyków. Nastolatki, które spędzają w ChatGPT dłuższy czas, będą teraz częściej otrzymywać przypomnienia o przerwie⁠, zachęcające do zatrzymania się i odejścia od ekranu. Te przypomnienia mają pomagać młodym ludziom budować zrównoważone nawyki korzystania z technologii, jednocześnie pozostawiając im swobodę używania AI do nauki, twórczości i rozwiązywania problemów.

Wierzymy, że najlepsze narzędzia bezpieczeństwa pomagają rodzinom wspólnie poruszać się po doświadczeniach online nastolatków. Stworzyliśmy kontrolę rodzicielską i powiadomienia⁠, które pozwalają ustawiać godziny wyciszenia, wyłączać tryb głosowy, zarządzać dostępem do generowania obrazu oraz otrzymywać powiadomienia w określonych sytuacjach wysokiego ryzyka, na przykład przy oznakach możliwego samookaleczenia.

Rozszerzamy te powiadomienia o przypadki, gdy połączone konto nastolatka zostało dezaktywowane za naruszenie naszych zasad użytkowania⁠ dotyczących brutalnych gróźb lub aktów przemocy online. Takie podejście pomaga rodzicom dowiedzieć się, że wydarzyło się coś poważnego, a jednocześnie szanuje prywatność nastolatków i zachęca do rozmów oraz wsparcia poza internetem.

Przy opracowywaniu tych funkcji konsultowaliśmy się z kilkoma ekspertami, w tym z Moonshot⁠(otwiera nowe okno), liderem w zapobieganiu przemocy online, aby dopilnować, że te interwencje są przemyślane, skuteczne i nastawione na pomaganie rodzinom w chwilach potrzeby.

Chcemy też zapewnić rodzicom, nastolatkom i edukatorom jasne wskazówki, jak najlepiej odpowiedzialnie korzystać z AI. Publikujemy materiały edukacyjne w ponad 50 językach, w tym Rodzinny przewodnik, który pomaga nastolatkom odpowiedzialnie korzystać z AI⁠(otwiera nowe okno), Wskazówki do rozmowy z nastolatkiem o AI⁠(otwiera nowe okno) oraz Wskazówki dla rodziców korzystających z ChatGPT⁠(otwiera nowe okno).

Zapewnienie młodym ludziom bezpieczeństwa online nie jest czymś, co jedna firma może rozwiązać sama. Ściśle współpracujemy z nastolatkami, rodzicami, edukatorami, ekspertami ds. bezpieczeństwa dzieci, specjalistami od zdrowia psychicznego, badaczami, rządami i organizacjami społeczeństwa obywatelskiego. Te partnerstwa pomagają nam lepiej rozumieć potrzeby młodych ludzi, identyfikować pojawiające się ryzyka, oceniać skuteczność naszych zabezpieczeń i dopilnować, by nasze zasady opierały się na niezależnej wiedzy eksperckiej.

Ta praca obejmuje zarówno nasze podejście do nauki, jak i do dobrostanu młodzieży. Współpracujemy z edukatorami, w tym z American Federation of Teachers⁠, uczniami i studentami oraz organizacjami edukacyjnymi, aby lepiej rozumieć, jak AI może wspierać nauczanie i uczenie się, jednocześnie wzmacniając aktywne zaangażowanie i krytyczne myślenie. Ściśle współpracujemy też z ekspertami ze środowisk zajmujących się zdrowiem psychicznym, rozwojem dziecka i bezpieczeństwem młodzieży, w tym z American Psychological Association⁠(otwiera nowe okno), naszą Global Physicians Network⁠ oraz naszą Expert Council on Well-Being and AI⁠.

Nasza praca nad budowaniem zdrowszego ekosystemu cyfrowego wykracza poza nasze własne produkty. Apelowaliśmy o opracowanie skalowalnych globalnych standardów bezpieczeństwa młodzieży w obszarze AI⁠ za pośrednictwem dedykowanego Instytutu Bezpieczeństwa AI, udostępniliśmy na zasadach open source zasady i narzędzia⁠, które deweloperzy mogą wbudowywać we własne systemy AI, oraz współpracujemy z organizacjami takimi jak Common Sense Media⁠(otwiera nowe okno) i everyone.ai⁠(otwiera nowe okno), aby dzielić się wiedzą i najlepszymi praktykami.

W tym roku dołączyliśmy także do Family Online Safety Institute⁠(otwiera nowe okno) (FOSI), organizacji od lat działającej na rzecz bezpiecznych doświadczeń online dla rodzin i młodych ludzi. Będziemy współpracować, aby młodzi ludzie mogli korzystać z AI, przy wzmocnionej roli rodziców i odpowiedzialnych praktykach branży w centrum działań. Mamy nadzieję, że to partnerstwo pomoże rozwijać wspólne zrozumienie tego, co działa, wzmacniać zabezpieczenia odpowiednie do wieku i narzędzia dla rodziców oraz wspierać ogólnobranżowe działania, które umożliwią młodym ludziom bezpieczne i odpowiedzialne korzystanie z AI.

Ochrona młodych ludzi online wymaga ciągłych postępów. W nadchodzących miesiącach będziemy nadal wzmacniać zabezpieczenia odpowiednie do wieku, dawać rodzicom więcej narzędzi i kontroli, ulepszać ochronę przed poważnymi szkodami, rozwijać badania nad zdrowym korzystaniem z AI oraz tworzyć więcej doświadczeń, które pomagają nastolatkom aktywnie się uczyć i pewnie korzystać z AI.

Wiemy, że przed nami jeszcze wiele pracy, i zobowiązujemy się kontynuować ją we współpracy z nastolatkami, rodzicami, edukatorami, ekspertami i społecznościami na całym świecie, aby zapewnić nastolatkom bezpieczny, szeroki dostęp.