Zwiększanie bezpieczeństwa i szans młodzieży dzięki globalnemu przywództwu

AI może być potężnym narzędziem dla młodych ludzi. Może pomagać uczniom zrozumieć trudne pojęcie, ćwiczyć nowy język, przygotować się do rozmowy kwalifikacyjnej, odkrywać kreatywne pomysły lub uczyć się nowej umiejętności. Tak jak ruch na rzecz alfabetyzacji, który w połowie XX wieku rozprzestrzenił się na całym świecie, wymagał masowej dystrybucji drukowanych tekstów i dostępu do wykwalifikowanych nauczycieli, tak dziś zapewnienie dostępu do bezpiecznej AI otworzy nowe możliwości spersonalizowanego uczenia się, pomoże zmniejszyć bariery dla osób niedostatecznie obsługiwanych i zwiększy gotowość do pracy.

Ponieważ potencjalne korzyści są tak znaczące, konieczne jest, aby młodzi ludzie mogli korzystać z AI w sposób bezpieczny, odpowiedni do wieku i wspierający zdrowy rozwój. Ta odpowiedzialność nie powinna spoczywać przede wszystkim na rodzicach ani na samych młodych ludziach. Firmy, w tym OpenAI, mają obowiązek tworzyć produkty z domyślnie odpowiednimi zabezpieczeniami, jednocześnie wyposażając rodziny w narzędzia i informacje pomagające kierować sposobem korzystania z AI.

Gdy pod koniec tego miesiąca głowy państw spotkają się na szczycie przywódców G7 w Évian we Francji, bezpieczeństwo młodzieży w kontekście AI będzie jednym z kluczowych tematów. OpenAI dołączy do rozmów o ściślejszej współpracy w zakresie bezpieczeństwa młodzieży, o tym, jak wspólnie podnosić standardy branżowe, oraz o nowym apelu OpenAI o utworzenie międzynarodowego instytutu bezpieczeństwa młodzieży.

Szczyt przywódców G7 stanowi rzadką okazję do globalnej koordynacji działań na rzecz bezpieczeństwa młodzieży. Jednak wyspecjalizowany instytut zapewniłby ciągłość i konsekwentne działania potrzebne poza pojedynczym szczytem, pomagając rządom, badaczom, społeczeństwu obywatelskiemu i branży nadal współpracować nad dzieleniem się dowodami, opracowywaniem wytycznych i podnoszeniem standardów w czasie.

Można to zrobić na kilka wiarygodnych sposobów: poprzez nowy międzynarodowy instytut albo przez nadanie istniejącemu lub nowo utworzonemu krajowemu instytutowi ds. AI globalnego mandatu do dzielenia się badaniami, dowodami i wytycznymi z partnerami na całym świecie. Najważniejsza jest funkcja, jaką pełni. Bezpieczeństwo młodzieży w kontekście AI wymaga stałej uwagi, wiarygodnych dowodów i praktycznych wskazówek, które mogą nadążać za technologią.

Taki instytut może opierać się na powstających inicjatywach, takich jak Youth AI Safety Institute organizacji Common Sense Media, wspierany przez OpenAI Foundation, a także na praktycznej współpracy z edukatorami, w tym pracach OpenAI z American Federation of Teachers⁠. Powinien także czerpać z wdrożeń w rzeczywistych warunkach, takich jak krajowe wprowadzenie ChatGPT do szkół w Estonii, gdzie OpenAI współpracuje ze Stanfordem i estońskimi badaczami, aby analizować wpływ oraz wspierać bezpieczniejsze i skuteczniejsze wykorzystanie w nauce.

OpenAI z zadowoleniem przyjmuje możliwość współpracy z rządem Francji, innymi rządami państw G7 oraz partnerami ze społeczeństwa obywatelskiego, środowiska akademickiego i branży nad tą ważną pracą oraz nad podnoszeniem globalnych standardów bezpieczeństwa młodzieży.

Uważamy, że solidne ramy bezpieczeństwa młodzieży w obszarze AI, w tym ewentualne porozumienie osiągnięte podczas spotkań G7, powinny opierać się na zasadach, które przedstawiamy tutaj.

1. Firmy powinny wiedzieć, kiedy użytkownik jest osobą małoletnią, i stosować zabezpieczenia odpowiednie do wieku. Oznacza to wymaganie od dostawców stosowania środków takich jak skuteczne, chroniące prywatność szacowanie wieku w celu odróżniania osób małoletnich od dorosłych oraz domyślnego stosowania zabezpieczeń ochronnych, gdy wieku użytkownika nie da się ustalić. Bez tej podstawy nawet najlepiej pomyślane zabezpieczenia dla młodzieży mogą nie dotrzeć do młodych ludzi, których mają chronić.
2. Firmy powinny regularnie oceniać zarówno ryzyka, jak i korzyści dla młodych ludzi oraz podejmować działania, by im zaradzić — zanim dojdzie do szkody. Oznacza to wymaganie od dostawców przeprowadzania corocznych ocen ryzyka dla bezpieczeństwa młodzieży oraz wdrażania proporcjonalnych zabezpieczeń na podstawie zidentyfikowanych ryzyk. Takie oceny powinny uwzględniać zagrożenia dla młodych ludzi wynikające z etapu ich rozwoju, dowody empiryczne z rzeczywistego użycia oraz odpowiednie badania lub wytyczne regulacyjne. Oceny powinny uwzględniać nie tylko potencjalne szkody, ale także to, czy AI wspiera pozytywne rezultaty, takie jak uczenie się, kreatywność, rozwój umiejętności i dostęp do szans.
3. Rodzice i opiekunowie powinni mieć dostępne, łatwe w użyciu mechanizmy kontroli, które pomagają im kierować doświadczeniami dzieci, jednocześnie wspierając niezależność odpowiednią do wieku. Powinny one obejmować narzędzia do zarządzania kluczowymi ustawieniami, w tym pamięcią, wykorzystywaniem danych i limitami czasu. Narzędzia dla rodziców powinny być aktywnie promowane, aby rodzice wiedzieli, że istnieją, i rozumieli, jak z nich korzystać.
4. Rodziny zasługują na jasne, zrozumiałe informacje o tym, jak firmy chronią młodych użytkowników, oraz na rzetelne informacje zarówno o korzyściach, jak i ryzykach korzystania z AI przez młodych ludzi. Firmy powinny publikować polityki bezpieczeństwa wyjaśniające, jakie zabezpieczenia chronią młodych ludzi, jakie narzędzia rodzicielskie są dostępne i jak zabezpieczenia są aktualizowane wraz ze zmianą ryzyk. Taka przejrzystość buduje zaufanie i pomaga rodzicom podejmować świadome decyzje.
5. Firmy powinny mieć jasne protokoły reagowania na poważne sytuacje związane z bezpieczeństwem, w tym samookaleczenia, wykorzystywanie, grooming, treści o charakterze seksualnego wykorzystywania oraz inne interakcje wysokiego ryzyka. Powinny one obejmować wsparcie w ramach usługi, kierowanie do odpowiednich zasobów oraz terminowe powiadomienia rodziców, gdy jest to właściwe. Firmy powinny również projektować swoje systemy tak, aby uniemożliwiały im generowanie treści niebezpiecznych lub nieodpowiednich rozwojowo dla dzieci, w tym drastycznych materiałów seksualnych lub zawierających przemoc.  
6. Systemy AI używane przez młodych ludzi powinny być projektowane tak, aby wspierać uczenie się, rozwój i relacje w świecie rzeczywistym — a nie je zastępować. AI powinna służyć jako narzędzie, które pomaga młodym ludziom uczyć się, tworzyć, rozwijać umiejętności i przygotowywać się do przyszłości. Jednocześnie firmy powinny ustanowić jasne granice w obszarach, w których zdrowy rozwój zależy od ludzkiego osądu, relacji w świecie rzeczywistym i profesjonalnego wsparcia.
7. Dane osobowe osób małoletnich powinny być chronione. Oznacza to zakaz kierowanej do młodych ludzi reklamy targetowanej naruszającej prywatność oraz zakaz sprzedaży danych osobowych przez firmy.
8. Ramy bezpieczeństwa młodzieży powinny promować szanse, kompetencje i ochronę. Młodzi ludzie powinni mieć dostęp do narzędzi AI wspierających uczenie się, kreatywność, rozwój umiejętności i przyszłe szanse, a jednocześnie być wyposażeni w wiedzę i umiejętności krytycznego myślenia potrzebne do bezpiecznego i odpowiedzialnego korzystania z AI. Obejmuje to promowanie kompetencji w zakresie AI i pomaganie młodym ludziom w zrozumieniu możliwości oraz ograniczeń systemów AI, aby mogli pewnie i odpowiedzialnie uczestniczyć w przestrzeniach cyfrowych.
9. Silne mechanizmy odpowiedzialności, w tym niezależne audyty, są niezbędne, aby zapewnić, że te zabezpieczenia mają realne znaczenie w praktyce. Audyty powinny opierać się na zestawie wspólnych standardów, które umożliwiają interoperacyjne audyty w różnych jurysdykcjach. Ramy legislacyjne powinny obejmować środki nadzoru i egzekwowania, które pozwalają rządom ocenić, czy firmy skutecznie wdrażają zabezpieczenia bezpieczeństwa młodzieży, ograniczają zidentyfikowane ryzyka oraz przestrzegają obowiązków dotyczących bezpieczeństwa młodzieży i prywatności.

Te zasady znajdują odzwierciedlenie w tym, jak tworzymy i obsługujemy ChatGPT — od zachowania modelu i projektowania produktu po wkład ekspertów i wsparcie w rzeczywistych sytuacjach. Wzmocniliśmy zabezpieczenia dla użytkowników poniżej 18. roku życia, uruchomiliśmy kontrolę rodzicielską⁠ z proaktywnymi powiadomieniami oraz zaawansowane systemy przewidywania wieku⁠, aby ChatGPT mógł stosować silniejsze zabezpieczenia, gdy ktoś może mieć mniej niż 18 lat. Nasza specyfikacja modelu, która określa, jak powinny zachowywać się nasze modele, obejmuje również dedykowane zasady dla użytkowników poniżej 18. roku życia⁠(otwiera nowe okno), priorytetowo traktując bezpieczeństwo nastolatków, doświadczenia odpowiednie do wieku, wsparcie w świecie rzeczywistym i jasne oczekiwania. W praktyce oznacza to silniejsze zabezpieczenia dotyczące samookaleczeń, niebezpiecznych działań, drastycznych treści, obrazu ciała i zachowywania tajemnic, a także zachęcanie do szukania zaufanego wsparcia offline lub zasobów kryzysowych, gdy jest to potrzebne. Gdy wiek jest niepewny, domyślnie stosujemy silniejsze zabezpieczenia.

AI projektowana z silnymi zabezpieczeniami i oferowana z jasnymi wskazówkami oraz wsparciem rodzin i edukatorów może pomóc młodym ludziom bezpiecznie korzystać z narzędzi, które poszerzają możliwości uczenia się, kreatywności i rozwoju. AI może pomagać uczniom zrozumieć trudne pojęcia, ćwiczyć języki, doskonalić pisanie, uczyć się kodowania, organizować badania, odkrywać kreatywne pomysły i przygotowywać się do zawodów, które już się zmieniają. Poprzez Education for Countries⁠ OpenAI współpracuje z rządami i edukatorami nad wdrożeniami opartymi na badaniach, zlokalizowanymi narzędziami edukacyjnymi i szkoleniami nauczycieli, aby wdrażanie AI było zakorzenione w dowodach i rzeczywistych potrzebach klas szkolnych. Ta praca już wspiera krajowe działania edukacyjne w naszych krajach partnerskich, w tym w Estonii⁠, Grecji⁠ i Singapurze⁠.

Oprócz udziału w szczycie przywódców przeniesiemy OpenAI Forum⁠(otwiera nowe okno) do Paryża, aby zorganizować praktyczną rozmowę o tym, jak rządy, badacze, społeczeństwo obywatelskie, edukatorzy i branża mogą przekuć wspólne cele dotyczące bezpieczeństwa młodzieży w konkretne zabezpieczenia, standardy i praktyki wdrożeniowe. Ambasadorka Francji ds. AI i cyfryzacji, Clara Chappaz, dołączy do dyrektora OpenAI ds. relacji globalnych Chrisa Lehane’a, liderów bezpieczeństwa młodzieży z iRaise/Everyone.AI oraz innych ekspertów w dyskusji o tym, jak młodzi ludzie mogą korzystać z AI przy jednoczesnym ograniczaniu ryzyk.