Why teens deserve access to safe AI

Teens are the first generation growing up with AI, and this technology will heavily shape their future. Today, nearly 9 in 10 teens on ChatGPT use it for learning, information, skill-building, or productivity in a single week. This is why we believe it’s critical for teens to have access to AI. Keeping teens from using it until adulthood would be like asking a previous generation to avoid the internet or search engines until they turned 18, leaving them less prepared to use one of the defining technologies of their time. But access must be paired with protections designed specifically for teens.

During a recent OpenAI Academy⁠(otvara se u novom prozoru) Oriana McKenzie shared how ChatGPT helped her become No.1 in her high school class by studying smarter and managing her workload—giving her the time needed for the sports and school programs she loves. Her story illustrates what’s possible when teens have access to AI that helps them learn and create.

To maximize those gains, teens need stronger protections designed for their stage of life, including automated guardrails that let them explore, learn, and build with confidence, while providing safeguards tailored to their age. As AI becomes more capable, our responsibility is to combine broad access with age-appropriate protections that allow teens to benefit from this technology as it evolves.

Over the past year, that has meant strengthening default protections for teens, rolling out age prediction⁠, expanding Parental Controls⁠, creating additional family resources⁠(otvara se u novom prozoru) to help parents support healthy, responsible use, and introducing learning features to help support deeper understanding rather than just providing answers.

Our work is guided by four key commitments⁠:

• We put teen safety first even when it may conflict with other goals.
• We encourage real-world support in times of need.
• We treat teens as teens.
• We are transparent by setting clear expectations.

Learning is one of the clearest ways teens benefit from AI, so we’re building tools that encourage active engagement, critical thinking, and deeper understanding. Study Mode⁠(otvara se u novom prozoru) was designed in collaboration with teachers, learning scientists, and pedagogy experts to help students work through problems step by step using guiding questions, structured explanations, and opportunities for reflection without simply providing the answer. Early evaluation of tools like Study Mode has shown promising gains in student performance⁠, helping inform our broader research into how AI can support learning outcomes.

While teens can turn this mode on themselves, now parents with linked teen accounts can turn on Study Mode⁠ directly from Parental Controls⁠. When enabled, it is on by default whenever a teen starts a new chat, giving families another way to guide how ChatGPT is used for schoolwork and study.

We also recently introduced education-focused starter prompts for teens so it is easier to begin with tasks like breaking down a topic into simple steps, turning notes into a study guide, creating flashcards or practice questions, and checking evidence and clarity.

We’re continuing to expand interactive learning experiences⁠ as well. Research has consistently shown⁠ that people learn more effectively when they can actively engage with concepts rather than passively consume information. Since launching earlier this year, 18 million weekly users now engage with interactive math and science experiences in ChatGPT, and we’ve expanded those experiences to more than 300 topics total from integrals and mitosis to moon phases, photosynthesis and more. We also introduced a pronunciation experience that uses audio to help people learn how to pronounce words in more than 61 languages.

Ako naš sistem procijeni da je osoba koja koristi ChatGPT mlađa od 18 godina,⁠ automatski pružamo iskustvo koje je više primjereno dobi⁠(otvara se u novom prozoru). Tinejdžeri i dalje mogu koristiti ChatGPT za učenje, stvaranje i istraživanje, ali uz dodatne zaštite osmišljene da smanje izloženost sadržaju koji možda nije primjeren za njih. To uključuje snažnije zaštitne mjere u vezi s eksplicitnim nasiljem, samopovređivanjem, rizičnim viralnim izazovima, sadržajem koji promoviše nezdravu sliku o tijelu te opasnim, romantičnim ili seksualnim igranjem uloga. Naš glavni cilj je pomoći da ChatGPT ostane alat za učenje i kreativnost, a ne zamjena za odnose u stvarnom svijetu.

ChatGPT također osmišljavamo tako da podstiče zdrave navike. Tinejdžeri koji provode duže vrijeme u ChatGPT‑u sada će češće dobijati podsjetnike za pauzu⁠ koji ih podstiču da zastanu i odmaknu se. Ovi podsjetnici imaju za cilj pomoći mladima da izgrade uravnotežene tehnološke navike, uz zadržavanje slobode da koriste AI za učenje, kreativnost i rješavanje problema.

Vjerujemo da najbolji sigurnosni alati mogu pomoći porodicama da zajedno usmjeravaju online iskustva tinejdžera. Izgradili smo roditeljski nadzor i obavještenja⁠ koji im omogućavaju da postave mirne sate, isključe glasovni način rada, upravljaju pristupom generiranju slike i primaju obavještenja u određenim visokorizičnim situacijama, kao što su naznake mogućeg samopovređivanja.

Proširujemo ta obavještenja kako bi obuhvatila slučajeve u kojima je povezani tinejdžerski račun deaktiviran zbog kršenja naših pravila korištenja⁠ u vezi s nasilnim prijetnjama ili činovima nasilja na internetu. Ovaj pristup pomaže roditeljima da znaju kada se dogodilo nešto ozbiljno, uz poštovanje privatnosti tinejdžera i poticanje razgovora i podrške izvan interneta.

Dok smo razvijali ove funkcije, konsultovali smo se s nekoliko stručnjaka, uključujući Moonshot⁠(otvara se u novom prozoru), lidera u prevenciji nasilja na internetu, kako bismo pomogli da ove intervencije budu promišljene, djelotvorne i usmjerene na pomoć porodicama da reaguju u trenucima potrebe.

Također želimo osigurati da roditelji, tinejdžeri i nastavnici imaju jasne smjernice o tome kako najbolje odgovorno koristiti AI. Objavljujemo obrazovne resurse na više od 50 jezika, uključujući Porodični vodič koji pomaže tinejdžerima da odgovorno koriste AI⁠(otvara se u novom prozoru), Savjete za razgovor s tinejdžerom o AI-ju⁠(otvara se u novom prozoru) i Savjete za roditelje koji koriste ChatGPT⁠(otvara se u novom prozoru).

Sigurnost mladih na internetu nije nešto što bilo koja kompanija može riješiti sama. Blisko sarađujemo s tinejdžerima, roditeljima, nastavnicima, stručnjacima za sigurnost djece, stručnjacima za mentalno zdravlje, istraživačima, vladama i organizacijama civilnog društva. Ova partnerstva nam pomažu da bolje razumijemo potrebe mladih, prepoznamo nove rizike, procijenimo djelotvornost naših zaštitnih mjera i osiguramo da naše politike budu utemeljene na nezavisnoj stručnosti.

Ovaj rad obuhvata naš pristup i učenju i dobrobiti mladih. Sarađujemo s nastavnicima, uključujući Američku federaciju nastavnika⁠, studentima i organizacijama za učenje kako bismo bolje razumjeli kako AI može podržati podučavanje i učenje, uz jačanje aktivnog učešća i kritičkog razmišljanja. Također blisko sarađujemo sa stručnjacima iz zajednica za mentalno zdravlje, razvoj djece i sigurnost mladih, uključujući Američko psihološko udruženje⁠(otvara se u novom prozoru), našu Globalnu mrežu ljekara⁠ i naše Stručno vijeće za dobrobit i AI⁠.

Naš rad na izgradnji zdravijeg digitalnog ekosistema prevazilazi naše vlastite proizvode. Pozvali smo na razvoj skalabilnih globalnih standarda za sigurnost mladih u području AI-ja⁠ kroz posvećeni Institut za sigurnost AI-ja, politika i alata otvorenog koda⁠ koje programeri mogu ugraditi u vlastite AI sisteme, kao i na rad s organizacijama uključujući Common Sense Media⁠(otvara se u novom prozoru) i everyone.ai⁠(otvara se u novom prozoru) radi razmjene saznanja i najboljih praksi.

Ove godine pridružili smo se i Institutu za online sigurnost porodice⁠(otvara se u novom prozoru) (FOSI), dugogodišnjem zagovorniku sigurnih online iskustava za porodice i mlade. Radit ćemo zajedno kako bismo osigurali da mladi mogu imati koristi od AI-ja, uz osnažene roditelje i odgovornu industrijsku praksu u središtu. Nadamo se da će ovo partnerstvo pomoći unaprijediti zajedničko razumijevanje onoga što djeluje, ojačati zaštite primjerene dobi i roditeljske alate te podržati napore u cijeloj industriji koji mladima omogućavaju da sigurno i odgovorno imaju koristi od AI-ja.

Zaštita mladih na internetu zahtijeva kontinuiran napredak. U narednim mjesecima nastavit ćemo jačati zaštite primjerene dobi, davati roditeljima više alata i kontrole, poboljšavati mjere zaštite od ozbiljne štete, unapređivati istraživanja o zdravom korištenju AI-ja i graditi više iskustava koja pomažu tinejdžerima da aktivno uče i koriste AI s povjerenjem.

Znamo da ima još mnogo posla i posvećeni smo nastavku rada u saradnji s tinejdžerima, roditeljima, nastavnicima, stručnjacima i zajednicama širom svijeta kako bismo tinejdžerima omogućili siguran i širok pristup.