Why teens deserve access to safe AI

Teens are the first generation growing up with AI, and this technology will heavily shape their future. Today, nearly 9 in 10 teens on ChatGPT use it for learning, information, skill-building, or productivity in a single week. This is why we believe it’s critical for teens to have access to AI. Keeping teens from using it until adulthood would be like asking a previous generation to avoid the internet or search engines until they turned 18, leaving them less prepared to use one of the defining technologies of their time. But access must be paired with protections designed specifically for teens.

During a recent OpenAI Academy⁠(wird in einem neuen Fenster geöffnet) Oriana McKenzie shared how ChatGPT helped her become No.1 in her high school class by studying smarter and managing her workload—giving her the time needed for the sports and school programs she loves. Her story illustrates what’s possible when teens have access to AI that helps them learn and create.

To maximize those gains, teens need stronger protections designed for their stage of life, including automated guardrails that let them explore, learn, and build with confidence, while providing safeguards tailored to their age. As AI becomes more capable, our responsibility is to combine broad access with age-appropriate protections that allow teens to benefit from this technology as it evolves.

Over the past year, that has meant strengthening default protections for teens, rolling out age prediction⁠, expanding Parental Controls⁠, creating additional family resources⁠(wird in einem neuen Fenster geöffnet) to help parents support healthy, responsible use, and introducing learning features to help support deeper understanding rather than just providing answers.

Our work is guided by four key commitments⁠:

• We put teen safety first even when it may conflict with other goals.
• We encourage real-world support in times of need.
• We treat teens as teens.
• We are transparent by setting clear expectations.

Learning is one of the clearest ways teens benefit from AI, so we’re building tools that encourage active engagement, critical thinking, and deeper understanding. Study Mode⁠(wird in einem neuen Fenster geöffnet) was designed in collaboration with teachers, learning scientists, and pedagogy experts to help students work through problems step by step using guiding questions, structured explanations, and opportunities for reflection without simply providing the answer. Early evaluation of tools like Study Mode has shown promising gains in student performance⁠, helping inform our broader research into how AI can support learning outcomes.

While teens can turn this mode on themselves, now parents with linked teen accounts can turn on Study Mode⁠ directly from Parental Controls⁠. When enabled, it is on by default whenever a teen starts a new chat, giving families another way to guide how ChatGPT is used for schoolwork and study.

We also recently introduced education-focused starter prompts for teens so it is easier to begin with tasks like breaking down a topic into simple steps, turning notes into a study guide, creating flashcards or practice questions, and checking evidence and clarity.

We’re continuing to expand interactive learning experiences⁠ as well. Research has consistently shown⁠ that people learn more effectively when they can actively engage with concepts rather than passively consume information. Since launching earlier this year, 18 million weekly users now engage with interactive math and science experiences in ChatGPT, and we’ve expanded those experiences to more than 300 topics total from integrals and mitosis to moon phases, photosynthesis and more. We also introduced a pronunciation experience that uses audio to help people learn how to pronounce words in more than 61 languages.

Wenn unser System schätzt, dass eine Person, die ChatGPT nutzt, unter 18 Jahre alt ist⁠, stellen wir automatisch ein altersgerechteres Erlebnis⁠(wird in einem neuen Fenster geöffnet) bereit. Jugendliche können ChatGPT weiterhin zum Lernen, Gestalten und Entdecken nutzen, jedoch mit zusätzlichen Schutzmaßnahmen, die den Kontakt mit Inhalten verringern sollen, die für sie möglicherweise nicht geeignet sind. Dazu gehören strengere Schutzvorkehrungen bei drastischer Gewalt, Selbstverletzung, riskanten viralen Challenges, ungesunden Körperbild-Inhalten sowie gefährlichem, romantischem oder sexuellem Rollenspiel. Unser Leitgedanke ist, sicherzustellen, dass ChatGPT ein Tool für Lernen und Kreativität bleibt und kein Ersatz für Beziehungen im realen Leben wird.

Wir gestalten ChatGPT außerdem so, dass es gesunde Gewohnheiten fördert. Jugendliche, die längere Zeit in ChatGPT verbringen, erhalten nun häufiger Pausenerinnerungen⁠, die sie dazu anregen, eine Pause einzulegen und sich eine Auszeit zu gönnen. Diese Erinnerungen sollen jungen Menschen helfen, ausgewogene Technologiegewohnheiten zu entwickeln, ihnen aber weiterhin die Freiheit geben, KI zum Lernen, für Kreativität und zur Problemlösung zu nutzen.

Wir glauben, dass die besten Sicherheitstools Familien dabei helfen können, die Online-Erlebnisse Jugendlicher gemeinsam zu begleiten. Wir haben Kindersicherung und Benachrichtigungen⁠ entwickelt, mit denen Eltern Ruhezeiten festlegen, den Sprachmodus ausschalten, den Zugang zur Bildgenerierung verwalten und in bestimmten Hochrisikosituationen Benachrichtigungen erhalten können, etwa bei Hinweisen auf mögliche Selbstverletzung.

Wir erweitern diese Benachrichtigungen auf Fälle, in denen ein verknüpftes Teenager-Konto wegen Verstößen gegen unsere Nutzungsrichtlinien⁠ zu gewaltsamen Drohungen oder Gewalthandlungen im Internet deaktiviert wurde. Dieser Ansatz hilft Eltern zu erkennen, wenn etwas Ernstes passiert ist, respektiert zugleich die Privatsphäre Jugendlicher und fördert Gespräche und Unterstützung außerhalb des Internets.

Bei der Entwicklung dieser Funktionen haben wir mehrere Fachleute einbezogen, darunter Moonshot⁠(wird in einem neuen Fenster geöffnet), einen führenden Akteur in der Prävention von Online-Gewalt. So wollten wir sicherstellen, dass diese Maßnahmen durchdacht, wirksam und darauf ausgerichtet sind, Familien in schwierigen Situationen zu unterstützen.

Außerdem möchten wir sicherstellen, dass Eltern, Jugendliche und Lehrkräfte klare Orientierung dazu haben, wie KI am besten verantwortungsvoll genutzt wird. Wir veröffentlichen Bildungsressourcen in mehr als 50 Sprachen, darunter Ein Familienleitfaden zur verantwortungsvollen Nutzung von KI durch Teenager⁠(wird in einem neuen Fenster geöffnet), Tipps für Gespräche mit deinem Teenager über KI⁠(wird in einem neuen Fenster geöffnet) und Tipps für Eltern, die ChatGPT nutzen⁠(wird in einem neuen Fenster geöffnet).

Die Sicherheit junger Menschen im Internet kann kein Unternehmen allein gewährleisten. Wir arbeiten eng mit Jugendlichen, Eltern, Lehrkräften, Fachleuten für Kindersicherheit, psychologischen Fachkräften, Forschenden, Regierungen und zivilgesellschaftlichen Organisationen zusammen. Diese Partnerschaften helfen uns, die Bedürfnisse junger Menschen besser zu verstehen, neue Risiken zu erkennen, die Wirksamkeit unserer Schutzmaßnahmen zu bewerten und sicherzustellen, dass unsere Richtlinien auf unabhängiger Expertise beruhen.

Diese Arbeit umfasst unseren Ansatz für Lernen ebenso wie für das Wohlergehen junger Menschen. Wir arbeiten mit Lehrkräften, darunter der American Federation of Teachers⁠, mit Studierenden und Lernorganisationen zusammen, um besser zu verstehen, wie KI Lehren und Lernen unterstützen kann und zugleich aktive Beteiligung und kritisches Denken stärkt. Außerdem arbeiten wir eng mit Fachleuten aus den Bereichen psychische Gesundheit, kindliche Entwicklung und Jugendsicherheit zusammen, darunter die American Psychological Association⁠(wird in einem neuen Fenster geöffnet), unser Global Physicians Network⁠ und unser Expert:innenrat für Wohlbefinden und KI⁠.

Unsere Arbeit an einem gesünderen digitalen Ökosystem reicht über unsere eigenen Produkte hinaus. Wir haben uns dafür ausgesprochen, skalierbare globale Standards für KI-Sicherheit junger Menschen⁠ durch ein eigenes AI Safety Institute zu entwickeln, Open-Source-Richtlinien und -Tools⁠ bereitzustellen, die Entwickelnde in ihre eigenen KI-Systeme integrieren können, und mit Organisationen wie Common Sense Media⁠(wird in einem neuen Fenster geöffnet) und everyone.ai⁠(wird in einem neuen Fenster geöffnet) zusammenzuarbeiten, um Erkenntnisse und Best Practices zu teilen.

In diesem Jahr sind wir außerdem dem Family Online Safety Institute⁠(wird in einem neuen Fenster geöffnet) (FOSI) beigetreten, das sich seit Langem für sichere Online-Erlebnisse für Familien und junge Menschen einsetzt. Wir werden gemeinsam daran arbeiten, dass junge Menschen von KI profitieren können. Im Mittelpunkt stehen dabei gestärkte Eltern und verantwortungsvolles Handeln der Branche. Wir hoffen, dass diese Partnerschaft dazu beiträgt, ein gemeinsames Verständnis dessen zu fördern, was wirkt, altersgerechte Schutzmaßnahmen und Eltern-Tools zu stärken und branchenweite Anstrengungen zu unterstützen, damit junge Menschen KI sicher und verantwortungsvoll nutzen können.

Junge Menschen online zu schützen, erfordert kontinuierliche Fortschritte. In den kommenden Monaten werden wir altersgerechte Schutzmaßnahmen weiter stärken, Eltern mehr Tools und Kontrolle geben, Schutzvorkehrungen gegen schwere Schäden verbessern, Forschung zu gesunder KI-Nutzung voranbringen und weitere Erlebnisse entwickeln, die Jugendlichen helfen, aktiv zu lernen und KI selbstbewusst zu nutzen.

Wir wissen, dass noch viel zu tun ist. Deshalb setzen wir unsere Arbeit gemeinsam mit Jugendlichen, Eltern, Lehrkräften, Fachleuten und Communities weltweit fort, damit Jugendliche einen sicheren, breiten Zugang erhalten.