Why teens deserve access to safe AI

Teens are the first generation growing up with AI, and this technology will heavily shape their future. Today, nearly 9 in 10 teens on ChatGPT use it for learning, information, skill-building, or productivity in a single week. This is why we believe it’s critical for teens to have access to AI. Keeping teens from using it until adulthood would be like asking a previous generation to avoid the internet or search engines until they turned 18, leaving them less prepared to use one of the defining technologies of their time. But access must be paired with protections designed specifically for teens.

During a recent OpenAI Academy⁠(открывается в новом окне) Oriana McKenzie shared how ChatGPT helped her become No.1 in her high school class by studying smarter and managing her workload—giving her the time needed for the sports and school programs she loves. Her story illustrates what’s possible when teens have access to AI that helps them learn and create.

To maximize those gains, teens need stronger protections designed for their stage of life, including automated guardrails that let them explore, learn, and build with confidence, while providing safeguards tailored to their age. As AI becomes more capable, our responsibility is to combine broad access with age-appropriate protections that allow teens to benefit from this technology as it evolves.

Over the past year, that has meant strengthening default protections for teens, rolling out age prediction⁠, expanding Parental Controls⁠, creating additional family resources⁠(открывается в новом окне) to help parents support healthy, responsible use, and introducing learning features to help support deeper understanding rather than just providing answers.

Our work is guided by four key commitments⁠:

• We put teen safety first even when it may conflict with other goals.
• We encourage real-world support in times of need.
• We treat teens as teens.
• We are transparent by setting clear expectations.

Learning is one of the clearest ways teens benefit from AI, so we’re building tools that encourage active engagement, critical thinking, and deeper understanding. Study Mode⁠(открывается в новом окне) was designed in collaboration with teachers, learning scientists, and pedagogy experts to help students work through problems step by step using guiding questions, structured explanations, and opportunities for reflection without simply providing the answer. Early evaluation of tools like Study Mode has shown promising gains in student performance⁠, helping inform our broader research into how AI can support learning outcomes.

While teens can turn this mode on themselves, now parents with linked teen accounts can turn on Study Mode⁠ directly from Parental Controls⁠. When enabled, it is on by default whenever a teen starts a new chat, giving families another way to guide how ChatGPT is used for schoolwork and study.

We also recently introduced education-focused starter prompts for teens so it is easier to begin with tasks like breaking down a topic into simple steps, turning notes into a study guide, creating flashcards or practice questions, and checking evidence and clarity.

We’re continuing to expand interactive learning experiences⁠ as well. Research has consistently shown⁠ that people learn more effectively when they can actively engage with concepts rather than passively consume information. Since launching earlier this year, 18 million weekly users now engage with interactive math and science experiences in ChatGPT, and we’ve expanded those experiences to more than 300 topics total from integrals and mitosis to moon phases, photosynthesis and more. We also introduced a pronunciation experience that uses audio to help people learn how to pronounce words in more than 61 languages.

Если наша система определяет, что пользователю ChatGPT меньше 18 лет,⁠ мы автоматически предоставляем ему более соответствующий возрасту опыт⁠(открывается в новом окне). Подростки по-прежнему могут использовать ChatGPT, чтобы учиться, создавать и исследовать, но с дополнительными мерами защиты, призванными снизить вероятность столкновения с контентом, который может быть для них неподходящим. Сюда входят более строгие защитные меры в отношении графического насилия, самоповреждения, рискованных вирусных челленджей, нездорового контента об образе тела, а также опасных, романтических или сексуальных ролевых игр. Наш главный ориентир — помочь сделать так, чтобы ChatGPT оставался инструментом для обучения и творчества, а не заменой отношениям в реальном мире.

Мы также проектируем ChatGPT так, чтобы он поощрял здоровые привычки. Подростки, которые проводят в ChatGPT много времени, теперь будут чаще получать напоминания о перерыве⁠, побуждающие их остановиться и отвлечься. Эти напоминания призваны помочь молодым людям выработать сбалансированные привычки использования технологий, сохраняя при этом свободу применять ИИ для обучения, творчества и решения задач.

Мы считаем, что лучшие инструменты безопасности помогают семьям вместе разбираться в онлайн-опыте подростков. Мы создали родительский контроль и уведомления⁠, которые позволяют задавать тихие часы, отключать голосовой режим, управлять доступом к генерации изображений и получать уведомления в некоторых ситуациях высокого риска, например при признаках возможного самоповреждения.

Мы расширяем эти уведомления, добавляя случаи, когда связанная подростковая учетная запись была деактивирована за нарушение наших правил использования⁠, касающихся угроз насилия или актов насилия онлайн. Такой подход помогает родителям узнать, когда произошло что-то серьезное, при этом уважая приватность подростков и поощряя разговоры и поддержку вне интернета.

При разработке этих функций мы консультировались с несколькими экспертами, включая Moonshot⁠(открывается в новом окне), одного из лидеров в предотвращении онлайн-насилия, чтобы эти меры были продуманными, эффективными и помогали семьям реагировать в трудные моменты.

Мы также хотим, чтобы у родителей, подростков и педагогов были понятные рекомендации о том, как лучше всего использовать ИИ ответственно. Мы публикуем образовательные ресурсы более чем на 50 языках, включая семейное руководство по ответственному использованию ИИ подростками⁠(открывается в новом окне), советы о том, как говорить с подростком об ИИ⁠(открывается в новом окне) и советы для родителей, использующих ChatGPT⁠(открывается в новом окне).

Безопасность молодых людей в интернете — не та задача, которую одна компания может решить в одиночку. Мы тесно сотрудничаем с подростками, родителями, педагогами, экспертами по безопасности детей, специалистами в области психического здоровья, исследователями, правительствами и организациями гражданского общества. Эти партнерства помогают нам лучше понимать потребности молодых людей, выявлять новые риски, оценивать эффективность наших защитных мер и обеспечивать, чтобы наши правила опирались на независимую экспертизу.

Эта работа охватывает наш подход как к обучению, так и к благополучию молодежи. Мы сотрудничаем с педагогами, включая Американскую федерацию учителей⁠, учащимися и образовательными организациями, чтобы лучше понимать, как ИИ может поддерживать преподавание и обучение, одновременно укрепляя активное участие и критическое мышление. Мы также тесно работаем с экспертами из сообществ, занимающихся психическим здоровьем, развитием детей и безопасностью молодежи, включая Американскую психологическую ассоциацию⁠(открывается в новом окне), нашу Глобальную сеть врачей⁠ и наш Экспертный совет по благополучию и ИИ⁠.

Наша работа по созданию более здоровой цифровой экосистемы выходит за рамки наших собственных продуктов. Мы призвали разрабатывать масштабируемые глобальные стандарты безопасности ИИ для молодежи⁠ через специализированный Институт безопасности ИИ, публиковали в открытом доступе правила и инструменты⁠, которые разработчики могут встраивать в собственные ИИ-системы, и работаем с такими организациями, как Common Sense Media⁠(открывается в новом окне) и everyone.ai⁠(открывается в новом окне), чтобы обмениваться знаниями и лучшими практиками.

В этом году мы также присоединились к Family Online Safety Institute⁠(открывается в новом окне) (FOSI), организации, которая давно выступает за безопасный онлайн-опыт для семей и молодых людей. Мы будем работать вместе, чтобы молодые люди могли пользоваться преимуществами ИИ, при этом в центре внимания будут поддержка родителей и ответственная практика отрасли. Мы надеемся, что это партнерство поможет продвинуть общее понимание того, что работает, усилить соответствующие возрасту меры защиты и инструменты для родителей, а также поддержать общеотраслевые усилия, которые позволяют молодым людям безопасно и ответственно пользоваться преимуществами ИИ.

Защита молодых людей онлайн требует постоянного прогресса. В ближайшие месяцы мы продолжим усиливать соответствующие возрасту меры защиты, давать родителям больше инструментов и контроля, улучшать защиту от серьезного вреда, развивать исследования здорового использования ИИ и создавать больше возможностей, которые помогают подросткам активно учиться и уверенно пользоваться ИИ.

Мы знаем, что предстоит сделать еще многое, и намерены продолжать работу вместе с подростками, родителями, педагогами, экспертами и сообществами по всему миру, чтобы обеспечить подросткам безопасный широкий доступ.