Why teens deserve access to safe AI

Teens are the first generation growing up with AI, and this technology will heavily shape their future. Today, nearly 9 in 10 teens on ChatGPT use it for learning, information, skill-building, or productivity in a single week. This is why we believe it’s critical for teens to have access to AI. Keeping teens from using it until adulthood would be like asking a previous generation to avoid the internet or search engines until they turned 18, leaving them less prepared to use one of the defining technologies of their time. But access must be paired with protections designed specifically for teens.

During a recent OpenAI Academy⁠(abre em uma nova janela) Oriana McKenzie shared how ChatGPT helped her become No.1 in her high school class by studying smarter and managing her workload—giving her the time needed for the sports and school programs she loves. Her story illustrates what’s possible when teens have access to AI that helps them learn and create.

To maximize those gains, teens need stronger protections designed for their stage of life, including automated guardrails that let them explore, learn, and build with confidence, while providing safeguards tailored to their age. As AI becomes more capable, our responsibility is to combine broad access with age-appropriate protections that allow teens to benefit from this technology as it evolves.

Over the past year, that has meant strengthening default protections for teens, rolling out age prediction⁠, expanding Parental Controls⁠, creating additional family resources⁠(abre em uma nova janela) to help parents support healthy, responsible use, and introducing learning features to help support deeper understanding rather than just providing answers.

Our work is guided by four key commitments⁠:

• We put teen safety first even when it may conflict with other goals.
• We encourage real-world support in times of need.
• We treat teens as teens.
• We are transparent by setting clear expectations.

Learning is one of the clearest ways teens benefit from AI, so we’re building tools that encourage active engagement, critical thinking, and deeper understanding. Study Mode⁠(abre em uma nova janela) was designed in collaboration with teachers, learning scientists, and pedagogy experts to help students work through problems step by step using guiding questions, structured explanations, and opportunities for reflection without simply providing the answer. Early evaluation of tools like Study Mode has shown promising gains in student performance⁠, helping inform our broader research into how AI can support learning outcomes.

While teens can turn this mode on themselves, now parents with linked teen accounts can turn on Study Mode⁠ directly from Parental Controls⁠. When enabled, it is on by default whenever a teen starts a new chat, giving families another way to guide how ChatGPT is used for schoolwork and study.

We also recently introduced education-focused starter prompts for teens so it is easier to begin with tasks like breaking down a topic into simple steps, turning notes into a study guide, creating flashcards or practice questions, and checking evidence and clarity.

We’re continuing to expand interactive learning experiences⁠ as well. Research has consistently shown⁠ that people learn more effectively when they can actively engage with concepts rather than passively consume information. Since launching earlier this year, 18 million weekly users now engage with interactive math and science experiences in ChatGPT, and we’ve expanded those experiences to more than 300 topics total from integrals and mitosis to moon phases, photosynthesis and more. We also introduced a pronunciation experience that uses audio to help people learn how to pronounce words in more than 61 languages.

Se nosso sistema estimar que alguém usando o ChatGPT tem menos de 18 anos,⁠ oferecemos automaticamente uma experiência mais adequada à idade⁠(abre em uma nova janela). Adolescentes ainda podem usar o ChatGPT para aprender, criar e explorar, mas com proteções adicionais projetadas para reduzir a exposição a conteúdos que talvez não sejam apropriados para eles. Isso inclui salvaguardas mais fortes em torno de violência gráfica, automutilação, desafios virais arriscados, conteúdos prejudiciais sobre imagem corporal e encenações perigosas, românticas ou sexuais. Nosso princípio orientador é ajudar a garantir que o ChatGPT continue sendo uma ferramenta de aprendizagem e criatividade, e não um substituto para relacionamentos no mundo real.

Também estamos projetando o ChatGPT para incentivar hábitos saudáveis. Adolescentes que passam períodos prolongados no ChatGPT agora receberão lembretes de pausa⁠ com mais frequência, incentivando-os a parar e se afastar. Esses lembretes têm o objetivo de ajudar jovens a desenvolver hábitos tecnológicos equilibrados, mantendo a liberdade de usar IA para aprender, criar e resolver problemas.

Acreditamos que as melhores ferramentas de segurança podem ajudar as famílias a navegar juntas pelas experiências online dos adolescentes. Criamos controles parentais e notificações⁠ que permitem definir horários de silêncio, desativar o modo voz, gerenciar o acesso à geração de imagens e receber notificações em certas situações de alto risco, como indícios de possível automutilação.

Estamos ampliando essas notificações para incluir casos em que uma conta vinculada de adolescente tenha sido desativada por violar nossas políticas de uso⁠ em ameaças violentas ou atos de violência online. Essa abordagem ajuda os pais a saber quando algo sério aconteceu, ao mesmo tempo que respeita a privacidade dos adolescentes e incentiva conversas e apoio offline.

Ao desenvolver esses recursos, consultamos vários especialistas, incluindo a Moonshot⁠(abre em uma nova janela), líder na prevenção da violência online, para ajudar a garantir que essas intervenções sejam cuidadosas, eficazes e focadas em ajudar famílias a responder em momentos de necessidade.

Também queremos garantir que pais, adolescentes e educadores tenham orientações claras sobre a melhor forma de usar a IA com responsabilidade. Publicamos recursos educativos em mais de 50 idiomas, incluindo Um guia para famílias ajudarem adolescentes a usar IA com responsabilidade⁠(abre em uma nova janela), Dicas para conversar com seu filho adolescente sobre IA⁠(abre em uma nova janela) e Dicas para pais que usam o ChatGPT⁠(abre em uma nova janela).

Manter jovens seguros online não é algo que uma única empresa possa resolver sozinha. Trabalhamos em estreita colaboração com adolescentes, pais, educadores, especialistas em segurança infantil, profissionais de saúde mental, pesquisadores, governos e organizações da sociedade civil. Essas parcerias nos ajudam a entender melhor as necessidades dos jovens, identificar riscos emergentes, avaliar a eficácia de nossas salvaguardas e garantir que nossas políticas sejam informadas por expertise independente.

Esse trabalho abrange nossa abordagem tanto à aprendizagem quanto ao bem-estar dos jovens. Colaboramos com educadores, incluindo a American Federation of Teachers⁠, estudantes e organizações de aprendizagem para entender melhor como a IA pode apoiar o ensino e a aprendizagem, ao mesmo tempo que reforça o envolvimento ativo e o pensamento crítico. Também trabalhamos em estreita colaboração com especialistas das comunidades de saúde mental, desenvolvimento infantil e segurança de jovens, incluindo a American Psychological Association⁠(abre em uma nova janela), nossa Global Physicians Network⁠ e nosso Conselho de Especialistas em Bem-Estar e IA⁠.

Nosso trabalho para construir um ecossistema digital mais saudável vai além dos nossos próprios produtos. Defendemos o desenvolvimento de padrões globais escaláveis para a segurança de jovens em IA⁠ por meio de um Instituto de Segurança de IA dedicado, políticas e ferramentas de código aberto⁠ que desenvolvedores possam incorporar a seus próprios sistemas de IA, além do trabalho com organizações como Common Sense Media⁠(abre em uma nova janela) e everyone.ai⁠(abre em uma nova janela) para compartilhar aprendizados e melhores práticas.

Este ano, também nos juntamos ao Family Online Safety Institute⁠(abre em uma nova janela) (FOSI), um defensor de longa data de experiências online seguras para famílias e jovens. Trabalharemos juntos para garantir que os jovens possam se beneficiar da IA, com pais empoderados e práticas responsáveis do setor no centro desse esforço. Esperamos que essa parceria ajude a avançar o entendimento compartilhado sobre o que funciona, fortaleça proteções adequadas à idade e ferramentas parentais, e apoie esforços de todo o setor que permitam aos jovens se beneficiar da IA com segurança e responsabilidade.

Proteger jovens online exige progresso contínuo. Nos próximos meses, continuaremos fortalecendo proteções adequadas à idade, oferecendo mais ferramentas e controle aos pais, aprimorando salvaguardas contra danos graves, avançando a pesquisa sobre o uso saudável de IA e criando mais experiências que ajudem adolescentes a aprender ativamente e usar a IA com confiança.

Sabemos que ainda há mais a fazer, e estamos comprometidos em continuar nosso trabalho em colaboração com adolescentes, pais, educadores, especialistas e comunidades do mundo todo para levar aos adolescentes um acesso amplo e seguro.