Por que adolescentes merecem acesso a uma IA segura

Os adolescentes são a primeira geração a crescer com IA, e essa tecnologia moldará profundamente seu futuro. Hoje, quase 9 em cada 10 adolescentes no ChatGPT o usam para aprender, buscar informações, desenvolver habilidades ou ganhar produtividade em uma única semana. É por isso que acreditamos ser fundamental que adolescentes tenham acesso à IA. Impedir que adolescentes a usem até a idade adulta seria como pedir a uma geração anterior que evitasse a internet ou os mecanismos de busca até completar 18 anos, deixando-os menos preparados para usar uma das tecnologias definidoras de seu tempo. Mas o acesso deve vir acompanhado de proteções criadas especificamente para adolescentes.

Em uma sessão recente da OpenAI Academy⁠(abre em uma nova janela), Oriana McKenzie contou como o ChatGPT a ajudou a se tornar a primeira colocada de sua turma no ensino médio ao estudar de forma mais inteligente e gerenciar sua carga de trabalho, dando a ela o tempo necessário para os esportes e programas escolares de que gosta. A história dela mostra o que é possível quando adolescentes têm acesso a uma IA que os ajuda a aprender e criar.

Para maximizar esses benefícios, adolescentes precisam de proteções mais fortes, projetadas para sua fase da vida, incluindo salvaguardas automatizadas que lhes permitam explorar, aprender e construir com confiança, ao mesmo tempo que oferecem proteções adequadas à sua idade. À medida que a IA se torna mais capaz, nossa responsabilidade é combinar amplo acesso com proteções adequadas à idade, para que adolescentes possam se beneficiar dessa tecnologia conforme ela evolui.

No último ano, isso significou reforçar as proteções padrão para adolescentes, implementar a previsão de idade⁠, ampliar os controles parentais⁠, criar recursos para famílias⁠(abre em uma nova janela) adicionais para ajudar pais e responsáveis a apoiar um uso saudável e responsável, e introduzir recursos de aprendizagem para promover uma compreensão mais profunda, em vez de apenas fornecer respostas.

Nosso trabalho é guiado por quatro compromissos principais⁠:

• Colocamos a segurança dos adolescentes em primeiro lugar, mesmo quando isso pode entrar em conflito com outros objetivos.
• Incentivamos o apoio no mundo real em momentos de necessidade.
• Tratamos adolescentes como adolescentes.
• Somos transparentes ao definir expectativas claras.

A aprendizagem é uma das formas mais claras pelas quais adolescentes se beneficiam da IA, por isso estamos criando ferramentas que incentivam o envolvimento ativo, o pensamento crítico e uma compreensão mais profunda. O Modo de Estudo⁠(abre em uma nova janela) foi desenvolvido em colaboração com professores, cientistas da aprendizagem e especialistas em pedagogia para ajudar estudantes a resolver problemas passo a passo, usando perguntas orientadoras, explicações estruturadas e oportunidades de reflexão, sem simplesmente fornecer a resposta. A avaliação inicial de ferramentas como o Modo de Estudo mostrou ganhos promissores no desempenho dos estudantes⁠, ajudando a orientar nossa pesquisa mais ampla sobre como a IA pode apoiar resultados de aprendizagem.

Embora adolescentes possam ativar esse modo por conta própria, agora pais e responsáveis com contas de adolescentes vinculadas podem ativar o Modo de Estudo⁠ diretamente pelos controles parentais⁠. Quando ativado, ele fica ligado por padrão sempre que um adolescente inicia uma nova conversa, dando às famílias mais uma forma de orientar o uso do ChatGPT em tarefas escolares e estudos.

Também lançamos recentemente prompts iniciais voltados à educação para adolescentes, facilitando começar tarefas como dividir um tema em passos simples, transformar anotações em um guia de estudo, criar cartões de memorização ou perguntas de prática e verificar evidências e clareza.

Também continuamos ampliando as experiências de aprendizagem interativas⁠. Pesquisas têm mostrado de forma consistente⁠ que as pessoas aprendem com mais eficácia quando podem interagir ativamente com conceitos, em vez de consumir informações de forma passiva. Desde o lançamento no início deste ano, 18 milhões de usuários semanais agora interagem com experiências de matemática e ciências no ChatGPT, e ampliamos essas experiências para mais de 250 novos temas, de integrais e mitose a fases da lua, fotossíntese e muito mais. Também lançamos uma experiência de pronúncia que usa áudio para ajudar as pessoas a aprender a pronunciar palavras em mais de 61 idiomas.

Se nosso sistema estimar que alguém usando o ChatGPT tem menos de 18 anos,⁠ oferecemos automaticamente uma experiência mais adequada à idade⁠(abre em uma nova janela). Adolescentes ainda podem usar o ChatGPT para aprender, criar e explorar, mas com proteções adicionais projetadas para reduzir a exposição a conteúdos que talvez não sejam apropriados para eles. Isso inclui salvaguardas mais fortes em torno de violência gráfica, automutilação, desafios virais arriscados, conteúdos prejudiciais sobre imagem corporal e encenações perigosas, românticas ou sexuais. Nosso princípio orientador é ajudar a garantir que o ChatGPT continue sendo uma ferramenta de aprendizagem e criatividade, e não um substituto para relacionamentos no mundo real.

Também estamos projetando o ChatGPT para incentivar hábitos saudáveis. Adolescentes que passam períodos prolongados no ChatGPT agora receberão lembretes de pausa⁠ com mais frequência, incentivando-os a parar e se afastar. Esses lembretes têm o objetivo de ajudar jovens a desenvolver hábitos tecnológicos equilibrados, mantendo a liberdade de usar IA para aprender, criar e resolver problemas.

Acreditamos que as melhores ferramentas de segurança podem ajudar as famílias a navegar juntas pelas experiências online dos adolescentes. Criamos controles parentais e notificações⁠ que permitem definir horários de silêncio, desativar o modo voz, gerenciar o acesso à geração de imagens e receber notificações em certas situações de alto risco, como indícios de possível automutilação.

Estamos ampliando essas notificações para incluir casos em que uma conta vinculada de adolescente tenha sido desativada por violar nossas políticas de uso⁠ em ameaças violentas ou atos de violência online. Essa abordagem ajuda os pais a saber quando algo sério aconteceu, ao mesmo tempo que respeita a privacidade dos adolescentes e incentiva conversas e apoio offline.

Ao desenvolver esses recursos, consultamos vários especialistas, incluindo a Moonshot⁠(abre em uma nova janela), líder na prevenção da violência online, para ajudar a garantir que essas intervenções sejam cuidadosas, eficazes e focadas em ajudar famílias a responder em momentos de necessidade.

Também queremos garantir que pais, adolescentes e educadores tenham orientações claras sobre a melhor forma de usar a IA com responsabilidade. Publicamos recursos educativos em mais de 50 idiomas, incluindo Um guia para famílias ajudarem adolescentes a usar IA com responsabilidade⁠(abre em uma nova janela), Dicas para conversar com seu filho adolescente sobre IA⁠(abre em uma nova janela) e Dicas para pais que usam o ChatGPT⁠(abre em uma nova janela).

Manter jovens seguros online não é algo que uma única empresa possa resolver sozinha. Trabalhamos em estreita colaboração com adolescentes, pais, educadores, especialistas em segurança infantil, profissionais de saúde mental, pesquisadores, governos e organizações da sociedade civil. Essas parcerias nos ajudam a entender melhor as necessidades dos jovens, identificar riscos emergentes, avaliar a eficácia de nossas salvaguardas e garantir que nossas políticas sejam informadas por expertise independente.

Esse trabalho abrange nossa abordagem tanto à aprendizagem quanto ao bem-estar dos jovens. Colaboramos com educadores, incluindo a American Federation of Teachers⁠, estudantes e organizações de aprendizagem para entender melhor como a IA pode apoiar o ensino e a aprendizagem, ao mesmo tempo que reforça o envolvimento ativo e o pensamento crítico. Também trabalhamos em estreita colaboração com especialistas das comunidades de saúde mental, desenvolvimento infantil e segurança de jovens, incluindo a American Psychological Association⁠(abre em uma nova janela), nossa Global Physicians Network⁠ e nosso Conselho de Especialistas em Bem-Estar e IA⁠.

Nosso trabalho para construir um ecossistema digital mais saudável vai além dos nossos próprios produtos. Defendemos o desenvolvimento de padrões globais escaláveis para a segurança de jovens em IA⁠ por meio de um Instituto de Segurança de IA dedicado, políticas e ferramentas de código aberto⁠ que desenvolvedores possam incorporar a seus próprios sistemas de IA, além do trabalho com organizações como Common Sense Media⁠(abre em uma nova janela) e everyone.ai⁠(abre em uma nova janela) para compartilhar aprendizados e melhores práticas.

Este ano, também nos juntamos ao Family Online Safety Institute⁠(abre em uma nova janela) (FOSI), um defensor de longa data de experiências online seguras para famílias e jovens. Trabalharemos juntos para garantir que os jovens possam se beneficiar da IA, com pais empoderados e práticas responsáveis do setor no centro desse esforço. Esperamos que essa parceria ajude a avançar o entendimento compartilhado sobre o que funciona, fortaleça proteções adequadas à idade e ferramentas parentais, e apoie esforços de todo o setor que permitam aos jovens se beneficiar da IA com segurança e responsabilidade.

Proteger jovens online exige progresso contínuo. Nos próximos meses, continuaremos fortalecendo proteções adequadas à idade, oferecendo mais ferramentas e controle aos pais, aprimorando salvaguardas contra danos graves, avançando a pesquisa sobre o uso saudável de IA e criando mais experiências que ajudem adolescentes a aprender ativamente e usar a IA com confiança.

Sabemos que ainda há mais a fazer, e estamos comprometidos em continuar nosso trabalho em colaboração com adolescentes, pais, educadores, especialistas e comunidades do mundo todo para levar aos adolescentes um acesso amplo e seguro.