Porque os adolescentes merecem acesso a IA segura

Os adolescentes são a primeira geração a crescer com IA, e esta tecnologia irá moldar profundamente o seu futuro. Hoje, quase 9 em cada 10 adolescentes no ChatGPT usam-no para aprender, obter informação, desenvolver competências ou ser mais produtivos numa única semana. É por isso que acreditamos que é essencial os adolescentes terem acesso à IA. Impedir os adolescentes de a usar até à idade adulta seria como pedir a uma geração anterior que evitasse a Internet ou os motores de pesquisa até fazer 18 anos, deixando-a menos preparada para usar uma das tecnologias definidoras do seu tempo. Mas o acesso tem de ser acompanhado de proteções concebidas especificamente para adolescentes.

Durante uma recente sessão da OpenAI Academy⁠(abre numa nova janela), Oriana McKenzie contou como o ChatGPT a ajudou a tornar-se a n.º 1 da sua turma no ensino secundário, estudando de forma mais inteligente e gerindo a carga de trabalho, o que lhe deu o tempo de que precisava para os desportos e programas escolares de que gosta. A sua história mostra o que é possível quando os adolescentes têm acesso a IA que os ajuda a aprender e a criar.

Para maximizar esses benefícios, os adolescentes precisam de proteções mais fortes, pensadas para a sua fase de vida, incluindo guardrails automatizados que lhes permitam explorar, aprender e criar com confiança, com salvaguardas adaptadas à sua idade. À medida que a IA se torna mais capaz, a nossa responsabilidade é combinar um acesso amplo com proteções adequadas à idade, que permitam aos adolescentes beneficiar desta tecnologia à medida que ela evolui.

Ao longo do último ano, isso significou reforçar as proteções predefinidas para adolescentes, lançar a previsão de idade⁠, expandir os controlos parentais⁠, criar recursos para famílias⁠(abre numa nova janela) adicionais para ajudar os pais a apoiar uma utilização saudável e responsável, e introduzir funcionalidades de aprendizagem que promovem uma compreensão mais profunda, em vez de apenas fornecer respostas.

O nosso trabalho é orientado por quatro compromissos fundamentais⁠:

• Colocamos a segurança dos adolescentes em primeiro lugar, mesmo quando isso pode entrar em conflito com outros objetivos.
• Incentivamos apoio no mundo real em momentos de necessidade.
• Tratamos os adolescentes como adolescentes.
• Somos transparentes ao definir expectativas claras.

A aprendizagem é uma das formas mais claras de os adolescentes beneficiarem da IA, por isso estamos a criar ferramentas que incentivam a participação ativa, o pensamento crítico e uma compreensão mais profunda. O Modo de Estudo⁠(abre numa nova janela) foi concebido em colaboração com professores, cientistas da aprendizagem e especialistas em pedagogia para ajudar os estudantes a resolver problemas passo a passo, através de perguntas orientadoras, explicações estruturadas e oportunidades de reflexão, sem simplesmente dar a resposta. A avaliação inicial de ferramentas como o Modo de Estudo mostrou ganhos promissores no desempenho dos estudantes⁠, ajudando a orientar a nossa investigação mais ampla sobre como a IA pode apoiar resultados de aprendizagem.

Embora os adolescentes possam ativar este modo por si próprios, agora os pais com contas de adolescentes associadas podem ativar o Modo de Estudo⁠ diretamente a partir dos controlos parentais⁠. Quando ativado, fica ligado por predefinição sempre que um adolescente inicia uma nova conversa, dando às famílias mais uma forma de orientar a utilização do ChatGPT para trabalhos escolares e estudo.

Também introduzimos recentemente prompts de arranque focados na educação para adolescentes, para ser mais fácil começar tarefas como decompor um tema em passos simples, transformar apontamentos num guia de estudo, criar cartões de estudo ou perguntas de treino, e verificar provas e clareza.

Estamos também a continuar a expandir as experiências de aprendizagem interativas⁠. A investigação tem mostrado de forma consistente⁠ que as pessoas aprendem de modo mais eficaz quando podem interagir ativamente com os conceitos, em vez de consumir informação passivamente. Desde o lançamento no início deste ano, 18 milhões de utilizadores semanais interagem agora com experiências interativas de matemática e ciências no ChatGPT, e expandimos essas experiências para mais de 250 novos temas, desde integrais e mitose até fases da Lua, fotossíntese e muito mais. Também introduzimos uma experiência de pronúncia que usa áudio para ajudar as pessoas a aprender a pronunciar palavras em mais de 61 idiomas.

Se o nosso sistema estimar que alguém que usa o ChatGPT tem menos de 18 anos,⁠ fornecemos automaticamente uma experiência mais adequada à idade⁠(abre numa nova janela). Os adolescentes podem continuar a usar o ChatGPT para aprender, criar e explorar, mas com proteções adicionais concebidas para reduzir a exposição a conteúdos que possam não ser adequados para eles. Isso inclui salvaguardas mais fortes contra violência gráfica, automutilação, desafios virais arriscados, conteúdos prejudiciais sobre imagem corporal e roleplay perigoso, romântico ou sexual. A estrela-guia é ajudar a garantir que o ChatGPT continua a ser uma ferramenta de aprendizagem e criatividade, e não um substituto das relações no mundo real.

Também estamos a conceber o ChatGPT para incentivar hábitos saudáveis. Os adolescentes que passam períodos prolongados no ChatGPT passam agora a receber lembretes de pausa⁠ mais frequentes, que os incentivam a parar e a afastar-se. Estes lembretes destinam-se a ajudar os jovens a criar hábitos tecnológicos equilibrados, mantendo a liberdade de usar a IA para aprender, criar e resolver problemas.

Acreditamos que as melhores ferramentas de segurança podem ajudar as famílias a orientar em conjunto as experiências online dos adolescentes. Criámos controlos parentais e notificações⁠ que lhes permitem definir horas de descanso, desativar o modo de voz, gerir o acesso à geração de imagens e receber notificações em determinadas situações de alto risco, como sinais de possível automutilação.

Estamos a expandir essas notificações para incluir casos em que uma conta de adolescente associada tenha sido desativada por violar as nossas políticas de utilização⁠ relativas a ameaças violentas ou atos de violência online. Esta abordagem ajuda os pais a saber quando aconteceu algo grave, respeitando ao mesmo tempo a privacidade dos adolescentes e incentivando conversas e apoio offline.

Ao desenvolvermos estas funcionalidades, consultámos vários especialistas, incluindo a Moonshot⁠(abre numa nova janela), líder na prevenção da violência online, para ajudar a garantir que estas intervenções são ponderadas, eficazes e focadas em ajudar as famílias a responder em momentos de necessidade.

Também queremos garantir que pais, adolescentes e educadores têm orientações claras sobre a melhor forma de usar a IA de modo responsável. Publicamos recursos educativos em mais de 50 idiomas, incluindo Um guia para ajudar as famílias a apoiar os adolescentes na utilização responsável da IA⁠(abre numa nova janela), Dicas para falar com o seu filho adolescente sobre IA⁠(abre numa nova janela) e Dicas para pais que usam o ChatGPT⁠(abre numa nova janela).

Manter os jovens seguros online não é algo que uma só empresa consiga resolver sozinha. Trabalhamos em estreita colaboração com adolescentes, pais, educadores, especialistas em segurança infantil, profissionais de saúde mental, investigadores, governos e organizações da sociedade civil. Estas parcerias ajudam-nos a compreender melhor as necessidades dos jovens, identificar riscos emergentes, avaliar a eficácia das nossas salvaguardas e garantir que as nossas políticas são informadas por conhecimento especializado independente.

Este trabalho abrange a nossa abordagem tanto à aprendizagem como ao bem-estar dos jovens. Colaboramos com educadores, incluindo a American Federation of Teachers⁠, estudantes e organizações de aprendizagem para compreender melhor como a IA pode apoiar o ensino e a aprendizagem, reforçando ao mesmo tempo a participação ativa e o pensamento crítico. Também trabalhamos em estreita colaboração com especialistas das áreas da saúde mental, do desenvolvimento infantil e da segurança dos jovens, incluindo a American Psychological Association⁠(abre numa nova janela), a nossa Rede Global de Médicos⁠ e o nosso Conselho de Especialistas sobre Bem-Estar e IA⁠.

O nosso trabalho para criar um ecossistema digital mais saudável vai além dos nossos próprios produtos. Defendemos o desenvolvimento de normas globais escaláveis para a segurança dos jovens na IA⁠ através de um Instituto de Segurança da IA dedicado, políticas e ferramentas de código aberto⁠ que os programadores podem integrar nos seus próprios sistemas de IA, e trabalho com organizações como a Common Sense Media⁠(abre numa nova janela) e a everyone.ai⁠(abre numa nova janela) para partilhar aprendizagens e boas práticas.

Este ano, também aderimos ao Family Online Safety Institute⁠(abre numa nova janela) (FOSI), um defensor de longa data de experiências online seguras para famílias e jovens. Trabalharemos em conjunto para garantir que os jovens podem beneficiar da IA, tendo no centro pais capacitados e práticas responsáveis da indústria. Esperamos que esta parceria ajude a promover uma compreensão partilhada do que funciona, a reforçar proteções adequadas à idade e ferramentas parentais, e a apoiar esforços de todo o setor que permitam aos jovens beneficiar da IA de forma segura e responsável.

Proteger os jovens online exige progresso contínuo. Nos próximos meses, continuaremos a reforçar proteções adequadas à idade, a dar aos pais mais ferramentas e controlo, a melhorar as salvaguardas contra danos graves, a avançar na investigação sobre a utilização saudável da IA e a criar mais experiências que ajudem os adolescentes a aprender de forma ativa e a usar a IA com confiança.

Sabemos que há mais a fazer, e estamos empenhados em continuar o nosso trabalho em colaboração com adolescentes, pais, educadores, especialistas e comunidades em todo o mundo para levar um acesso amplo e seguro aos adolescentes.