Estamos compartilhando uma atualização de nossa Especificação de Modelo, o conjunto escrito de regras, valores e expectativas de comportamento que orienta como queremos que nossos modelos de IA se comportem, especialmente em situações difíceis ou de alto risco, com novos Princípios para Menores de 18 Anos (U18)(abre em uma nova janela). O comportamento do modelo é fundamental para a forma como as pessoas interagem com a IA, e os adolescentes têm necessidades de desenvolvimento diferentes dos adultos.
Os Princípios U18 orientam sobre como o ChatGPT deve proporcionar uma experiência segura e adequada à idade para adolescentes de 13 a 17 anos. Fundamentada na ciência do desenvolvimento, essa abordagem prioriza a prevenção, a transparência e a intervenção precoce. Ao desenvolver esses princípios, nós os apresentamos previamente a especialistas externos, incluindo a Associação Americana de Psicologia, como parte de nosso trabalho contínuo para buscar contribuições que fortaleçam nossa abordagem.
Embora os princípios da Especificação do Modelo continuem a ser aplicáveis tanto a usuários adultos quanto adolescentes, esta atualização esclarece como esses princípios se aplicam em contextos com adolescentes, especialmente onde as considerações de segurança para menores podem ser mais acentuadas.
Os Princípios Sub-18 estão ancorados em quatro compromissos orientadores:
- Priorize a segurança dos adolescentes, mesmo que isso possa entrar em conflito com outros objetivos.
- Promova o apoio no mundo real incentivando relacionamentos offline e recursos confiáveis.
- Trate os adolescentes como adolescentes, sem condescendência nem como adultos.
- Seja transparente , definindo expectativas claras.
Em consonância com nosso Plano de Segurança para Adolescentes, esses princípios têm norteado nosso trabalho de segurança para adolescentes até o momento, incluindo as proteções de conteúdo que aplicamos aos usuários que nos informam ter menos de 18 anos no momento do cadastro, bem como por meio dos controles parentais. Nesses contextos, implementamos medidas de segurança para orientar o modelo a ter cuidado redobrado ao abordar áreas de maior risco, incluindo automutilação e suicídio, jogos de papéis românticos ou sexualizados, conteúdo gráfico ou explícito, atividades e substâncias perigosas, imagem corporal e transtornos alimentares, além de pedidos para manter segredo sobre comportamentos de risco.
A Associação Americana de Psicologia, que analisou uma versão preliminar da Especificação do Modelo U18 e ofereceu importantes contribuições para o longo prazo, é clara quanto à importância de proteger os adolescentes:
“A APA incentiva os desenvolvedores de IA a oferecerem precauções adequadas ao desenvolvimento de usuários jovens de seus produtos e a adotarem uma abordagem mais protetora para usuários mais jovens. Crianças e adolescentes podem se beneficiar de ferramentas de IA se estas forem equilibradas com interações humanas, que a ciência demonstra serem cruciais para o desenvolvimento social, psicológico, comportamental e até mesmo biológico. As experiências dos jovens com IA devem ser cuidadosamente supervisionadas e discutidas com adultos de confiança para incentivar a análise crítica do que os bots de IA oferecem e para estimular o desenvolvimento do pensamento independente e das habilidades dos jovens.”
Esta atualização também esclarece como o assistente deve responder quando surgirem preocupações com a segurança de adolescentes. Isso significa que os adolescentes devem encontrar mecanismos de proteção mais rigorosos, alternativas mais seguras e incentivo para buscar apoio confiável fora da internet quando as conversas entrarem em um território de maior risco. Em situações de risco iminente, os adolescentes são aconselhados a contatar os serviços de emergência ou recursos de apoio em crises.
Assim como no restante da Especificação do Modelo, os Princípios U18 refletem o comportamento pretendido do modelo. Continuaremos a aprimorá-los à medida que incorporarmos novas pesquisas, contribuições de especialistas e uso no mundo real.
Além de atualizar as especificações do modelo, adotamos uma abordagem multifacetada para reforçar a segurança dos adolescentes no ChatGPT, abrangendo proteções de produto, suporte familiar e orientação especializada.
Desde que implementamos os controles parentais(abre em uma nova janela), ampliamos as proteções para novos produtos, incluindo bate-papos em grupo, o navegador ChatGPT Atlas e o aplicativo Sora. Essas atualizações ajudam os pais a personalizar a experiência do ChatGPT para seus filhos adolescentes à medida que introduzimos novos produtos e recursos.
Em consonância com as orientações de especialistas, incentivamos conversas contínuas entre pais e adolescentes sobre o uso saudável e responsável da IA em suas famílias. Para apoiar essas conversas, adicionamos novos recursos avaliados por especialistas ao centro de recursos para pais(abre em uma nova janela), incluindo um Guia para Famílias sobre como Ajudar Adolescentes a Usar IA de Forma Responsável(abre em uma nova janela) e dicas para pais(abre em uma nova janela) sobre como conversar com seus filhos sobre IA, que foram revisadas pela ConnectSafely e por membros do nosso Conselho de Especialistas em Bem-Estar e IA. Continuaremos adicionando mais recursos ao longo do tempo. Também incentivamos o uso saudável diretamente no produto, com lembretes de pausa integrados durante sessões longas para ajudar a manter o tempo gasto com o ChatGPT intencional e equilibrado.
Nosso trabalho em prol da segurança de adolescentes é norteado por uma estreita colaboração com especialistas de diversas áreas e conhecimentos. Em outubro, estabelecemos um Conselho de Especialistas em Bem-Estar e IA para ajudar a aconselhar e definir como devem ser as interações saudáveis com a IA para todas as idades. Esse trabalho serviu de base para as orientações sobre controles parentais e notificações aos pais. Incorporamos também conhecimento clínico por meio de nossa Rede Global de Médicos para fundamentar pesquisas de segurança e avaliar o comportamento do modelo, incluindo aprimorar a forma como o ChatGPT reconhece o sofrimento e encaminha as pessoas para atendimento profissional quando apropriado. Aproveitamos esses fundamentos com o GPT‑5.2 e também ampliamos o acesso ao suporte no mundo real, disponibilizando linhas de ajuda localizadas no ChatGPT e no Sora por meio de nossa parceria com a ThroughLine(abre em uma nova janela).
Estamos nos estágios iniciais de implementação de um modelo de previsão de idade(abre em uma nova janela) nos planos para consumidores do ChatGPT. Isso nos ajudará a aplicar automaticamente medidas de segurança para adolescentes quando acreditarmos que uma conta pertence a um menor de idade. Se não tivermos certeza da idade de alguém ou se as informações estiverem incompletas, usaremos a experiência padrão para menores de 18 anos e daremos aos adultos maneiras de verificar sua idade.
O fortalecimento da segurança dos adolescentes é um trabalho contínuo e continuaremos a aprimorar os controles parentais e as capacidades dos modelos, expandir os recursos para os pais, trabalhar com organizações, pesquisadores e parceiros especialistas, incluindo o Conselho de Bem-Estar e a Rede Global de Médicos.
Estamos empenhados em criar proteções robustas para adolescentes e aprimorá-las ao longo do tempo para melhor apoiar adolescentes e famílias.
