Estamos a partilhar uma atualização da nossa Especificação do Modelo, o conjunto escrito de regras, valores e expetativas comportamentais que orienta como queremos que os nossos modelos de IA se comportem, especialmente em situações difíceis ou de alto risco, com novos Princípios para Menores de 18 Anos (U18)(abre numa nova janela). O comportamento do modelo é crucial para a forma como as pessoas interagem com a IA, e os adolescentes têm necessidades de desenvolvimento distintas das dos adultos.
Os Princípios U18 orientam como o ChatGPT deve proporcionar uma experiência segura e adequada à idade para adolescentes de 13 a 17 anos. Baseada na ciência do desenvolvimento, esta abordagem prioriza a prevenção, a transparência e a intervenção precoce. No desenvolvimento destes princípios, apresentamo-los previamente a especialistas externos, incluindo a Associação Americana de Psicologia, como parte do nosso trabalho contínuo para procurar contributos que fortaleçam a nossa abordagem.
Embora os princípios da Especificação do Modelo continuem a ser aplicáveis a utilizadores adultos e adolescentes, esta atualização esclarece como estes princípios se aplicam em contextos com adolescentes, especialmente onde as considerações de segurança para menores podem ser mais acentuadas.
Os Princípios U18 baseiam-se em quatro compromissos orientadores:
- Priorizar a segurança dos adolescentes, mesmo quando isso possa entrar em conflito com outros objetivos
- Promover o apoio no mundo real ao incentivar relações offline e recursos de confiança
- Tratar os adolescentes como adolescentes, sem condescendência nem como adultos
- Ser transparente, definindo expetativas claras
Em linha com o nosso Roteiro de Segurança para Adolescentes, estes princípios têm orientado o nosso trabalho de segurança para adolescentes até à data, incluindo as proteções de conteúdo que aplicamos aos utilizadores que nos informam ter menos de 18 anos no momento do registo, bem como através dos controlos parentais. Nestes contextos, implementámos salvaguardas para orientar o modelo a ter um cuidado extra ao discutir áreas de maior risco, incluindo automutilação e suicídio, roleplay romântico ou sexualizado, conteúdo gráfico ou explícito, atividades e substâncias perigosas, imagem corporal e distúrbios alimentares, e pedidos para manter segredos sobre comportamentos inseguros.
A Associação Americana de Psicologia, que analisou uma versão preliminar da Especificação do Modelo U18 e ofereceu importantes contributos a longo prazo, é clara quanto à importância de proteger os adolescentes:
"A APA incentiva os programadores de IA a oferecerem precauções adequadas ao desenvolvimento dos jovens utilizadores dos seus produtos e a adotarem uma abordagem mais protetora para os utilizadores mais jovens. Crianças e adolescentes podem beneficiar das ferramentas de IA se estas forem equilibradas com interações humanas que a ciência demonstra serem críticas para o desenvolvimento social, psicológico, comportamental e até biológico. As experiências dos jovens com a IA devem ser cuidadosamente supervisionadas e discutidas com adultos de confiança para incentivar a revisão crítica do que os bots de IA oferecem e promover o desenvolvimento do pensamento independente e das competências dos jovens."
Esta atualização também esclarece como o assistente deve responder quando surgem preocupações de segurança de adolescentes. Isto significa que os adolescentes devem encontrar barreiras de proteção mais fortes, alternativas mais seguras e incentivo para procurar apoio offline de confiança quando as conversas entram em territórios de maior risco. Quando há risco iminente, os adolescentes são instados a contactar os serviços de emergência ou recursos de crise.
À semelhança do resto da Especificação do Modelo, os Princípios U18 refletem o comportamento pretendido do nosso modelo. Continuaremos a refiná-los à medida que integramos novas investigações, entrada de especialistas e utilizações no mundo real.
Juntamente com a atualização da Especificação do Modelo, adotámos uma abordagem em várias camadas para reforçar a segurança dos adolescentes no ChatGPT, abrangendo salvaguardas do produto, apoio familiar e orientação especializada.
Desde o lançamento dos controlos parentais(abre numa nova janela), expandimos as proteções a novos produtos, incluindo conversas de grupo, o navegador ChatGPT Atlas e a aplicação Sora. Estas atualizações ajudam os pais a personalizar a experiência do ChatGPT dos seus adolescentes à medida que introduzimos novos produtos e funcionalidades.
De acordo com as orientações de especialistas, promovemos conversas contínuas entre pais e adolescentes sobre a utilização saudável e responsável da IA na sua família. Para apoiar estas conversas, adicionámos novas funcionalidades avaliadas por especialistas ao centro de recursos para pais(abre numa nova janela), incluindo um guia para as famílias sobre como ajudar os adolescentes a utilizar a IA de forma responsável(abre numa nova janela) e dicas para os pais(abre numa nova janela) sobre como falar com os seus filhos sobre a IA, que foram analisadas pela ConnectSafely e por membros do nosso Conselho de Especialistas em Bem-Estar e IA. Vamos continuar a adicionar mais recursos ao longo do tempo. Também promovemos a utilização saudável diretamente no produto, com lembretes de pausa integrados durante longas sessões para ajudar a manter o tempo gasto com o ChatGPT intencional e equilibrado.
O nosso trabalho em prol da segurança dos adolescentes é orientado por uma estreita colaboração com especialistas de diversas áreas e conhecimentos. Em outubro, criámos um Conselho de Especialistas em Bem-Estar e IA para ajudar a aconselhar e definir como devem ser as interações saudáveis com a IA para todas as idades. Esse trabalho orientou a elaboração de diretrizes sobre controlos parentais e notificações para os pais. Incorporamos também conhecimento clínico através da nossa Global Physician Network para fundamentar a investigação de segurança e avaliar o comportamento do modelo, incluindo o aperfeiçoamento da forma como o ChatGPT reconhece o sofrimento e encaminha as pessoas para cuidados profissionais quando apropriado. Aplicámos estes fundamentos com o GPT‑5.2 e também alargámos o acesso ao apoio no mundo real, disponibilizando linhas de ajuda localizadas no ChatGPT e no Sora através da nossa parceria com ThroughLine(abre numa nova janela).
Estamos nas primeiras fases de implementação de um modelo de previsão de idade(abre numa nova janela) nos planos de consumidor do ChatGPT. Isto vai ajudar-nos a aplicar automaticamente medidas de segurança para adolescentes quando acreditarmos que uma conta pertence a um menor. Se não tivermos a certeza de qual é a idade de alguém ou tivermos informações incompletas, adotaremos a experiência padrão para menores de 18 anos e daremos aos adultos formas de verificar a idade.
O reforço da segurança dos adolescentes é um trabalho contínuo e continuaremos a melhorar os controlos parentais e as capacidades dos modelos, a expandir os recursos para os pais, a trabalhar com organizações, investigadores e parceiros especialistas, incluindo o Conselho de Bem-Estar e a Global Physician Network.
Estamos empenhados em criar proteções robustas para os adolescentes e melhorá-las ao longo do tempo para melhor apoiar os adolescentes e as famílias.
