Trabalhamos de forma constante e contínua para que o ChatGPT seja o mais útil possível. Não à toa, percebemos que as pessoas recorrem a ele nos momentos mais difíceis. É por isso que continuamos a aprimorar a forma como nossos modelos, com base em orientações de especialistas, reconhecem e respondem a sinais de sofrimento mental e emocional.
É um trabalho que já está em andamento, mas queremos divulgar nossos planos para os próximos 120 dias. Dessa forma, você não precisa esperar até a data de lançamento para saber o que estamos fazendo. Continuaremos trabalhando até depois desse período, mas por ora estamos focados em lançar o maior número possível de aprimoramentos ainda este ano.
Na semana passada, compartilhamos quatro áreas importantes em nossa abordagem para ajudar pessoas quando elas mais precisam:
- Expandir intervenções para mais pessoas em crise
- Facilitar o contato com serviços de emergência para conseguir ajuda de especialistas
- Permitir conexões com contatos de confiança
- Reforçar as proteções para adolescentes
Algumas dessas iniciativas terão resultados mais imediatos, enquanto outras exigirão mais tempo.
Hoje, estamos divulgando mais informações sobre nossas parcerias com especialistas. Eles nos ajudam a não apenas definir de que forma vamos usar os modelos de raciocínio em situações sensíveis, como também a esmiuçar uma das mais importantes áreas de atuação: reforçar as proteções para adolescentes.
A IA é uma coisa nova, que está em evolução. Queremos garantir que nosso progresso seja orientado por conhecimentos sólidos em termos de bem-estar e saúde mental. O conselho de especialistas em bem-estar e IA e a rede global de médicos nos proporcionam os conhecimentos médicos e a ampla perspectiva de que precisamos para fazer isso acontecer. Falaremos mais sobre esse trabalho ao longo da nossa iniciativa de 120 dias.
Conselho de especialistas em bem-estar e IA
No primeiro semestre deste ano, começamos a reunir um conselho composto por especialistas em desenvolvimento juvenil, saúde mental e interação entre humanos e computadores. A função desse grupo é definir uma visão objetiva e baseada em evidências de como a IA pode apoiar o bem-estar das pessoas e ajudá-las em diversos aspectos.
As orientações do conselho ajudarão a avaliar parâmetros de bem-estar, definir prioridades e projetar proteções futuras (como, por exemplo, as próximas iterações da função de controle dos pais) com base nas pesquisas mais recentes. Além disso, essas orientações serão usadas em decisões sobre produtos, pesquisas e políticas — contudo, a OpenAI permanece responsável pelas opções que escolhermos.
Rede global de médicos
O conselho trabalhará em conjunto com a rede global de médicos, um grupo composto por mais de 250 médicos que já atuaram em 60 países diferentes. No último ano, essa rede nos ajudou em iniciativas como as avaliações de referência de saúde, projetadas para aperfeiçoar as medições dos recursos de sistemas de saúde baseados em IA.
Desse grupo, mais de 90 médicos situados em 30 países — incluindo psiquiatras, pediatras e clínicos gerais — já contribuíram para a nossa pesquisa sobre como nossos modelos devem se comportar em contextos de saúde mental. A contribuição deles alimenta diretamente nossas pesquisas em segurança, o treinamento de modelos e outras intervenções, e é dessa forma que conseguimos envolver rapidamente os especialistas adequados quando necessário.
Continuamos adicionando mais médicos e pesquisadores à nossa rede, incluindo aqueles com especialização em áreas como transtornos alimentares, uso de substâncias e saúde adolescente.
Nossos modelos de raciocínio, como GPT‑5‑thinking e o3, são criados para passar mais tempo pensando e refletindo com base no contexto antes de oferecerem uma resposta. Nossos testes mostram(abre em uma nova janela) que, quando treinados com um método que chamamos de alinhamento deliberativo, os modelos de raciocínio seguem e aplicam diretrizes de segurança de forma mais consistente e resistem melhor a prompts adversários.
Recentemente, lançamos um roteador em tempo real que consegue escolher entre diferentes modelos de chat e raciocínio de acordo com o contexto da conversa. Em breve, começaremos a encaminhar algumas conversas sobre temas sensíveis (por exemplo, situações em que nosso sistema detecta sinais de sofrimento agudo) para um modelo de raciocínio como o GPT‑5‑thinking, para que ele possa responder de forma mais útil e benéfica, independentemente do modelo selecionado pela pessoa. Desenvolveremos essa abordagem com muita cautela.
Muitas pessoas jovens já usam a IA. Elas são a primeira geração "nativa de IA", pois estão crescendo em uma realidade na qual essas ferramentas fazem parte do dia a dia. É algo muito semelhante ao que aconteceu com o smartphone e a internet nas gerações anteriores. Isso significa que existem oportunidades reais de ajuda, aprendizagem e criatividade. No entanto, também significa que famílias e adolescentes podem precisar de ajuda na hora de definir práticas saudáveis e adequadas a essa fase tão única de desenvolvimento que é a adolescência.
Controles dos pais
No início deste ano, começamos a criar novas formas de uso em família do ChatGPT. A ideia era que elas escolhessem a opção mais adequada para suas próprias realidades. Ao longo do próximo mês, os pais poderão:
- Vincular a conta com a conta de seus adolescentes (idade mínima de 13 anos) por meio de um simples convite por e-mail.
- Controlar como o ChatGPT responde aos adolescentes, usando regras de comportamento de modelo adequadas à idade e ativadas por padrão.
- Gerenciar quais recursos são desabilitados, incluindo memória e histórico de chats.
- Receber notificações quando o sistema detectar que os adolescentes estão em um momento de sofrimento intenso. Esse recurso será orientado por especialistas com o objetivo de promover a confiança entre pais e adolescentes.
Esses controles se juntam aos recursos que já implementamos para todos os usuários, como lembretes exibidos dentro do aplicativo durante sessões longas (nesse caso, o objetivo é incentivar intervalos durante o uso).
Esses são apenas os primeiros passos. Continuaremos aprendendo e reforçando nossa abordagem com a ajuda de especialistas para transformar o ChatGPT em uma ferramenta útil de verdade. Será um prazer compartilhar nosso progresso durante os próximos 120 dias.
