Apresentando o Contato de Confiança no ChatGPT
Conectando você a alguém em quem confia quando isso mais importa.
As pessoas usam o ChatGPT para aprender, explorar ideias, resolver problemas e refletir sobre questões pessoais. Às vezes, essas conversas podem envolver momentos em que alguém está enfrentando dificuldades ou procurando apoio. Nosso objetivo é projetar sistemas que respondam de forma cuidadosa a conversas sensíveis e incentivem as pessoas a buscar ajuda no mundo real quando necessário.
Hoje, estamos começando a disponibilizar o Contato de Confiança, um recurso opcional de segurança no ChatGPT que permite que adultos indiquem alguém em quem confiam, como um amigo, familiar ou cuidador, que poderá ser notificado se nossos sistemas automatizados e revisores treinados detectarem que a pessoa inscrita pode ter falado sobre ferir a si mesma de uma forma que indique uma séria preocupação de segurança. O Contato de Confiança foi criado para oferecer uma camada adicional de suporte junto às linhas de ajuda localizadas já disponíveis no ChatGPT, ajudando os usuários a se conectarem com uma pessoa de confiança quando estiverem em crise.
O Contato de Confiança se baseia nas notificações de segurança dos controles parentais(abre em uma nova janela), que permitem que pais, mães ou responsáveis recebam alertas quando há sinais de sofrimento agudo em uma conta de adolescente vinculada. Agora, estamos ampliando nossas opções de alerta de segurança para que qualquer pessoa com mais de 18 anos possa escolher adicionar alguém de confiança como seu Contato de Confiança.
Orientações de especialistas(abre em uma nova janela) identificam a conexão social como um dos fatores de proteção mais importantes para reduzir o risco de suicídio. O Contato de Confiança(abre em uma nova janela) foi criado para incentivar a conexão com alguém em quem o usuário já confia. Ele não substitui cuidados profissionais nem serviços de crise e é uma das várias camadas de proteção para apoiar pessoas em sofrimento. O ChatGPT continuará incentivando os usuários a entrar em contato com linhas diretas de crise ou serviços de emergência quando apropriado.
“A ciência psicológica mostra consistentemente que a conexão social é um poderoso fator de proteção, especialmente em períodos de sofrimento emocional. Ajudar as pessoas a identificar com antecedência alguém de confiança, preservando sua escolha e autonomia, pode tornar mais fácil buscar apoio no mundo real quando isso mais importa.”
- Os usuários podem adicionar um adulto (18+ globalmente ou 19+ na Coreia do Sul) como Contato de Confiança nas configurações do ChatGPT.
- O Contato de Confiança receberá um convite explicando sua função e deverá aceitá-lo em até uma semana para que o recurso se torne ativo. Se o Contato de Confiança recusar, o usuário poderá escolher adicionar outro adulto.
- Se nossos sistemas automatizados de monitoramento detectarem que o usuário pode estar falando sobre autoagressão de uma forma que indique uma séria preocupação de segurança, o ChatGPT informa ao usuário que poderemos notificar seu Contato de Confiança e o incentiva a entrar em contato com essa pessoa usando sugestões para iniciar a conversa.
- A partir daí, uma pequena equipe de pessoas especialmente treinadas analisa a situação. Se esses revisores determinarem que a conversa pode indicar uma séria preocupação de segurança, o ChatGPT enviará ao Contato de Confiança uma breve notificação por e-mail, mensagem de texto ou notificação no aplicativo, caso essa pessoa tenha uma conta no ChatGPT
- A notificação é intencionalmente limitada. Ela compartilha o motivo geral pelo qual a autoagressão surgiu de uma maneira potencialmente preocupante e incentiva o Contato de Confiança a verificar como a pessoa está. Não inclui detalhes nem transcrições da conversa, para proteger a privacidade do usuário. A notificação também inclui um link para orientações(abre em uma nova janela) especializadas sobre como conduzir conversas sensíveis.
- Os usuários sempre podem remover ou editar seu Contato de Confiança nas configurações, e o Contato de Confiança pode se remover a qualquer momento em nossa central de ajuda.(abre em uma nova janela)
Embora essas situações graves de segurança sejam raras, quando surgem, nossos sistemas são projetados para oferecer revisão e resposta em tempo hábil. Embora nenhum sistema seja perfeito, e uma notificação a um Contato de Confiança nem sempre reflita exatamente o que alguém está vivenciando, toda notificação passa por revisão humana treinada antes de ser enviada, e nos esforçamos para analisar essas notificações de segurança em menos de uma hora.
Desenvolvemos o Contato de Confiança com orientação de clínicos, pesquisadores e organizações especializadas em saúde mental e prevenção do suicídio. Esse trabalho é informado por nossa Global Physicians Network, uma rede de mais de 260 médicos licenciados em 60 países, e por nosso Expert Council on Well-Being and AI. Também trabalhamos em estreita colaboração com organizações externas, incluindo a American Psychological Association.(abre em uma nova janela)
Hoje, estamos apresentando a Segurança Avançada da Conta, uma nova configuração opcional para contas do ChatGPT, criada para pessoas com maior risco de ataques digitais, bem como para quem quer as proteções de conta mais fortes disponíveis. Ela reúne um conjunto de medidas de segurança reforçadas que ajudam a proteger contra a tomada de controle da conta, facilitando a ativação dessas proteções em um só lugar. Após a adesão, a Segurança Avançada da Conta também protege os usuários no Codex.
Além do Contato de Confiança, o ChatGPT conta com proteções para ajudar a conduzir conversas sensíveis em cada etapa. Continuamos aprimorando a forma como o sistema responde a diferentes níveis de risco expressos em uma conversa:
- Apoiando ajuda no mundo real: Em momentos sensíveis, o ChatGPT pode incentivar as pessoas a entrar em contato com serviços de emergência, linhas diretas de crise, profissionais de saúde mental ou pessoas de confiança em suas vidas.
- Respondendo com cuidado: Trabalhamos com mais de 170 especialistas em saúde mental para melhorar a capacidade do ChatGPT de detectar e responder a sinais de possível sofrimento, reduzir a escalada das conversas e orientar as pessoas para apoio no mundo real quando apropriado.
- Ajudando as pessoas a manter o controle do seu tempo: Em algumas situações, o ChatGPT pode sugerir fazer uma pausa ou se afastar após uso prolongado para promover hábitos saudáveis de tecnologia.
- Recusando solicitações prejudiciais: O ChatGPT é treinado para se recusar a fornecer instruções para suicídio ou autoagressão. Quando os usuários solicitam esse tipo de informação, o sistema é treinado para recusar o pedido e, em vez disso, redirecionar para respostas mais seguras e apresentar recursos locais de crise.
O Contato de Confiança faz parte do esforço mais amplo da OpenAI para construir sistemas de IA que ajudem as pessoas durante momentos difíceis. Continuaremos trabalhando com clínicos, pesquisadores e formuladores de políticas para melhorar a forma como os sistemas de IA respondem quando as pessoas podem estar passando por sofrimento. Nosso objetivo é garantir que os sistemas de IA não existam de forma isolada. Em vez disso, eles devem ajudar a conectar as pessoas ao cuidado, aos relacionamentos e aos recursos do mundo real que mais importam.
