Apresentamos o Contacto de Confiança no ChatGPT
Ligando-o a alguém em quem confia quando isso mais importa.
As pessoas usam o ChatGPT para aprender, explorar ideias, resolver problemas e refletir sobre questões pessoais. Por vezes, essas conversas podem envolver momentos em que alguém pode estar em dificuldade ou à procura de apoio. O nosso objetivo é conceber sistemas que respondam de forma ponderada a conversas sensíveis e incentivem as pessoas a ligarem-se a ajuda no mundo real quando necessário.
Hoje, começamos a disponibilizar o Contacto de Confiança, uma funcionalidade de segurança opcional no ChatGPT que permite aos adultos nomear alguém em quem confiam, como um amigo, familiar ou prestador de cuidados, que poderá ser notificado se os nossos sistemas automatizados e revisores treinados detetarem que a pessoa inscrita poderá ter falado sobre fazer mal a si própria de uma forma que indique uma preocupação séria de segurança. O Contacto de Confiança foi concebido para oferecer uma camada adicional de apoio, a par das linhas de apoio locais já disponíveis no ChatGPT, ajudando os utilizadores a ligarem-se a uma pessoa em quem confiam quando estão em crise.
O Contacto de Confiança baseia-se nas notificações de segurança dos controlos parentais(abre numa nova janela), que permitem que pais ou tutores recebam alertas quando há sinais de sofrimento agudo numa conta de adolescente associada. Agora, estamos a alargar as nossas opções de alerta de segurança para que qualquer pessoa com mais de 18 anos possa escolher adicionar alguém em quem confia como seu Contacto de Confiança.
As orientações de especialistas(abre numa nova janela) identificam a ligação social como um dos fatores de proteção mais importantes para reduzir o risco de suicídio. O Contacto de Confiança(abre numa nova janela) foi concebido para incentivar a ligação com alguém em quem o utilizador já confia. Não substitui cuidados profissionais nem serviços de crise, e é uma de várias camadas de proteção para apoiar pessoas em sofrimento. O ChatGPT continuará a incentivar os utilizadores a contactarem linhas de crise ou serviços de emergência, quando adequado.
«A ciência psicológica mostra de forma consistente que a ligação social é um poderoso fator de proteção, especialmente em períodos de sofrimento emocional. Ajudar as pessoas a identificar antecipadamente alguém de confiança, preservando a sua escolha e autonomia, pode tornar mais fácil procurar apoio no mundo real quando isso mais importa.»
- Os utilizadores podem adicionar um adulto (18+ globalmente ou 19+ na Coreia do Sul) como seu Contacto de Confiança nas definições do ChatGPT.
- O Contacto de Confiança receberá um convite a explicar o seu papel e terá de aceitar o convite no prazo de uma semana para que a funcionalidade fique ativa. Se o Contacto de Confiança recusar, o utilizador pode optar por adicionar outro adulto.
- Se os nossos sistemas de monitorização automatizada detetarem que o utilizador poderá estar a falar sobre automutilação de uma forma que indique uma preocupação séria de segurança, o ChatGPT informa o utilizador de que poderemos notificar o seu Contacto de Confiança e incentiva-o a entrar em contacto com o seu Contacto de Confiança, com sugestões para iniciar a conversa.
- A partir daí, uma pequena equipa de pessoas com formação especializada analisa a situação. Se esses revisores determinarem que a conversa pode indicar uma preocupação séria de segurança, o ChatGPT enviará ao Contacto de Confiança uma breve notificação por e-mail, mensagem de texto ou notificação na aplicação, caso tenha uma conta ChatGPT
- A notificação é intencionalmente limitada. Partilha a razão geral pela qual a automutilação surgiu de uma forma potencialmente preocupante e incentiva o Contacto de Confiança a verificar como a pessoa está. Não inclui detalhes da conversa nem transcrições, para proteger a privacidade do utilizador. A notificação inclui também uma ligação para orientações(abre numa nova janela) especializadas para lidar com conversas sensíveis.
- Os utilizadores podem sempre remover ou editar o seu Contacto de Confiança nas definições e o Contacto de Confiança pode remover-se a si próprio em qualquer altura no nosso centro de ajuda.(abre numa nova janela)
Embora estas situações graves de segurança sejam raras, quando surgem, os nossos sistemas são concebidos para apoiar uma análise e resposta atempadas. Embora nenhum sistema seja perfeito, e uma notificação a um Contacto de Confiança nem sempre reflita exatamente o que alguém está a viver, cada notificação é submetida a análise humana treinada antes de ser enviada, e procuramos analisar estas notificações de segurança em menos de uma hora.
Desenvolvemos o Contacto de Confiança com orientação de clínicos, investigadores e organizações especializadas em saúde mental e prevenção do suicídio. Este trabalho é informado pela nossa Rede Global de Médicos, uma rede de mais de 260 médicos licenciados em 60 países, e pelo nosso Conselho de Especialistas em Bem-Estar e IA. Também trabalhámos de perto com organizações externas, incluindo a American Psychological Association.(abre numa nova janela)
«Uma das maiores promessas da IA é a forma como pode promover uma ligação humana autêntica e segurança psicológica. Sinto-me encorajada pela funcionalidade Contacto de Confiança do ChatGPT, que representa um avanço na capacitação humana, especialmente em momentos de vulnerabilidade.»
Além do Contacto de Confiança, o ChatGPT dispõe de salvaguardas para ajudar a orientar conversas sensíveis em todas as fases. Continuámos a melhorar a forma como o sistema responde a diferentes níveis de risco expressos numa conversa:
- Apoiar ajuda no mundo real: Em momentos sensíveis, o ChatGPT pode incentivar as pessoas a contactarem serviços de emergência, linhas de crise, profissionais de saúde mental ou pessoas de confiança nas suas vidas.
- Responder com cuidado: Trabalhámos com mais de 170 especialistas em saúde mental para melhorar a capacidade do ChatGPT de detetar e responder a sinais de potencial sofrimento, desescalar conversas e orientar as pessoas para apoio no mundo real, quando adequado.
- Ajudar as pessoas a manter o controlo sobre o seu tempo: Em algumas situações, o ChatGPT pode sugerir fazer uma pausa ou afastar-se após uma utilização prolongada, para promover hábitos tecnológicos saudáveis.
- Recusar pedidos nocivos: O ChatGPT é treinado para recusar fornecer instruções para suicídio ou automutilação. Quando os utilizadores pedem este tipo de informação, o sistema é treinado para recusar o pedido e, em vez disso, redirecionar para respostas mais seguras e apresentar recursos locais de crise.
O Contacto de Confiança faz parte do esforço mais amplo da OpenAI para criar sistemas de IA que ajudem as pessoas em momentos difíceis. Continuaremos a trabalhar com clínicos, investigadores e decisores políticos para melhorar a forma como os sistemas de IA respondem quando as pessoas podem estar a passar por sofrimento. O nosso objetivo é garantir que os sistemas de IA não existam de forma isolada. Em vez disso, devem ajudar a ligar as pessoas aos cuidados, relações e recursos do mundo real que mais importam.
