Colaboração com a American Psychological Association sobre saúde mental dos jovens e IA
Os jovens já utilizam a IA para aprender, criar, fazer perguntas e procurar aconselhamento. À medida que esta utilização aumenta, as famílias, as escolas, os profissionais de saúde e as comunidades precisam de dados mais claros, melhores recursos e salvaguardas mais robustas. É por isso que estamos a colaborar com a American Psychological Association (APA) para integrar a ciência psicológica na forma como pensamos o desenvolvimento e a utilização responsáveis da IA entre os jovens. A APA é a principal organização científica e profissional de psicologia nos Estados Unidos. O seu trabalho baseado em dados concretos ajudará a esclarecer o que se sabe, o que permanece incerto e como deve ser uma IA responsável à medida que a tecnologia evolui.
«A tecnologia faz parte da vida dos adolescentes, e é nossa responsabilidade responder a essa realidade com experiências seguras, adequadas à idade e concebidas a pensar nas famílias. A IA deve reforçar — e não substituir — as relações e os cuidados no mundo real de que os jovens dependem», afirmou a Dra. Sara Johansen, responsável pela política de produto para a saúde mental e o bem-estar na OpenAI. «Este trabalho dá continuidade aos nossos esforços com especialistas. Ao colaborarmos com a APA e outros especialistas de referência, continuamos a basear a nossa abordagem em dados concretos e a desenvolver salvaguardas práticas que colocam o bem-estar dos adolescentes em primeiro lugar.»
No início deste ano, organizámos com a APA um encontro produtivo que reuniu responsáveis de organizações de saúde mental, investigadores, profissionais de saúde, educadores e representantes dos jovens para debater as atuais lacunas no apoio aos jovens e as áreas em que a IA pode ajudá-los, de forma responsável, a encontrar informação e a aceder a apoio no mundo real.
Com base nestas conversas, esperamos que este trabalho abranja várias áreas, incluindo a forma como a IA pode apoiar os jovens em momentos de sofrimento, como pode ser concebida para ser mais adequada às diferentes fases do desenvolvimento e mais útil, e como preparar melhor pais, cuidadores e profissionais de saúde para orientarem a utilização da IA pelos jovens. Todo este trabalho assentará na ciência do comportamento humano, bem como nas vozes e experiências vividas dos pais, cuidadores, professores e dos próprios jovens. Com o tempo, este trabalho poderá contribuir para salvaguardas mais robustas e abordagens fundamentadas em dados concretos sobre o papel que a IA deve ter na vida dos jovens.
Uma das primeiras prioridades é disponibilizar aos pais e cuidadores ferramentas práticas para orientarem a utilização da IA em casa, sobretudo quando os adolescentes começam a usar estas ferramentas. Em colaboração com a APA, planeamos desenvolver recursos destinados às famílias para ajudar pais e cuidadores a promover uma utilização saudável, a reconhecer quando poderá ser adequada a intervenção de um adulto e a reforçar que a IA é uma ferramenta, não um substituto das pessoas ou dos cuidados. Pretendemos também tornar estas orientações amplamente acessíveis às comunidades escolares.
Estamos também a colaborar com a APA para apoiar os profissionais que recebem cada vez mais perguntas sobre IA. O trabalho previsto inclui recursos para profissionais de saúde e psicólogos escolares, centrados na promoção de uma utilização saudável da IA, na identificação da dependência excessiva e na intervenção perante padrões de utilização prejudiciais. Continuaremos também a reunir responsáveis das áreas da saúde, educação, investigação, políticas públicas, tecnologia e defesa dos jovens para transformar os novos conhecimentos em orientações práticas para o setor em geral.
É essencial que estes esforços assentem nas experiências vividas e sejam moldados por quem as possui, em vez de se basearem em suposições. Colaboraremos com a APA para reunir adolescentes, famílias, profissionais de saúde, psicólogos escolares e outras pessoas, a fim de compreendermos melhor como os jovens utilizam a IA, como surgem as questões relacionadas com a IA nas escolas, nas consultas e no contexto familiar, onde falham os sistemas atuais e onde a IA poderá contribuir de forma responsável para melhorar o acesso, a educação ou a orientação.
Este trabalho dá continuidade aos esforços da OpenAI para melhorar a forma como o ChatGPT responde em momentos delicados e apoia os utilizadores mais jovens. Trabalhamos com mais de 260 especialistas em saúde mental para ajudar o ChatGPT a reconhecer melhor os sinais de sofrimento, a responder com cuidado e a encaminhar as pessoas para apoio no mundo real. Também alargámos o acesso a recursos locais de apoio em situações de crise e a linhas de ajuda acessíveis com um clique, adicionámos lembretes para fazer uma pausa e introduzimos proteções adicionais para os utilizadores mais jovens. Estas incluem controlos parentais, a notificação dos pais perante preocupações de segurança, entre outras medidas, princípios para menores de 18 anos na nossa especificação do modelo e um modelo de previsão da idade que ajuda a aplicar a experiência e as salvaguardas adequadas.
A IA pode ajudar as pessoas a encontrar informação e a orientar-se mais cedo nos sistemas, mas o bem-estar dos jovens depende de relações humanas sólidas e de apoio fiável. É com satisfação que colaboramos com a APA e com os muitos investigadores, profissionais de saúde e educadores com quem continuamos a aprender, procurando garantir que a IA apoia verdadeiramente os jovens e quem cuida deles, os apoia e os orienta.
