Alguns de nossos princípios estão em conflito, e gostaríamos de explicar as decisões que estamos tomando em relação às tensões entre segurança, liberdade e privacidade para adolescentes.
É extremamente importante para nós e para a sociedade que o direito à privacidade seja protegido durante o uso da IA. As pessoas conversam cada vez mais com a IA sobre assuntos muito pessoais, estabelecendo uma relação diferente do que tinham com tecnologias anteriores. No nosso entendimento, as contas que uma pessoa tem com os serviços de IA podem ser as mais sensíveis que ela já teve em termos de confidencialidade. Quando você fala com um médico sobre seu histórico de saúde ou com um advogado sobre uma questão jurídica, decidimos enquanto sociedade que era do interesse de todos que essas informações fossem confidenciais e mais protegidas. Acreditamos que o mesmo nível de proteção deva ser aplicado às conversas com a IA, pois cada vez mais as pessoas usam a IA para tirar dúvidas confidenciais e resolver problemas particulares. Estamos defendendo esse princípio com os legisladores.
Estamos desenvolvendo recursos avançados de segurança para garantir que seus dados não sejam acessados nem por funcionários da OpenAI. Assim como a confidencialidade em outras áreas, haverá exceções, como os sistemas automáticos que devem monitorar uso indevido com possíveis consequência graves, e os riscos mais importantes: ameaça à vida, planos para atacar alguém ou danos em larga escala, como um grande incidente de cibersegurança. Esse tipo de situação pode ser encaminhado para revisão humana.
O segundo princípio é a liberdade. Queremos que os usuários se sintam à vontade para utilizar nossas ferramentas da forma que quiserem, com limites de segurança bastante amplos. Temos trabalhado para aumentar a liberdade dos usuários com o tempo, conforme melhoramos a capacidade de orientação dos modelos. Por exemplo: o comportamento padrão do nosso modelo não transforma conversas em flertes, mas se um usuário adulto pedir, ele pode ter esse tipo de interação. Um exemplo bem mais complicado é que o modelo não deve fornecer instruções para um suicídio, mas, se um usuário adulto pedir ajuda para escrever uma história que descreve um suicídio, o modelo deve realizar o pedido. “Trate nossos usuários adultos como adultos”. Esse é um lema interno da empresa, que expande a liberdade ao máximo sem que ela cause dano ou prejudique a liberdade de outros.
O terceiro princípio é a proteção de adolescentes. Priorizamos a segurança mais do que a privacidade e a liberdade no caso de adolescentes. Nossa tecnologia é nova e poderosa, e consideramos que menores de idade precisam de proteções amplas.
Primeiro, separamos usuários entre maiores e menores de 18 anos (o ChatGPT foi feito para maiores de 13 anos). Estamos criando um sistema de previsão de idade que estima a idade de uma pessoa pela forma como ela usa o ChatGPT. Em caso de dúvida, priorizaremos a segurança e restringiremos a experiência ao modo para menores de 18 anos. Em algumas situações ou países, também podemos solicitar identificação. Ainda que isso cause um problema em termos de privacidade para os adultos, acreditamos que é uma concessão válida.
Aplicaremos regras diferentes para adolescentes em nossos serviços. Por exemplo: o ChatGPT será treinado para não gerar flertes mesmo que eles sejam solicitados, nem falar sobre suicídio e autoflagelação, mesmo que no contexto de escrita criativa. Além disso, se um usuário com menos de 18 anos tiver ideações suicidas, tentaremos contato com seus pais e, se isso não for possível, entraremos em contato com as autoridades em caso de perigo iminente. Divulgamos hoje outras informações sobre o desenvolvimento do sistema de previsão de idade e novos controles dos pais para que o sistema funcione.
Compreendemos os conflitos causados por esses princípios e sabemos que nem todos concordarão com nossas soluções. São decisões difíceis mas, após discussões com especialistas, acreditamos estar tomando o melhor caminho e queremos ser transparentes sobre nossas intenções.
