Promovendo a segurança e as oportunidades para jovens por meio da liderança global

A IA pode ser uma ferramenta poderosa para os jovens. Ela pode ajudar estudantes a entender um conceito difícil, praticar um novo idioma, se preparar para uma entrevista de emprego, explorar ideias criativas ou aprender uma nova habilidade. Assim como o movimento de alfabetização que se espalhou pelo mundo em meados do século 20 exigiu a distribuição em massa de textos impressos e acesso a professores capacitados, hoje oferecer acesso à IA segura abrirá novas oportunidades de aprendizagem personalizada, ajudará a reduzir barreiras para populações desassistidas e aumentará a preparação para o mercado de trabalho.

Como os benefícios potenciais são tão significativos, é essencial que os jovens possam acessar a IA de formas seguras, adequadas à idade e favoráveis ao desenvolvimento saudável. Essa responsabilidade não deve recair principalmente sobre os pais ou sobre os próprios jovens. As empresas, incluindo a OpenAI, têm a responsabilidade de criar produtos com salvaguardas adequadas por padrão, ao mesmo tempo em que capacitam as famílias com ferramentas e informações para orientar como a IA é usada.

Quando chefes de Estado se reunirem na Cúpula de Líderes do G7 em Évian, na França, ainda este mês, o tema da segurança de jovens em IA será um foco central. A OpenAI participará para discutir uma colaboração maior em segurança de jovens, como podemos trabalhar juntos para elevar os padrões do setor e o novo apelo da OpenAI pela criação de um instituto internacional de segurança de jovens.

A Cúpula de Líderes do G7 representa uma oportunidade rara de coordenação global em segurança de jovens. Mas um instituto dedicado proporcionaria a continuidade e o acompanhamento necessários além de uma única cúpula, ajudando governos, pesquisadores, sociedade civil e indústria a seguir trabalhando juntos para compartilhar evidências, desenvolver orientações e elevar padrões ao longo do tempo.

Há várias maneiras confiáveis de fazer isso: por meio de um novo instituto internacional ou dando a um instituto nacional de IA existente ou recém-criado um mandato global para compartilhar pesquisas, evidências e orientações com parceiros no mundo todo. O mais importante é a função que ele desempenha. A segurança de jovens em IA precisa de atenção sustentada, evidências confiáveis e orientações práticas que acompanhem o ritmo da tecnologia.

Esse instituto pode se basear em iniciativas emergentes, como o Youth AI Safety Institute da Common Sense Media, apoiado pela OpenAI Foundation, bem como em colaborações práticas com educadores, incluindo o trabalho da OpenAI com a American Federation of Teachers⁠. Ele também deve se apoiar em implantações no mundo real, como a implementação nacional do ChatGPT nas escolas da Estônia, onde a OpenAI está trabalhando com Stanford e pesquisadores estonianos para estudar o impacto e orientar um uso mais seguro e eficaz na aprendizagem.

A OpenAI recebe com satisfação a oportunidade de trabalhar com o governo francês, outros governos do G7 e parceiros da sociedade civil, da academia e da indústria nesse trabalho vital e para elevar os padrões globais de segurança de jovens.

Acreditamos que estruturas robustas de segurança de jovens em IA, incluindo qualquer possível acordo alcançado em encontros do G7, devem ser guiadas pelos princípios que apresentamos aqui.

1. As empresas devem saber quando um usuário é menor de idade e aplicar proteções adequadas à idade. Isso significa exigir que os provedores usem meios como estimativa de idade eficaz e preservadora da privacidade para distinguir menores de adultos, adotando salvaguardas protetivas por padrão quando a idade de um usuário não puder ser determinada. Sem essa base, mesmo as proteções para jovens mais bem-intencionadas podem não alcançar os jovens que pretendem proteger.
2. As empresas devem avaliar regularmente tanto os riscos quanto os benefícios para os jovens e tomar medidas para enfrentá-los —antes que ocorram danos. Isso significa exigir que os provedores concluam avaliações anuais de risco à segurança de jovens e implementem salvaguardas proporcionais com base nos riscos identificados. Essas avaliações devem considerar os riscos para jovens de acordo com seu estágio de desenvolvimento, evidências empíricas do uso real e pesquisas ou orientações regulatórias relevantes. As avaliações devem considerar não apenas possíveis danos, mas também se a IA está apoiando resultados positivos, como aprendizagem, criatividade, desenvolvimento de habilidades e acesso a oportunidades.
3. Pais e responsáveis devem ter controles acessíveis e fáceis de usar para ajudá-los a orientar as experiências de seus filhos, apoiando ao mesmo tempo uma independência adequada à idade. Eles devem incluir ferramentas para gerenciar configurações essenciais, incluindo memória, uso de dados e limites de tempo. As ferramentas parentais devem ser promovidas ativamente para que os pais saibam que elas existem e entendam como usá-las.
4. As famílias merecem informações claras e compreensíveis sobre como as empresas protegem usuários jovens e informações significativas sobre os benefícios e riscos do uso de IA por jovens. As empresas devem publicar políticas de segurança que expliquem quais salvaguardas existem para proteger jovens, as ferramentas parentais disponíveis e como as proteções são atualizadas à medida que os riscos evoluem. Essa transparência gera confiança e ajuda os pais a fazer escolhas informadas.
5. As empresas devem ter protocolos claros para lidar com situações graves de segurança, incluindo autolesão, exploração, aliciamento, conteúdo de exploração sexual e outras interações de alto risco. Eles devem incluir suporte no serviço, encaminhamentos para recursos adequados e notificações oportunas aos pais quando apropriado. As empresas também devem projetar seus sistemas para impedi-los de gerar conteúdo inseguro ou inadequado ao desenvolvimento de crianças, incluindo material sexual ou violento explícito.  
6. Sistemas de IA usados por jovens devem ser projetados para apoiar a aprendizagem, o desenvolvimento e relacionamentos no mundo real — não para substituí-los. A IA deve servir como uma ferramenta que ajuda jovens a aprender, criar, desenvolver habilidades e se preparar para o futuro. Ao mesmo tempo, as empresas devem estabelecer limites claros em áreas em que o desenvolvimento saudável depende de julgamento humano, relacionamentos no mundo real e apoio profissional.
7. As informações pessoais de menores devem ser protegidas. Isso significa proibir publicidade direcionada e invasiva à privacidade para jovens, e impedir que empresas vendam informações pessoais.
8. Estruturas de segurança de jovens devem promover oportunidade, alfabetização e proteção. Os jovens devem ter acesso a ferramentas de IA que apoiem a aprendizagem, a criatividade, o desenvolvimento de habilidades e oportunidades futuras, ao mesmo tempo em que recebem o conhecimento e as habilidades de pensamento crítico necessários para usar a IA de forma segura e responsável. Isso inclui promover a alfabetização em IA e ajudar jovens a entender as oportunidades e limitações dos sistemas de IA, para que possam atuar com confiança e responsabilidade em espaços digitais.
9. Mecanismos fortes de responsabilização, incluindo auditorias independentes, são essenciais para garantir que essas proteções sejam significativas na prática. As auditorias devem ser sustentadas por um conjunto de padrões comuns que permitam auditorias interoperáveis entre jurisdições. Estruturas legislativas devem incluir medidas de supervisão e fiscalização que permitam aos governos avaliar se as empresas estão implementando efetivamente salvaguardas de segurança de jovens, mitigando riscos identificados e cumprindo obrigações de segurança e privacidade de jovens.

Os princípios se refletem em como construímos e operamos o ChatGPT, do comportamento do modelo e do design do produto à contribuição de especialistas e ao suporte no mundo real. Reforçamos as salvaguardas para usuários menores de 18 anos, lançamos controles parentais⁠ com notificações proativas e sistemas avançados de previsão de idade⁠ para que o ChatGPT possa aplicar proteções mais fortes quando alguém possa ter menos de 18 anos. Nossa especificação do modelo, que descreve como nossos modelos devem se comportar, também inclui princípios dedicados a usuários menores de 18 anos⁠(abre em uma nova janela), priorizando a segurança de adolescentes, experiências adequadas à idade, suporte no mundo real e expectativas claras. Na prática, isso significa proteções mais fortes em torno de autolesão, atividades perigosas, conteúdo explícito, imagem corporal e sigilo, além de incentivo para buscar apoio offline confiável ou recursos de crise quando necessário. Quando a idade é incerta, adotamos por padrão salvaguardas mais fortes.

A IA projetada com salvaguardas robustas e oferecida com orientação clara, além do apoio de famílias e educadores, pode ajudar jovens a se beneficiar com segurança de ferramentas que expandem aprendizagem, criatividade e oportunidades. A IA pode ajudar estudantes a entender conceitos difíceis, praticar idiomas, melhorar a escrita, aprender a programar, organizar pesquisas, explorar ideias criativas e se preparar para empregos que já estão mudando. Por meio de Education for Countries⁠, a OpenAI está trabalhando com governos e educadores em implantações orientadas por pesquisa, ferramentas de aprendizagem localizadas e formação de professores, para que a adoção da IA se baseie em evidências e nas necessidades reais da sala de aula. Esse trabalho já apoia esforços nacionais de educação com nossos países parceiros, incluindo Estônia⁠, Grécia⁠ e Singapura⁠.

Além da participação na Cúpula de Líderes, levaremos o OpenAI Forum⁠(abre em uma nova janela) a Paris para promover uma conversa prática sobre como governos, pesquisadores, sociedade civil, educadores e indústria podem transformar metas compartilhadas de segurança de jovens em salvaguardas, padrões e práticas de implementação concretos. A embaixadora da França para IA e Assuntos Digitais, Clara Chappaz, se juntará ao diretor de Assuntos Globais da OpenAI, Chris Lehane, a líderes de segurança de jovens da iRaise/Everyone.AI e a outros especialistas para uma discussão sobre como os jovens podem se beneficiar da IA enquanto os riscos são reduzidos.