Promover a segurança e as oportunidades dos jovens através da liderança global

A IA pode ser uma ferramenta poderosa para os jovens. Pode ajudar os estudantes a compreender um conceito difícil, praticar uma nova língua, preparar-se para uma entrevista de emprego, explorar ideias criativas ou aprender uma nova competência. Tal como o movimento de alfabetização que se espalhou pelo mundo em meados do século XX exigiu a distribuição em massa de texto impresso e acesso a professores formados, hoje proporcionar acesso a IA segura abrirá novas oportunidades de aprendizagem personalizada, ajudará a reduzir barreiras para os grupos menos servidos e aumentará a preparação para o mercado de trabalho.

Como os potenciais benefícios são tão significativos, é essencial que os jovens possam aceder à IA de formas seguras, adequadas à idade e favoráveis a um desenvolvimento saudável. Essa responsabilidade não deve recair principalmente sobre os pais ou sobre os próprios jovens. As empresas, incluindo a OpenAI, têm a responsabilidade de criar produtos com salvaguardas adequadas por predefinição, dando simultaneamente às famílias ferramentas e informação para orientar a forma como a IA é utilizada.

Quando os Chefes de Estado se reunirem na Cimeira de Líderes do G7 em Évian, França, no final deste mês, a segurança dos jovens na IA será um tema central. A OpenAI participará para discutir uma maior colaboração em matéria de segurança dos jovens, como podemos trabalhar em conjunto para elevar os padrões do setor, e o novo apelo da OpenAI à criação de um instituto internacional de segurança dos jovens.

A Cimeira de Líderes do G7 representa uma oportunidade rara de coordenação global em matéria de segurança dos jovens. Mas um instituto dedicado proporcionaria a continuidade e o seguimento necessários para além de uma única cimeira, ajudando governos, investigadores, sociedade civil e setor a continuarem a trabalhar em conjunto para partilhar provas, desenvolver orientações e elevar os padrões ao longo do tempo.

Há várias formas credíveis de o fazer: através de um novo instituto internacional, ou atribuindo a um instituto nacional de IA existente ou recém-criado um mandato global para partilhar investigação, provas e orientações com parceiros em todo o mundo. O mais importante é a função que desempenha. A segurança dos jovens na IA precisa de atenção sustentada, provas fiáveis e orientações práticas capazes de acompanhar o ritmo da tecnologia.

Um instituto deste tipo pode desenvolver iniciativas emergentes como o Instituto de Segurança da IA para Jovens da Common Sense Media, apoiado pela OpenAI Foundation, bem como colaborações práticas com educadores, incluindo o trabalho da OpenAI com a American Federation of Teachers⁠. Deve também basear-se em implementações no mundo real, como a introdução nacional do ChatGPT nas escolas da Estónia, onde a OpenAI está a trabalhar com Stanford e investigadores estónios para estudar o impacto e informar uma utilização mais segura e eficaz na aprendizagem.

A OpenAI saúda a oportunidade de trabalhar com o Governo francês, outros governos do G7 e parceiros da sociedade civil, da academia e do setor neste trabalho vital e de elevar os padrões globais de segurança dos jovens.

Acreditamos que quadros sólidos de segurança dos jovens na IA, incluindo qualquer potencial acordo alcançado em reuniões do G7, devem ser orientados pelos princípios que aqui apresentamos.

1. As empresas devem saber quando um utilizador é menor e aplicar proteções adequadas à idade. Isto significa exigir que os fornecedores utilizem meios como a estimativa eficaz da idade que preserve a privacidade para distinguir menores de adultos, e ativem por predefinição salvaguardas protetoras quando não for possível determinar a idade de um utilizador. Sem esta base, até as proteções dos jovens com as melhores intenções podem não chegar aos jovens que pretendem proteger.
2. As empresas devem avaliar regularmente tanto os riscos como os benefícios para os jovens e tomar medidas para os resolver—antes de ocorrerem danos. Isto significa exigir que os fornecedores realizem avaliações anuais de riscos para a segurança dos jovens e implementem salvaguardas proporcionais com base nos riscos identificados. Essas avaliações devem considerar os riscos para os jovens em função da sua fase de desenvolvimento, das provas empíricas da utilização real e de investigação ou orientações regulamentares relevantes. As avaliações devem considerar não só potenciais danos, mas também se a IA está a apoiar resultados positivos, como a aprendizagem, a criatividade, o desenvolvimento de competências e o acesso a oportunidades.
3. Os pais e encarregados de educação devem ter controlos acessíveis e fáceis de utilizar para os ajudar a orientar as experiências dos seus filhos, apoiando simultaneamente uma independência adequada à idade. Estes devem incluir ferramentas para gerir definições essenciais, incluindo memória, utilização de dados e limites de tempo. As ferramentas parentais devem ser promovidas ativamente para que os pais saibam que existem e compreendam como as utilizar.
4. As famílias merecem informação clara e compreensível sobre a forma como as empresas protegem os jovens utilizadores e informação significativa tanto sobre os benefícios como sobre os riscos da utilização da IA por jovens. As empresas devem publicar políticas de segurança que expliquem que salvaguardas existem para proteger os jovens, que ferramentas parentais estão disponíveis e como as proteções são atualizadas à medida que os riscos evoluem. Esta transparência gera confiança e ajuda os pais a fazer escolhas informadas.
5. As empresas devem ter protocolos claros em vigor para abordar situações graves de segurança, incluindo automutilação, exploração, aliciamento, conteúdos de exploração sexual e outras interações de alto risco. Estes devem incluir apoio dentro do serviço, encaminhamento para recursos adequados e notificações atempadas aos pais quando apropriado. As empresas devem também conceber os seus sistemas para impedir que gerem conteúdos inseguros ou inadequados ao desenvolvimento das crianças, incluindo material sexual ou violento explícito.  
6. Os sistemas de IA utilizados por jovens devem ser concebidos para apoiar a aprendizagem, o desenvolvimento e as relações no mundo real — não para os substituir. A IA deve servir como uma ferramenta que ajuda os jovens a aprender, criar, desenvolver competências e preparar-se para o futuro. Ao mesmo tempo, as empresas devem estabelecer limites claros em áreas em que o desenvolvimento saudável depende do juízo humano, das relações no mundo real e do apoio profissional.
7. As informações pessoais dos menores devem ser protegidas. Isto significa proibir publicidade direcionada e invasiva da privacidade dirigida a jovens, e impedir as empresas de venderem informações pessoais.
8. Os quadros de segurança dos jovens devem promover oportunidades, literacia e proteção. Os jovens devem ter acesso a ferramentas de IA que apoiem a aprendizagem, a criatividade, o desenvolvimento de competências e as oportunidades futuras, sendo também dotados dos conhecimentos e das competências de pensamento crítico necessários para utilizar a IA de forma segura e responsável. Isto inclui promover a literacia em IA e ajudar os jovens a compreender as oportunidades e limitações dos sistemas de IA, para que possam participar nos espaços digitais com confiança e responsabilidade.
9. Mecanismos sólidos de responsabilização, incluindo auditorias independentes, são essenciais para garantir que estas proteções têm significado na prática. As auditorias devem ser sustentadas por um conjunto de normas comuns que permitam auditorias interoperáveis entre jurisdições. Os quadros legislativos devem incluir medidas de supervisão e execução que permitam aos governos avaliar se as empresas estão a implementar eficazmente salvaguardas de segurança dos jovens, a mitigar riscos identificados e a cumprir obrigações de segurança dos jovens e de privacidade.

Os princípios refletem-se na forma como criamos e operamos o ChatGPT, desde o comportamento dos modelos e a conceção do produto até ao contributo de especialistas e ao apoio no mundo real. Reforçámos as salvaguardas para utilizadores menores de 18 anos, lançámos controlos parentais⁠ com notificações proativas e sistemas avançados de previsão da idade⁠ para que o ChatGPT possa aplicar proteções mais fortes quando alguém possa ter menos de 18 anos. A nossa especificação do modelo, que descreve como os nossos modelos devem comportar-se, também inclui princípios dedicados para utilizadores menores de 18 anos⁠(abre numa nova janela), dando prioridade à segurança dos adolescentes, a experiências adequadas à idade, ao apoio no mundo real e a expectativas claras. Na prática, isto significa barreiras de proteção mais fortes em torno da automutilação, atividades perigosas, conteúdos explícitos, imagem corporal e secretismo, juntamente com o incentivo a procurar apoio offline de confiança ou recursos de crise quando necessário. Quando a idade é incerta, aplicamos por predefinição salvaguardas mais fortes.

A IA concebida com salvaguardas fortes e oferecida com orientações claras, e com o apoio de famílias e educadores, pode ajudar os jovens a beneficiar em segurança de ferramentas que expandem a aprendizagem, a criatividade e as oportunidades. A IA pode ajudar os estudantes a compreender conceitos difíceis, praticar línguas, melhorar a escrita, aprender a programar, organizar investigação, explorar ideias criativas e preparar-se para empregos que já estão a mudar. Através de Educação para Países⁠, a OpenAI está a trabalhar com governos e educadores em implementações orientadas pela investigação, ferramentas de aprendizagem localizadas e formação de professores, para que a adoção da IA assente em provas e nas necessidades reais das salas de aula. Este trabalho já está a apoiar esforços nacionais de educação com os nossos países parceiros, incluindo Estónia⁠, Grécia⁠ e Singapura⁠.

Além da participação na Cimeira de Líderes, levaremos o OpenAI Forum⁠(abre numa nova janela) a Paris para convocar uma conversa prática sobre como governos, investigadores, sociedade civil, educadores e setor podem transformar objetivos partilhados de segurança dos jovens em salvaguardas, normas e práticas de implementação concretas. A Embaixadora de França para a IA e os Assuntos Digitais, Clara Chappaz, juntar-se-á ao Chief Global Affairs Officer da OpenAI, Chris Lehane, a líderes de segurança dos jovens da iRaise/Everyone.AI e a outros especialistas para uma discussão sobre como os jovens podem beneficiar da IA, reduzindo simultaneamente os riscos.