OpenAI apoia projeto de lei da Califórnia para promover a segurança de jovens no uso de IA

Por Ann O’Leary, vice-presidente de Políticas Globais

A OpenAI apoia o Projeto de Lei 1119 do Senado da Califórnia, que estabelece proteções importantes para o uso da IA por jovens, preservando o acesso a ferramentas que podem ajudá-los a aprender, criar e se preparar para o futuro. Esse apoio dá continuidade ao compromisso assumido no ano passado por Sam Altman, cofundador e CEO da OpenAI, ao apresentar os princípios da empresa para adolescentes.

Diante da falta de medidas federais, a Califórnia tem a oportunidade de estabelecer um padrão rigoroso de segurança de IA para jovens.

Em nossa carta ao governador Newsom⁠(abre em uma nova janela), elogiamos sua liderança nessa importante questão, assim como a do senador Steve Padilla, das deputadas Buffy Wicks e Rebecca Bauer-Kahan e do Legislativo da Califórnia. O SB 1119 amplia as medidas de segurança para jovens que a OpenAI tem apoiado por meio de nossos produtos, princípios globais de políticas, iniciativas na Califórnia e trabalho relacionado ao Parents & Kids Safe AI Act. Incentivamos o governador Newsom a sancionar o projeto de lei.

Os adolescentes são a primeira geração a crescer com a IA. Em uma semana típica, quase nove em cada dez adolescentes que usam o ChatGPT recorrem a ele para aprender, buscar informações, desenvolver habilidades ou aumentar a produtividade. Essa oportunidade traz uma responsabilidade clara: os adolescentes devem ter experiências desenvolvidas de acordo com suas necessidades específicas de desenvolvimento, com proteções padrão rigorosas e oportunidades adequadas para aprender, criar e explorar.

O recém-lançado ChatGPT para Adolescentes reflete essa abordagem. Ele foi desenvolvido para ajudar menores de 18 anos a aprender, pensar criticamente e criar, promovendo o uso saudável, oferecendo proteções integradas e dando mais controles aos pais. Se nosso sistema estimar que uma pessoa tem menos de 18 anos ou ela declarar ter entre 13 e 17 anos, será automaticamente direcionada ao ChatGPT para Adolescentes. Essas proteções fazem parte da experiência básica, não são configurações opcionais que os usuários podem desativar.

De forma mais ampla, acreditamos que os adolescentes podem se beneficiar da IA sem abrir mão da segurança, objetivo que está no cerne do SB 1119.

O SB 1119 combina proteções rigorosas com acesso contínuo a ferramentas úteis de IA. Apoiamos firmemente estes requisitos fundamentais:

• Determinar a idade do usuário;
• Identificar e abordar riscos de segurança antes de disponibilizar um produto aos jovens;
• Passar por auditorias independentes;
• Proteger os jovens contra conteúdo prejudicial, incluindo automutilação, conteúdo de exploração sexual e outras interações de alto risco;
• Oferecer aos pais ferramentas para orientar e limitar o uso por seus filhos;
• Direcionar os jovens a recursos de apoio em crises quando surgirem riscos graves à segurança; e
• Limitar a publicidade direcionada e proteger as informações pessoais dos jovens.

Para usuários identificados como tendo entre 13 e 17 anos, essas proteções devem ser aplicadas automaticamente. Essa legislação combinaria uma responsabilização significativa com proteções que ajudariam a manter os jovens seguros ao usar IA.

O SB 1119 também reconhece corretamente que IA não é rede social. O projeto de lei estabelece proteções específicas para ajudar os jovens a usar a IA para aprender, criar e explorar. Ao desenvolver essa estrutura, os formuladores de políticas buscaram preservar o acesso a recursos educacionais e essenciais à segurança, incluindo usos responsáveis do recurso de memória do ChatGPT, ao mesmo tempo que promovem experiências mais seguras e adequadas à idade dos adolescentes.

O ChatGPT para Adolescentes inclui um conjunto de recursos desenvolvidos especificamente para ajudar os adolescentes a aprender, como questionários, visualizações de aprendizagem e o Modo de Estudo, criados com educadores e especialistas em aprendizagem para orientar os estudantes na resolução de problemas passo a passo. Essas ferramentas buscam aprofundar a compreensão e promover hábitos de aprendizagem mais sólidos. Recursos que usam o contexto de conversas anteriores, incluindo a memória, ajudam a aplicar proteções de forma consistente, identificar padrões preocupantes e oferecer um apoio mais útil à aprendizagem ao longo do tempo.

O contexto também ajuda essas ferramentas de segurança e aprendizagem a funcionar de modo mais consistente ao longo do tempo. Com recursos como a memória, o ChatGPT pode reter informações e preferências relevantes de conversas anteriores, permitindo que os adolescentes continuem projetos de aprendizagem de longo prazo sem precisar recomeçar. Essa continuidade também pode ajudar a evitar o reforço de padrões prejudiciais e proporcionar respostas mais eficazes quando um jovem precisar de ajuda ou recursos adicionais.

Equilibrar segurança e aprendizagem não é novidade para nós. No último ano, adicionamos controles parentais, previsão de idade, nosso Plano de Segurança para Adolescentes e os Princípios para Menores de 18 Anos à nossa especificação do modelo — as regras que orientam como nossos modelos devem se comportar — para estabelecer novos padrões de interação com os jovens. Essas regras proíbem envolvimento romântico, incentivo à dependência emocional e afirmações de que o ChatGPT é humano ou senciente. Também oferecemos controles parentais que permitem às famílias gerenciar configurações importantes para seus adolescentes e receber notificações em situações de alto risco.

O SB 1119 estabelece uma estrutura sólida para a segurança de jovens no uso de IA na Califórnia. A continuidade dos estudos e da colaboração durante a implementação pode ajudar a aprimorar disposições importantes e manter a eficácia da estrutura à medida que a tecnologia evolui. A OpenAI espera contribuir com esse trabalho e continuar desenvolvendo experiências de IA que tratem adolescentes como adolescentes, com proteções automáticas mais rigorosas e oportunidades significativas de aprender e crescer.