A OpenAI apoia a lei da Califórnia para reforçar a segurança dos jovens na utilização da IA

Por Ann O’Leary, vice-presidente de Política Global

A OpenAI apoia o Projeto de Lei 1119 do Senado da Califórnia, que estabelece salvaguardas significativas para a utilização da IA pelos jovens, preservando o acesso a ferramentas que podem ajudá-los a aprender, criar e preparar-se para o futuro. Este apoio dá continuidade ao compromisso assumido no ano passado por Sam Altman, cofundador e CEO da OpenAI, quando apresentou os princípios da empresa relativos aos adolescentes.

Perante a ausência de medidas federais, a Califórnia tem a oportunidade de estabelecer uma norma exigente para a segurança dos jovens na utilização da IA.

Na nossa carta ao governador Newsom⁠(abre numa nova janela), elogiamos a sua liderança nesta importante questão, bem como a do senador Steve Padilla, dos membros da Assembleia Buffy Wicks e Rebecca Bauer-Kahan e da Assembleia Legislativa da Califórnia. A SB 1119 assenta nas medidas de segurança dos jovens que a OpenAI tem apoiado através dos nossos produtos, princípios globais de política, iniciativas de sensibilização na Califórnia e trabalho no âmbito da Parents & Kids Safe AI Act. Incentivamos o governador Newsom a promulgar o projeto de lei.

Os adolescentes são a primeira geração a crescer com a IA. Quase nove em cada dez adolescentes que utilizam o ChatGPT recorrem-lhe, numa dada semana, para aprender, obter informações, desenvolver competências ou aumentar a produtividade. Esta oportunidade implica uma responsabilidade clara: os adolescentes devem ter experiências concebidas em função das suas necessidades específicas de desenvolvimento, com fortes proteções predefinidas e oportunidades adequadas para aprender, criar e explorar.

O recém-lançado ChatGPT para Adolescentes reflete esta abordagem. Foi concebido para ajudar os utilizadores com menos de 18 anos a aprender, pensar criticamente e criar, promovendo simultaneamente uma utilização saudável, disponibilizando salvaguardas integradas e oferecendo controlos adicionais aos pais. Se o nosso sistema estimar que uma pessoa tem menos de 18 anos, ou se esta indicar que tem entre 13 e 17 anos, será automaticamente encaminhada para o ChatGPT para Adolescentes. Estas proteções fazem parte da experiência de base e não são definições opcionais que os utilizadores possam desativar.

De um modo mais geral, acreditamos que os adolescentes podem beneficiar da IA sem comprometer a segurança, um objetivo que está no cerne da SB 1119.

A SB 1119 alia fortes proteções à manutenção do acesso a ferramentas de IA úteis. Apoiamos firmemente estes requisitos essenciais:

• Determinar a idade do utilizador;
• Identificar e abordar os riscos de segurança antes de disponibilizar um produto aos jovens;
• Ser sujeito a auditorias independentes;
• Proteger os jovens de conteúdos nocivos, incluindo automutilação, conteúdos de exploração sexual e outras interações de alto risco;
• Disponibilizar aos pais ferramentas para orientar e limitar a utilização pelos seus filhos;
• Encaminhar os jovens para recursos de apoio em situações de crise quando surgirem riscos graves de segurança; e
• Limitar a publicidade direcionada e proteger as informações pessoais dos jovens.

Estas proteções devem aplicar-se automaticamente aos utilizadores identificados como tendo entre 13 e 17 anos. Esta legislação conjugaria uma responsabilização significativa com salvaguardas que ajudariam a proteger os jovens durante a utilização da IA.

A SB 1119 também reconhece, de forma adequada, que a IA não é uma rede social. O projeto de lei estabelece proteções específicas para ajudar os jovens a utilizar a IA para aprender, criar e explorar. Ao desenvolver este quadro, os decisores políticos procuraram preservar o acesso a funcionalidades educativas e essenciais para a segurança, incluindo utilizações responsáveis da funcionalidade de memória do ChatGPT, promovendo ao mesmo tempo experiências mais seguras e adequadas à idade dos adolescentes.

O ChatGPT para Adolescentes inclui um conjunto de funcionalidades especificamente adaptadas para ajudar os adolescentes a aprender, como Questionários, Visualizações de Aprendizagem e o Modo de Estudo, desenvolvidas com educadores e especialistas em aprendizagem para orientar os alunos na resolução de problemas passo a passo. Estas ferramentas destinam-se a aprofundar a compreensão e a promover hábitos de aprendizagem mais sólidos. As funcionalidades que utilizam o contexto de conversas anteriores, incluindo a memória, ajudam a aplicar as salvaguardas de forma consistente, a reconhecer padrões preocupantes e a prestar um apoio à aprendizagem mais útil ao longo do tempo.

O contexto também ajuda estas ferramentas de segurança e aprendizagem a funcionar de forma mais consistente ao longo do tempo. Através de funcionalidades como a memória, o ChatGPT pode reter informações e preferências relevantes de conversas anteriores, permitindo que os adolescentes prossigam projetos de aprendizagem de longo prazo sem terem de recomeçar. Essa continuidade também pode ajudar a evitar o reforço de padrões nocivos e permitir respostas mais eficazes quando um jovem possa precisar de apoio ou recursos adicionais.

Equilibrar a segurança e a aprendizagem não é novidade para nós. Ao longo do último ano, adicionámos controlos parentais, previsão da idade, o nosso Plano para a Segurança dos Adolescentes e os Princípios para Menores de 18 Anos à nossa especificação do modelo — as regras que orientam o comportamento esperado dos nossos modelos — para definir novas normas sobre a forma como devem interagir com os jovens. Estas regras proíbem interações românticas, o incentivo à dependência emocional e alegações de que o ChatGPT é humano ou senciente. Também disponibilizamos controlos parentais que permitem às famílias gerir definições essenciais para os seus adolescentes e receber notificações em situações de alto risco.

A SB 1119 estabelece um quadro sólido para a segurança dos jovens na utilização da IA na Califórnia. A continuação do estudo e da colaboração durante a implementação pode ajudar a melhorar disposições essenciais e a manter a eficácia do quadro à medida que a tecnologia evolui. A OpenAI espera poder apoiar esse trabalho e continuar a criar experiências de IA que tratem os adolescentes como adolescentes, com proteções automáticas mais robustas e oportunidades significativas para aprender e crescer.