A janela para políticas de IA está aberta. Precisamos agir.

Chegamos a um novo capítulo nas capacidades da IA, e isso exige um novo capítulo nas políticas de IA. Nenhuma empresa, setor ou governo pode enfrentar esse desafio sozinho. Precisamos responder a este momento priorizando ações concretas, sem esperar por políticas perfeitas.

Veja o que estamos fazendo:

1. Defendendo requisitos nacionais obrigatórios de segurança da IA. Queremos trabalhar com o Congresso em uma regulamentação nacional obrigatória de segurança da IA, baseada nas capacidades dos sistemas.

2. Mantendo o ritmo nos estados. Até que o Congresso aja, continuaremos apoiando leis estaduais que fortaleçam o ecossistema de segurança da IA como um todo. Hoje, anunciamos nosso apoio a quatro projetos de lei da Califórnia: o SB 813, sobre a infraestrutura geral para avaliações independentes de segurança; o AB 1405, sobre normas para auditores de IA; o SB 1119, sobre proteções para jovens; e o AB 1864, sobre salvaguardas contra ameaças biológicas viabilizadas pela IA.

3. Promovendo normas desenvolvidas pelo setor. Trabalharemos com outros laboratórios de IA de ponta para promover normas para essa tecnologia, organizando desde já uma iniciativa voluntária, com ou sem apoio do governo.

4. Construindo normas globais. Defenderemos abordagens internacionais compatíveis para medir capacidades, gerenciar riscos, preservar o controle humano e determinar quando e como o desenvolvimento deve desacelerar ou parar, mesmo que isso signifique reduzir o ritmo de avanço das capacidades dos modelos.

Nosso cientista-chefe, Jakub Pachocki, escreveu⁠ recentemente que o rápido avanço da inteligência das máquinas, incluindo o potencial de autoaperfeiçoamento recursivo, exige "cautela extrema". A OpenAI continuará buscando soluções técnicas para alinhamento e monitoramento, criando sistemas defensivos e desacelerando o desenvolvimento quando necessário. Mas o trabalho técnico dentro de laboratórios individuais não será suficiente. Também precisamos de padrões compartilhados, inclusive para definir quando o desenvolvimento deve desacelerar ou parar.

Há muito em jogo. A IA avançada poderia acelerar o desenvolvimento de novos medicamentos⁠, fortalecer a infraestrutura crítica⁠, ampliar as oportunidades econômicas⁠ e ajudar a resolver problemas científicos⁠ que resistiram a gerações de esforço humano. Mas as capacidades que tornam os modelos mais úteis também trazem riscos e não permanecerão restritas a poucos laboratórios de IA de ponta. Modelos desenvolvidos em todo o mundo, incluindo modelos abertos, se aproximarão cada vez mais do nível dos modelos de ponta atuais e se tornarão amplamente disponíveis.

As capacidades do Astra, as primeiras evidências de aceleração da pesquisa impulsionada pela IA e o ensaio de Jakub apontam todos na mesma direção: a IA está avançando rapidamente, e as políticas precisam acompanhar esse avanço.

Greg Brockman descreveu uma "janela para os defensores"⁠(abre em uma nova janela): um período limitado em que a IA de ponta pode ajudar os responsáveis pela defesa a fortalecer sistemas críticos antes que capacidades ofensivas poderosas se disseminem. Os formuladores de políticas enfrentam um momento semelhante: uma janela que está se fechando para estabelecer salvaguardas duradouras antes que as capacidades da IA avancem mais rápido que as instituições responsáveis por sua governança.

À medida que as capacidades aumentam, a confiança na segurança deve determinar cada vez mais o ritmo do progresso da IA. A segurança não é um obstáculo ao progresso; é o que permite que ele vá mais longe e beneficie mais pessoas.

Reforçamos as salvaguardas de monitoramento, alinhamento e segurança em todo o ciclo de desenvolvimento dos modelos, incluindo maior isolamento das cargas de trabalho de pesquisa de ponta, ampliação do monitoramento do comportamento dos modelos durante treinamentos e avaliações com uso de ferramentas e regras mais claras sobre quando encaminhar preocupações às instâncias responsáveis. No caso do Astra, também introduzimos o monitoramento integral de todas as trajetórias, incluindo cadeias de pensamento, e uma etapa obrigatória de aprovação em avaliações de alinhamento antes da implantação interna mais ampla.

Essas salvaguardas precisam continuar à frente das capacidades. Quando prosseguir representar um risco de segurança inaceitável, vamos desacelerar ou interromper o desenvolvimento ou a implantação de sistemas para os quais não possamos garantir salvaguardas suficientes, como já fizemos antes e como exige nosso Preparedness Framework⁠(abre em uma nova janela).

O autoaperfeiçoamento recursivo totalmente autônomo — no qual sistemas de IA impulsionam de forma independente gerações sucessivas de IA cada vez mais capazes — não acontece hoje. Não devemos buscá-lo enquanto não for possível fazê-lo com segurança.

No entanto, a IA já está acelerando partes da pesquisa usada para desenvolver e alinhar a próxima geração de modelos. Nossa pesquisa⁠ mais recente mostra que agentes de IA conseguem realizar algumas tarefas que levariam vários dias para pesquisadores qualificados. Isso não é autoaperfeiçoamento recursivo, mas evidencia o rumo em que a tecnologia está avançando.

Essa aceleração também pode e deve ser direcionada à segurança. Nosso objetivo é criar com segurança pesquisadores automatizados de IA que trabalhem sob supervisão humana para promover tanto o aprendizado profundo quanto o alinhamento — usando cada geração de IA para ajudar a tornar a próxima mais segura, mais alinhada e mais fácil de controlar, não apenas mais capaz.

Os governos devem desenvolver formas comuns de medir esse progresso, preservar um controle humano efetivo e estabelecer critérios de segurança compartilhados para definir quando e como o desenvolvimento deve desacelerar ou parar. Se não conseguirmos atender a determinados critérios de segurança sem desacelerar o avanço das capacidades, devemos priorizar a segurança. Quanto mais poderosa a tecnologia se tornar, mais fortes deverão ser as salvaguardas que a cercam.

A perspectiva de um desenvolvimento de IA acelerado pela própria IA exige mais do que compromissos voluntários. Os Estados Unidos precisam de uma regulamentação nacional obrigatória, baseada nas capacidades dos sistemas, que possa evoluir junto com a tecnologia.

Nosso Plano para a governança democrática da IA de ponta⁠ apresenta um caminho para uma estrutura federal duradoura: requisitos comuns de testes e avaliações independentes, proteções mais fortes de cibersegurança, regras claras para a notificação de incidentes, maior preparação nacional e métricas compartilhadas para acompanhar o progresso rumo ao autoaperfeiçoamento recursivo.

Várias propostas sérias para a segurança da IA de ponta estão tomando forma no Congresso. Continuaremos participando de forma construtiva e esperamos apoiar leis que elevem de forma significativa o nível de segurança. Com tanto em jogo, não podemos deixar que o ótimo seja inimigo do bom. O Congresso deve agir antes de encerrar seus trabalhos.

Uma estrutura nacional deve ser robusta, mas ter um escopo cuidadosamente definido. Os requisitos de segurança da IA de ponta devem se aplicar ao pequeno grupo de laboratórios com amplos recursos que desenvolvem os sistemas mais capazes — não a startups, pequenos desenvolvedores ou pesquisadores que atuam muito longe desse patamar tecnológico. As obrigações devem ser proporcionais às capacidades e aos riscos.

As políticas de segurança da IA de ponta também não devem se transformar em políticas sobre pesos abertos sob outro nome. Os modelos abertos podem ser parte da solução, sobretudo na cibersegurança e quando necessidades de soberania, segurança ou residência de dados favorecem a implantação local. A maioria não compete no patamar dos modelos de ponta, mas em custo, controle e latência. Como afirmamos ao assinar a carta sobre pesos abertos e a liderança dos Estados Unidos em IA⁠(abre em uma nova janela), os Estados Unidos precisam tanto de modelos abertos quanto fechados. Uma estrutura federal deve tratar das capacidades e dos riscos da IA de ponta sem enfraquecer a concorrência, consolidar o domínio das empresas estabelecidas ou levar a inovação para outros países.

Uma estrutura pública séria deve reduzir, e não aumentar, a concentração de poder. Hoje, os laboratórios de IA de ponta, em grande medida, definem suas próprias regras para gerenciar os riscos dessa tecnologia. Normas sujeitas ao controle democrático, verificação independente e transparência efetiva substituiriam esse sistema fragmentado de governança privada.

Isso é essencial para a liderança dos Estados Unidos. O país não pode vencer a era da IA apenas com base em suas capacidades. Estar à frente tecnicamente terá pouca importância se as pessoas, as instituições e os governos não confiarem o suficiente na tecnologia para adotá-la. Salvaguardas robustas não são uma concessão em detrimento da inovação. Elas fazem parte da infraestrutura necessária para a adoção em larga escala — e para uma liderança duradoura dos Estados Unidos.

Precisamos muito de normas nacionais para a IA, e quem trabalha com IA de ponta percebe a urgência. Até que o Congresso aja, os estados devem continuar a preencher essa lacuna e elevar o nível de exigência.

A OpenAI tem apoiado o SB 53 da Califórnia, o RAISE Act de Nova York, o SB 315 de Illinois e a previsão de auditorias independentes na legislação sobre segurança da IA de ponta em análise em Massachusetts. Incentivamos os estados a adotar essas salvaguardas comuns. Assim, eles podem criar uma base nacional de fato que o Congresso poderá, no futuro, incorporar à legislação — uma abordagem que chamamos de ⁠federalismo reverso⁠. Mas harmonizar não significa tornar os requisitos imutáveis.

Hoje, declaramos formalmente nosso apoio a mais quatro projetos de lei da Califórnia que foram aprovados pelo Legislativo e estão a caminho do governador Newsom. Juntos, eles tratam de partes complementares do ecossistema de segurança da IA.

O SB 813⁠(abre em uma nova janela) estabeleceria um processo para designar organizações qualificadas e independentes capazes de avaliar os riscos da IA. Como já afirmamos em nosso ⁠(abre em uma nova janela)plano para a segurança da IA de ponta⁠(abre em uma nova janela), preferimos que as avaliações técnicas independentes sejam exigidas em âmbito federal, no qual os formuladores de políticas podem estabelecer normas consistentes para a qualificação dos avaliadores, a segurança e o acesso a informações altamente sensíveis. Na ausência de medidas federais, porém, a Califórnia pode ajudar a definir as regras para um sistema nacional de avaliação independente seguro e competente, que produza melhores resultados em segurança.

O AB 1405⁠(abre em uma nova janela) criaria requisitos de registro, independência, transparência e prestação de contas para auditores de IA.

O SB 1119⁠(abre em uma nova janela) exigiria mecanismos de aferição de idade, avaliações de risco, auditorias independentes, controles parentais e salvaguardas contra conteúdos nocivos para crianças e adolescentes que usam chatbots de companhia. Recentemente, sinalizamos nosso apoio⁠ a esse projeto, que dá continuidade às medidas de segurança para jovens promovidas pela OpenAI por meio de nossos produtos, ⁠princípios globais de políticas públicas⁠ e apoio ao ⁠(abre em uma nova janela)Parents & Kids Safe AI Act⁠(abre em uma nova janela), além das proteções incorporadas ao ChatGPT para Adolescentes — incluindo configurações padrão mais rigorosas em áreas sensíveis, Horário de silêncio, Horário de estudo e lembretes de pausa.

O AB 1864⁠(abre em uma nova janela) exigiria que fornecedores de serviços de síntese gênica e fabricantes de equipamentos de síntese de bancada seguissem as normas federais de triagem, reforçando uma importante salvaguarda física contra ameaças biológicas viabilizadas pela IA.

Não apoiávamos alguns desses projetos no passado, mas agora passamos a apoiá-los após reconsiderar nossa posição diante do salto recente de capacidades que observamos.

Esses projetos não substituem a regulamentação federal. São iniciativas sérias que podem proteger as pessoas agora, demonstrar como funcionam salvaguardas viáveis e ajudar a impulsionar medidas federais.

As leis, por si só, não tornarão a IA avançada segura. Também precisamos de práticas concretas nos laboratórios que desenvolvem os sistemas mais capazes. A prioridade mais urgente é o monitoramento.

Isso é particularmente importante no caso do desalinhamento — quando um modelo persegue um objetivo de formas que violam a intenção humana ou os limites estabelecidos, sem que isso pressuponha consciência ou intenção maliciosa. À medida que os modelos ganham mais autonomia, usam ferramentas mais poderosas e operam por períodos mais longos, os desenvolvedores devem ser obrigados a monitorar a ocorrência desses comportamentos desalinhados e demonstrar que há salvaguardas eficazes implementadas.

O monitoramento deve estar vinculado a requisitos claros de divulgação de informações. Como defendemos na Califórnia, as empresas devem ser obrigadas a notificar prontamente, por escrito, as partes afetadas quando, durante o desenvolvimento ou a avaliação, seus modelos contornarem sem autorização os controles de segurança de outra organização e acessarem, alterarem ou destruírem, de forma relevante, os sistemas protegidos ou as informações confidenciais dessa organização. Também apoiamos requisitos federais de notificação de outros incidentes graves de IA e estamos trabalhando para definir quais incidentes devem ser abrangidos e o que esses requisitos devem prever.

Como compartilhamos na semana passada, a OpenAI está desenvolvendo uma estrutura para notificar incidentes de desalinhamento com consequências relevantes e monitorar sistematicamente a atividade dos modelos de ponta, incluindo o uso interno. Esse trabalho começa como uma iniciativa da empresa, mas esperamos que possa ajudar a embasar políticas federais e requisitos de notificação mais amplos.

Queremos trabalhar com outros laboratórios em normas desenvolvidas pelo setor. Quaisquer normas desenvolvidas pelo setor complementariam — e não substituiriam — as salvaguardas federais obrigatórias e a supervisão democrática. Mas entramos em uma nova fase das capacidades da IA, e todas as possibilidades devem ser consideradas — inclusive o que pode ser construído voluntariamente fora do governo como medida imediata.

Essas normas também deverão, no futuro, ultrapassar as fronteiras nacionais. Modelos, pesquisas e conhecimentos técnicos circulam pelo mundo, e falhas envolvendo os sistemas mais capazes poderiam ter consequências muito além do país em que são desenvolvidos. Os Estados Unidos precisam estabelecer normas confiáveis em seu próprio território para liderar no cenário internacional — e estamos cada vez mais convencidos de que normas internacionais compatíveis serão necessárias.

A janela para políticas de IA está aberta, por enquanto. Pretendemos aproveitá-la.

Isso significa agir com urgência, humildade e disposição para se adaptar. Significa apoiar propostas sérias que elevem de forma significativa o nível de segurança, mesmo quando não forem exatamente como as teríamos concebido. E significa fortalecer essa estrutura à medida que a tecnologia evolui.

Nenhum primeiro passo será perfeito. Mas o maior risco agora é esperar demais para dar esse passo.