A janela da política de IA está aberta. Temos de agir.

Chegámos a um novo capítulo nas capacidades da IA, o que exige um novo capítulo na política de IA. Nenhuma empresa, setor ou governo consegue enfrentar sozinho este desafio. Temos de responder a este momento privilegiando medidas concretas em vez de políticas perfeitas.

Eis o que estamos a fazer:

1. Defendemos requisitos nacionais obrigatórios de segurança da IA. Queremos trabalhar com o Congresso em regulamentação nacional obrigatória de segurança da IA, baseada nas capacidades.

2. Manter o impulso nos estados. Até o Congresso agir, continuaremos a apoiar legislação estadual que reforça o ecossistema mais amplo de segurança da IA. Hoje, anunciamos o nosso apoio a quatro projetos de lei da Califórnia: SB 813, sobre a infraestrutura geral para avaliações de segurança independentes; AB 1405, sobre normas para auditores de IA; SB 1119, sobre proteções para jovens; e AB 1864, sobre salvaguardas contra ameaças biológicas viabilizadas por IA.

3. Promover normas lideradas pelo setor. Trabalharemos com outros laboratórios de fronteira para promover normas de IA de fronteira, desenvolvendo já um esforço voluntário, com ou sem apoio governamental.

4. Estabelecer normas globais. Defenderemos abordagens internacionais compatíveis para medir capacidades, gerir riscos, preservar o controlo humano e determinar quando e como o desenvolvimento deve abrandar ou parar, mesmo que isso implique abrandar o avanço das capacidades dos modelos.

O nosso cientista-chefe, Jakub Pachocki, escreveu⁠ recentemente que o rápido crescimento da inteligência das máquinas, incluindo o potencial de autoaperfeiçoamento recursivo, exige «extrema cautela». A OpenAI continuará a procurar soluções técnicas para o alinhamento e a monitorização, a criar sistemas defensivos e a abrandar o desenvolvimento quando necessário. Mas o trabalho técnico em laboratórios individuais não será suficiente. Também precisamos de normas comuns, inclusive sobre quando abrandar ou parar o desenvolvimento.

Há muito em jogo. A IA avançada pode acelerar o desenvolvimento de novos medicamentos⁠, reforçar infraestruturas críticas⁠, ampliar as oportunidades económicas⁠ e ajudar a resolver problemas científicos⁠ que têm resistido a gerações de esforço humano. Mas as capacidades que tornam os modelos mais úteis também acarretam riscos e não ficarão confinadas a alguns laboratórios de fronteira. Modelos desenvolvidos em todo o mundo, incluindo modelos abertos, aproximar-se-ão cada vez mais da capacidade atualmente na fronteira e ficarão amplamente disponíveis.

As capacidades do Astra, os primeiros indícios de aceleração da investigação por IA e o ensaio de Jakub apontam todos na mesma direção: a IA está a avançar rapidamente, e as políticas têm de acompanhar esse avanço.

Greg Brockman descreveu uma «janela dos defensores»⁠(abre numa nova janela): um período limitado durante o qual a IA de fronteira pode ajudar os defensores a reforçar sistemas críticos antes de capacidades ofensivas poderosas se generalizarem. Os decisores políticos enfrentam um momento semelhante: uma janela que se fecha para instituir salvaguardas duradouras antes que as capacidades da IA ultrapassem as instituições responsáveis pela sua governação.

À medida que as capacidades aumentam, a confiança na segurança deve determinar cada vez mais o ritmo do progresso da IA. A segurança não impede o progresso; é o que lhe permite ir mais longe e beneficiar mais pessoas.

Reforçámos as salvaguardas de monitorização, alinhamento e segurança em todo o ciclo de desenvolvimento dos modelos, incluindo maior isolamento das cargas de trabalho de investigação de fronteira, monitorização alargada do comportamento dos modelos durante o treino e as avaliações com recurso a ferramentas, bem como regras mais claras sobre quando escalar preocupações. Para o Astra, introduzimos também a monitorização universal de trajetórias completas, incluindo cadeias de pensamento, e uma etapa obrigatória de avaliação de alinhamento antes de uma implementação interna mais ampla.

Essas salvaguardas têm de se manter à frente das capacidades. Quando avançar representar um risco de segurança inaceitável, abrandaremos ou interromperemos o desenvolvimento ou a implementação de sistemas para os quais não consigamos garantir salvaguardas suficientes, como já fizemos anteriormente e conforme exigido pelo nosso preparedness framework⁠(abre numa nova janela).

O autoaperfeiçoamento recursivo totalmente autónomo — no qual sistemas de IA impulsionam, de forma independente, gerações sucessivas de IA cada vez mais capaz — não é uma realidade hoje. Não devemos avançar com isso enquanto não for possível fazê-lo em segurança.

Contudo, a IA já está a acelerar partes da investigação usada para desenvolver e alinhar a próxima geração de modelos. A nossa mais recente investigação⁠ mostra que os agentes de IA conseguem realizar algumas tarefas que exigiriam vários dias a investigadores qualificados. Isto não é autoaperfeiçoamento recursivo, mas é indício do rumo que estamos a tomar.

Essa aceleração também pode e deve ser orientada para a segurança. Pretendemos desenvolver, com segurança, investigadores automatizados de IA que trabalhem sob supervisão humana para promover a aprendizagem profunda e o alinhamento, usando cada geração de IA para tornar a seguinte mais segura, mais alinhada e mais fácil de controlar, não apenas mais capaz.

Os governos devem definir formas comuns de medir este progresso, preservar um controlo humano efetivo e estabelecer patamares de segurança partilhados para decidir quando e de que forma abrandar ou parar o desenvolvimento. Se não conseguirmos cumprir determinados patamares de segurança sem abrandar o crescimento das capacidades, devemos dar prioridade aos primeiros. Quanto mais poderosa for a tecnologia, mais robustas terão de ser as salvaguardas que a rodeiam.

A perspetiva de um desenvolvimento de IA acelerado pela IA exige mais do que compromissos voluntários. Os Estados Unidos precisam de regulamentação nacional obrigatória, baseada nas capacidades, que possa evoluir à medida que a tecnologia evolui.

O nosso Plano para a governação democrática da IA de fronteira⁠ traça o caminho para um quadro federal duradouro: requisitos comuns de testes e avaliação independente, proteções mais robustas de cibersegurança, regras claras de comunicação de incidentes, maior preparação nacional e medidas partilhadas para acompanhar o progresso rumo ao autoaperfeiçoamento recursivo.

Estão agora a ganhar forma no Congresso várias propostas sérias sobre a segurança da IA de fronteira. Continuaremos a participar de forma construtiva e contamos apoiar legislação que eleve substancialmente o patamar de segurança. Com tanto em jogo, não podemos deixar que o perfeito se torne inimigo do bom. O Congresso deve agir antes do encerramento da sessão.

Um quadro nacional deve ser sólido, mas cuidadosamente direcionado. Os requisitos de segurança de fronteira devem aplicar-se apenas aos poucos laboratórios com bons recursos que desenvolvem os sistemas mais capazes — não a startups, pequenos programadores ou investigadores que operam longe da fronteira tecnológica. As obrigações devem ser proporcionais às capacidades e aos riscos.

A política de segurança de fronteira também não deve transformar-se numa política de pesos abertos com outro nome. Os modelos abertos podem fazer parte da solução, sobretudo na cibersegurança e quando necessidades de soberania, segurança ou residência de dados favorecem a implementação local. A maioria não concorre na fronteira, mas sim em custo, controlo e latência. Como afirmámos ao assinar a Carta sobre Pesos Abertos e Liderança Americana em IA⁠(abre numa nova janela), os Estados Unidos precisam de modelos abertos e fechados. Um enquadramento federal deve abordar as capacidades e os riscos de fronteira sem enfraquecer a concorrência, reforçar a posição das empresas já estabelecidas ou levar a inovação para o estrangeiro.

Um quadro público rigoroso deve reduzir, e não aumentar, a concentração de poder. Hoje, os laboratórios de fronteira definem, em grande medida, as próprias regras para gerir riscos de fronteira. Normas sujeitas a responsabilização democrática, verificação independente e transparência efetiva substituiriam esse sistema fragmentado de governação privada.

Isto é essencial para a liderança americana. Os Estados Unidos não podem vencer a era da IA apenas com base na capacidade. Estar à frente em termos técnicos pouco importará se pessoas, instituições e governos não confiarem o suficiente na tecnologia para a adotarem. Salvaguardas sólidas não são uma cedência em detrimento da inovação. Fazem parte da infraestrutura necessária para uma adoção generalizada — e para uma liderança americana duradoura.

Precisamos urgentemente de normas nacionais para a IA, e quem trabalha em fronteira consegue perceber a urgência. Até o Congresso agir, os estados devem continuar a agir para colmatar o vazio e elevar a fasquia.

A OpenAI apoiou o SB 53 da Califórnia, o RAISE Act de Nova Iorque, o SB 315 do Illinois e auditorias independentes na legislação sobre segurança da IA de fronteira em análise em Massachusetts. Incentivamos os estados a convergir em torno destas salvaguardas comuns. Ao fazê-lo, podem criar uma referência nacional de facto que o Congresso poderá vir a consagrar na lei — uma abordagem a que chamamos ⁠federalismo inverso⁠. Mas a harmonização não significa manter os requisitos inalterados.

Hoje, apoiamos formalmente quatro projetos de lei adicionais da Califórnia que foram aprovados pela Assembleia Legislativa e seguem agora para o governador Newsom. Em conjunto, abordam áreas complementares do ecossistema de segurança da IA.

O SB 813⁠(abre numa nova janela) criaria um processo para designar organizações independentes e qualificadas, capazes de avaliar os riscos da IA. Como afirmámos no nosso ⁠(abre numa nova janela)plano para a segurança da IA de fronteira⁠(abre numa nova janela), preferimos que as avaliações técnicas independentes sejam obrigatórias a nível federal, onde os decisores políticos podem estabelecer normas coerentes para as qualificações dos avaliadores, a segurança e o acesso a informação altamente sensível. Contudo, na ausência de ação federal, a Califórnia pode ajudar a estabelecer as regras para um sistema nacional seguro e capaz de avaliação independente que produza melhores resultados em matéria de segurança.

O AB 1405⁠(abre numa nova janela) criaria requisitos de registo, independência, transparência e responsabilização para auditores de IA.

A SB 1119⁠(abre numa nova janela) exigiria garantia de idade, avaliações de risco, auditorias independentes, controlos parentais e salvaguardas contra conteúdos nocivos para crianças e adolescentes que utilizam chatbots de companhia. Recentemente, manifestámos o nosso apoio⁠ a este projeto de lei, que assenta em medidas de segurança dos jovens promovidas pela OpenAI através dos nossos produtos, ⁠princípios de política global⁠ e apoio ao ⁠(abre numa nova janela)Parents & Kids Safe AI Act⁠(abre numa nova janela), bem como em proteções integradas no ChatGPT para Adolescentes, incluindo predefinições mais rigorosas em áreas sensíveis, Horas de Silêncio, Horas de Estudo e lembretes para fazer pausas.

O AB 1864⁠(abre numa nova janela) exigiria que os fornecedores de síntese genética e os fabricantes de equipamentos de síntese de bancada seguissem normas federais de rastreio, reforçando uma importante salvaguarda física contra ameaças biológicas viabilizadas por IA.

Não apoiámos alguns destes projetos de lei no passado, mas agora apoiamos, após reconsiderarmos a nossa posição à luz do recente salto nas capacidades que observámos.

Estes projetos de lei não substituem a regulamentação federal. São medidas sérias que podem proteger as pessoas desde já, demonstrar o que são salvaguardas viáveis e ajudar a criar impulso para a ação federal.

As leis, por si só, não tornarão a IA avançada segura. Também precisamos de práticas concretas nos laboratórios que desenvolvem os sistemas mais capazes. O ponto de partida mais urgente é a monitorização.

Isto é particularmente importante no caso do desalinhamento — quando um modelo procura atingir um objetivo de formas que violam a intenção humana ou limites estabelecidos, sem exigir consciência nem intenção maliciosa. À medida que os modelos ganham maior autonomia, usam ferramentas mais poderosas e operam durante mais tempo, os programadores devem ser obrigados a monitorizar estes comportamentos desalinhados e a demonstrar que existem salvaguardas eficazes.

A monitorização deve estar ligada a requisitos claros de divulgação. Como defendemos na Califórnia, as empresas devem ser obrigadas a notificar prontamente, por escrito, as partes afetadas quando, durante o desenvolvimento ou a avaliação, os seus modelos contornam sem autorização os controlos de segurança de outra organização e acedem, alteram ou destroem de forma significativa os sistemas protegidos ou as informações confidenciais dessa organização. Também apoiamos requisitos federais de comunicação de outros incidentes graves de IA e estamos a trabalhar para definir que incidentes devem ser abrangidos e o que esses requisitos devem implicar.

Como partilhámos na semana passada, a OpenAI está a desenvolver um quadro para comunicar incidentes de desalinhamento relevantes e monitorizar sistematicamente a atividade dos modelos de fronteira, incluindo utilizações internas. Isto começa como uma iniciativa liderada pela empresa, mas esperamos que possa ajudar a orientar políticas federais e requisitos de comunicação mais amplos.

Queremos colaborar com outros laboratórios em normas lideradas pela indústria. Quaisquer normas lideradas pelo setor complementariam — não substituiriam — as salvaguardas federais obrigatórias e a supervisão democrática. Mas entrámos numa fase diferente das capacidades de IA, e todas as opções devem ser consideradas — incluindo ponderar o que pode ser desenvolvido voluntariamente fora do governo como medida imediata.

Quaisquer normas desse tipo terão, em última análise, de se estender também além das fronteiras nacionais. Os modelos, a investigação e os conhecimentos técnicos circulam globalmente, e falhas nos sistemas mais capazes podem ter consequências muito além do país onde são desenvolvidos. Os Estados Unidos precisam de estabelecer normas credíveis a nível nacional para poderem liderar internacionalmente — e estamos cada vez mais convencidos de que serão necessárias normas internacionais compatíveis.

A janela de oportunidade para a política de IA está aberta, por enquanto. Tencionamos utilizá-la.

Isto significa agir com urgência, humildade e disposição para nos adaptarmos. Significa apoiar propostas sérias que elevem substancialmente a fasquia da segurança, mesmo que não sejam exatamente as que teríamos concebido. E significa reforçar o quadro à medida que a tecnologia evolui.

Nenhum primeiro passo será perfeito. Mas o maior risco agora é esperar demasiado para o dar.