Os EUA avançam na segurança da IA por meio de ações estaduais e federais

Por Chris Lehane, diretor de Assuntos Globais

Das capitais estaduais em todo o país a Washington e a encontros internacionais, abordagens sérias para a governança da IA de fronteira estão tomando forma. Juntas, elas promovem uma visão democrática para a IA.

Califórnia, Nova York e, mais recentemente, Illinois avançaram com legislações de segurança de IA de fronteira que ajudam a levar o país a uma base comum para governar os sistemas de IA mais poderosos.

Esses esforços refletem o impulso por trás do que a OpenAI chama de federalismo reverso: estados ajudando a estabelecer uma direção compartilhada por meio de uma estrutura comum. À medida que o trabalho liderado pelos estados converge com os esforços em andamento no nível federal, um padrão nacional começa a tomar forma, lançando as bases para uma estrutura global de IA liderada pelos EUA. Acreditamos que a melhor forma de garantir que a IA beneficie muitos, e não apenas poucos, é que decisões críticas — começando pela segurança de IA de fronteira — sejam tomadas por governos democráticos, não apenas por laboratórios de fronteira.

Em última análise, os Estados Unidos seriam mais bem atendidos por uma estrutura nacional baseada nesse princípio. Mas, na ausência dela, os estados podem nos levar até lá aprovando leis que se espelhem entre si. Passo a passo, eles podem criar um padrão nacional de fato.

E, se a segurança é a prioridade, esse padrão nacional é a melhor abordagem de política pública para garantir que (a) os EUA continuem liderando em inovação e não sejam prejudicados por um mosaico de regulações que reduziria a capacidade de construir uma infraestrutura global de IA democrática, capaz de priorizar que os defensores tenham as ferramentas necessárias para se proteger contra agentes mal-intencionados que buscam usar a IA indevidamente em áreas como a cibersegurança; e (b) colocar os EUA na posição mais forte para transformar o padrão nacional em uma abordagem global para a implantação segura da IA, construída sobre valores democráticos. Se quisermos criar uma estrutura de segurança que realmente priorize a implementação de um padrão nacional e internacional — o que melhor apoiará a implantação segura da IA — será preciso trabalho árduo, seriedade de propósito e uma estratégia que conecte os estados, o governo federal e a conversa internacional. Uma abordagem performática ou de sinalização de virtude não dará conta do recado aqui — o caos no nível estadual não favorece uma abordagem duradoura de segurança; ele só levará a mais caos.

Para que essa abordagem tenha êxito, os estados devem continuar alinhando os elementos centrais, como fizeram Califórnia, Nova York e Illinois. Em linhas gerais, esses elementos são:

• Uma estrutura de segurança documentada, com avaliações de risco para modelos de fronteira e divulgação pública dessas avaliações e de seus resultados.
• Notificação de incidentes graves de segurança.
• Governança e prestação de contas por meio de auditorias independentes e objetivas.

Em conjunto, esses três estados incorporaram a supervisão democrática à implantação da IA de fronteira. A Califórnia estabeleceu a estrutura central de divulgação. Nova York mostrou que a abordagem poderia ser adotada em diferentes jurisdições. Illinois a complementou ao exigir verificação independente de divulgações essenciais.

Reconhecemos que a legislação muitas vezes inclui disposições adicionais para garantir os votos necessários à aprovação. Mas acreditamos que esses são os elementos essenciais necessários para criar um padrão nacional de fato por meio do federalismo reverso. Sem essa disciplina, corremos o risco de expansão indevida das políticas e de um mosaico de leis estaduais difíceis de aplicar pelos reguladores, confusas para os consumidores e que desviam recursos dos desenvolvedores — especialmente em startups e pequenas empresas — que seriam mais bem investidos em segurança. Em particular, e como as últimas semanas mostraram, à medida que os modelos de IA se tornam cada vez mais capazes, precisamos de um sistema coerente que nos permita colocar as ferramentas nas mãos do governo, de operadores de infraestrutura crítica, de aliados e de parceiros confiáveis.

Os formuladores de políticas também devem se proteger contra a expansão indevida de escopo. Não se deve pedir aos estados que administrem riscos significativos de segurança nacional (ou, na prática, tomem decisões de segurança nacional em nome de todo o país) nem que conduzam análises altamente técnicas, mais bem tratadas por especialistas federais com recursos, conhecimento, acesso a sistemas classificados e capacidade para trabalhar de perto com nossas equipes.

No âmbito federal, o governo Trump continua trabalhando com especialistas técnicos e de segurança nacional em uma estrutura para testes do governo dos EUA dos modelos de IA mais capazes em cibersegurança. Essa estrutura estabelecerá padrões, prazos e processos de teste. A OpenAI participa de discussões construtivas com o governo, empresas pares, entidades empresariais e outras partes interessadas que ajudam a moldar esse esforço.

O trabalho em andamento sobre avaliações cibernéticas mostra por que a consistência é importante. Hoje, compreensivelmente, os modelos estão sendo testados antes que a estrutura federal esteja concluída. À medida que os laboratórios avançaram nesse processo, uma lição ficou clara: precisamos de uma abordagem consistente e repetível tanto no nível estadual quanto no federal. Isso é essencial se quisermos colocar os modelos mais capazes nas mãos do governo, dos defensores de infraestrutura crítica, de aliados e de outros parceiros confiáveis. Valorizamos a meta do governo de ter essa estrutura em vigor até o início de agosto.

Uma estrutura federal de testes ajudará a colocar ferramentas avançadas de IA nas mãos do governo, dos defensores de infraestrutura crítica, de aliados e de outros parceiros confiáveis. Com isso, ela fortalecerá as instituições democráticas e ajudará a construir uma infraestrutura de IA democrática liderada pelos EUA. Este é o momento de usar a liderança inovadora dos Estados Unidos em apoio à IA democrática.

Nem um processo federal indefinido nem um mosaico de leis estaduais produzirão um regime coerente de segurança de IA de fronteira. Precisamos de uma abordagem que garanta que os melhores avaliadores testem os modelos mais capazes — e que defensores confiáveis tenham acesso a essas ferramentas com rapidez suficiente para se manter à frente de agentes mal-intencionados.

O Congresso também está se movimentando. Parlamentares das duas casas e de ambos os partidos — incluindo, mais recentemente, os deputados Jay Obernolte e Lori Trahan — tomaram nota dos avanços nos estados e no Poder Executivo e apresentaram propostas para uma estrutura federal. Nenhuma minuta de discussão com um caminho realista para aprovação será perfeita. Mas vemos esse trabalho como um passo produtivo adiante e acreditamos que muitas de suas disposições são bem pensadas e merecem apoio.

Também nos anima ver que líderes do Senado e da Câmara estão dedicando esforço sério a propostas de governança nacional e segurança de IA de fronteira, e tivemos conversas construtivas com muitos deles. Dado o porte e a influência dos estados que já promulgaram leis alinhadas nessa direção, incorporar essas abordagens à legislação federal deve facilitar a criação de um único regime nacional de segurança de IA de fronteira.

O plano da OpenAI para segurança de IA de fronteira apresenta o que acreditamos serem os elementos essenciais dessa estrutura.

Primeiro, o governo federal deve liderar os testes e a avaliação dos sistemas mais avançados. A IA de fronteira levanta questões de segurança nacional e segurança pública que exigem conhecimento técnico, recursos e acesso que nenhum estado consegue replicar plenamente.

Esse trabalho deve fortalecer o Center for AI Standards and Innovation (CAISI), criado no governo do presidente Biden e reforçado no governo do presidente Trump. O CAISI pode oferecer a capacidade federal duradoura necessária para avaliar modelos avançados e orientar a segurança de IA de fronteira para a prevenção de danos antes que ocorram, em vez de depender principalmente da responsabilização posterior. Qualquer legislação federal deve considerar cuidadosamente como o CAISI deve trabalhar com o restante do governo e que papel deve desempenhar no centro dos testes.

Segundo, empresas que desenvolvem os sistemas mais capazes devem cumprir requisitos claros, incluindo auditorias independentes, notificação de incidentes, padrões de segurança robustos e proteções a denunciantes.

Terceiro, os esforços federais e estaduais devem se reforçar mutuamente. As leis estaduais não serão todas idênticas, e esperamos trabalhar com formuladores de políticas em todo o país para garantir que elas fortaleçam a segurança e, ao mesmo tempo, maximizem os benefícios econômicos da IA.

Os estados também devem continuar atuando como laboratórios da democracia em áreas além da segurança de IA de fronteira, incluindo proteção de jovens, políticas de eletricidade e meio ambiente, e educação e letramento em IA.

Uma estrutura federal continua sendo essencial. A IA de fronteira levanta questões de segurança nacional, competitividade econômica e segurança pública que, em última instância, exigem padrões nacionais, capacidades nacionais e instituições nacionais para apoiar a IA democrática.

A legislação nacional também é fundamental para uma estrutura internacional de padrões de IA liderada pelos EUA. Essa ideia foi discutida há várias semanas no G7, junto com Brasil, Egito, Índia, Quênia e Coreia, onde os CEOs dos principais laboratórios de fronteira debateram a necessidade de tal estrutura. Após essa reunião, o CEO da OpenAI, Sam Altman, propôs no Financial Times⁠(abre em uma nova janela) “um fórum internacional liderado pelos EUA que estabeleça padrões aceitos, forneça análise especializada e imparcial de capacidades e riscos, e disponibilize a tecnologia a nações e empresas que participem e sigam as regras”. Nesta semana, o CEO do Google DeepMind, Demis Hassabis, também apresentou ideias ponderadas em um novo artigo. Uma legislação federal — necessariamente bipartidária — forneceria uma base sólida para esse esforço internacional.

O impulso agora é visível em todos os níveis. Os estados estão estabelecendo abordagens comuns. O Congresso e o Poder Executivo estão avançando rumo a uma estrutura nacional. E líderes globais começam a discutir padrões internacionais. Se cada um se apoiar no outro, os EUA poderão liderar o desenvolvimento de uma estrutura global fundamentada em uma visão democrática para a IA. E essa abordagem de alinhamento democrático para a IA é a que realmente prioriza a segurança.