Os EUA avançam na segurança da IA através de ação estadual e federal

Por Chris Lehane, Diretor de Assuntos Globais

Das capitais estaduais por todo o país a Washington e aos encontros internacionais, estão a ganhar forma abordagens sérias à governação da IA de fronteira. Em conjunto, estão a fazer avançar uma visão democrática para a IA.

A Califórnia, Nova Iorque e, mais recentemente, o Illinois avançaram com legislação de segurança da IA de fronteira que ajuda a aproximar o país de uma base comum para governar os sistemas de IA mais poderosos.

Estes esforços refletem o impulso por trás daquilo a que a OpenAI chama federalismo inverso: estados a ajudar a estabelecer uma direção partilhada através de um enquadramento comum. À medida que o trabalho liderado pelos estados converge com os esforços em curso ao nível federal, começa a ganhar forma uma norma nacional, lançando as bases para um enquadramento global de IA liderado pelos EUA. Acreditamos que a melhor forma de garantir que a IA beneficia muitos, e não apenas alguns, é fazer com que as decisões críticas — a começar pela segurança da IA de fronteira — sejam tomadas por governos democráticos, e não apenas por laboratórios de fronteira.

Em última análise, os Estados Unidos ficariam mais bem servidos por um enquadramento nacional assente nesse princípio. Mas, na ausência de um, os estados podem levar-nos nessa direção aprovando leis que espelhem umas às outras. Passo a passo, podem criar uma norma nacional de facto.

E, se a segurança for a prioridade, essa norma nacional é a melhor abordagem de política pública para garantir (a) que os EUA continuam a liderar na inovação e não são prejudicados por uma manta de retalhos regulamentar que atrasaria a construção de uma infraestrutura global de IA democrática, orientada para assegurar que os bons agentes têm as ferramentas de que precisam para se defenderem de agentes maliciosos que procuram usar indevidamente a IA em áreas como a cibersegurança; e (b) colocar os EUA na posição mais forte para transformar a norma nacional numa abordagem global para a implantação segura da IA, assente em valores democráticos. Se quisermos criar um enquadramento de segurança que dê verdadeiramente prioridade à implementação de uma norma nacional e internacional — o que melhor apoiará a implantação segura da IA — será necessário trabalho árduo, sentido de responsabilidade e uma estratégia que ligue os estados, o governo federal e a conversa internacional. Uma abordagem performativa ou de mera sinalização de virtude não resolverá este problema — o caos ao nível estadual não serve o melhor interesse de uma abordagem duradoura à segurança; apenas conduzirá a mais caos.

Para que essa abordagem tenha sucesso, os estados devem continuar a alinhar-se nos elementos centrais, como fizeram a Califórnia, Nova Iorque e o Illinois. Em termos gerais, esses elementos são:

• Um enquadramento de segurança documentado, com avaliações de risco para modelos de fronteira e divulgação pública dessas avaliações e dos respetivos resultados.
• Comunicação de incidentes de segurança graves.
• Governação e responsabilização através de auditorias independentes e objetivas.

Em conjunto, estes três estados integraram supervisão democrática na implantação da IA de fronteira. A Califórnia estabeleceu o enquadramento central de divulgação. Nova Iorque mostrou que a abordagem podia ser adotada em várias jurisdições. O Illinois complementou-a ao exigir verificação independente das divulgações essenciais.

Reconhecemos que a legislação inclui muitas vezes disposições adicionais para assegurar os votos necessários à aprovação. Mas acreditamos que estes são os elementos essenciais necessários para criar uma norma nacional de facto através do federalismo inverso. Sem essa disciplina, arriscamo-nos a um alargamento progressivo das políticas e a uma manta de retalhos de leis estaduais difíceis de aplicar pelos reguladores, confusas para os consumidores e que desviam recursos dos programadores — sobretudo em start-ups e pequenas empresas — que seriam mais bem investidos em segurança. Em particular, e como as últimas semanas demonstraram, à medida que os modelos de IA se tornam cada vez mais capazes, precisamos de um sistema coerente que nos permita colocar as ferramentas nas mãos do governo, das infraestruturas críticas, dos aliados e de parceiros de confiança.

Os decisores políticos devem também proteger-se contra o alargamento da missão. Não se deve pedir aos estados que gerem riscos significativos de segurança nacional (ou que, na prática, tomem decisões de segurança nacional em nome de todo o país) nem que realizem análises altamente técnicas que são melhor conduzidas por especialistas federais com os recursos, a experiência, o acesso a sistemas classificados e a capacidade para trabalhar de perto com as nossas equipas.

Ao nível federal, a Administração Trump continua a trabalhar com especialistas técnicos e de segurança nacional num enquadramento para testes do governo dos EUA aos modelos de IA mais capazes em cibersegurança. Esse enquadramento estabelecerá normas, calendários e processos de teste. A OpenAI participa em conversas construtivas com a Administração, empresas congéneres, associações empresariais e outras partes interessadas que ajudam a moldar este esforço.

O trabalho em curso nas avaliações de cibersegurança mostra por que razão a consistência é importante. Atualmente, e de forma compreensível, os modelos estão a ser testados antes de o enquadramento federal estar concluído. À medida que os laboratórios têm avançado neste processo, uma lição tornou-se clara: precisamos de uma abordagem consistente e repetível tanto ao nível estadual como federal. Isso é essencial se quisermos colocar os modelos mais capazes nas mãos do governo, dos defensores de infraestruturas críticas, dos aliados e de outros parceiros de confiança. Valorizamos o objetivo da Administração de ter este enquadramento em vigor até ao início de agosto.

Um enquadramento federal de testes ajudará a colocar ferramentas avançadas de IA nas mãos do governo, dos defensores de infraestruturas críticas, dos aliados e de outros parceiros de confiança. Ao fazê-lo, reforçará as instituições democráticas e ajudará a construir uma infraestrutura tecnológica de IA democrática liderada pelos EUA. Este é o momento de usar a liderança inovadora dos Estados Unidos em apoio de uma IA democrática.

Nem um processo federal indefinido nem uma manta de retalhos de leis estaduais produzirão um regime coerente de segurança da IA de fronteira. Precisamos de uma abordagem que garanta que os melhores avaliadores testam os modelos mais capazes — e que os defensores de confiança obtêm acesso a essas ferramentas com rapidez suficiente para se manterem à frente dos agentes maliciosos.

O Congresso também está a avançar. Legisladores de ambas as câmaras e de ambos os partidos — incluindo, mais recentemente, os representantes Jay Obernolte e Lori Trahan — tomaram nota dos desenvolvimentos nos estados e no poder executivo e apresentaram propostas para um enquadramento federal. Nenhum projeto de discussão com um caminho realista até à aprovação será perfeito. Mas vemos este trabalho como um passo produtivo em frente e acreditamos que muitas das suas disposições são ponderadas e merecem apoio.

Também nos encoraja ver que os líderes do Senado e da Câmara estão a dedicar esforços sérios a propostas de governação nacional e de segurança da IA de fronteira, e tivemos conversas construtivas com muitos deles. Dada a dimensão e a influência dos estados que já aprovaram leis alinhadas nesse sentido, incorporar essas abordagens na legislação federal deverá facilitar a criação de um regime nacional único de segurança da IA de fronteira.

O plano da OpenAI para a segurança da IA de fronteira define aquilo que consideramos serem os elementos essenciais desse enquadramento.

Em primeiro lugar, o governo federal deve liderar os testes e a avaliação dos sistemas mais avançados. A IA de fronteira levanta questões de segurança nacional e segurança pública que exigem conhecimentos técnicos, recursos e acesso que nenhum estado consegue replicar plenamente.

Esse trabalho deve reforçar o Center for AI Standards and Innovation (CAISI), criado sob o Presidente Biden e reforçado sob o Presidente Trump. O CAISI pode proporcionar a capacidade federal duradoura necessária para avaliar modelos avançados e orientar a segurança da IA de fronteira para a prevenção de danos antes de estes ocorrerem, em vez de depender sobretudo da responsabilização posterior. Qualquer legislação federal deve ponderar cuidadosamente de que forma o CAISI deve trabalhar com o resto do governo e que papel deve desempenhar no centro dos testes.

Em segundo lugar, as empresas que desenvolvem os sistemas mais capazes devem cumprir requisitos claros, incluindo auditorias independentes, comunicação de incidentes, normas de segurança fortes e proteções para denunciantes.

Em terceiro lugar, os esforços federais e estaduais devem reforçar-se mutuamente. As leis estaduais não serão todas idênticas, e esperamos trabalhar com decisores políticos em todo o país para garantir que reforçam a segurança, ao mesmo tempo que maximizam os benefícios económicos da IA.

Os estados devem também continuar a servir como laboratórios da democracia em áreas para além da segurança da IA de fronteira, incluindo a proteção dos jovens, a política de eletricidade e ambiente, e a educação e literacia em IA.

Um enquadramento federal continua a ser essencial. A IA de fronteira levanta questões de segurança nacional, competitividade económica e segurança pública que, em última análise, exigem normas nacionais, capacidades nacionais e instituições nacionais para apoiar uma IA democrática.

A legislação nacional é também crucial para um enquadramento internacional de normas de IA liderado pelos EUA. Essa ideia foi discutida há várias semanas no G7, juntamente com o Brasil, o Egito, a Índia, o Quénia e a Coreia, onde os CEO dos principais laboratórios de fronteira debateram a necessidade de tal enquadramento. Na sequência dessa reunião, o CEO da OpenAI, Sam Altman, propôs no Financial Times⁠(abre numa nova janela) “um fórum internacional liderado pelos EUA que estabeleça normas aceites, forneça análises especializadas e imparciais sobre capacidades e riscos, e disponibilize a tecnologia a nações e empresas que participem e cumpram as regras”. Esta semana, Demis Hassabis, CEO da Google DeepMind, também apresentou ideias ponderadas num novo artigo. Legislação federal — necessariamente bipartidária — proporcionaria uma base sólida para esse esforço internacional.

O impulso é agora visível a todos os níveis. Os estados estão a estabelecer abordagens comuns. O Congresso e o poder executivo estão a avançar para um enquadramento nacional. E os líderes globais começam a discutir normas internacionais. Se cada um destes esforços se apoiar nos outros, os EUA podem liderar o desenvolvimento de um enquadramento global assente numa visão democrática para a IA. E esta abordagem de alinhamento democrático para a IA é a que verdadeiramente dá prioridade à segurança.