Ajudando a criar padrões compartilhados para AI avançada
Modelos cada vez mais capazes podem fortalecer a defesa cibernética, acelerar descobertas científicas e ampliar o acesso a conhecimento especializado. Mas também podem criar riscos de segurança se suas capacidades forem mal compreendidas, suas salvaguardas forem inadequadas ou os governos não tiverem as informações de que precisam para responder. Para concretizar os benefícios com segurança e confiança, as sociedades precisarão de instituições com capacidade técnica e de governança para avaliar, proteger e governar sistemas cada vez mais capazes.
Esse é um dos motivos pelos quais a OpenAI ajudou a fundar a Fundação Appia(abre em uma nova janela), hospedada pela Linux Foundation. A Appia desenvolverá especificações abertas e modulares destinadas a traduzir padrões internacionais e frameworks estabelecidos em critérios práticos de avaliação em toda a cadeia de valor da AI. Seu trabalho pode ajudar a desenvolver uma camada crítica de confiança que hoje faz falta, por meio da qual terceiros verificam a conformidade com padrões, gerando evidências mais claras e reutilizáveis quando modelos, infraestrutura e aplicações são desenvolvidos por organizações diferentes. Ao realizar esse trabalho, a Appia ajudará a criar uma linguagem técnica compartilhada que permitirá que instituições nacionais e internacionais confiem no trabalho umas das outras.
Vemos esse esforço como um próximo passo importante em um conjunto mais amplo de iniciativas para fortalecer as instituições, os padrões e as práticas de avaliação necessários para sistemas avançados de AI.
Nosso recente plano para a governança democrática da AI de fronteira oferece um roteiro para esse trabalho. Ele propõe um framework duradouro nos EUA, um Centro para Padrões e Inovação em AI (CAISI) fortalecido e uma estratégia mais ampla de resiliência em todo o governo. Ele também reconhece que os riscos de fronteira têm alcance internacional. As nações devem trabalhar juntas para desenvolver frameworks de segurança compatíveis, canais confiáveis para compartilhar conclusões sobre riscos e respostas coordenadas a incidentes.
A capacidade nacional e a cooperação internacional devem se reforçar mutuamente. Instituições fortes como o CAISI podem desenvolver expertise técnica, avaliar sistemas de fronteira e apoiar um ecossistema de avaliação independente. Uma rede de instituições nacionais capazes pode então estabelecer métodos compartilhados, reconhecer evidências confiáveis e dar aos governos o entendimento técnico comum necessário para agir em conjunto.
Os padrões são centrais para esse esforço e devem se basear em práticas de avaliação confiáveis e rigor técnico. Em nosso guia compartilhado para avaliações confiáveis de terceiros, apresentamos o que as avaliações de fronteira precisam divulgar cada vez mais: o sistema testado, seu acesso a ferramentas e o ambiente de avaliação, os métodos usados para extrair capacidades, os recursos disponíveis e as verificações realizadas para validar os resultados. Também colocamos esses princípios em prática por meio de parcerias de testes com o CAISI dos EUA e o AISI do Reino Unido, cujo trabalho em avaliações de capacidades de fronteira e salvaguardas contra uso indevido biológico levou a melhorias concretas em nossos sistemas. Esse trabalho cumpre uma função importante ao criar a base para práticas que possam ser padronizadas para verificar desempenho de forma comparável.
Essas práticas complementam a infraestrutura de segurança mais ampla da OpenAI. Nosso Preparedness Framework é a base de como definimos e operacionalizamos nossa abordagem para gerenciar os riscos mais graves de sistemas avançados de AI, incluindo nossas práticas internas. Nosso Marco de Governança de Fronteira aplica partes relevantes dessa abordagem em um documento público de governança voltado a obrigações regulatórias específicas, incluindo avaliação de riscos, relatórios sobre modelos, controles de segurança, resposta a incidentes e incorporação de contribuições de especialistas externos. Em conjunto, esses artefatos ajudam a transformar compromissos amplos em práticas operacionais que podem ser validadas e aprimoradas.
O trabalho da Appia mira o próximo desafio: tornar essas práticas interoperáveis entre organizações, jurisdições e a cadeia de suprimentos.
A OpenAI já contribui para um ecossistema mais amplo de padrões e esforços de pré-padronização. Participamos do Comitê Técnico Conjunto 1, Subcomitê 42 sobre Inteligência Artificial, da Organização Internacional de Normalização e da Comissão Eletrotécnica Internacional(abre em uma nova janela) e do Consórcio de Inteligência Artificial liderado pelo Instituto Nacional de Padrões e Tecnologia(abre em uma nova janela); ajudamos a fundar o Fórum de Modelos de Fronteira e a Fundação de AI Agêntica(abre em uma nova janela) da Linux Foundation; participamos da Coalizão por uma Inteligência Artificial Segura(abre em uma nova janela); integramos o comitê diretor da Coalizão para Proveniência e Autenticidade de Conteúdo(abre em uma nova janela); e atuamos em processos da Força-Tarefa de Engenharia da Internet(abre em uma nova janela) e da Aliança Fast Identity Online(abre em uma nova janela) para promover padrões técnicos interoperáveis.
Nesses fóruns, inclusive agora por meio da Appia, nosso objetivo é transformar aprendizados do desenvolvimento de fronteira em práticas abertas, tecnicamente fundamentadas, que governos, empresas e avaliadores independentes possam usar em diferentes jurisdições.
