Ajudar a criar normas comuns para AI avançada
Modelos cada vez mais capazes podem reforçar a ciberdefesa, acelerar a descoberta científica e alargar o acesso a conhecimentos especializados. Mas também podem criar riscos de segurança se as suas capacidades forem mal compreendidas, as suas salvaguardas forem inadequadas ou os governos não tiverem a informação necessária para responder. Para concretizar os benefícios com segurança e confiança, as sociedades precisarão de instituições com capacidade técnica e de governação para avaliar, proteger e governar sistemas cada vez mais capazes.
Esta é uma das razões pelas quais a OpenAI ajudou a fundar a Appia Foundation(abre numa nova janela), acolhida pela Linux Foundation. A Appia irá desenvolver especificações abertas e modulares destinadas a transformar normas internacionais e quadros estabelecidos em critérios práticos de avaliação em toda a cadeia de valor da AI. O seu trabalho pode ajudar a desenvolver uma camada de confiança crítica que ainda falta, através da qual terceiros verificam a conformidade com as normas, produzindo provas mais claras e mais reutilizáveis quando modelos, infraestruturas e aplicações são desenvolvidos por organizações diferentes. Ao realizar este trabalho, a Appia ajudará a criar uma linguagem técnica comum que permitirá às instituições nacionais e internacionais confiar no trabalho umas das outras.
Vemos este esforço como um próximo passo importante num conjunto mais amplo de trabalho para reforçar as instituições, normas e práticas de avaliação necessárias aos sistemas avançados de AI.
O nosso recente plano para a governação democrática da AI de fronteira apresenta um roteiro para esse trabalho. Apela a um quadro duradouro dos EUA, a um Centro para Normas e Inovação em AI (CAISI) reforçado e a uma estratégia de resiliência mais ampla em todo o governo. Reconhece também que os riscos de fronteira têm alcance internacional. As nações devem trabalhar em conjunto para desenvolver quadros de segurança compatíveis, canais de confiança para partilhar conclusões sobre riscos e respostas coordenadas a incidentes.
A capacidade nacional e a cooperação internacional devem reforçar-se mutuamente. Instituições fortes como o CAISI podem desenvolver conhecimentos técnicos, avaliar sistemas de fronteira e apoiar um ecossistema de avaliação independente. Uma rede de instituições nacionais capazes pode então estabelecer métodos comuns, reconhecer provas fiáveis e dar aos governos o entendimento técnico comum necessário para agirem em conjunto.
As normas são centrais para esse esforço e devem assentar em práticas de avaliação credíveis e em rigor técnico. No nosso guia comum para avaliações de terceiros fiáveis, definimos o que as avaliações de fronteira têm cada vez mais de divulgar: o sistema testado, o seu acesso a ferramentas e o ambiente de avaliação, os métodos usados para suscitar capacidades, os recursos disponíveis e as verificações realizadas para validar os resultados. Também pusemos estes princípios em prática através de parcerias de testes com o CAISI dos EUA e o AISI do Reino Unido, cujo trabalho em avaliações de capacidades de fronteira e salvaguardas contra a utilização indevida biológica levou a melhorias concretas nos nossos sistemas. Este trabalho desempenha uma função importante ao criar a base para práticas que possam ser normalizadas a fim de verificar o desempenho de forma comparável.
Estas práticas complementam a infraestrutura de segurança mais ampla da OpenAI. O nosso Preparedness Framework é a base da forma como definimos e operacionalizamos a nossa abordagem à gestão dos riscos mais graves dos sistemas avançados de AI, incluindo as nossas práticas internas. O nosso Quadro de Governação da AI de Fronteira aplica partes relevantes dessa abordagem num documento público de governação centrado em obrigações regulamentares específicas, incluindo avaliação de riscos, comunicação de informações sobre modelos, controlos de segurança, resposta a incidentes e integração de contributos de peritos externos. Em conjunto, estes documentos ajudam a transformar compromissos gerais em práticas operacionais que podem ser validadas e melhoradas.
O trabalho da Appia visa o próximo desafio: tornar essas práticas interoperáveis entre organizações, jurisdições e a cadeia de abastecimento.
A OpenAI já contribui para um ecossistema mais amplo de normas e esforços de pré-normalização. Participamos no Comité Técnico Conjunto 1, Subcomité 42 sobre Inteligência Artificial, da Organização Internacional de Normalização e da Comissão Eletrotécnica Internacional(abre numa nova janela) e no Consórcio de Inteligência Artificial liderado pelo Instituto Nacional de Normas e Tecnologia(abre numa nova janela); ajudámos a fundar o Fórum de Modelos de Fronteira e a Fundação de Inteligência Artificial Agêntica(abre numa nova janela) da Linux Foundation; participamos na Coligação para a Inteligência Artificial Segura(abre numa nova janela); integramos o comité diretivo da Coligação para a Proveniência e Autenticidade de Conteúdos(abre numa nova janela); e participamos em processos da Internet Engineering Task Force(abre numa nova janela) e da Fast Identity Online Alliance(abre numa nova janela) para promover normas técnicas interoperáveis.
Em todos estes fóruns, incluindo agora através da Appia, o nosso objetivo é transformar as lições do desenvolvimento de fronteira em práticas abertas e tecnicamente fundamentadas que governos, empresas e avaliadores independentes possam usar em várias jurisdições.
