Nossa abordagem para parcerias governamentais e de segurança nacional

Governos estão começando a usar sistemas de IA de fronteira em trabalhos cada vez mais importantes, inclusive na segurança nacional. Isso cria novas necessidades para que laboratórios de IA, governos e a sociedade civil trabalhem juntos para definir como essas ferramentas devem ser usadas em contextos sensíveis. 

Acreditamos que sociedades democráticas devem poder usar IA para proteger pessoas, defender infraestruturas críticas, prestar serviços públicos e responder a ameaças emergentes, inclusive em áreas como defesa cibernética e segurança biológica, nas quais a IA pode dar uma vantagem significativa aos defensores. Mas sistemas de IA cada vez mais capazes devem ser implantados de formas que reforcem a responsabilização democrática, o julgamento humano significativo e o Estado de Direito, e que fortaleçam as instituições democráticas em vez de concentrar poder.

Hoje estamos publicando os Princípios de Segurança Nacional da OpenAI para dar transparência à forma como abordamos parcerias governamentais e usos de segurança nacional da nossa tecnologia.

Esses princípios refletem um esforço de toda a empresa para desenvolver uma abordagem mais abrangente para nosso trabalho em segurança nacional e aplicação da lei à medida que nossa tecnologia continua avançando. Contamos com um dos principais especialistas em segurança nacional, David Kris, para ajudar a facilitar o processo e oferecer seu julgamento independente, realizamos sessões de escuta em toda a empresa e ouvimos funcionários de diversas equipes, de pesquisa e segurança a políticas públicas e parcerias governamentais.

Estamos publicando esses princípios agora enquanto ampliamos nosso trabalho com o governo dos EUA e parceiros aliados em áreas defensivas críticas, especialmente cibersegurança e biossegurança. No último mês, como parte do nosso programa de defesa cibernética Daybreak⁠, já estabelecemos parcerias de Acesso Confiável para Cibersegurança com Austrália, Canadá, Japão, República da Coreia, França, Alemanha, Polônia, Países Baixos e instituições da UE, como a ENISA. Também temos uma parceria crescente e de confiança com o governo do Reino Unido em cibersegurança, testes e avaliação. Estamos adotando uma abordagem semelhante em biossegurança. No mês passado, também anunciamos a ampliação do acesso confiável ao nosso modelo GPT‑Rosalind para parceiros selecionados do governo dos EUA e de países aliados que apoiam missões de saúde pública e biodefesa.

Esses princípios se aplicam às nossas parcerias atuais e futuras em segurança nacional e aplicação da lei, incluindo nosso trabalho existente com o Departamento de Guerra. Quando anunciamos nosso acordo no início deste ano, definimos várias restrições contratuais: não usar a tecnologia da OpenAI para vigilância doméstica em massa, não usar a tecnologia da OpenAI para direcionar sistemas de armas autônomas e não usar a tecnologia da OpenAI para decisões automatizadas de alto impacto. Essas restrições são coerentes com os princípios que estamos compartilhando hoje.

Acreditamos que o certo é sermos claros sobre como nossa tecnologia pode e não pode ser usada, e transparentes sobre isso. Mas muitas das questões mais importantes sobre IA no governo, especialmente em segurança nacional, devem ser respondidas por meio do processo democrático. O papel de empresas como a nossa é ajudar a embasar essas decisões, não tomá-las sozinhas. É por isso que apoiamos esforços legislativos para estabelecer salvaguardas em torno de alguns dos usos militares de IA de maior risco, inclusive nos contextos de vigilância doméstica, sistemas de armas autônomas e outros usos de alto risco que afetam diretamente a segurança nacional dos EUA.

Leia os princípios aqui⁠(abre em uma nova janela).