A nossa abordagem às parcerias com governos e de segurança nacional

Os governos estão a começar a usar sistemas de IA de fronteira em trabalhos cada vez mais importantes, incluindo na segurança nacional. Isto cria novos imperativos para que laboratórios de IA, governos e sociedade civil trabalhem em conjunto sobre a forma como estas ferramentas devem ser usadas em contextos sensíveis. 

Acreditamos que as sociedades democráticas devem poder usar a IA para proteger pessoas, defender infraestruturas críticas, prestar serviços públicos e responder a ameaças emergentes, incluindo em áreas como a ciberdefesa e a segurança biológica, onde a IA pode dar uma vantagem significativa aos defensores. Mas sistemas de IA cada vez mais capazes devem ser implementados de formas que reforcem a responsabilização democrática, o julgamento humano significativo e o Estado de direito, e que fortaleçam as instituições democráticas em vez de concentrarem poder.

Hoje publicamos os Princípios de Segurança Nacional da OpenAI para dar transparência à forma como abordamos as parcerias com governos e as utilizações da nossa tecnologia na segurança nacional.

Estes princípios refletem um esforço transversal à empresa para desenvolver uma abordagem mais abrangente ao nosso trabalho nas áreas da segurança nacional e da aplicação da lei, à medida que a nossa tecnologia continua a avançar. Envolvemos um destacado especialista em segurança nacional, David Kris, para ajudar a facilitar o processo e dar o seu parecer independente, realizámos sessões de escuta em toda a empresa e envolvemos colaboradores que representam várias equipas, da investigação e segurança à política e às parcerias governamentais.

Publicamo-los agora, à medida que expandimos o nosso trabalho com o governo dos EUA e parceiros aliados em áreas defensivas críticas, em especial a cibersegurança e a biossegurança. No último mês, no âmbito do nosso programa de ciberdefesa Daybreak⁠, já estabelecemos parcerias de Acesso de Confiança para Cibersegurança com a Austrália, o Canadá, o Japão, a República da Coreia, a França, a Alemanha, a Polónia, os Países Baixos e instituições da UE, como a ENISA. Temos também uma parceria crescente e de confiança com o governo do Reino Unido em torno de cibersegurança, testes e avaliação. Estamos a adotar uma abordagem semelhante na biossegurança. No mês passado, anunciámos também o alargamento do acesso de confiança ao nosso modelo GPT‑Rosalind para parceiros selecionados do governo dos EUA e aliados que apoiam missões de saúde pública e biodefesa.

Estes princípios aplicam-se às nossas parcerias atuais e futuras em matéria de segurança nacional e aplicação da lei, incluindo o nosso trabalho existente com o Departamento da Guerra. Quando anunciámos o nosso acordo no início deste ano, articulámos várias restrições contratuais: não utilização da tecnologia da OpenAI para vigilância interna em massa, não utilização da tecnologia da OpenAI para dirigir sistemas de armas autónomas e não utilização da tecnologia da OpenAI para decisões automatizadas de elevado impacto. Essas restrições são coerentes com os princípios que hoje partilhamos.

Acreditamos que o correto é ser claros sobre como a nossa tecnologia pode e não pode ser usada, e ser transparentes quanto a isso. Mas muitas das questões mais importantes sobre a IA no governo, especialmente na segurança nacional, devem ser respondidas através do processo democrático. O papel de empresas como a nossa é ajudar a informar essas decisões, não tomá-las sozinhas. É por isso que apoiamos esforços legislativos para estabelecer salvaguardas em torno de algumas das utilizações militares de IA de maior risco, incluindo nos contextos da vigilância interna, dos sistemas de armas autónomas e de outras utilizações de alto risco que afetam diretamente a segurança nacional dos EUA.

Leia os princípios aqui⁠(abre numa nova janela).