O nosso acordo com o Departamento da Guerra

Ontem chegámos a um acordo com o Pentágono para implementar sistemas avançados de IA em ambientes classificados, que pedimos que fosse também disponibilizado a todas as empresas de IA.

Acreditamos que o nosso acordo tem mais salvaguardas do que qualquer acordo anterior para implementações de IA em ambientes classificados, incluindo o da Anthropic. Eis porquê.

Temos três linhas vermelhas principais que orientam o nosso trabalho com o Departamento da Guerra, que são, de um modo geral, partilhadas por vários outros laboratórios de IA de ponta:

• Não usar tecnologia da OpenAI para vigilância doméstica em massa.
• Não usar tecnologia da OpenAI para dirigir sistemas de armas autónomas.
• Não usar tecnologia da OpenAI para decisões automatizadas de alto impacto (p. ex. sistemas como «crédito social»).

Outros laboratórios de IA reduziram ou removeram as suas salvaguardas de segurança e têm-se apoiado sobretudo em políticas de utilização como principal mecanismo de proteção em implementações de segurança nacional. Acreditamos que a nossa abordagem protege melhor contra utilizações inaceitáveis.

No nosso acordo, protegemos as nossas linhas vermelhas através de uma abordagem mais abrangente e em várias camadas. Mantemos controlo total sobre o nosso stack de segurança, implementamos via cloud, pessoal da OpenAI com credenciação de segurança está envolvido no processo e contamos com fortes proteções contratuais. Tudo isto soma-se às fortes proteções já existentes na legislação dos EUA.

Acreditamos firmemente na democracia. Tendo em conta a importância desta tecnologia, acreditamos que o único bom caminho a seguir exige uma colaboração profunda entre os esforços em IA e o processo democrático. Também acreditamos que a nossa tecnologia vai introduzir novos riscos no mundo, e queremos que as pessoas que defendem os Estados Unidos tenham as melhores ferramentas.

O nosso acordo inclui:

1. Arquitetura de implementação. Trata-se de uma implementação apenas na cloud, com um stack de segurança que operamos e que inclui estes princípios e outros. Não estamos a fornecer ao Departamento da Guerra modelos «sem salvaguardas» ou modelos não treinados para segurança, nem estamos a implementar os nossos modelos em dispositivos de edge (onde poderia existir a possibilidade de utilização para armas letais autónomas).

A nossa arquitetura de implementação permitir-nos-á verificar de forma independente que estas linhas vermelhas não são ultrapassadas, incluindo a execução e a atualização de classificadores.

2. O nosso contrato. Eis a redação relevante:

O Departamento da Guerra pode utilizar o Sistema de IA para todos os fins lícitos, em conformidade com a legislação aplicável, os requisitos operacionais e protocolos de segurança e supervisão bem estabelecidos. O Sistema de IA não será utilizado para dirigir autonomamente armas em qualquer caso em que a lei, a regulamentação ou a política do Departamento exija controlo humano, nem será utilizado para assumir outras decisões de alto impacto que exijam aprovação por um tomador de decisão humano ao abrigo das mesmas autoridades. Nos termos da Diretiva 3000.09 do DoD (datada de 25 de janeiro de 2023), qualquer utilização de IA em sistemas autónomos e semiautónomos deve ser sujeita a rigorosa verificação, validação e testes, para garantir que funcionam conforme previsto em ambientes realistas antes da implementação.

Para atividades de inteligência, qualquer tratamento de informação privada cumprirá a Quarta Emenda, o National Security Act of 1947 e o Foreign Intelligence and Surveillance Act of 1978, a Ordem Executiva 12333 e as diretivas do DoD aplicáveis que exigem um propósito definido de inteligência estrangeira. O Sistema de IA não deverá ser utilizado para monitorização sem restrições da informação privada de pessoas dos EUA, em consonância com estas autoridades. O sistema também não deverá ser utilizado para atividades domésticas de aplicação da lei, exceto conforme permitido pelo Posse Comitatus Act e outra legislação aplicável.

3. Envolvimento de especialistas em IA. Teremos engenheiros da OpenAI com credenciação de segurança destacados no terreno a apoiar o Governo, com investigadores de segurança e alinhamento, também credenciados, envolvidos no processo.

Porque é que estão a fazer isto?

Em primeiro lugar, achamos que as Forças Armadas dos EUA precisam, sem dúvida, de modelos de IA robustos para apoiar a sua missão, especialmente perante ameaças crescentes de potenciais adversários que estão cada vez mais a integrar tecnologias de IA nos seus sistemas. Inicialmente, não avançámos de imediato para um contrato de implementação em ambientes classificados, pois não considerávamos que as nossas salvaguardas e sistemas estivessem prontos, e temos trabalhado arduamente para garantir que uma implementação em ambientes classificados possa acontecer com salvaguardas que assegurem que as linhas vermelhas não são ultrapassadas.

Não estivemos — e continuamos — dispostos a remover salvaguardas técnicas essenciais para melhorar o desempenho em trabalho de segurança nacional. Essa não é a abordagem correta para apoiar as Forças Armadas dos EUA.

Em segundo lugar, também quisemos reduzir as tensões entre o Departamento da Guerra e os laboratórios de IA dos EUA. Um bom futuro vai exigir uma colaboração real e profunda entre o Governo e os laboratórios de IA. Como parte do nosso acordo, pedimos que os mesmos termos fossem disponibilizados a todos os laboratórios de IA e, especificamente, que o Governo tentasse resolver a situação com a Anthropic; o estado atual é uma forma muito má de dar início a esta próxima fase de colaboração entre o Governo e os laboratórios de IA.

Porque é que conseguiram chegar a um acordo quando a Anthropic não conseguiu? Assinaram o acordo que eles se recusaram a assinar?

Com base no que sabemos, acreditamos que o nosso contrato oferece melhores garantias e salvaguardas mais responsáveis do que acordos anteriores, incluindo o contrato original da Anthropic. Acreditamos que as nossas linhas vermelhas são mais exequíveis aqui porque a implementação está limitada apenas à cloud (e não no edge), mantém o nosso stack de segurança a funcionar da forma que consideramos melhor e mantém pessoal da OpenAI com credenciação de segurança envolvido no processo.

Não sabemos porque é que a Anthropic não conseguiu chegar a este acordo e esperamos que a Anthropic e mais laboratórios o considerem.

Acham que a Anthropic deveria ser designada como um «risco na cadeia de abastecimento»?

Não, e já deixámos clara ao Governo a nossa posição sobre isto.

Este acordo permitirá ao Departamento da Guerra utilizar modelos da OpenAI para alimentar armas autónomas?

Não. Com base no nosso stack de segurança, na implementação apenas na cloud, na redação do contrato e nas leis, regulamentação e políticas existentes, estamos confiantes de que isso não pode acontecer. Também teremos pessoal da OpenAI envolvido no processo para uma garantia adicional.

Este acordo permitirá ao Departamento da Guerra utilizar modelos da OpenAI para conduzir vigilância em massa sobre pessoas dos EUA?

Não. Com base no nosso stack de segurança, na redação do contrato e nas leis existentes que restringem fortemente o Departamento da Guerra em matéria de vigilância doméstica, estamos confiantes de que isso não pode acontecer. Também teremos pessoal da OpenAI envolvido no processo para uma garantia adicional.

Têm de implementar modelos sem um stack de segurança?

Não, mantemos controlo total sobre o stack de segurança que implementamos e não implementaremos modelos sem salvaguardas de segurança. Além disso, os nossos investigadores de segurança e alinhamento estarão envolvidos no processo e ajudarão a melhorar os sistemas ao longo do tempo. Sabemos que outros laboratórios de IA reduziram as salvaguardas do modelo e têm-se apoiado em políticas de utilização como principal proteção, mas acreditamos que a nossa abordagem em várias camadas protege melhor contra utilizações inaceitáveis.

O que acontece se o Governo violar os termos do contrato?

Como em qualquer contrato, poderemos rescindi-lo se a contraparte violar os termos. Não esperamos que isso aconteça.

E se o Governo simplesmente alterar a lei ou as atuais políticas do Departamento da Guerra?

O nosso contrato faz referência explícita às leis e políticas sobre vigilância e armas autónomas tal como existem hoje, para que, mesmo que essas leis ou políticas mudem no futuro, a utilização dos nossos sistemas tenha de permanecer alinhada com os padrões atuais refletidos no acordo.

Como respondem aos argumentos que a Anthropic apresentou no seu artigo⁠(abre numa nova janela) sobre a discussão com o Departamento da Guerra?

No seu artigo, a Anthropic refere duas das suas linhas vermelhas (temos as mesmas duas, mais uma terceira: decisões automatizadas de alto impacto) e explica porque não acredita que estas linhas vermelhas fossem respeitadas nos contratos que tinha visto do Departamento da Guerra nessa altura. Segue-se o motivo pelo qual acreditamos que essas mesmas linhas vermelhas se manteriam no nosso contrato:

• Vigilância doméstica em massa. Ficou claro na nossa interação que o Departamento da Guerra considera ilegal a vigilância doméstica em massa e não estava a planear utilizá-la para este fim. Garantimos que o facto de isso não estar abrangido pelo uso lícito ficou explícito no nosso contrato.
• Armas totalmente autónomas. A superfície de implementação na cloud abrangida pelo nosso contrato não permitiria alimentar armas totalmente autónomas, já que isso exigiria implementação no edge.

Além destas proteções, o nosso contrato oferece salvaguardas adicionais em várias camadas, incluindo o nosso stack de segurança e especialistas técnicos da OpenAI envolvidos no processo.