Nosso acordo com o Departamento de Guerra
Atualização em 2 de março de 2026
Ao longo das nossas conversas, o Departamento deixou claro que compartilha nosso compromisso de garantir que nossas ferramentas não sejam usadas para vigilância doméstica. Para deixar nossos princípios o mais claros possível, trabalhamos juntos para adicionar redação adicional ao nosso acordo.
Essa redação deixa explícito que nossas ferramentas não serão usadas para realizar vigilância doméstica de pessoas dos EUA, inclusive por meio da aquisição ou do uso de informações pessoais ou identificáveis adquiridas comercialmente. O Departamento também afirmou que nossos serviços não serão usados por agências de inteligência do Departamento de Guerra, como a NSA. Qualquer serviço para essas agências exigiria um novo acordo.
A nova redação diz:
- Em conformidade com as leis aplicáveis, incluindo a Quarta Emenda à Constituição dos Estados Unidos, o National Security Act de 1947 e o FISA Act de 1978, o sistema de IA não deverá ser intencionalmente usado para vigilância doméstica de pessoas e nacionais dos EUA.
- Para que não restem dúvidas, o Departamento entende que essa limitação proíbe o rastreamento, a vigilância ou o monitoramento deliberados de pessoas ou nacionais dos EUA, inclusive por meio da aquisição ou do uso de informações pessoais ou identificáveis adquiridas comercialmente.
O Departamento de Guerra planeja convocar um grupo de trabalho formado por lideranças de laboratórios de IA de fronteira, provedores de nuvem e das áreas de políticas e operações do Departamento. A OpenAI participará e espera que esse seja um fórum importante para um diálogo contínuo, daqui para frente, sobre capacidades emergentes de IA, privacidade e desafios de segurança nacional.
Essas atualizações se baseiam no arcabouço que anunciamos na semana passada e esperamos que ajudem a criar um caminho para que outros laboratórios trabalhem com o Departamento daqui para frente.
Ontem, chegamos a um acordo com o Pentágono para implantar sistemas avançados de IA em ambientes classificados, e pedimos que isso também fosse disponibilizado a todas as empresas de IA.
Achamos que nosso acordo tem mais barreiras de segurança do que qualquer acordo anterior para implantações de IA em ambientes classificados, incluindo o da Anthropic. Eis o porquê.
Temos três linhas vermelhas principais que orientam nosso trabalho com o DoW, que são, em geral, compartilhadas por vários outros laboratórios de IA de fronteira:
- Não usar a tecnologia da OpenAI para vigilância doméstica em massa.
- Não usar a tecnologia da OpenAI para direcionar sistemas de armas autônomas.
- Não usar a tecnologia da OpenAI para decisões automatizadas de alto impacto (por exemplo, sistemas como "crédito social").
Outros laboratórios de IA reduziram ou removeram suas barreiras de segurança e passaram a depender principalmente de políticas de uso como principal salvaguarda em implantações de segurança nacional. Achamos que nossa abordagem protege melhor contra uso inaceitável.
Em nosso acordo, protegemos nossas linhas vermelhas por meio de uma abordagem mais ampla, em múltiplas camadas. Mantemos total autonomia sobre nossa camada de segurança, fazemos a implantação via nuvem, contamos com pessoal da OpenAI com credencial de segurança no processo e temos fortes proteções contratuais. E tudo isso se soma às fortes proteções já existentes na lei dos EUA.
Acreditamos firmemente na democracia. Dada a importância desta tecnologia, acreditamos que o único caminho positivo exige colaboração profunda entre esforços em IA e o processo democrático. Também acreditamos que nossa tecnologia vai introduzir novos riscos no mundo, e queremos que as pessoas que defendem os Estados Unidos tenham as melhores ferramentas.
Nosso acordo inclui:
1. Arquitetura de implantação. Trata-se de uma implantação exclusivamente na nuvem, com uma camada de segurança operada por nós que inclui esses princípios e outros. Não estamos fornecendo ao DoW modelos "com barreiras desativadas" ou modelos sem treinamento de segurança, nem implantando nossos modelos em dispositivos de borda (onde poderia haver a possibilidade de uso em armas letais autônomas).
Nossa arquitetura de implantação permitirá que verifiquemos de forma independente que essas linhas vermelhas não sejam ultrapassadas, inclusive executando e atualizando classificadores.
2. Nosso contrato. Aqui está o trecho relevante:
O Departamento de Guerra pode usar o Sistema de IA para todos os fins lícitos, de acordo com a legislação aplicável, requisitos operacionais e protocolos de segurança e supervisão bem estabelecidos. O Sistema de IA não será usado para direcionar de forma independente armas autônomas em qualquer caso em que lei, regulamento ou política do Departamento exija controle humano, nem será usado para assumir outras decisões de alto impacto que exijam aprovação de um tomador de decisão humano sob as mesmas autoridades. De acordo com a Diretiva 3000.09 do DoD (datada de 25 de janeiro de 2023), qualquer uso de IA em sistemas autônomos e semiautônomos deve passar por rigorosa verificação, validação e testes para garantir que funcionem conforme o esperado em ambientes realistas antes da implantação.
Para atividades de inteligência, qualquer tratamento de informações privadas cumprirá a Quarta Emenda, o National Security Act de 1947 e o Foreign Intelligence and Surveillance Act de 1978, a Ordem Executiva 12333 e as diretivas aplicáveis do DoD que exigem um propósito definido de inteligência estrangeira. O Sistema de IA não deve ser usado para o monitoramento irrestrito de informações privadas de pessoas dos EUA, conforme essas autoridades. O sistema também não deve ser usado para atividades domésticas de aplicação da lei, exceto conforme permitido pelo Posse Comitatus Act e por outras leis aplicáveis.
3. Envolvimento de especialistas em IA. Teremos engenheiros da OpenAI com credencial de segurança alocados em campo ajudando o governo, com pesquisadores de segurança e alinhamento (também credenciados) participando do processo.
Por que estamos fazendo isso?
Primeiro, acreditamos que os militares dos EUA precisam absolutamente de modelos de IA robustos para apoiar sua missão, especialmente diante de ameaças crescentes de potenciais adversários que vêm integrando tecnologias de IA cada vez mais aos seus sistemas. No início, não entramos de imediato em um contrato para implantação em ambiente classificado, pois não achávamos que nossas salvaguardas e sistemas estivessem prontos, e temos trabalhado duro para garantir que uma implantação em ambiente classificado possa acontecer com salvaguardas que assegurem que as linhas vermelhas não sejam cruzadas.
Não estávamos — e não estamos — dispostos a remover salvaguardas técnicas essenciais para melhorar o desempenho em trabalhos de segurança nacional. Essa não é a abordagem correta para apoiar as forças armadas dos EUA.
Segundo, também queríamos reduzir a escalada de tensões entre o DoW e os laboratórios de IA dos EUA. Um bom futuro vai exigir colaboração real e profunda entre o governo e os laboratórios de IA. Como parte do nosso acordo, pedimos que os mesmos termos fossem disponibilizados a todos os laboratórios de IA e, especificamente, que o governo tentasse resolver a situação com a Anthropic; o estado atual é uma forma muito ruim de iniciar esta próxima fase de colaboração entre o governo e os laboratórios de IA.
Por que vocês conseguiram chegar a um acordo quando a Anthropic não conseguiu? Vocês assinaram um acordo que eles não assinariam?
Com base no que sabemos, acreditamos que nosso contrato oferece garantias melhores e salvaguardas mais responsáveis do que acordos anteriores, incluindo o contrato original da Anthropic. Achamos que nossas linhas vermelhas são mais aplicáveis aqui porque a implantação é limitada exclusivamente à nuvem (não na borda), mantém nossa camada de segurança funcionando da forma que consideramos melhor e mantém pessoal da OpenAI com credencial de segurança participando do processo.
Não sabemos por que a Anthropic não conseguiu chegar a este acordo, e esperamos que ela e mais laboratórios considerem fazê-lo.
Vocês acham que a Anthropic deveria ser designada como um "risco à cadeia de suprimentos"?
Não, e deixamos nossa posição sobre isso clara para o governo.
Este acordo permitirá que o Departamento de Guerra use modelos da OpenAI para alimentar armas autônomas?
Não. Com base na nossa camada de segurança, na implantação exclusivamente em nuvem, no texto do contrato e nas leis, regulações e políticas existentes, temos confiança de que isso não pode acontecer. Também teremos pessoal da OpenAI participando do processo para dar garantia adicional.
Este acordo permitirá que o Departamento de Guerra use modelos da OpenAI para realizar vigilância em massa sobre pessoas dos EUA?
Não. Com base na nossa camada de segurança, no texto do contrato e nas leis existentes que restringem fortemente o DoW de fazer vigilância doméstica, temos confiança de que isso não pode acontecer. Também teremos pessoal da OpenAI participando do processo para dar garantia adicional.
Vocês precisam implantar modelos sem uma camada de segurança?
Não, mantemos controle total sobre a camada de segurança que implantamos e não faremos a implantação sem barreiras de segurança. Além disso, nossos pesquisadores de segurança e alinhamento participarão do processo e ajudarão a melhorar os sistemas ao longo do tempo. Sabemos que outros laboratórios de IA reduziram as barreiras dos modelos e passaram a depender principalmente de políticas de uso como salvaguarda principal, mas achamos que nossa abordagem em camadas protege melhor contra uso inaceitável.
O que acontece se o governo violar os termos do contrato?
Como em qualquer contrato, podemos rescindi-lo se a outra parte violar os termos. Não esperamos que isso aconteça.
E se o governo simplesmente mudar a lei ou as políticas atuais do DoW?
Nosso contrato faz referência explícita às leis e políticas sobre vigilância e armas autônomas como elas existem hoje, para que, mesmo que essas leis ou políticas mudem no futuro, o uso dos nossos sistemas ainda tenha que permanecer alinhado aos padrões atuais refletidos no acordo.
Como vocês respondem aos argumentos que a Anthropic apresentou no post do blog dela (abre em uma nova janela)sobre a discussão com o DoW?
No post, a Anthropic afirma duas de suas linhas vermelhas (temos as mesmas duas linhas vermelhas, além de uma terceira: decisões automatizadas de alto impacto) e explica por que não acredita que essas linhas vermelhas seriam mantidas nos contratos que havia visto do DoW naquela época. A seguir, explicamos por que acreditamos que essas mesmas linhas vermelhas se sustentam no nosso contrato:
- Vigilância doméstica em massa. Ficou claro na nossa interação que o DoW considera ilegal a vigilância doméstica em massa e não planejava usar isso para esse fim. Garantimos que o fato de isso não estar coberto como uso lícito ficasse explícito no nosso contrato.
- Armas totalmente autônomas. A superfície de implantação em nuvem coberta no nosso contrato não permitiria alimentar armas totalmente autônomas, já que isso exigiria implantação na borda.
Além dessas proteções, nosso contrato oferece salvaguardas adicionais em camadas, incluindo nossa camada de segurança e especialistas técnicos da OpenAI participando do processo.
