Respondendo à nova fronteira das capacidades cibernéticas críticas

A segurança cibernética está mudando rapidamente à medida que os modelos se tornam mais capazes, o que pode tanto fortalecer as defesas cibernéticas quanto viabilizar ataques em velocidade e escala sem precedentes.

Nossas avaliações internas mais recentes do Astra, um de nossos próximos modelos, realizadas nos últimos dias, indicam avanços significativos em programação agêntica e segurança cibernética. Esses resultados, somados às avaliações de especialistas, nos levaram a concluir ontem à noite que não podemos descartar capacidades cibernéticas críticas segundo nosso Preparedness Framework⁠(abre em uma nova janela).

Estamos divulgando isso porque acreditamos que é importante agir com transparência perante o público e as comunidades de proteção e segurança sobre essa possível mudança nas capacidades.

Publicamos nosso Preparedness Framework pela primeira vez em dezembro de 2023, bem antes de os modelos se aproximarem desse nível de capacidade nas áreas de biologia, química, segurança cibernética e autoaperfeiçoamento da IA. Nós o criamos para orientar a identificação de avanços nas capacidades e o planejamento das medidas que nossa empresa adotaria à medida que elas surgissem. Modelos anteriores, incluindo o GPT‑5.6‑Sol, foram avaliados quanto a capacidades cibernéticas de fronteira e classificados no limiar Alto, e não no Crítico.

Segundo nosso Preparedness Framework, um modelo atinge o limiar Crítico de segurança cibernética se conseguir identificar e desenvolver exploits zero-day funcionais de todos os níveis de gravidade em muitos sistemas críticos reais e reforçados, sem intervenção humana, ou conceber e executar, do início ao fim, novas estratégias de ataques cibernéticos contra alvos reforçados, recebendo apenas um objetivo geral. 

Enquanto continuamos a testar e avaliar esse modelo, nossas avaliações preliminares indicam um desempenho suficientemente forte para que, neste momento, não possamos descartar o nível de capacidade Crítico. O Astra é um modelo futuro e não esteve envolvido na exploração do Hugging Face. 

Por isso, ampliamos os testes de robustez de nossas salvaguardas e controles de segurança, para que sejam adequados à implantação dessas capacidades. Internamente, também adotamos as seguintes medidas para que o desenvolvimento desse modelo prossiga de forma segura: 

• Estamos implementando controles de segurança mais rigorosos para modelos de maior capacidade e atividades relacionadas, incluindo ambientes de teste isolados, acesso restrito a redes e ferramentas, proteções reforçadas e criptografia dos pesos do modelo, recursos adicionais de monitoramento e detecção e execução em ambientes isolados.
• Estamos suspendendo atividades internas que envolvem o Astra e que ainda não atendem a esses requisitos reforçados de controle de segurança.
• Implementamos monitoramento universal de ações de risco e desalinhamento em todas as aplicações com agentes de IA do Astra, incluindo treinamento e avaliação. Os monitores avaliam a Cadeia de Pensamento do modelo e acionam uma resposta de segurança para analisar e interromper atividades de alto risco.
• Trabalharemos com órgãos governamentais relevantes e organizações selecionadas de segurança da IA para testar as capacidades desse modelo.
• Forneceremos controles de segurança recomendados a parceiros externos de testes para que realizem avaliações e cargas de trabalho de maior risco com segurança. 

O framework já nos orientou em outras transições de capacidade. Em junho de 2025, quando nossos modelos se aproximaram do limiar Alto de capacidade em biologia segundo o Preparedness Framework, detalhamos as medidas que estávamos adotando para reforçar salvaguardas, ampliar os testes, trabalhar com especialistas externos e implantar controles de segurança adicionais. Estamos aplicando o mesmo princípio aqui.

Acreditamos que modelos avançados com capacidades cibernéticas devem ajudar os defensores a identificar e corrigir vulnerabilidades antes dos invasores. Temos o compromisso de trabalhar em conjunto com governos, institutos de segurança e a sociedade civil para garantir que as capacidades de fronteira de modelos como o Astra — e dos que vierem depois — sejam implantadas de maneira responsável e ampla, em benefício de toda a humanidade.