Responder à próxima fronteira das capacidades cibernéticas críticas

A cibersegurança está a mudar rapidamente à medida que os modelos se tornam mais capazes, podendo tanto reforçar as defesas cibernéticas como viabilizar ataques a uma velocidade e escala sem precedentes.

As nossas mais recentes avaliações internas do Astra, um dos nossos próximos modelos, realizadas nos últimos dias, indicam avanços significativos na programação agêntica e na cibersegurança. Estes resultados, juntamente com avaliações de especialistas, levaram-nos a concluir ontem à noite que não podemos excluir a existência de capacidades cibernéticas críticas segundo o nosso Preparedness Framework⁠(abre numa nova janela).

Partilhamos esta informação porque consideramos importante ser transparentes com o público e com as comunidades de segurança e proteção sobre esta potencial mudança de capacidades.

Publicámos pela primeira vez o nosso Preparedness Framework em dezembro de 2023, muito antes de os modelos se aproximarem deste nível de capacidades nos domínios biológico, químico, da cibersegurança e do autoaperfeiçoamento da IA. Criámo-lo para nos orientar na identificação dos avanços nas capacidades e no planeamento das medidas a tomar pela nossa empresa à medida que essas capacidades surgissem. Os modelos anteriores, incluindo o GPT‑5.6‑Sol, foram avaliados quanto a capacidades cibernéticas de fronteira e classificados no limiar Elevado (em vez de Crítico).

Segundo o nosso Preparedness Framework, um modelo atinge o limiar Crítico de cibersegurança se conseguir identificar e desenvolver exploits funcionais de dia zero, de todos os níveis de gravidade, em muitos sistemas críticos reais e robustecidos, sem intervenção humana, ou conceber e executar, de ponta a ponta, novas estratégias de ciberataque contra alvos robustecidos, recebendo apenas um objetivo geral. 

Embora continuemos a testar e avaliar este modelo, as nossas avaliações preliminares indicam um desempenho suficientemente forte para que, neste momento, não possamos excluir um nível de capacidade Crítico. O Astra é um modelo futuro e não esteve envolvido na exploração de vulnerabilidades da Hugging Face. 

Por conseguinte, intensificámos os testes de robustez das nossas salvaguardas e controlos de segurança, para garantir que são adequados à disponibilização destas capacidades. Internamente, tomámos também as seguintes medidas para garantir que o desenvolvimento deste modelo prossiga de forma segura e protegida: 

• Estamos a implementar controlos de segurança mais rigorosos para modelos com capacidades superiores e para as atividades associadas, incluindo ambientes de teste isolados, acesso restrito à rede e a ferramentas, maior proteção e encriptação dos pesos dos modelos, capacidades adicionais de monitorização e deteção e execução em ambientes isolados.
• Estamos a suspender as atividades internas que envolvem o Astra e que ainda não cumprem estes requisitos reforçados de controlo de segurança.
• Implementámos monitorização generalizada de ações de risco e de desalinhamento em todas as aplicações agênticas do Astra, incluindo durante o treino e a avaliação. Os monitores avaliam a Cadeia de Pensamento do modelo e acionam uma resposta de segurança para analisar e interromper atividades de alto risco.
• Colaboraremos com as entidades governamentais relevantes e com organizações selecionadas de segurança da IA para testar as capacidades deste modelo.
• Forneceremos aos parceiros de testes externos controlos de segurança recomendados para realizarem avaliações e executarem cargas de trabalho de maior risco em segurança. 

O Preparedness Framework já nos orientou noutras transições de capacidades. Em junho de 2025, quando os nossos modelos se aproximaram do limiar de capacidade Elevado no domínio da biologia segundo o Preparedness Framework, descrevemos as medidas que estávamos a tomar para reforçar as salvaguardas, alargar os testes, colaborar com especialistas externos e implementar controlos de segurança adicionais. Estamos a aplicar aqui o mesmo princípio.

Acreditamos que os modelos avançados com capacidades cibernéticas devem ajudar os defensores a identificar e corrigir vulnerabilidades antes dos atacantes. Estamos empenhados em colaborar com governos, institutos de segurança e a sociedade civil para garantir que as capacidades de fronteira de modelos como o Astra, e dos que se lhe seguirem, sejam disponibilizadas de forma responsável e abrangente, em benefício de toda a humanidade.