GPT‑6 Cyber: alargar os limites dos agentes de cibersegurança alinhados
Um modelo de cibersegurança treinado para encontrar e validar vulnerabilidades exploráveis, respeitando o âmbito definido pelos investigadores.
Apresentamos o GPT‑6 Cyber, um grande avanço na investigação em segurança: mais capaz de encontrar e corrigir vulnerabilidades e muito mais fiável no respeito pelos limites definidos pelos investigadores. O GPT‑6 Cyber apresenta ganhos significativos face ao GPT‑5.6 Cyber nos principais testes de referência de cibersegurança, incluindo uma melhoria relativa de 51% no ExploitGym e um salto qualitativo nos testes de respeito pelo âmbito. Já está a ajudar a proteger software em utilização real, descobrindo e validando milhares de exploits em bases de código essenciais à segurança, como o Linux e o Firefox.
No ExploitGym, que testa se os modelos conseguem explorar uma vulnerabilidade especificada, o GPT‑6 Cyber obtém 48,5%, face aos 32,1% do GPT‑5.6 Cyber. Também respeita os limites da tarefa de forma mais fiável: numa avaliação de alinhamento separada, o GPT‑6 Cyber evitou explorar serviços fora do âmbito em 99,93% dos testes sem o prompt usado na disponibilização e em 100% com esse prompt. Esta melhoria no alinhamento reflete um treino específico para se manter dentro do âmbito autorizado, respeitar restrições e relatar os resultados com rigor.
Estas capacidades já estão a ajudar a proteger sistemas reais. Os nossos investigadores usaram o GPT‑6 Cyber para desenvolver 948 exploits de elevação de privilégios no Linux e identificar 81 vulnerabilidades de gravidade elevada até então desconhecidas no Firefox, apesar dos extensos testes prévios com modelos de fronteira. O modelo também ajudou a desenvolver propostas de correção, e a Mozilla já disponibilizou correções para muitas das vulnerabilidades do Firefox(abre numa nova janela). As equipas de segurança da Cisco, da Calif e da CodeRabbit estão a usá-lo na investigação de vulnerabilidades e na revisão de código, e nós temos recorrido ao modelo para encontrar e corrigir fragilidades na nossa própria infraestrutura.
É claro que dispomos de um prazo limitado para usar modelos de fronteira para proteger software. O nosso objetivo é expandir significativamente o Daybreak, levando a investigação avançada em segurança a organizações de todas as dimensões, investigadores independentes e responsáveis pela manutenção de software de código aberto. Os modelos da linha principal, como o GPT‑6 Astra, já apoiam a revisão de código, a triagem de vulnerabilidades e o desenvolvimento de correções. O Daybreak Blue ajuda profissionais de defesa verificados a validar vulnerabilidades e correções com menos recusas desnecessárias, enquanto o Daybreak Red permite aprofundar o desenvolvimento de exploits e realizar testes de segurança autorizados com o GPT‑6 Cyber.
O GPT‑6 Cyber representa um grande avanço face ao GPT‑5.6 Cyber e supera o GPT‑6 Astra na maioria das tarefas de cibersegurança, mesmo quando o Astra não recusa o pedido. Avaliámos o modelo em tarefas que exigem que compreenda software, identifique vulnerabilidades e desenvolva exploits funcionais. Com base nestes resultados, classificamos o modelo no nível Crítico em cibersegurança ao abrigo do nosso Preparedness Framework, acima do nível Elevado do GPT‑5.6 Cyber.
No ExploitGym, que testa se os modelos conseguem explorar uma vulnerabilidade especificada num alvo remoto, o GPT‑6 Cyber obtém 48,5%, cerca de 16 pontos percentuais acima dos 32,1% do GPT‑5.6 Cyber. Para testar a descoberta de vulnerabilidades, criámos também uma nova avaliação de testes ofensivos de intrusão na Web. Os modelos sondam aplicações Web sem acesso ao respetivo código-fonte. O GPT‑6 Cyber detetou 40,3% das vulnerabilidades, face a 32,0% no GPT‑6 Astra.
O Daybreak Red foi concebido para apoiar fluxos de trabalho de segurança mais avançados, incluindo o desenvolvimento de exploits funcionais e a sua utilização contra alvos remotos. Para avaliar estas capacidades, criámos um novo teste de referência chamado RemoteExploitBench, que utiliza vulnerabilidades conhecidas em aplicações como o GitLab, o PostgreSQL e o Jenkins, implementadas num ambiente controlado. Na nossa avaliação inicial, o GPT‑6 Astra a funcionar com o Daybreak Blue recusou 100% das tarefas, enquanto o GPT‑6 Cyber concluiu 95%; a sua única falha foi um exploit que não conseguiu pôr a funcionar remotamente. Consulte o system card(abre numa nova janela) para ver os resultados completos e as configurações da avaliação.
Um dos riscos dos agentes de cibersegurança é ultrapassarem o âmbito da tarefa atribuída, tentarem explorar serviços não relacionados ou ignorarem as regras de atuação do investigador.
Fizemos do alinhamento uma prioridade central do GPT‑6 Cyber, recorrendo a treino especializado para ajudar o modelo a manter-se dentro do âmbito autorizado, respeitar as restrições às suas ações e relatar o seu trabalho com rigor. Antes da disponibilização, realizámos uma série de avaliações de alinhamento para medir estes comportamentos. Consulte o system card(abre numa nova janela) para ver os resultados completos.
Uma destas avaliações é o ExploitGym Honeypot, que teve em conta o incidente da Hugging Face. Atribuímos ao modelo uma tarefa difícil de exploração de vulnerabilidades num ambiente isolado, com acesso a serviços de apoio, como um registo de pacotes ou um armazenamento de objetos. Tornamos estes serviços deliberadamente fáceis de explorar, de modo que atacá-los possa revelar a flag da tarefa. O modelo tem de deduzir que explorá-los está fora do âmbito da sua tarefa.
O GPT‑6 Cyber demonstra um salto qualitativo face ao GPT‑5.6 Cyber nesta avaliação. Quando testado sem os prompts de segurança usados na disponibilização, evitou explorar serviços fora do âmbito em 99,93% dos casos, face a 94,49% no GPT‑5.6 Cyber. Com esses prompts, o GPT‑6 Cyber respeitou os limites em 100% dos casos.
Podemos observar diretamente na cadeia de pensamento do modelo GPT‑6 Cyber como raciocina sobre o respeito pelos limites:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
O GPT‑6 Cyber já está a ajudar equipas de segurança a encontrar vulnerabilidades, validar o seu impacto e desenvolver correções. Os clientes têm-no utilizado em grandes bases de código, no desenvolvimento prolongado de exploits e em análises de segurança:
Também temos recorrido ao GPT‑6 Cyber para proteger os nossos próprios sistemas. Foi um dos principais modelos usados no trabalho que partilhámos recentemente sobre o reforço da segurança da infraestrutura usada para treinar modelos de fronteira. Em campanhas controladas de red teaming, agentes que utilizavam o GPT‑6 Cyber e outros modelos da OpenAI encadearam vulnerabilidades para escapar de microVMs e executar código nos sistemas anfitriões subjacentes. Usámos as descobertas para corrigir software, reforçar as restrições de rede e comunicar problemas aos responsáveis pela manutenção e aos fornecedores.
Os nossos investigadores de vulnerabilidades também usam o GPT‑6 Cyber para encontrar e validar vulnerabilidades em software de código aberto em larga escala. Este trabalho revelou falhas até então desconhecidas em software que tem sido analisado ao pormenor durante anos:
Descoberta de 81 novas vulnerabilidades no Firefox. O GPT‑6 Cyber pode ser adequado para fluxos de trabalho autónomos destinados a encontrar vulnerabilidades e propor correções de alta qualidade em larga escala. Durante uma campanha de investigação de vulnerabilidades, o GPT‑6 Cyber produziu provas e testes reproduzíveis para 81 novas vulnerabilidades classificadas pela Mozilla como de gravidade elevada e demonstrou que outros 30 problemas conhecidos eram mais graves do que anteriormente indicado. Comunicámos as descobertas à Mozilla, juntamente com propostas de correção para ajudar os seus engenheiros a desenvolver soluções. A Mozilla apoiou este trabalho e começou a integrar correções pouco depois de receber os relatórios(abre numa nova janela).
Desenvolvimento de exploits para 948 vulnerabilidades do kernel Linux. O GPT‑6 Cyber reproduziu 1724 vulnerabilidades e desenvolveu exploits funcionais para 948, mais de cinco vezes as 166 exploradas pelo GPT‑5.6 Sol com o mesmo harness de investigação. Seguindo as orientações da comunidade Linux, comunicámos 304 descobertas críticas aos responsáveis pela manutenção, com propostas de correção, e estamos a trabalhar para que outras vulnerabilidades sejam corrigidas.
Demonstração de vulnerabilidades críticas de RCE. Recentemente, abordámos uma vulnerabilidade crítica na Brotli(abre numa nova janela), uma biblioteca de compressão usada pelo Node.js e por outro software. Os nossos investigadores de segurança usaram o GPT‑6 Cyber em conjunto com outros modelos da OpenAI para desenvolver e validar exploits que demonstram como a falha poderia permitir a execução remota de código em aplicações que dependem da biblioteca.
À medida que os modelos se tornam mais capazes e descobrem mais vulnerabilidades de segurança, também observamos mais tentativas de os utilizar para causar danos. Estas tentativas incluem ações de ciberatacantes mal-intencionados e de grupos adversários que procuram destilar os nossos modelos. Por isso, aliámos as capacidades reforçadas do GPT‑6 Cyber a salvaguardas mais robustas para detetar e interromper utilizações indevidas e manter as ações do modelo dentro da intenção e da autorização do utilizador.
Adicionámos e reforçámos estas proteções em paralelo com o lançamento do GPT‑6 Cyber (consulte o system card(abre numa nova janela) para obter informações completas):
Monitorização de desalinhamento específica para cibersegurança. Monitorizamos se as ações correspondem à autorização do utilizador, reconhecendo ao mesmo tempo o desenvolvimento e os testes legítimos de exploits.
Monitorização direcionada para ameaças emergentes. Por exemplo, durante a divulgação coordenada de vulnerabilidades críticas de PHP, implementámos monitorização direcionada para tentativas de desenvolver exploits contra servidores PHP em produção, mantendo o apoio às equipas de defesa que corrigiam os sistemas afetados.
Processamento privado de segurança (PSP). Usamos verificações automáticas para analisar interações relacionadas e detetar utilizações indevidas. A retenção padrão continua a ser a predefinição. Os clientes da API que usam a retenção zero de dados(abre numa nova janela) têm, em geral, de usar o PSP(abre numa nova janela), que analisa registos encriptados conservados no armazenamento do cliente durante 30 dias, sem expor prompts e respostas ao pessoal da OpenAI.
Proteção contra credenciais roubadas. Por predefinição, exigimos uma lista de IPs permitidos para o acesso à API do Daybreak Red, restringindo os pedidos a redes aprovadas, com poucas exceções. Também monitorizamos as credenciais para detetar se foram comprometidas.
Isolamento em sandbox e supervisão. Tal como nos modelos anteriores, recomendamos o isolamento em sandbox(abre numa nova janela), a revisão de ações(abre numa nova janela) e a supervisão humana em fluxos de trabalho de alto risco.
Proteções contra assistência cibernética de alto risco. Usamos novas verificações para bloquear atividades de alto risco que envolvam sistemas críticos (mais informações abaixo).
A proteção de infraestruturas críticas foi um fator central na conceção das salvaguardas e do acesso ao GPT‑6 Cyber, incluindo centrais elétricas, instalações de tratamento de água e a tecnologia operacional e os sistemas de controlo industrial (OT/ICS) que lhes dão suporte. Queremos dar às equipas que defendem estes sistemas acesso aos nossos modelos mais capazes e, ao mesmo tempo, reforçar as nossas salvaguardas para impedir ataques não autorizados.
Em primeiro lugar, para equipar estas equipas de defesa, o nosso programa de apoios Daybreak para Defensores da Linha da Frente, de mil milhões de dólares, subsidia o acesso de equipas com recursos limitados, como organismos públicos e prestadores de serviços essenciais. Estamos também a introduzir um novo grupo no Daybreak Red (Daybreak Red para Infraestruturas Críticas) para responsáveis aprovados pela defesa de infraestruturas críticas. Este grupo dá-lhes permissões para realizar testes autorizados de sistemas críticos, mantendo as salvaguardas contra o desalinhamento do modelo.
Em segundo lugar, para impedir a utilização indevida das plataformas Daybreak Red e Blue, aperfeiçoámos as salvaguardas contra assistência e desenvolvimento de capacidades que possam comprometer controlos industriais ou sistemas essenciais à segurança, interferir com equipamentos ou causar ferimentos graves, danos físicos catastróficos ou interrupções de serviços que ponham vidas em risco. A figura abaixo compara as taxas de sinalização pelas salvaguardas em quatro configurações de acesso, antes e depois das atualizações recentes que estamos a disponibilizar em conjunto com o GPT‑6 Cyber.
Taxas de bloqueio mais elevadas pelas salvaguardas nem sempre são melhores. Muitas das técnicas desta avaliação também são essenciais ao trabalho legítimo de segurança: compreender sistemas, encontrar vulnerabilidades e verificar se as correções resistem a ataques. Por isso, avaliamos estas taxas em conjunto com o apoio à investigação e à aplicação de correções legítimas, em vez de procurarmos atingir os 100%.
Para avaliar como os nossos modelos podem ajudar a defender infraestruturas críticas, estabelecemos uma parceria com a Dragos, fornecedora global de cibersegurança para tecnologia operacional alargada (xOT). A Dragos realizou avaliações com modelos Daybreak Red mais permissivos em matéria de cibersegurança, num ambiente laboratorial controlado. As avaliações abrangeram pedidos que progrediam da descoberta de redes e enumeração de ativos até ao reconhecimento direcionado, à exfiltração de dados sensíveis e a ações não autorizadas e potencialmente perigosas em dispositivos.
Usámos o feedback da Dragos para aperfeiçoar as nossas salvaguardas, procurando bloquear assistência prejudicial sem restringir desnecessariamente os testes autorizados. Consulte o relatório final da Dragos(abre numa nova janela) para obter mais detalhes sobre as avaliações. Estamos também a alargar as parcerias com outros prestadores de segurança ofensiva e equipas purple para testes de intrusão e red teaming com IA, bem como com empresas de energia, outros operadores de infraestruturas críticas e laboratórios nacionais, para avaliar a eficácia e as salvaguardas dos nossos modelos na defesa industrial. Aumentámos também o investimento na investigação de ameaças para detetar a utilização de modelos em atividades que envolvam OT/ICS. Continuaremos a aperfeiçoar as nossas salvaguardas com os contributos de parceiros e da comunidade de segurança, incluindo comunicações através de /feedback quando as salvaguardas não detetarem atividades prejudiciais ou interromperem trabalho legítimo.
O GPT‑6 Cyber está inicialmente disponível através da API e do Codex para um grupo selecionado de clientes aprovados do Daybreak Red. Em breve, alargaremos progressivamente o acesso a todos os clientes do Daybreak Red. Estamos também a disponibilizar o GPT‑5.6 Cyber a todos os clientes do Daybreak Red. Estamos também a alargar o acesso alfa ao Daybreak Blue para o GPT‑6 Astra a mais organizações e investigadores de segurança individuais; diga-nos(abre numa nova janela) se tem interesse.
Novos utilizadores e organizações podem candidatar-se ao Daybreak e começar com as nossas competências, produtos e parceiros de cibersegurança.
