Parceria com a Hacktron para identificar vulnerabilidades nos sistemas da OpenAI
Hoje anunciamos uma parceria com a Hacktron para identificar vulnerabilidades nos sistemas da OpenAI. Os nossos engenheiros e os investigadores de segurança da Hacktron vão selecionar áreas prioritárias para testar em conjunto, com especial atenção à forma como os nossos sistemas interagem com serviços de terceiros. No âmbito desta parceria, vamos alargar o acesso da Hacktron aos nossos modelos de fronteira através do Daybreak Red.
Ao mesmo tempo que trabalhamos para acelerar a ciberdefesa com IA de fronteira, dedicamo-nos com a mesma urgência a identificar e corrigir vulnerabilidades nos nossos próprios sistemas. No início desta semana, anunciámos que os investigadores da Cathedral vão trabalhar com as nossas equipas no nosso próximo sprint de segurança. Também aumentámos as recompensas por deteção de vulnerabilidades para dar aos investigadores independentes mais incentivos para procurar vulnerabilidades que possam ter escapado aos nossos próprios testes.
Conhecemos a Hacktron através do nosso programa de recompensas por deteção de vulnerabilidades de segurança e ficámos impressionados com o impacto das vulnerabilidades que os seus investigadores descobriram e nos comunicaram. A equipa desenvolve agentes de IA para revisão de código, testes de intrusão e red teaming. A sua investigação(abre numa nova janela) revelou vulnerabilidades na forma como as aplicações, as infraestruturas na nuvem e os sistemas de identidade interagem. O seu trabalho mostra o que é possível quando os engenheiros de segurança desenvolvem soluções assentes em IA para avançar mais depressa e realizar investigação mais ambiciosa.
À medida que os agentes de IA ligam serviços de novas formas, esta combinação de competências torna-se ainda mais valiosa. Trabalhar com a Hacktron vai ajudar-nos a testar essas ligações mais a fundo e a usar o que aprendermos para reforçar as nossas defesas.
Agradecemos à Hacktron e aos restantes investigadores independentes que dedicam tempo a identificar e comunicar falhas, ajudando a reforçar a segurança que protege todos os nossos utilizadores. Para saber quais os sistemas abrangidos ou comunicar uma descoberta, visite o nosso programa de recompensas por deteção de vulnerabilidades de segurança(abre numa nova janela).
