Como a Block reforça a segurança com tecnologia de IA da OpenAI

Na Block, a empresa por detrás da Square, da Cash App e da Afterpay, a equipa de segurança recorre à OpenAI Defense Factory: um sistema em que a IA trata da descoberta de vulnerabilidades, da deteção e da resposta a uma escala que nenhuma equipa humana conseguiria acompanhar. Com sistemas de IA como o OpenAI Daybreak, a Block realiza em poucas horas trabalho que antes demorava semanas.

A equipa de segurança da Block tem-se concentrado na adoção responsável da IA nos seus fluxos de trabalho, seja na geração de código ou nas operações de segurança. «O essencial é ter um novo colega de equipa que nos permita aumentar a nossa capacidade», afirma James Nettesheim, diretor de Segurança da Informação. «Não é como a automatização mais tradicional, em que tínhamos de avançar passo a passo. Podemos apresentar-lhe um problema bastante específico e ambíguo num prompt e resolvê-lo em conjunto.»

Projetos como analisar um erro de software ou um registo demoravam dias ou semanas a concluir. Agora, a equipa consegue concluir esses projetos numa fração do tempo, mantendo a validação de todos os resultados por uma pessoa.

Por exemplo, para afinar a deteção, cada investigação guarda os dados brutos das consultas que lhe serviram de base. Assim, a equipa pode agora testar uma proposta de alteração à deteção com sete meses de telemetria de produção em menos de uma hora. Antes, esse trabalho implicava repetir manualmente as consultas de centenas de casos antigos e, na prática, raramente era feito por ser tão moroso.

A equipa também passou a ser mais criteriosa na escolha do modelo para cada tarefa. «Antes usávamos o modelo mais recente, mas isso já não é necessário», afirma. «Escolher modelos diferentes para tarefas diferentes tem sido uma aprendizagem.» O harness de segurança da Block foi desenvolvido com base no Daybreak para ajudar a encaminhar as tarefas para o modelo adequado e inclui mecanismos que permitem às pessoas assumir tarefas ou aos agentes verificar o trabalho uns dos outros. A equipa avalia continuamente estes sistemas com base em testes de referência internos e no desempenho em situações reais, ajustando a sua abordagem quando necessário, incluindo o encaminhamento do trabalho para revisão humana quando essa é a opção responsável.

O sistema de triagem automatizada permitiu realizar mais trabalho e com maior rapidez. A equipa de segurança da Block registou um aumento de 50% na taxa de processamento da triagem, um aumento de 50% na recolha de informações e nas investigações, e ganhou uma capacidade inteiramente nova de procura autónoma de ameaças. Nettesheim afirma: «Este sistema realiza o equivalente a cerca de 1100 horas de investigação de analistas por trimestre, porque cada alerta passa agora por uma investigação completa e aprofundada de todos os elementos envolvidos. O nosso sistema trata cada alerta como se fosse o único que recebêssemos nesse dia.»

As ferramentas tradicionais de análise assinalam uma vulnerabilidade isolada, mas a equipa de segurança da Block consegue ir muito mais longe com o Daybreak. O modelo ajuda a formular hipóteses sobre padrões de ataque e a encadear uma série de ataques num percurso completo de comprometimento, revelando vulnerabilidades que podem existir há anos.

Num dos casos, um alerta num único portátil parecia, por si só, uma pequena infração às políticas. Mas, durante a revisão por pares, o modelo seguiu um indicador que surgia apenas de forma incidental nos dados recolhidos, cruzou-o com os registos de identidade da Block e revelou um conjunto de problemas muito maior. «Um alerta de rotina num endpoint levou ao desmantelamento de uma campanha de ataque. Nenhuma ferramenta faz esse cruzamento por si só. O sinal só é visível quando se cruzam os registos de dois produtos», afirma James.

Outro exemplo da ajuda do Daybreak ocorreu durante um exercício recente de red teaming. O modelo recebeu algumas pistas sobre um sistema interno e, em cerca de duas horas, encadeou um percurso de ataque completo: injeção de SQL, escalada de privilégios, estabelecimento de um ponto de acesso, enumeração de credenciais e passagem para outros sistemas. Normalmente, um especialista humano em red teaming demoraria vários dias a fazê-lo. Em exercícios recentes de red teaming, decorreram 18 minutos entre a comunicação de uma vulnerabilidade em termos gerais e uma proposta de correção automatizada.

Encontrar vulnerabilidades só é útil se for possível corrigi-las. Nettesheim descreve o processo que a sua equipa segue para cada descoberta: localizar o problema no código e identificar quem é responsável por ele, passando depois à correção. «Propõe-se uma correção, confirma-se que a vulnerabilidade pode ser explorada e, depois, verifica-se se foi corrigida, com uma pessoa a orientar o processo e a implementar as alterações ao código.»

Embora tenham capacidade técnica, os agentes não conhecem o contexto de uma organização nem o raciocínio por detrás de decisões anteriores. É uma pessoa que fornece esse contexto e essa estratégia, e é aí que a sua equipa intervém para assegurar a revisão humana. À medida que a capacidade de decisão da IA se comprovar na prática, Nettesheim afirma: «Vamos aumentar gradualmente o nível de risco para a utilizar em sistemas mais sensíveis.»

• Menos de uma hora para testar uma proposta de alteração à deteção com sete meses de telemetria.

• 18 minutos entre a comunicação de uma vulnerabilidade em termos gerais e uma proposta de correção automatizada em exercícios recentes de red teaming.

• Cerca de 600 horas de trabalho de triagem de falsos positivos devolvidas aos analistas por trimestre.

• O equivalente a cerca de 1100 horas de investigação de analistas realizadas por trimestre.

• Aumento de 50% na taxa de processamento da triagem.

• Aumento de 50% na recolha de informações e nas investigações.

Só o trabalho de deteção e resposta já devolveu aos analistas cerca de 600 horas por trimestre, antes dedicadas à triagem de falsos positivos. Com esse tempo recuperado, a equipa dedica-se agora mais a investigações aprofundadas e ao desenvolvimento responsável de mais automatização.

À medida que o ritmo dos ataques aumenta e os modelos de IA continuam a evoluir, Nettesheim vê uma oportunidade para reduzir, logo à partida, o número de vulnerabilidades introduzidas. Isso permitiria às equipas de segurança dedicar menos tempo a correções e mais a trabalho preventivo e estratégico.

«A OpenAI está a dar vantagem a quem defende ao colocar estas capacidades avançadas ao alcance de todos», afirma. «Normalmente, só as empresas tecnológicas de grande destaque e os governos tinham acesso a estas capacidades. Mas agora todos, incluindo infraestruturas críticas, escolas e pequenas empresas, podem começar a utilizar esta tecnologia para defender as suas redes.»