Cómo Block desarrolla la seguridad con tecnología de IA de OpenAI

En Block, la empresa detrás de Square, Cash App y Afterpay, el equipo de seguridad aprovecha OpenAI Defense Factory, donde la IA se encarga del descubrimiento de vulnerabilidades, la detección y la respuesta a una escala que ningún equipo humano podría alcanzar. Con sistemas de IA como OpenAI Daybreak, Block realiza en apenas unas horas un trabajo que antes llevaba semanas.

El equipo de seguridad de Block se ha centrado en adoptar la IA de forma responsable en sus flujos de trabajo, desde la generación de código hasta las operaciones de seguridad. «La clave es contar con un nuevo compañero de equipo que te permita ampliar tu capacidad de trabajo», afirma James Nettesheim, director de seguridad de la información. «No es como la automatización más tradicional, en la que tenías que ir paso a paso. Puedes plantearle un problema bastante específico y ambiguo y resolverlo juntos».

Tareas como revisar un error de software o analizar un registro llevaban días o semanas. Ahora el equipo puede completarlas en una fracción de ese tiempo, sin dejar de contar con una persona que valide cada resultado.

Por ejemplo, para ajustar la detección, cada investigación conserva las pruebas sin procesar de sus consultas. Así, el equipo puede probar un cambio propuesto en la detección con siete meses de telemetría de producción en menos de una hora. Antes, ese trabajo exigía volver a consultar manualmente cientos de casos antiguos y, en la práctica, rara vez se hacía porque llevaba demasiado tiempo.

El equipo también ha afinado la selección del modelo que utiliza para cada tarea. «Antes usábamos el modelo más reciente, pero ya no hace falta», afirma. «Elegir distintos modelos para distintas tareas ha sido todo un aprendizaje». El arnés de seguridad de Block se ha desarrollado sobre Daybreak para ayudar a asignar cada tarea al modelo adecuado, e incluye mecanismos para que las personas asuman el control de las tareas o los agentes verifiquen el trabajo de otros agentes. El equipo evalúa continuamente estos sistemas con pruebas de referencia internas y según su rendimiento en situaciones reales, y ajusta su enfoque cuando es necesario. Esto incluye derivar el trabajo a una revisión humana cuando es la opción responsable.

El sistema automatizado de clasificación y priorización de alertas ha permitido realizar más trabajo en menos tiempo. El equipo de seguridad de Block ha registrado un aumento del 50 % en el rendimiento de la clasificación y priorización de alertas, un incremento del 50 % en la recopilación de inteligencia y las investigaciones, y una capacidad totalmente nueva de búsqueda autónoma de amenazas. Nettesheim explica: «Esto equivale a unas 1100 horas de investigación de analistas por trimestre, porque ahora cada alerta recibe una investigación completa y exhaustiva de todos los elementos implicados. Nuestro sistema trata cada alerta como si fuera la única que tenemos ese día».

Las herramientas de análisis tradicionales señalan vulnerabilidades aisladas, pero el equipo de seguridad de Block puede ir mucho más allá con Daybreak. El modelo ayuda a formular hipótesis sobre patrones de ataque y a encadenar una serie de ataques hasta trazar una vía completa para comprometer un sistema, lo que revela vulnerabilidades que podrían llevar años presentes.

En un caso, una alerta en un único portátil parecía, por sí sola, un problema menor relacionado con las políticas. Pero durante la revisión por pares, el modelo siguió un indicador que solo aparecía de forma incidental entre las pruebas, lo cruzó con los registros de identidad de Block y descubrió un conjunto de problemas mucho mayor. «Una alerta rutinaria en un punto de acceso acabó permitiendo desmantelar una campaña de ataques. Ninguna herramienta por sí sola establece esa conexión. La señal solo aparece al cruzar los registros de dos productos», explica James.

Otro ejemplo de la ayuda que ofrece Daybreak se produjo durante un ejercicio reciente de red teaming. Se dieron al modelo unas pocas pistas sobre un sistema interno y, en unas dos horas, encadenó una ruta de ataque completa: inyección SQL, escalada de privilegios, establecimiento de un punto de apoyo, enumeración de credenciales y salto a otros sistemas. Normalmente, un especialista humano en red teaming tardaría varios días en hacerlo. En ejercicios recientes de red teaming, transcurrieron 18 minutos desde la presentación de una descripción general de una vulnerabilidad hasta la propuesta automatizada de un parche.

Encontrar vulnerabilidades solo es útil en la medida en que se puedan corregir. Nettesheim describe el proceso que sigue su equipo con cada hallazgo: localizar el problema en el código e identificar a la persona responsable para pasar después a corregirlo. «Propones un parche, confirmas que la vulnerabilidad puede explotarse y luego verificas que la has corregido, con una persona que guía el proceso y despliega los cambios en el código».

Aunque los agentes tienen capacidad técnica, no conocen el contexto de una organización ni los motivos de las decisiones anteriores. Una persona aporta ese contexto y esa estrategia, y ahí es donde interviene su equipo para añadir una revisión humana. A medida que el criterio de la IA se valide en la práctica, Nettesheim afirma que «iremos aumentando poco a poco el nivel de riesgo para utilizarla en sistemas más sensibles».

• Menos de una hora para probar un cambio propuesto en la detección con siete meses de telemetría.

• 18 minutos desde la presentación de una descripción general de una vulnerabilidad hasta la propuesta automatizada de un parche en ejercicios recientes de red teaming.

• Unas 600 horas de trabajo de analistas liberadas por trimestre de la clasificación de falsos positivos.

• Aproximadamente 1100 horas de investigación de analistas completadas por trimestre.

• Aumento del 50 % en el rendimiento de la clasificación y priorización de alertas.

• Incremento del 50 % en la recopilación de inteligencia y las investigaciones.

Solo en detección y respuesta, se han liberado unas 600 horas de trabajo de analistas por trimestre que antes se dedicaban a clasificar falsos positivos. Gracias a ese ahorro, el equipo dedica ahora más tiempo a investigaciones en profundidad y a desarrollar más automatizaciones de forma responsable.

A medida que aumenta el ritmo de los ataques y los modelos de IA siguen avanzando, Nettesheim ve una oportunidad para reducir desde el origen el número de vulnerabilidades que se introducen. Eso permitiría a los equipos de seguridad dedicar menos tiempo a aplicar parches y más al trabajo preventivo y estratégico.

«OpenAI está dando la ventaja a quienes defienden los sistemas al poner estas capacidades avanzadas al alcance de todo el mundo», afirma. «Por lo general, solo estaban en manos de empresas tecnológicas de gran relevancia y gobiernos. Pero ahora todo el mundo, incluidas las infraestructuras críticas, los centros educativos y las pequeñas empresas, puede empezar a utilizar esta tecnología para defender sus redes».