Cómo Block crea seguridad con IA y tecnología de OpenAI

En Block, la empresa detrás de Square, Cash App y Afterpay, el equipo de seguridad aprovecha OpenAI Defense Factory: un entorno donde la IA se encarga del descubrimiento de vulnerabilidades, la detección y la respuesta a una escala que ningún equipo humano podría alcanzar. Con sistemas de IA como OpenAI Daybreak, Block realiza en apenas unas horas un trabajo que antes tomaba semanas.

El equipo de seguridad de Block se ha enfocado en adoptar la IA de forma responsable en todos sus flujos de trabajo, desde la generación de código hasta las operaciones de seguridad. "La idea central es tener un nuevo compañero de equipo que te permita ampliar tu capacidad", dice James Nettesheim, director de Seguridad de la Información. "No es como la automatización más tradicional, en la que tenías que ir paso a paso. Puedes plantearle un problema bastante particular y ambiguo, y resolverlo en conjunto".

Proyectos como revisar un error de software o analizar un registro tomaban días o semanas. Ahora, el equipo puede completar esos proyectos en una fracción del tiempo, siempre con una persona que valida cada resultado.

Por ejemplo, para ajustar la detección, cada investigación guarda la evidencia sin procesar de sus consultas. Así, el equipo ahora puede probar un cambio propuesto en la detección con siete meses de telemetría de producción en menos de una hora. Antes, ese trabajo implicaba volver a consultar cientos de casos antiguos de forma manual y, en la práctica, rara vez se hacía porque consumía demasiado tiempo.

El equipo también se ha vuelto más selectivo a la hora de elegir qué modelo usar para cada tarea. "Antes usábamos el modelo más reciente, pero eso ya no es necesario", dice. "Elegir distintos modelos para distintas tareas ha sido todo un aprendizaje". El arnés de ejecución de seguridad de Block está construido sobre Daybreak para ayudar a asignar las tareas al modelo adecuado e incluye mecanismos para que las personas asuman el control de las tareas o para que los agentes verifiquen el trabajo de otros agentes. El equipo evalúa continuamente estos sistemas con pruebas de referencia internas y según su desempeño en situaciones reales, y ajusta su enfoque cuando es necesario. Esto incluye remitir el trabajo a revisión humana cuando esa es la opción responsable.

El sistema automatizado de clasificación y priorización ha permitido completar más trabajo y con mayor rapidez. El equipo de seguridad de Block ha registrado una mejora del 50 % en el rendimiento de la clasificación y priorización, un aumento del 50 % en la recopilación de inteligencia y las investigaciones, y una capacidad completamente nueva de búsqueda autónoma de amenazas. Nettesheim dice: "Esto realiza el equivalente a unas 1100 horas de investigación de analistas por trimestre, porque ahora cada alerta recibe una investigación completa y profunda de todos los elementos involucrados. Nuestro sistema aborda cada alerta como si fuera la única que recibimos ese día".

Las herramientas de escaneo tradicionales señalan una vulnerabilidad aislada, pero el equipo de seguridad de Block puede ir mucho más allá con Daybreak. El modelo ayuda a formular hipótesis sobre patrones de ataque y a encadenar una serie de ataques en una ruta de intrusión completa, de principio a fin, que revela vulnerabilidades que podrían haber existido durante años.

En un caso, una alerta en una sola computadora portátil parecía, por sí sola, un incumplimiento menor de las políticas. Pero durante la revisión por pares, el modelo siguió un indicador que aparecía solo de manera incidental en la evidencia, lo cruzó con los registros de identidad de Block y reveló un conjunto de problemas mucho más amplio. "Una alerta rutinaria de un punto de acceso terminó en el desmantelamiento de una campaña de ataques. Ninguna herramienta hace ese cruce por sí sola. La señal solo aparece al combinar los registros de dos productos", dice James.

Otro ejemplo de la ayuda de Daybreak se dio durante un ejercicio reciente de red teaming. El modelo recibió algunas pistas sobre un sistema interno y, en unas dos horas, encadenó una ruta de ataque completa: inyección SQL, escalada de privilegios, establecimiento de un punto de acceso persistente, enumeración de credenciales y desplazamiento hacia otros sistemas. Esto normalmente le tomaría varios días a un especialista humano en red teaming. En ejercicios recientes de red teaming, transcurrieron 18 minutos desde el envío de una descripción general de una vulnerabilidad hasta una propuesta automática de parche.

Encontrar vulnerabilidades solo es útil si se pueden corregir. Nettesheim describe el proceso que sigue su equipo con cada hallazgo: localizar el problema en el código e identificar al responsable, y luego pasar a corregirlo. "Propones un parche, confirmas que la vulnerabilidad se puede explotar y luego verificas que la corregiste, con una persona que guía el proceso e implementa los cambios en el código".

Aunque los agentes tienen la capacidad técnica, no cuentan con el contexto de una organización ni conocen el razonamiento detrás de las decisiones anteriores. Una persona aporta ese contexto y esa estrategia, y ahí es donde interviene su equipo para ofrecer una revisión humana. A medida que el criterio de la IA se valide en la práctica, Nettesheim dice que "iremos aumentando gradualmente el nivel de riesgo para usarla en sistemas más sensibles".

• Menos de una hora para probar un cambio propuesto en la detección con siete meses de telemetría.

• 18 minutos desde el envío de una descripción general de una vulnerabilidad hasta una propuesta automática de parche en ejercicios recientes de red teaming.

• Unas 600 horas de trabajo de analistas recuperadas por trimestre en la clasificación y priorización de falsos positivos.

• Aproximadamente 1100 horas de investigación de analistas completadas por trimestre.

• Mejora del 50 % en el rendimiento de la clasificación y priorización.

• Aumento del 50 % en la recopilación de inteligencia y las investigaciones.

Solo el trabajo de detección y respuesta ha permitido recuperar unas 600 horas de trabajo de analistas por trimestre que antes se dedicaban a clasificar y priorizar falsos positivos. Con ese tiempo recuperado, el equipo ahora dedica más tiempo a investigaciones más profundas y a desarrollar más automatizaciones de forma responsable.

A medida que aumenta el ritmo de los ataques y los modelos de IA siguen avanzando, Nettesheim ve una oportunidad para reducir la cantidad de vulnerabilidades desde el origen. Eso permitiría que los equipos de seguridad dediquen menos tiempo a aplicar parches y más al trabajo preventivo y estratégico.

"OpenAI está inclinando la balanza a favor de quienes defienden los sistemas al poner estas capacidades avanzadas al alcance de todos", dice. "Por lo general, solo han estado en manos de empresas tecnológicas de gran renombre y de gobiernos. Pero ahora todos, incluidos los operadores de infraestructura crítica, las escuelas y las pequeñas empresas, pueden empezar a usar esta tecnología para defender sus redes".