El incidente de OpenAI-Hugging Face(se abre en una nueva ventana) fue un punto de inflexión para la ciberseguridad porque permitió vislumbrar cómo evolucionarán las capacidades de un actor de amenazas típico en los próximos meses. He hablado con muchas organizaciones durante las últimas semanas, y un punto queda claro: saben que necesitan elevar sustancialmente sus prácticas de ciberseguridad a una velocidad sin precedentes. En esta publicación, compartiré qué estamos haciendo para proteger a OpenAI, las medidas concretas que otras organizaciones pueden tomar hoy y por qué este es el momento de actuar.
Los modelos de IA desarrollados en todo el mundo son cada vez más capaces de automatizar partes de ciberataques del mundo real, lo que hace que brechas de seguridad de larga data —desde errores enterrados en lo profundo de software escrito por humanos hasta permisos olvidados— sean más fáciles de encontrar y explotar. Las mismas capacidades de IA les brindan a los defensores nuevas formas de encontrar y corregir esas debilidades, pero deben actuar ahora. Si las empresas actúan de forma decisiva —lo que incluye reforzar sus bases y potenciar a sus equipos con IA—, podemos hacer que internet sea más seguro que nunca.
En el incidente OpenAI-Hugging Face, un colectivo con agentes pudo penetrar de forma autónoma no solo la infraestructura de investigación de OpenAI, sino también la infraestructura de producción de otra empresa. Para ello, encadenó vulnerabilidades que iban desde fallas de seguridad previamente desconocidas hasta el uso de credenciales de cuentas de usuario que se habían filtrado en internet. Cada vez está más claro que la deuda técnica(se abre en una nueva ventana) de cada empresa oculta fallas importantes, y los defensores deben encontrarlas y corregirlas antes de que lo hagan los atacantes.
Para dar ventaja a los defensores frente a los atacantes, a principios de este año comenzamos a lanzar nuestras capacidades cibernéticas solo para defensores de confianza. Desde entonces, varias empresas lanzaron modelos de pesos abiertos con capacidades cibernéticas que están apenas unos meses por detrás de las más avanzadas. El más reciente de estos modelos parece estar previsto para lanzarse(se abre en una nueva ventana) a finales de agosto, y parece probable que acelere significativamente el panorama de amenazas.
Si bien los atacantes potenciados por IA pronto podrán encontrar fallas de larga data en muchos sistemas existentes, la IA también facilitará mucho que los defensores encuentren, prioricen y corrijan esas mismas fallas. La seguridad sigue siendo un juego del gato y el ratón, pero la IA podría cambiar su economía(se abre en una nueva ventana) de maneras que den una ventaja fundamental a los defensores. Por ejemplo, estamos empezando a entrenar nuestros modelos específicamente para escribir código con una seguridad sobrehumana. Nuestros modelos también tienen una capacidad extraordinaria para las demostraciones matemáticas, que pueden aplicarse para verificar formalmente la seguridad del software, algo que hasta ahora ha resultado demasiado complejo para los humanos.
Después del incidente entre OpenAI y Hugging Face, le pedí a ChatGPT Work (usando GPT‑5.6 Sol, disponible públicamente) que evaluara la seguridad de gregbrockman.com(se abre en una nueva ventana). Es un sitio estático simple, alojado en AWS con Cloudflare como puerta de entrada, así que supuse que no habría mucha superficie de ataque.
En unos 15 minutos, descubrió 13 problemas, muchos de los cuales probablemente no sean explotables por sí solos, pero combinados con otras vulnerabilidades podrían tener un impacto considerable. No había configurado mis registros DNS para evitar que atacantes suplantaran correos electrónicos en mi nombre; mi sitio usaba una versión insegura de jQuery; Cloudflare reenviaba solicitudes a AWS mediante HTTP sin cifrar.
Luego le pedí a ChatGPT Work que solucionara estos problemas, y lo hizo en el transcurso de una hora. Abrió el panel de control de Cloudflare en mi navegador y procedió a hacer clic en muchos botones para configurar correctamente el DNS, TLS y la configuración de seguridad avanzada; eliminó jQuery por completo del sitio; me migró de AWS a Cloudflare Pages; inició una implementación gradual de DMARC(se abre en una nueva ventana).
Y eso que era solo mi sitio web personal. Este es un pequeño ejemplo de cómo nuestros modelos existentes pueden operar como un guardián cibernético. Pueden detectar esa larga cola de problemas que una persona no tendría el tiempo ni la experiencia necesarios para abordar (muchas de las configuraciones que corrigió me resultan vagamente familiares, pero no sabría de inmediato cómo configurarlas correctamente) y luego solucionarlos con un plan de implementación adaptado adecuadamente.
El incidente de Hugging Face mostró que subestimamos las capacidades cibernéticas en el mundo real de nuestros modelos de IA. Estamos reforzando nuestros requisitos de seguridad en consecuencia, lo que a su vez añade aún más urgencia a nuestra investigación actual sobre seguridad y a nuestro trabajo interno de seguridad.
Comparto un poco sobre nuestro enfoque para garantizar la seguridad de OpenAI en este momento, con la esperanza de que les resulte útil a otras organizaciones. Para proteger OpenAI, estamos invirtiendo significativamente tanto en controles fundacionales —hacer bien lo básico— como en fortalecer nuestras defensas a través de inteligencia de vanguardia. Hay cuatro pilares principales en esta estrategia.
Primero, estamos usando nuestros modelos para ayudar a proteger nuestro código. Codex, incluido nuestro plugin de seguridad, valida cambios de código, identifica vulnerabilidades y ayuda a los desarrolladores a corregir problemas antes de que se implementen. No se busca simplemente generar más hallazgos de seguridad que requieran validación humana; el objetivo es detectar vulnerabilidades reales antes de que lleguen a producción y acortar el camino desde el descubrimiento de un problema hasta la implementación segura de una corrección. A medida que seguimos entrenando nuestros modelos para producir código cada vez más seguro, nuestro objetivo es eliminar algunas clases de vulnerabilidades de software en el código de nueva creación.
En segundo lugar, estamos poniendo nuestros modelos a trabajar para defender nuestra infraestructura de manera continua. Hoy, la IA clasifica y prioriza casi todas nuestras alertas de seguridad iniciales antes de que intervengan personas. Esto ayuda a reducir el trabajo tedioso para los defensores, mejora el tiempo de respuesta y permite que las personas dediquen tiempo a las áreas donde mejor se aprovechan sus habilidades: en el discernimiento, el criterio y la experiencia aplicada. Estamos vinculando cada vez más estas detecciones con respuestas automatizadas acotadas, manteniendo a las personas a cargo de las decisiones de mayor impacto. El objetivo es garantizar que podamos detectar problemas de seguridad y responder a ellos a velocidad de máquina.
En tercer lugar, usamos inteligencia de vanguardia para enumerar, sondear e identificar de forma continua posibles rutas de ataque. Al identificar vulnerabilidades, configuraciones incorrectas, identidades con privilegios excesivos o límites de confianza no intencionales, podemos detectar y cerrar rápidamente estas brechas antes de que los atacantes puedan explotarlas. Esto nos permite evaluar, supervisar y probar continuamente nuestros invariantes de seguridad —las propiedades de seguridad que consideramos verdaderas— en todos nuestros productos, infraestructura y sistemas.
Por último, estamos invirtiendo mucho en fundamentos a escala. Seguimos invirtiendo en arquitectura y controles seguros, adoptamos estrategias como la defensa en profundidad y el privilegio mínimo, y estamos diseñando sistemas que requieren que fallen simultáneamente múltiples controles independientes para que ocurra algo catastrófico. Los controles de seguridad tradicionales, como el aislamiento de red, el endurecimiento de cargas de trabajo, el monitoreo y el parcheo e implementación seguros, serán más importantes que nunca en el futuro de la IA.
El tiempo es esencial, y los defensores tendrán que seguir los pasos a continuación a toda velocidad. A continuación mencionaré la tecnología de OpenAI, pero también hay muchos competidores en el ecosistema que conviene evaluar. Lo que importa menos es la herramienta específica; lo importante es poner una IA capaz en manos de tus defensores ahora.
- Consigue el compromiso y el apoyo de la organización. Estamos experimentando una rápida evolución de los riesgos de seguridad: asegúrate de que tus equipos de seguridad e ingeniería cuenten con el apoyo, la colaboración y los recursos necesarios para abordar estos riesgos con rapidez. Realiza ejercicios de simulación con tus equipos para recrear cómo podrían manifestarse estos ataques en tus organizaciones y cómo responderían.
- Dale a tu equipo de seguridad un agente. Empieza a usar Codex, el plugin Codex Security(se abre en una nueva ventana), u otra herramienta capaz de codificación con agentes y seguridad. Otórgale acceso autorizado a las bases de código, las configuraciones de infraestructura y la documentación técnica que tu equipo de seguridad necesita evaluar. No esperes a una implementación para toda la empresa para empezar con tus sistemas de alta prioridad.
- Dota a ese agente con conocimientos en seguridad. Comienza con habilidades(se abre en una nueva ventana) con soporte de la comunidad, que incluyen flujos de trabajo para análisis estático, revisión de código enfocada en la seguridad, análisis de variantes de vulnerabilidades, riesgo de la cadena de suministro de software y otros flujos de trabajo de seguridad. Luego crea tus propias habilidades alrededor de la arquitectura, los estándares de seguridad, los modelos de amenazas y los manuales de procedimientos de tu organización.
- Realiza evaluaciones de seguridad en tus propios sistemas de inmediato. Prioriza las evaluaciones de servicios expuestos a internet, flujos de autenticación, infraestructura como código, canalizaciones de implementación y sistemas que manejan información confidencial. Amplía el alcance de tus escaneos a medida que tu equipo gane confianza.
- Trabaja en tu acumulación de vulnerabilidades existente. Proporciona a tu agente hallazgos de escáneres de código, alertas de dependencias, tickets de seguridad, informes del programa de recompensas por errores y evaluaciones previas. Pídele que clasifique y priorice esos hallazgos, distinga los problemas explotables del ruido, identifique vulnerabilidades relacionadas en otras partes de la base de código y recomiende qué corregir primero.
- Integra la revisión de seguridad directamente en tu proceso de desarrollo. Usa agentes para revisar los cambios en el código antes de fusionarlos y ejecutar comprobaciones de seguridad en CI. Busca errores de autenticación, omisiones de controles de acceso, credenciales expuestas, dependencias inseguras, valores predeterminados inseguros, cambios que amplíen el acceso a sistemas de producción y otras vulnerabilidades.
- Haz que el agente ayude a corregir lo que encuentre. Para los problemas validados, pídele que genere y verifique un parche focalizado, escriba una prueba de regresión y confirme que la vulnerabilidad ya no se reproduce. Mantén la revisión humana para los cambios de gran impacto, pero elimina la demora innecesaria entre identificar un problema real y presentarle una corrección segura a un ingeniero.
- Automatiza de forma incremental la clasificación de detecciones. No empieces por intentar crear un centro de operaciones de seguridad autónomo. Comienza ejecutando un análisis de seguridad de solo lectura en un repositorio, o haz que un agente revise alertas resueltas previamente usando acceso de solo lectura a tus registros existentes. Permite que resuma la evidencia y recomiende una resolución, mientras una persona toma cada decisión. A medida que aumente la confianza, pasa al escaneo consultivo de pull request, luego a la clasificación en vivo de alertas y, después, al cierre automático de falsos positivos definidos de forma precisa.
- Ten lista una capacidad de investigación forense asistida por IA antes de que la necesites. Solicita Trusted Access for Cyber(se abre en una nueva ventana) y consigue que aprueben a tu equipo para usar GPT‑Daybreak‑Blue en tareas defensivas autorizadas, incluida la respuesta a incidentes, la ingeniería de detección y el análisis de malware. Practica el uso de esta funcionalidad para analizar registros, telemetría y alertas de seguridad.
- Experimenta, prueba ideas y mejóralas rápidamente a partir de los resultados. Necesitaremos crear todo tipo de herramientas nuevas, modificar la forma en que trabajamos y elevar las capacidades de todos para el mundo hacia el que avanzamos. Anima a tu equipo a realizar experimentos, programa una semana de hackeo para desarrollar nuevas capacidades y enfócate en mejorar rápidamente procesos que automaticen pequeñas partes del problema. El progreso incremental rápido conduce a resultados defensivos que se acumulan con el tiempo, y puedes ampliar gradualmente la autonomía a medida que tu equipo gana confianza.
Ninguna empresa puede hacer esto sola. Lo que solicitamos es que los laboratorios de IA, los proveedores de seguridad, las empresas y los responsables de mantenimiento compartan hallazgos validados, correcciones y guías prácticas, de modo que el descubrimiento de una organización pueda fortalecer a todo el ecosistema.
La ventana del defensor está abierta ahora. Durante los próximos meses, todas las organizaciones deberán empezar a automatizar significativamente su programa de seguridad para mantenerse protegidas, y la comunidad de seguridad debe actuar con urgencia para definir las herramientas, prácticas y manuales de respuesta que aumentarán la capacidad de los defensores más rápido que la de los atacantes a medida que la IA continúe avanzando. Esto requerirá un esfuerzo enorme y sin precedentes, pero si nos unimos, podemos hacer realidad un mundo más seguro de lo que antes era imaginable.
