El incidente relacionado con OpenAI y Hugging Face(se abre en una ventana nueva) marcó un antes y un después en la ciberseguridad porque permitió vislumbrar cómo evolucionarán en los próximos meses las capacidades de un actor de amenazas habitual. Durante las últimas semanas he hablado con muchas organizaciones y hay algo claro: saben que deben elevar radicalmente y a una velocidad sin precedentes el nivel de sus prácticas de ciberseguridad. En este artículo explicaré qué estamos haciendo para defender OpenAI, qué medidas concretas pueden adoptar hoy otras organizaciones y por qué este es el momento de actuar.
Los modelos de IA desarrollados en todo el mundo pueden automatizar cada vez más partes de ciberataques reales, lo que facilita encontrar y aprovechar brechas de seguridad arraigadas, desde errores ocultos en las entrañas del software escrito por personas hasta permisos olvidados. Esas mismas capacidades de IA ofrecen a los defensores nuevas formas de encontrar y corregir esas debilidades, pero deben actuar ya. Si las empresas actúan con decisión —reforzando, entre otras cosas, sus fundamentos y potenciando a sus equipos con IA—, podemos lograr que internet sea más seguro que nunca.
En el incidente relacionado con OpenAI y Hugging Face, un colectivo de agentes logró penetrar de forma autónoma no solo en la infraestructura de investigación de OpenAI, sino también en la infraestructura de producción de otra empresa, encadenando vulnerabilidades que iban desde fallos de seguridad hasta entonces desconocidos hasta el uso de credenciales de cuentas de usuario filtradas en internet. Cada vez resulta más evidente que la deuda técnica(se abre en una ventana nueva) de todas las empresas oculta fallos importantes, y que los defensores deben encontrarlos y corregirlos antes que los atacantes.
Para dar ventaja a los defensores frente a los atacantes, a principios de este año empezamos a ofrecer nuestras capacidades cibernéticas únicamente a defensores de confianza. Desde entonces, varias empresas han publicado modelos de pesos abiertos con capacidades cibernéticas que solo llevan unos meses de retraso respecto a la vanguardia. El más reciente de estos modelos parece tener su lanzamiento previsto(se abre en una ventana nueva) para finales de agosto y probablemente acelerará de forma considerable la evolución del panorama de amenazas.
Aunque los atacantes que usan IA pronto podrán encontrar fallos arraigados en muchos sistemas actuales, la IA también facilitará mucho a los defensores encontrar, priorizar y corregir esos mismos fallos. La seguridad sigue siendo un juego del gato y el ratón, pero la IA podría cambiar su dinámica(se abre en una ventana nueva) de forma que beneficie sustancialmente a los defensores. Por ejemplo, estamos empezando a entrenar nuestros modelos específicamente para que escriban código con una seguridad sobrehumana. Nuestros modelos también son extraordinarios en las demostraciones matemáticas, que pueden aplicarse para verificar formalmente la seguridad del software de una manera que ha resultado inabordable para las personas.
Tras el incidente relacionado con OpenAI y Hugging Face, pedí a ChatGPT Work (usando el GPT‑5.6 Sol disponible públicamente) que evaluara la seguridad de gregbrockman.com(se abre en una ventana nueva). Es un sitio web estático sencillo, alojado en AWS y con Cloudflare como puerta de entrada, así que supuse que no habría mucha superficie vulnerable.
En unos 15 minutos descubrió 13 problemas, muchos de los cuales probablemente no puedan explotarse por sí solos, pero sí podrían encadenarse con otras vulnerabilidades y tener consecuencias importantes. No había configurado mis registros DNS para impedir que los atacantes falsificaran correos en mi nombre; mi sitio usaba una versión insegura de jQuery; y Cloudflare reenviaba las solicitudes a AWS mediante HTTP sin cifrar.
Después pedí a ChatGPT Work que corrigiera esos problemas, y lo hizo en una hora. Abrió el panel de control de Cloudflare en mi navegador y fue pulsando numerosos botones para configurar correctamente el DNS, TLS y los ajustes avanzados de seguridad; eliminó por completo jQuery del sitio; migró el sitio de AWS a Cloudflare Pages; e inició un despliegue gradual de DMARC(se abre en una ventana nueva).
Y no era más que mi sitio web personal. Este es un pequeño ejemplo de cómo nuestros modelos actuales pueden actuar como guardianes cibernéticos: detectan esa larga cola de problemas que una persona no tendría tiempo o conocimientos para abordar (conocía vagamente muchos de los ajustes que corrigió, pero no habría sabido configurarlos bien de memoria) y después los resuelven con un plan de despliegue adaptado adecuadamente.
El incidente de Hugging Face demostró que habíamos subestimado las capacidades cibernéticas de nuestros modelos de IA en el mundo real. Por ello, estamos reforzando nuestros requisitos de seguridad, lo que a su vez añade aún más urgencia a nuestras investigaciones de seguridad y nuestro trabajo interno de protección actuales.
Quiero explicar brevemente nuestro enfoque actual para proteger OpenAI con la esperanza de que resulte útil a otras organizaciones. Para proteger OpenAI, estamos invirtiendo considerablemente tanto en controles fundamentales —hacer bien lo básico— como en potenciar nuestras defensas mediante inteligencia de vanguardia. Esta estrategia se apoya en cuatro pilares principales.
En primer lugar, usamos nuestros modelos para reforzar la seguridad de nuestro código. Codex, incluido nuestro complemento de seguridad, valida los cambios en el código, detecta vulnerabilidades y ayuda a los desarrolladores a corregir problemas antes de la implementación. No buscamos generar sin más nuevos hallazgos de seguridad que deban validar personas; el objetivo es detectar vulnerabilidades reales antes del lanzamiento y acortar el camino desde la detección de un problema hasta la implementación segura de una solución. A medida que seguimos entrenando nuestros modelos para generar código cada vez más seguro, aspiramos a eliminar ciertas clases de vulnerabilidades de software en el código nuevo.
En segundo lugar, ponemos nuestros modelos al servicio de la defensa continua de nuestra infraestructura. A día de hoy, la inteligencia artificial clasifica casi todas nuestras alertas de seguridad iniciales antes de que intervenga una persona. Esto reduce el trabajo rutinario de los defensores, mejora los tiempos de respuesta y permite que las personas dediquen su tiempo a aquello donde más aportan sus capacidades: el discernimiento, el criterio y la experiencia aplicada. Cada vez conectamos más estas detecciones con respuestas automatizadas de alcance limitado, aunque las personas siguen siendo responsables de las decisiones de mayor impacto. El objetivo es poder detectar los problemas de seguridad y responder a ellos a la velocidad de las máquinas.
En tercer lugar, usamos inteligencia de vanguardia para enumerar, sondear e identificar continuamente posibles vías de ataque. Al detectar vulnerabilidades, configuraciones incorrectas, identidades con privilegios excesivos o límites de confianza involuntarios, podemos identificar y cerrar rápidamente estas brechas antes de que los atacantes las aprovechen. Esto nos permite evaluar, supervisar y probar continuamente nuestras invariantes de seguridad —las propiedades de seguridad que creemos verdaderas— en todos nuestros productos, infraestructuras y sistemas.
Por último, estamos haciendo grandes inversiones en aplicar los principios básicos a gran escala. Seguimos invirtiendo en arquitecturas y controles seguros, adoptamos estrategias como la defensa en profundidad y el principio de mínimo privilegio, y diseñamos sistemas en los que tendrían que fallar simultáneamente varios controles independientes para que ocurriera algo catastrófico. Los controles de seguridad clásicos, como el aislamiento de redes, el refuerzo de las cargas de trabajo, la supervisión y la aplicación y la implementación segura de parches, serán más importantes que nunca en el futuro de la IA.
El tiempo apremia y los defensores deberán seguir los pasos siguientes a toda velocidad. A continuación mencionaré tecnología de OpenAI, pero también hay muchos competidores en el ecosistema que conviene evaluar. Lo importante no es tanto la herramienta concreta como poner ya una IA capaz en manos de los defensores.
- Consigue el compromiso y el respaldo de toda la organización. El riesgo de seguridad está cambiando rápidamente: asegúrate de que tus equipos de seguridad e ingeniería cuenten con el respaldo, la colaboración y los recursos necesarios para afrontar estos riesgos con rapidez. Realiza simulacros teóricos con tus equipos para representar cómo podrían materializarse estos ataques en tu organización y cómo responderíais.
- Proporciona un agente a tu equipo de seguridad. Empieza a usar Codex, el complemento Codex Security(se abre en una ventana nueva) u otra herramienta competente de programación con agentes y seguridad. Concédele acceso autorizado a las bases de código, las configuraciones de infraestructura y la documentación técnica que deba evaluar tu equipo de seguridad. No esperes a un despliegue en toda la empresa para empezar por los sistemas de máxima prioridad.
- Dota a ese agente de conocimientos de seguridad. Parte de las habilidades(se abre en una ventana nueva) respaldadas por la comunidad, que incluyen flujos de trabajo para el análisis estático, la revisión de código centrada en la seguridad, el análisis de variantes de vulnerabilidades, los riesgos de la cadena de suministro de software y otros procesos de seguridad. Después, crea tus propias habilidades en torno a la arquitectura, las normas de seguridad, los modelos de amenazas y los procedimientos de tu organización.
- Evalúa de inmediato la seguridad de tus propios sistemas. Da prioridad a las evaluaciones de servicios expuestos a internet, flujos de autenticación, infraestructura como código, flujos de implementación y sistemas que traten información confidencial. Amplía los análisis a medida que tu equipo gane confianza.
- Resuelve las vulnerabilidades que ya tienes pendientes. Facilita a tu agente la detección de analizadores de código, alertas de dependencias, incidencias de seguridad, informes de programas de recompensas por errores y evaluaciones anteriores. Pídele que clasifique esas detecciones, distinga los problemas explotables del ruido, identifique vulnerabilidades relacionadas en otros puntos de la base de código y recomiende qué corregir primero.
- Integra la revisión de seguridad directamente en tu proceso de desarrollo. Usa agentes para revisar los cambios en el código antes de fusionarlos y ejecutar comprobaciones de seguridad en la integración continua. Busca errores de autenticación, formas de eludir los controles de acceso, credenciales expuestas, dependencias no seguras, configuraciones predeterminadas inseguras, cambios que amplíen el acceso a los sistemas de producción y otras vulnerabilidades.
- Haz que el agente ayude a corregir lo que encuentre. Para los problemas validados, pídele que genere y verifique un parche específico, escriba una prueba de regresión y confirme que la vulnerabilidad ya no puede reproducirse. Mantén la revisión humana para los cambios importantes, pero elimina la demora innecesaria entre la identificación de un problema real y la presentación de una solución segura a un ingeniero.
- Automatiza gradualmente la clasificación de las detecciones. No empieces intentando crear un centro autónomo de operaciones de seguridad. Empieza ejecutando un análisis de seguridad de solo lectura en un repositorio o haz que un agente revise alertas ya resueltas con acceso de solo lectura a tus registros actuales. Deja que resuma las pruebas y recomiende una resolución mientras una persona toma todas las decisiones. A medida que aumente la confianza, pasa al análisis consultivo de pull-requests, luego a la clasificación de alertas en tiempo real y, por último, al cierre automático de falsos positivos definidos de forma muy precisa.
- Prepara una capacidad de investigación forense asistida por IA antes de necesitarla. Solicita acceso al programa Trusted Access for Cyber(se abre en una ventana nueva) y consigue que autoricen a tu equipo a usar GPT‑Daybreak‑Blue para labores defensivas autorizadas, como la respuesta a incidentes, la ingeniería de detección y el análisis de malware. Practica el uso de esta capacidad para analizar registros, telemetría y alertas de seguridad.
- Experimenta, organiza semanas de innovación e itera con rapidez. Tendremos que crear todo tipo de herramientas nuevas, modificar nuestra forma de trabajar y mejorar las capacidades de todos para el mundo hacia el que avanzamos. Anima a tu plantilla a realizar experimentos, programa una semana de innovación para crear nuevas capacidades y céntrate en iterar rápidamente procesos que automaticen pequeñas partes del problema. Los avances graduales y rápidos generan resultados defensivos acumulativos, y puedes ampliar la autonomía poco a poco a medida que tu equipo gane confianza.
Ninguna empresa puede hacerlo sola. Pedimos a los laboratorios de IA, los proveedores de seguridad, las empresas y los responsables de mantenimiento que compartan detecciones validadas, soluciones y procedimientos prácticos para que los descubrimientos de una organización puedan reforzar todo el ecosistema.
La ventana de oportunidad para los defensores está abierta ahora mismo. Durante los próximos meses, todas las organizaciones tendrán que empezar a automatizar de forma considerable sus programas de seguridad para seguir protegidas, y la comunidad de la seguridad deberá dar un paso al frente con urgencia para definir las herramientas, prácticas y procedimientos que aumentarán el poder de los defensores más rápido que el de los atacantes a medida que avance la IA. Esto exigirá un esfuerzo enorme y sin precedentes, pero, si aunamos fuerzas, podremos lograr un mundo más seguro de lo que antes era imaginable.
