La oportunidad para regular la IA está abierta. Debemos actuar.

Hemos entrado en una nueva etapa de las capacidades de la IA, y eso exige una nueva etapa para la política sobre IA. Ninguna empresa, sector o gobierno puede enfrentar este desafío por sí solo. Debemos responder a este momento priorizando acciones significativas por encima de una política perfecta.

Esto es lo que estamos haciendo:

1. Impulsar requisitos nacionales obligatorios de seguridad para la IA. Queremos colaborar con el Congreso en una regulación nacional obligatoria de seguridad para la IA basada en capacidades.

2. Mantener el impulso en los estados. Hasta que el Congreso actúe, seguiremos apoyando legislación estatal que fortalezca el ecosistema más amplio de seguridad de la IA. Hoy anunciamos nuestro apoyo a cuatro proyectos de ley de California: la SB 813 sobre la infraestructura general para evaluaciones de seguridad independientes, la AB 1405 sobre normas para auditores de IA, la SB 1119 sobre protecciones para jóvenes y la AB 1864 sobre medidas de protección contra amenazas biológicas relacionadas con la IA.

3. Impulsar estándares del sector. Trabajaremos con otros laboratorios de vanguardia para impulsar estándares de IA de vanguardia y crear desde ahora una iniciativa voluntaria, con o sin apoyo gubernamental.

4. Crear normas globales. Abogaremos por enfoques internacionales compatibles para medir las capacidades, gestionar los riesgos, preservar el control humano y determinar cuándo y cómo debe ralentizarse o detenerse el desarrollo, incluso si eso implica ralentizar el avance de las capacidades de los modelos.

Nuestro científico jefe, Jakub Pachocki, escribió⁠ recientemente que el rápido auge de la inteligencia de las máquinas, incluido el potencial de la mejora propia recursiva, exige «extrema cautela». OpenAI seguirá buscando soluciones técnicas para la alineación y la supervisión, creando sistemas defensivos y ralentizando el desarrollo cuando sea necesario. Pero el trabajo técnico dentro de cada laboratorio no bastará. También necesitamos normas compartidas, incluso para determinar cuándo debe ralentizarse o detenerse el desarrollo.

Hay muchísimo en juego. La IA avanzada podría acelerar el desarrollo de nuevos medicamentos⁠, reforzar la infraestructura crítica⁠, ampliar las oportunidades económicas⁠ y ayudar a resolver problemas científicos⁠ que han resistido generaciones de esfuerzo humano. Pero las capacidades que vuelven más útiles a los modelos también conllevan riesgos y no permanecerán confinadas a unos pocos laboratorios de vanguardia. Los modelos desarrollados en todo el mundo, incluidos los modelos abiertos, se acercarán cada vez más a la vanguardia actual y estarán ampliamente disponibles.

Las capacidades de Astra, los primeros indicios de aceleración de la investigación impulsada por IA y el ensayo de Jakub apuntan en la misma dirección: la IA avanza rápidamente y las políticas deben avanzar a la par.

Greg Brockman ha descrito una «ventana para los defensores»⁠(se abre en una ventana nueva): un período limitado en el que la IA de vanguardia puede ayudar a los defensores a fortalecer sistemas críticos antes de que las capacidades ofensivas avanzadas se generalicen. Los responsables de políticas afrontan un momento similar: una oportunidad que se agota para establecer medidas de protección duraderas antes de que las capacidades de la IA superen a las instituciones responsables de regularlas.

A medida que crezcan las capacidades, la confianza en la seguridad deberá marcar cada vez más el ritmo del avance de la IA. La seguridad no obstaculiza el progreso; es lo que permite que llegue más lejos y beneficie a más personas.

Hemos reforzado las medidas de protección de supervisión, alineación y seguridad durante todo el ciclo de desarrollo de los modelos, con un mayor aislamiento para las cargas de investigación de vanguardia, supervisión ampliada del comportamiento de los modelos durante el entrenamiento y las evaluaciones con herramientas, y reglas más claras sobre cuándo derivar las inquietudes a instancias superiores. Para Astra, también introdujimos la supervisión universal de trayectorias completas, incluidas las cadenas de pensamiento, y un punto de control obligatorio para la evaluación de alineación antes de una implementación interna más amplia.

Esas medidas de protección deben seguir estando por delante de las capacidades. Cuando continuar implique un riesgo de seguridad inaceptable, ralentizaremos o detendremos el desarrollo o la implementación de sistemas que no podamos proteger adecuadamente, como hemos hecho antes y conforme a lo exigido por nuestro Marco de preparación⁠(se abre en una ventana nueva).

La automejora recursiva totalmente autónoma, en la que sistemas de IA impulsan por sí solos generaciones sucesivas de IA cada vez más capaces, no existe a día de hoy. No debemos avanzar en ello hasta que podamos hacerlo de manera segura.

Sin embargo, la IA ya está acelerando partes de la investigación utilizada para desarrollar y alinear la próxima generación de modelos. Nuestra investigación⁠ más reciente muestra que los agentes de IA pueden realizar algunas tareas que a investigadores expertos les llevarían varios días. Esto no es una automejora recursiva, pero es una señal de hacia dónde se dirige la tecnología.

Esa aceleración también puede y debe orientarse hacia la seguridad. Nuestro objetivo es desarrollar de manera segura investigadores de IA automatizados que trabajen bajo supervisión humana para impulsar tanto el aprendizaje profundo como la alineación, utilizando cada generación de IA para ayudar a que la siguiente sea más segura, esté mejor alineada y sea más fácil de controlar, no simplemente más capaz.

Los gobiernos deberían desarrollar métodos comunes para medir este progreso, preservar un control humano significativo y establecer umbrales de seguridad compartidos que determinen cuándo y cómo debería ralentizarse o detenerse el desarrollo. Si no podemos cumplir ciertos umbrales de seguridad sin ralentizar el crecimiento de las capacidades, debemos priorizar los primeros. Cuanto más poderosa sea la tecnología, más sólidas deberán ser las medidas de protección que la rodean.

La posibilidad de que la IA acelere el desarrollo de la IA exige más que compromisos voluntarios. Estados Unidos necesita una regulación nacional obligatoria basada en las capacidades que pueda evolucionar al ritmo de la tecnología.

Nuestro Plan para la gobernanza democrática de la IA de vanguardia⁠ plantea un camino hacia un marco federal duradero: requisitos comunes de evaluación y pruebas independientes, mayores protecciones de ciberseguridad, reglas claras para notificar incidentes, mayor preparación a nivel nacional y medidas compartidas para supervisar el progreso hacia la automejora recursiva.

Hay varias propuestas serias sobre seguridad de vanguardia que ahora están tomando forma en el Congreso. Seguiremos participando de manera constructiva y esperamos apoyar las leyes que eleven de forma significativa el umbral de seguridad. Con tanto en juego, no podemos permitir que lo perfecto se convierta en enemigo de lo bueno. El Congreso debe actuar antes de que finalice el período de sesiones.

Un marco nacional debe ser robusto, pero debe dirigirse cuidadosamente. Los requisitos de seguridad para la IA de vanguardia deben aplicarse al pequeño grupo de laboratorios con abundantes recursos que desarrollan los sistemas más capaces, no a startups, pequeños desarrolladores ni investigadores que están lejos de la vanguardia. Las obligaciones deben ser proporcionales a las capacidades y a los riesgos.

Tampoco debería convertirse la política de seguridad de modelos de vanguardia en una política de modelos con pesos abiertos bajo otro nombre. Los modelos abiertos pueden ser parte de la solución, en especial en ciberseguridad y cuando las necesidades de soberanía, seguridad o residencia de datos favorecen la implementación local. La mayoría no compite en vanguardia, sino en coste, control y latencia. Como afirmamos al firmar la carta sobre pesos abiertos y liderazgo estadounidense en IA⁠(se abre en una ventana nueva), Estados Unidos necesita modelos abiertos y cerrados. Un marco federal debe abordar las capacidades y los riesgos de vanguardia sin debilitar la competencia, consolidar a los actores establecidos ni llevar la innovación al extranjero.

Un marco público sólido debe reducir la concentración de poder, no aumentarla. A día de hoy, los laboratorios de modelos de vanguardia establecen en gran medida sus propias reglas para gestionar los riesgos de frontera. Los estándares sujetos a una rendición de cuentas democrática, la verificación independiente y una transparencia significativa sustituirían ese sistema fragmentado de gobernanza privada.

Esto es esencial para el liderazgo estadounidense. Estados Unidos no puede ganar la era de la IA basándose solo en sus capacidades. Ir a la vanguardia en términos tecnológicos servirá de poco si las personas, las instituciones y los gobiernos no confían lo suficiente en la tecnología como para adoptarla. Las medidas de protección estrictas no son una concesión que vaya en contra de la innovación. Forman parte de la infraestructura necesaria para una adopción generalizada y para un liderazgo estadounidense duradero.

Necesitamos urgentemente estándares nacionales para la IA, y cualquiera que trabaje en modelos de vanguardia puede ver lo urgente que es. Hasta que el Congreso actúe, los estados deben seguir avanzando para llenar ese vacío y subir el listón.

OpenAI ha apoyado la SB 53 de California, la Ley RAISE de Nueva York y la SB 315 de Illinois, además de auditorías independientes contempladas en la legislación sobre seguridad de los modelos de vanguardia que se analiza en Massachusetts. Alentamos a los estados a converger en torno a estas medidas de protección comunes. Al hacerlo, pueden crear una base nacional de facto que el Congreso pueda finalmente codificar: un enfoque que llamamos ⁠federalismo inverso⁠. Pero alinear no significa dejar los requisitos sin cambios.

Hoy respaldamos formalmente cuatro proyectos de ley adicionales de California que fueron aprobados por la legislatura y se dirigen al gobernador Newsom. En conjunto, abordan partes complementarias del ecosistema de seguridad de la IA.

La SB 813⁠(se abre en una ventana nueva) establecería un proceso para designar organizaciones independientes y calificadas capaces de evaluar los riesgos de la IA. Como señalamos en nuestro ⁠(se abre en una ventana nueva)plan de seguridad para modelos de vanguardia⁠(se abre en una ventana nueva), preferimos que las evaluaciones técnicas independientes sean obligatorias a nivel federal, donde quienes formulan políticas pueden establecer estándares uniformes para las cualificaciones de quienes realizan las evaluaciones, la seguridad y el acceso a información altamente sensible. Sin embargo, ante la falta de medidas federales, California puede ayudar a establecer las reglas para un sistema nacional de evaluación independiente seguro y capaz que produzca mejores resultados de seguridad.

La AB 1405⁠(se abre en una ventana nueva) establecería requisitos de registro, independencia, transparencia y rendición de cuentas para los auditores de IA.

La SB 1119⁠(se abre en una ventana nueva) exigiría verificación de edad, evaluaciones de riesgos, auditorías independientes, controles parentales y medidas de protección contra contenido dañino para niños y adolescentes que usan chatbots de compañía. Recientemente expresamos nuestro apoyo⁠ a este proyecto de ley, que se basa en medidas de seguridad para jóvenes que OpenAI ha impulsado mediante nuestros productos, ⁠principios de política pública global⁠ y el apoyo a la ley ⁠(se abre en una ventana nueva)Parents & Kids Safe AI Act⁠(se abre en una ventana nueva), así como en las protecciones integradas en ChatGPT para adolescentes, como valores predeterminados más estrictos en áreas sensibles, horas de silencio, horas de estudio y recordatorios para tomar descansos.

La AB 1864⁠(se abre en una ventana nueva) exigiría a los proveedores de síntesis genética y a los fabricantes de equipos de síntesis de sobremesa que cumplan las normas federales de cribado, reforzando así una medida de protección física importante frente a las amenazas biológicas relacionadas con la IA.

Algunos de estos proyectos de ley no los apoyamos en el pasado y ahora sí, después de reconsiderarlos a la luz del reciente salto en las capacidades que hemos observado.

Estos proyectos de ley no sustituyen la regulación federal. Son iniciativas serias que pueden proteger a las personas ahora, demostrar cómo son las medidas de protección viables y ayudar a impulsar la acción federal.

Las leyes por sí solas no harán que la IA avanzada sea segura. También necesitamos prácticas concretas dentro de los laboratorios que desarrollan los sistemas más capaces. El punto más urgente por el que debemos empezar es la supervisión.

Esto es particularmente importante en el caso de la falta de alineación, cuando un modelo persigue un objetivo de maneras que vulneran la intención humana o los límites establecidos, sin que sea necesario que tenga conciencia o intenciones maliciosas. A medida que los modelos adquieren mayor autonomía, utilizan herramientas más potentes y operan durante períodos más prolongados, los desarrolladores deberían estar obligados a supervisar estos comportamientos que indican una falta de alineación y demostrar que existen medidas de protección eficaces.

La supervisión debe estar vinculada a requisitos claros de divulgación. Como defendimos en California, se debería exigir a las empresas que notifiquen por escrito y sin demora a las partes afectadas cuando, durante el desarrollo o la evaluación, sus modelos eludan sin autorización los controles de seguridad de otra organización y, de forma sustancial, accedan a los sistemas protegidos o a la información confidencial de esa organización, los alteren o los destruyan. También apoyamos requisitos federales de notificación para otros incidentes graves relacionados con la IA y estamos trabajando para definir qué incidentes deberían estar contemplados y qué deberían incluir esos requisitos.

Como informamos la semana pasada, OpenAI está desarrollando un marco para notificar incidentes importantes de falta de alineación y supervisar sistemáticamente la actividad de modelos de vanguardia, incluido el uso interno. Esto comienza como una iniciativa liderada por la empresa, pero esperamos que contribuya a orientar políticas federales y requisitos de notificación más amplios.

Queremos colaborar con otros laboratorios en estándares impulsados por el sector. Cualquier estándar impulsado por el sector complementaría, no sustituiría, las medidas de protección federales obligatorias y la supervisión democrática. Sin embargo, hemos entrado en una fase diferente de las capacidades de la IA, y todo debe estar sobre la mesa, incluso considerar qué puede desarrollarse voluntariamente fuera del gobierno como medida inmediata.

En última instancia, cualquier estándar de este tipo también debe trascender las fronteras nacionales. Los modelos, la investigación y la experiencia técnica circulan por todo el mundo, y las fallas de los sistemas más capaces podrían tener consecuencias mucho más allá del país donde se desarrollen. Estados Unidos necesita establecer estándares creíbles a nivel nacional si quiere liderar a nivel internacional, y cada vez estamos más convencidos de que serán necesarios estándares internacionales compatibles.

La oportunidad para regular la IA está abierta, por ahora. Tenemos la intención de aprovecharla.

Eso significa actuar con urgencia, humildad y disposición para adaptarnos. Significa apoyar propuestas serias que eleven sustancialmente el umbral de seguridad, incluso cuando no sean exactamente como las habríamos diseñado. Y significa fortalecer el marco a medida que evoluciona la tecnología.

Ningún primer paso será perfecto. Pero el mayor riesgo ahora es tardar demasiado en darlo.