EE. UU. avanza en la seguridad de la IA mediante acciones estatales y federales

Por Chris Lehane, director de Asuntos globales

Desde las capitales estatales de todo el país hasta Washington y las reuniones internacionales, están tomando forma enfoques serios para la gobernanza de la IA de vanguardia. Juntos, impulsan una visión democrática de la IA.

California, Nueva York y, más recientemente, Illinois han impulsado legislación sobre seguridad de vanguardia que ayuda a llevar al país hacia una base común para gobernar los sistemas de IA más potentes.

Estos esfuerzos reflejan el impulso de lo que OpenAI llama federalismo inverso: estados que ayudan a fijar una dirección compartida mediante un marco común. A medida que el trabajo liderado por los estados converge con los esfuerzos en marcha a nivel federal, empieza a tomar forma un estándar nacional que sienta las bases de un marco global de IA liderado por EE. UU. Creemos que la mejor manera de garantizar que la IA beneficie a la mayoría, y no solo a unos pocos, es que las decisiones críticas —empezando por la seguridad de vanguardia— las tomen gobiernos democráticos, no solo laboratorios de vanguardia.

En última instancia, a Estados Unidos le convendría un marco nacional basado en ese principio. Pero, en ausencia de uno, los estados pueden llevarnos hasta allí aprobando leyes que se reflejen entre sí. Paso a paso, pueden crear un estándar nacional de facto.

Y si la seguridad es la prioridad, un estándar nacional de este tipo es el mejor enfoque político para garantizar que (a) EE. UU. siga liderando la innovación y no se vea socavado por un mosaico de normas que ralentizaría la capacidad de desarrollar una pila global de IA democrática que dé prioridad a que los defensores dispongan de las herramientas que necesitan para protegerse frente a actores maliciosos que buscan hacer un uso indebido de la IA en ámbitos como la ciberseguridad; y (b) sitúe a EE. UU. en la posición más sólida para convertir el estándar nacional en un enfoque global para el despliegue seguro de la IA basado en valores democráticos. Si queremos crear un marco de seguridad que dé verdadera prioridad a establecer un estándar nacional e internacional —lo que mejor respaldará el despliegue seguro de la IA—, harán falta trabajo duro, seriedad de propósito y una estrategia que conecte a los estados, el Gobierno federal y la conversación internacional. Un enfoque performativo o de postureo moral no resolverá esto: el caos a nivel estatal no favorece un enfoque duradero de la seguridad, sino que solo generará más caos.

Para que ese enfoque tenga éxito, los estados deben seguir alineándose en los elementos centrales, como han hecho California, Nueva York e Illinois. En términos generales, esos elementos son:

• Un marco de seguridad documentado con evaluaciones de riesgos para modelos de vanguardia y divulgación pública de esas evaluaciones y sus resultados.
• Notificación de incidentes graves de seguridad.
• Gobernanza y rendición de cuentas mediante auditorías independientes y objetivas.

En conjunto, estos tres estados han incorporado la supervisión democrática al despliegue de IA de vanguardia. California estableció el marco básico de divulgación. Nueva York demostró que el enfoque podía adoptarse en distintas jurisdicciones. Illinois lo complementó exigiendo una verificación independiente de las divulgaciones clave.

Reconocemos que la legislación suele incluir disposiciones adicionales para asegurar los votos necesarios para su aprobación. Pero creemos que estos son los elementos esenciales necesarios para crear un estándar nacional de facto mediante el federalismo inverso. Sin esa disciplina, corremos el riesgo de una expansión gradual de la política y de un mosaico de leyes estatales difíciles de aplicar para los reguladores, confusas para los consumidores y que desvíen recursos de los desarrolladores —especialmente en empresas emergentes y pequeñas compañías— que estarían mejor invertidos en seguridad. En particular, y como han demostrado las últimas semanas, a medida que los modelos de IA se vuelven cada vez más capaces necesitamos un sistema coherente que nos permita poner las herramientas en manos del Gobierno, las infraestructuras críticas, los aliados y los socios de confianza.

Los responsables políticos también deben evitar la expansión de la misión. No debe pedirse a los estados que gestionen riesgos significativos de seguridad nacional (ni que, en la práctica, tomen decisiones de seguridad nacional en nombre de todo el país) ni que realicen revisiones muy técnicas que es mejor que lleven a cabo expertos federales con los recursos, la experiencia, el acceso a sistemas clasificados y la capacidad para trabajar estrechamente con nuestros equipos.

En el ámbito federal, la Administración Trump sigue trabajando con expertos técnicos y de seguridad nacional en un marco para que el Gobierno de EE. UU. pruebe los modelos de IA más capaces en materia cibernética. Ese marco establecerá estándares, calendarios y procesos de prueba. OpenAI mantiene conversaciones constructivas con la Administración, empresas homólogas, asociaciones empresariales y otras partes interesadas que ayudan a dar forma a esta iniciativa.

El trabajo en curso sobre evaluaciones cibernéticas muestra por qué importa la coherencia. Hoy, comprensiblemente, los modelos se están probando antes de que el marco federal esté completo. A medida que los laboratorios han avanzado en ese proceso, una lección ha quedado clara: necesitamos un enfoque coherente y repetible tanto a nivel estatal como federal. Eso es esencial si queremos que los modelos más capaces estén en manos del Gobierno, los defensores de infraestructuras críticas, los aliados y otros socios de confianza. Valoramos el objetivo de la Administración de tener este marco establecido para principios de agosto.

Un marco federal de pruebas ayudará a poner herramientas avanzadas de IA en manos del Gobierno, los defensores de infraestructuras críticas, los aliados y otros socios de confianza. Al hacerlo, reforzará las instituciones democráticas y ayudará a construir una pila de IA democrática liderada por EE. UU. Ahora es el momento de usar el liderazgo innovador de Estados Unidos en apoyo de una IA democrática.

Ni un proceso federal indefinido ni un mosaico de leyes estatales producirán un régimen coherente de seguridad de vanguardia. Necesitamos un enfoque que garantice que los mejores evaluadores examinen los modelos más capaces, y que los defensores de confianza accedan a esas herramientas con la rapidez suficiente para ir por delante de los actores maliciosos.

El Congreso también se está moviendo. Legisladores de ambas cámaras y de ambos partidos —incluidos, más recientemente, los representantes Jay Obernolte y Lori Trahan— han tomado nota de los avances en los estados y en el poder ejecutivo, y han presentado propuestas para un marco federal. Ningún borrador de debate con una vía realista hacia su aprobación será perfecto. Pero consideramos que este trabajo es un avance productivo y creemos que muchas de sus disposiciones están bien planteadas y merecen apoyo.

También nos anima que los líderes del Senado y de la Cámara estén dedicando un esfuerzo serio a propuestas de gobernanza nacional y seguridad de vanguardia, y hemos mantenido conversaciones constructivas con muchos de ellos. Dado el tamaño y la influencia de los estados que ya han promulgado leyes alineadas en esa dirección, incorporar esos enfoques a la legislación federal debería facilitar el establecimiento de un único régimen nacional de seguridad de vanguardia.

El plan de OpenAI para la seguridad de la IA de vanguardia expone cuáles creemos que son los elementos esenciales de ese marco.

En primer lugar, el Gobierno federal debe liderar las pruebas y la evaluación de los sistemas más avanzados. La IA de vanguardia plantea cuestiones de seguridad nacional y seguridad pública que requieren experiencia técnica, recursos y un acceso que ningún estado puede replicar por completo.

Ese trabajo debe reforzar el Center for AI Standards and Innovation (CAISI), creado bajo el presidente Biden y fortalecido bajo el presidente Trump. CAISI puede proporcionar la capacidad federal duradera necesaria para evaluar modelos avanzados y orientar la seguridad de vanguardia hacia la prevención del daño antes de que ocurra, en lugar de depender principalmente de la rendición de cuentas posterior. Cualquier legislación federal debe considerar cuidadosamente cómo debe trabajar CAISI con el resto del Gobierno y qué papel debe desempeñar en el centro de las pruebas.

En segundo lugar, las empresas que desarrollan los sistemas más capaces deben cumplir requisitos claros, incluidas auditorías independientes, notificación de incidentes, normas de seguridad sólidas y protecciones para denunciantes.

En tercer lugar, los esfuerzos federales y estatales deben reforzarse mutuamente. Las leyes estatales no serán todas idénticas, y esperamos trabajar con responsables políticos de todo el país para garantizar que refuercen la seguridad al tiempo que maximizan los beneficios económicos de la IA.

Los estados también deben seguir actuando como laboratorios de la democracia en ámbitos más allá de la seguridad de vanguardia, como la protección de los jóvenes, la política eléctrica y medioambiental, y la educación y alfabetización en IA.

Un marco federal sigue siendo esencial. La IA de vanguardia plantea cuestiones de seguridad nacional, competitividad económica y seguridad pública que, en última instancia, requieren estándares nacionales, capacidades nacionales e instituciones nacionales que respalden una IA democrática.

La legislación nacional también es fundamental para un marco internacional de estándares de IA liderado por EE. UU. Esa idea se debatió hace varias semanas en el G7, junto con Brasil, Egipto, India, Kenia y Corea, donde los consejeros delegados de los principales laboratorios de vanguardia hablaron de la necesidad de un marco de este tipo. Tras esa reunión, el consejero delegado de OpenAI, Sam Altman, propuso en el Financial Times⁠(se abre en una ventana nueva) «un foro internacional liderado por EE. UU. que establezca estándares aceptados, proporcione análisis expertos e imparciales de capacidades y riesgos, y ponga la tecnología a disposición de los países y empresas que participen y sigan las reglas». Esta semana, el consejero delegado de Google DeepMind, Demis Hassabis, también presentó ideas bien meditadas en un nuevo documento. Una legislación federal —necesariamente bipartidista— proporcionaría una base sólida para ese esfuerzo internacional.

El impulso ya es visible a todos los niveles. Los estados están estableciendo enfoques comunes. El Congreso y el poder ejecutivo están avanzando hacia un marco nacional. Y los líderes mundiales empiezan a debatir estándares internacionales. Si cada nivel se apoya en los demás, EE. UU. puede liderar el desarrollo de un marco global basado en una visión democrática de la IA. Y este enfoque de alineación democrática para la IA es el que realmente prioriza la seguridad.