EE. UU. avanza en seguridad de la IA con acciones estatales y federales

Por Chris Lehane, director de Asuntos globales

Desde las capitales estatales de todo el país hasta Washington y los encuentros internacionales, están tomando forma enfoques serios para la gobernanza de la IA de vanguardia. En conjunto, impulsan una visión democrática de la IA.

California, Nueva York y, más recientemente, Illinois han impulsado legislación sobre seguridad para la IA de vanguardia que ayuda a llevar al país hacia una base común para gobernar los sistemas de IA más poderosos.

Estos esfuerzos reflejan el impulso detrás de lo que OpenAI llama federalismo inverso: estados que ayudan a establecer una dirección compartida mediante un marco común. A medida que el trabajo liderado por los estados converge con los esfuerzos en curso a nivel federal, empieza a tomar forma un estándar nacional que sienta las bases de un marco global de IA liderado por EE. UU. Creemos que la mejor manera de garantizar que la IA beneficie a muchos, no solo a unos pocos, es que las decisiones críticas, empezando por la seguridad de la IA de vanguardia, las tomen gobiernos democráticos y no únicamente laboratorios de IA de vanguardia.

En última instancia, a Estados Unidos le convendría más un marco nacional basado en ese principio. Pero, en ausencia de uno, los estados pueden acercarnos a él aprobando leyes que se reflejen entre sí. Paso a paso, pueden crear un estándar nacional de facto.

Y si la seguridad es la prioridad, un estándar nacional de este tipo es el mejor enfoque de política pública para garantizar que (a) EE. UU. siga liderando en innovación y no se vea perjudicado por un mosaico de regulaciones que frenaría la capacidad de construir una infraestructura global de IA democrática, orientada a que los actores legítimos tengan las herramientas que necesitan para defenderse de actores maliciosos que buscan usar indebidamente la IA en áreas como la ciberseguridad; y (b) colocar a EE. UU. en la posición más sólida para tomar el estándar nacional y crear un enfoque global para el despliegue seguro de la IA, basado en valores democráticos. Si queremos crear un marco de seguridad que realmente priorice establecer un estándar nacional e internacional —que es lo que mejor apoyará el despliegue seguro de la IA—, hará falta trabajo arduo, seriedad de propósito y una estrategia que conecte a los estados, el gobierno federal y la conversación internacional. Un enfoque performativo o de mera señalización de virtud no logrará el objetivo aquí: el caos a nivel estatal no favorece un enfoque de seguridad duradero, solo generará más caos.

Para que ese enfoque tenga éxito, los estados deben seguir alineándose en los elementos centrales, como lo han hecho California, Nueva York e Illinois. En términos generales, esos elementos son:

• Un marco de seguridad documentado con evaluaciones de riesgo para modelos de vanguardia y la divulgación pública de esas evaluaciones y sus resultados.
• Notificación de incidentes graves de seguridad.
• Gobernanza y rendición de cuentas mediante auditorías independientes y objetivas.

En conjunto, estos tres estados han incorporado la supervisión democrática al despliegue de la IA de vanguardia. California estableció el marco central de divulgación. Nueva York demostró que el enfoque podía adoptarse en distintas jurisdicciones. Illinois lo complementó al exigir la verificación independiente de divulgaciones clave.

Reconocemos que la legislación suele incluir disposiciones adicionales para conseguir los votos necesarios para su aprobación. Pero creemos que estos son los elementos esenciales necesarios para crear un estándar nacional de facto mediante el federalismo inverso. Sin esa disciplina, corremos el riesgo de una expansión indebida de las políticas y de un mosaico de leyes estatales difíciles de hacer cumplir para los reguladores, confusas para los consumidores y que desvíen recursos de los desarrolladores —especialmente en startups y pequeñas empresas— que estarían mejor invertidos en seguridad. En particular, y como han mostrado las últimas semanas, a medida que los modelos de IA se vuelven cada vez más capaces, necesitamos un sistema coherente que nos permita poner las herramientas en manos del gobierno, la infraestructura crítica, los aliados y los socios de confianza.

Los responsables de políticas públicas también deben cuidarse de la expansión de objetivos. No se debe pedir a los estados que gestionen riesgos significativos de seguridad nacional (ni que, en la práctica, tomen decisiones de seguridad nacional en nombre de todo el país) ni que realicen revisiones altamente técnicas que es mejor dejar en manos de expertos federales con los recursos, la experiencia, el acceso a sistemas clasificados y la capacidad de trabajar estrechamente con nuestros equipos.

A nivel federal, la Administración Trump sigue trabajando con expertos técnicos y de seguridad nacional en un marco para que el gobierno de EE. UU. pruebe las capacidades cibernéticas de los modelos de IA más capaces. Ese marco establecerá estándares, plazos y procesos de prueba. OpenAI participa en conversaciones constructivas con la Administración, empresas pares, grupos empresariales y otras partes interesadas que ayudan a dar forma a este esfuerzo.

El trabajo en curso sobre evaluaciones cibernéticas ilustra por qué la coherencia es importante. Hoy, y con razón, los modelos se están probando antes de que el marco federal esté completo. A medida que los laboratorios han avanzado en ese proceso, una lección se ha vuelto clara: necesitamos un enfoque coherente y repetible tanto a nivel estatal como federal. Eso es esencial si queremos que los modelos más capaces estén en manos del gobierno, los defensores de infraestructura crítica, los aliados y otros socios de confianza. Valoramos el objetivo de la Administración de tener este marco listo para principios de agosto.

Un marco federal de pruebas ayudará a poner herramientas avanzadas de IA en manos del gobierno, los defensores de infraestructura crítica, los aliados y otros socios de confianza. Al hacerlo, fortalecerá las instituciones democráticas y ayudará a construir una infraestructura de IA democrática liderada por EE. UU. Este es el momento de usar el liderazgo innovador de Estados Unidos en apoyo de la IA democrática.

Ni un proceso federal indefinido ni un mosaico de leyes estatales producirán un régimen coherente de seguridad para la IA de vanguardia. Necesitamos un enfoque que garantice que los mejores evaluadores examinen los modelos más capaces, y que los defensores de confianza obtengan acceso a esas herramientas con la rapidez suficiente para adelantarse a los actores maliciosos.

El Congreso también está avanzando. Legisladores de ambas cámaras y de ambos partidos, incluidos más recientemente los representantes Jay Obernolte y Lori Trahan, han tomado nota de los avances en los estados y en el poder ejecutivo, y han presentado propuestas para un marco federal. Ningún borrador de discusión con una vía realista hacia su aprobación será perfecto. Pero consideramos que este trabajo es un avance productivo y creemos que muchas de sus disposiciones son sensatas y merecen apoyo.

También nos alienta que los líderes del Senado y la Cámara estén dedicando esfuerzos serios a propuestas de gobernanza nacional y seguridad para la IA de vanguardia, y hemos tenido conversaciones constructivas con muchos de ellos. Dado el tamaño y la influencia de los estados que ya han promulgado leyes alineadas en términos generales, incorporar esos enfoques a la legislación federal debería facilitar el establecimiento de un único régimen nacional de seguridad para la IA de vanguardia.

El plan de OpenAI para la seguridad de la IA de vanguardia expone lo que consideramos los elementos esenciales de ese marco.

Primero, el gobierno federal debe liderar las pruebas y la evaluación de los sistemas más avanzados. La IA de vanguardia plantea cuestiones de seguridad nacional y seguridad pública que requieren conocimientos técnicos, recursos y acceso que ningún estado puede replicar por completo.

Ese trabajo debe fortalecer el Center for AI Standards and Innovation (CAISI), creado bajo el presidente Biden y reforzado bajo el presidente Trump. CAISI puede aportar la capacidad federal duradera necesaria para evaluar modelos avanzados y orientar la seguridad de la IA de vanguardia hacia la prevención del daño antes de que ocurra, en lugar de depender principalmente de la rendición de cuentas posterior. Cualquier legislación federal debe considerar cuidadosamente cómo debe trabajar CAISI con el resto del gobierno y qué papel debe desempeñar en el centro de las pruebas.

Segundo, las empresas que desarrollan los sistemas más capaces deben cumplir requisitos claros, incluidas auditorías independientes, notificación de incidentes, estándares de seguridad sólidos y protecciones para denunciantes.

Tercero, los esfuerzos federales y estatales deben reforzarse mutuamente. No todas las leyes estatales serán idénticas, y esperamos trabajar con responsables de políticas públicas en todo el país para garantizar que fortalezcan la seguridad y maximicen los beneficios económicos de la IA.

Los estados también deben seguir sirviendo como laboratorios de la democracia en áreas más allá de la seguridad de la IA de vanguardia, incluidas la protección de jóvenes, la política eléctrica y ambiental, y la educación y alfabetización en IA.

Un marco federal sigue siendo esencial. La IA de vanguardia plantea cuestiones de seguridad nacional, competitividad económica y seguridad pública que, en última instancia, requieren estándares nacionales, capacidades nacionales e instituciones nacionales que apoyen la IA democrática.

La legislación nacional también es fundamental para un marco internacional de estándares de IA liderado por EE. UU. Esa idea se discutió hace varias semanas en el G7, junto con Brasil, Egipto, India, Kenia y Corea, donde los directores ejecutivos de los principales laboratorios de IA de vanguardia debatieron la necesidad de un marco de ese tipo. Tras esa reunión, Sam Altman, CEO de OpenAI, propuso en el Financial Times⁠(se abre en una nueva ventana) “un foro internacional liderado por EE. UU. que establezca estándares aceptados, proporcione análisis expertos e imparciales de capacidades y riesgos, y ponga la tecnología a disposición de las naciones y empresas que participen y cumplan las reglas”. Esta semana, Demis Hassabis, CEO de Google DeepMind, también presentó ideas bien fundamentadas en un nuevo documento. La legislación federal, necesariamente bipartidista, proporcionaría una base sólida para ese esfuerzo internacional.

El impulso ya es visible en todos los niveles. Los estados están estableciendo enfoques comunes. El Congreso y el poder ejecutivo están avanzando hacia un marco nacional. Y los líderes globales empiezan a discutir estándares internacionales. Si cada uno se apoya en los demás, EE. UU. puede liderar el desarrollo de un marco global basado en una visión democrática de la IA. Y este enfoque de alineación democrática para la IA es el que realmente prioriza la seguridad.