Crear estándares para la próxima fase de la IA
Nuestra misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad. Como explicó recientemente Sam Altman junto con Jakub Pachocki, orientamos nuestro trabajo hacia esta misión mediante tres objetivos principales:
Gestionar la próxima etapa de progreso de la IA mediante la creación de un investigador de IA automatizado, el uso iterativo de este para abordar el problema de la alineación y la búsqueda de formas de mantener a las personas dentro del ciclo de automejora.
Hacer llegar los beneficios del progreso científico y el crecimiento económico que permiten las máquinas de gran inteligencia.
Dotar a cada persona de una IAG personal.
La IA está acelerando nuestra propia labor de investigación e ingeniería, y la investigación asistida por IA ha dado lugar a avances en matemáticas, incluido el problema del milenio de Navier-Stokes. Este progreso resulta muy prometedor para nuestros otros dos objetivos, que podrían propiciar importantes descubrimientos médicos, una atención sanitaria ampliamente accesible y el empoderamiento económico de pequeñas empresas y emprendedores individuales de todo el mundo.
La IA avanza en numerosas empresas y países, y el progreso en todo el sector transforma las oportunidades y los desafíos a los que se enfrenta todo el mundo. Además de aportar otros beneficios, una IA capaz y alineada será una parte importante de la forma en que gestionemos esta transición: reforzará las defensas, hará avanzar la investigación sobre alineación y ayudará a las personas a comprender y orientar las próximas etapas del desarrollo de la IA.
Para gestionar esta transición de forma segura, la investigación sobre alineación debe mantener el ritmo de estas capacidades, de modo que los sistemas que construyamos nosotros y otros sigan alineados con los valores humanos y bajo control humano. Esto cobra cada vez más importancia a medida que los sistemas de IA adquieren mayores capacidades y autonomía, también cuando asumen una parte creciente de la propia investigación y desarrollo de la IA. Para que el progreso continuo de la IA sea seguro y beneficioso, se necesitarán tanto avances en la investigación sobre alineación como estándares compartidos que orienten el desarrollo entre laboratorios y países.
La investigación automatizada sobre IA puede implicar distintos grados de supervisión humana. A medida que los sistemas de IA asumen una parte mayor del trabajo de desarrollar sucesivas generaciones de IA, pueden impulsar cada vez más un proceso de automejora recursiva (RSI), aunque las personas sigan participando. A medida que este proceso se automatice, el ritmo de progreso de la IA podría acelerarse rápidamente.
Creemos que la investigación automatizada sobre IA dará lugar a modelos que mejoren directamente la vida de las personas. Puede reducir el coste de la inteligencia avanzada para que personas de todo el mundo se beneficien de ella. La investigación automatizada también podría ayudarnos a mejorar sustancialmente la alineación y crear defensas frente a una IA cada vez más capaz: un investigador de IA automatizado también puede investigar de forma automatizada la seguridad de la IA. Unos sistemas más capaces y alineados podrían ayudar a proteger infraestructuras críticas, defendernos de agentes de IA peligrosos y desarrollar nuevas medidas de protección.
La RSI plenamente autónoma no existe hoy, y no debemos intentar desarrollarla a menos que pueda hacerse de forma segura y hasta que esto sea posible. La decisión de avanzar y la forma de hacerlo deben depender de nuestra capacidad para preservar el control humano y de decisiones democráticas informadas(se abre en una ventana nueva) sobre los beneficios y los riesgos. Sin el debido cuidado y cautela, la RSI podría hacer que los seres humanos perdieran el control efectivo del desarrollo de la IA y fueran incapaces de supervisar procesos de investigación que ya no comprendieran. A partir de ahí, la IA podría volverse más peligrosa, estar menos alineada y, en conjunto, suponer un peligro para las personas. El incidente de Hugging Face que dimos a conocer, aunque no fue consecuencia directa de la RSI, anticipa el tipo de riesgos que podrían agravarse mucho sin salvaguardias y medidas de alineación sólidas.
Los estándares internacionales para las prácticas de seguridad y protección en el desarrollo de IA de vanguardia pueden ser tan importantes para marcar el ritmo de avance de la vanguardia como la propia investigación sobre alineación. Los estándares pueden establecer definiciones compartidas de pruebas de alta calidad y bases de referencia acordadas para el rigor de las salvaguardias técnicas. En suma, nos ayudan a responder a la pregunta: «¿Qué aspecto tiene una buena mitigación del riesgo catastrófico de la IA?».
Las instituciones democráticas existentes, como el Centro para los Estándares y la Innovación en IA (CAISI), las leyes estatales y un marco federal para la IA, pueden contribuir a ello, al igual que nuevas formas de colaboración público-privada(se abre en una ventana nueva). Sin embargo, el desarrollo y el despliegue de la IA se producen en varios países, su adopción tiene lugar a escala mundial y es probable que todo el mundo experimente sus efectos de alguna forma y en algún momento.
Por tanto, hacen falta iniciativas internacionales para desarrollar estándares que permitan resolver algunos desafíos fundamentales:
Fragmentación: las evaluaciones, los requisitos de notificación y las definiciones de incidentes de distintos países podrían entrar en conflicto, lo que dificultaría comparar pruebas, comprender capacidades emergentes y responder a riesgos transfronterizos.
Acción colectiva: si cada país actúa de forma independiente, pueden producirse resultados que ninguno desea. La RSI puede acelerar la propia investigación sobre IA, quizá más allá de nuestra capacidad colectiva para comprender los avances, evaluar los riesgos y mantener una supervisión humana efectiva.
Capacidad desigual: la actividad de desarrollo de vanguardia y los conocimientos relacionados no se distribuyen de manera uniforme por el mundo. Esto acentúa los dos problemas anteriores.
Estos desafíos afectan tanto a los modelos abiertos como a los cerrados.
Para que quede claro, cualquier laboratorio de IA que emprenda una investigación automatizada sobre IA o desarrolle otras capacidades avanzadas debe asumir la responsabilidad de hacerlo de forma segura, conforme a los principios básicos de responsabilidad propia y a la legislación vigente. Nuestra justificación de los estándares se basa en evitar la concentración de poder y lograr mejores resultados prácticos. Los estándares permiten que más partes interesadas ajenas a los laboratorios participen en las decisiones sobre la evolución de esta tecnología y ofrecen un conjunto visible de principios en los que confiar con independencia de las prácticas concretas de cada laboratorio. Además, es probable que obtengamos mejores resultados si las distintas partes colaboran para abordar los desafíos anteriores.
Por eso creemos que Estados Unidos debe liderar una iniciativa de colaboración con países de todo el mundo para desarrollar estándares técnicos globales para la IA de vanguardia, incluida la RSI.
Aunque esperamos que este concepto evolucione considerablemente con el tiempo, habrá dos aspectos esenciales.
Una forma de lograrlo sería aprovechar la red emergente de institutos de seguridad de la IA —como los ya establecidos en Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea, Singapur, India y el Reino Unido— para facilitar la elaboración de estándares a través del CAISI y de organismos industriales nacionales, con especial atención a: (1) los modelos y desarrolladores de IA de vanguardia, según parámetros de referencia de capacidades; y (2) la gestión de beneficios y riesgos de la investigación automatizada sobre IA, incluida la RSI. Estados Unidos puede aprovechar la creación por parte del CAISI de la Red Internacional para la Medición, Evaluación y Ciencia de la IA Avanzada(se abre en una ventana nueva) en 2024, que reúne a instituciones públicas para cooperar en la medición, evaluación y ciencia de la IA.
Los estándares desarrollados mediante esta iniciativa proporcionarían una base técnica común para medir y evaluar las capacidades, valorar los riesgos y determinar si las salvaguardias son suficientes. Estos estándares técnicos no serían licencias, revisiones obligatorias previas al lanzamiento ni requisitos de aprobación para los modelos de IA. Los gobiernos nacionales decidirían si incorporan estos estándares a sus propios ordenamientos jurídicos y cómo hacerlo.
Este trabajo también debe respaldar un ecosistema de IA competitivo mediante consultas a desarrolladores de modelos abiertos y cerrados, expertos técnicos independientes y el ámbito académico. Los estándares comunes deben desarrollarse de forma transparente y diseñarse para no favorecer a empresas, países o modelos de negocio concretos, también evitando que dificulten la competencia de nuevos participantes o desarrolladores de modelos de pesos abiertos.
Como hemos sugerido(se abre en una ventana nueva), este enfoque puede extraer lecciones de ámbitos como la aviación y la estabilidad financiera, en los que los países han desarrollado estándares técnicos comunes y canales de cooperación fiables sin renunciar a su autoridad nacional. También debe colaborar estrechamente con organismos de normalización consolidados y nuevos, como la ISO(se abre en una ventana nueva), el Foro de Modelos de Vanguardia(se abre en una ventana nueva), la Fundación de IA con Agentes(se abre en una ventana nueva) y la Alianza para una IA Abierta y Segura(se abre en una ventana nueva), así como con organizaciones centradas en la aplicación, como la Fundación Appia, que desarrolla especificaciones prácticas para conectar los estándares internacionales con evaluaciones de IA en situaciones reales.
Los estándares internacionales de IA serán especialmente importantes para gestionar la creciente autonomía en la investigación sobre IA y la automejora recursiva. En concreto, podrían incluir estándares para:
Evaluar el progreso de la IA pertinente para la RSI y la cantidad de investigación autónoma que se lleva a cabo dentro de una empresa de IA. Nuestro reciente informe sobre la aceleración de la investigación es una contribución inicial a esta iniciativa.
Supervisar por parte de seres humanos la investigación automatizada sobre IA, incluidos los tipos de procesos automatizados de investigación sobre IA que deben activar una revisión humana inmediata.
Clasificar, seguir, notificar y responder a incidentes relacionados con la alineación y la investigación automatizada sobre IA, con elementos comunes como niveles de gravedad de los incidentes y umbrales de notificación. Nuestro marco para notificar desalineaciones es una primera contribución.
Además de estos estándares, creemos que será importante que los operadores de infraestructuras críticas y los gobiernos de todo el mundo establezcan canales de comunicación seguros para compartir inquietudes de seguridad nacional, vulnerabilidades y amenazas emergentes, así como buenas prácticas en el campo de la seguridad de la IA de vanguardia, que evoluciona con rapidez. El diálogo entre Estados Unidos y China en estos ámbitos sería un paso positivo, y las próximas conversaciones llegan en un momento oportuno.
Marcar el ritmo del desarrollo de la IA no consiste en mantener una velocidad predeterminada. En el plano técnico, consiste en garantizar que la investigación sobre alineación y la aplicación de sus resultados se mantengan por delante de las capacidades. En el plano social, consiste en utilizar estándares, instituciones y colaboración para reforzar las redes industriales, las relaciones sociales y las fuerzas del mercado a fin de generar resultados de suma positiva. El reciente llamamiento a la acción colectiva en materia de ciberdefensa es un ejemplo de esto último.
Estados Unidos está bien posicionado para liderar porque su industria de la IA se encuentra en la vanguardia técnica y el país aún ocupa una posición privilegiada en la red mundial en ámbitos fundamentales como las finanzas, el comercio, la defensa, la tecnología y los sistemas de información. Asumir ahora el liderazgo determinará si Estados Unidos da forma al marco mundial de la IA o contempla cómo se afianza a su alrededor un sistema fragmentado, desigual y plagado de conflictos. También determinará si la IA avanzada fortalece las redes que Estados Unidos y sus aliados ya poseen; no asumir el liderazgo podría debilitarlas.
La competencia geopolítica no dependerá solo de quién esté a la cabeza en el plano técnico, sino también de la adopción y difusión de la IA. Cada vez más, esto último podría depender de quién impulse una cooperación realista y unas reglas del juego sensatas que las empresas y sociedades de todo el mundo querrán si van a confiar su futuro a esta tecnología.
Una gobernanza nacional sólida, conectada mediante una cooperación internacional práctica, ofrece una vía hacia mayores salvaguardias, una innovación continua y un acceso amplio a los beneficios de la IA.
