Ayudar a crear estándares compartidos para la IA avanzada
Los modelos cada vez más capaces pueden fortalecer la ciberdefensa, acelerar los descubrimientos científicos y ampliar el acceso a conocimientos especializados. Pero también pueden generar riesgos de seguridad y protección si sus capacidades se malinterpretan, sus salvaguardas son insuficientes o los gobiernos no cuentan con la información que necesitan para responder. Para aprovechar los beneficios de forma segura y con confianza, las sociedades necesitarán instituciones con capacidad técnica y de gobernanza para evaluar, proteger y gobernar sistemas cada vez más capaces.
Esa es una razón por la que OpenAI ayudó a fundar la Appia Foundation(se abre en una nueva ventana), alojada por Linux Foundation. Appia desarrollará especificaciones abiertas y modulares destinadas a convertir estándares internacionales y marcos establecidos en criterios prácticos de evaluación en toda la cadena de valor de la IA. Su trabajo puede ayudar a crear una capa de confianza crítica que hoy falta, mediante la cual terceros verifican el cumplimiento de estándares y generan evidencia más clara y reutilizable cuando los modelos, la infraestructura y las aplicaciones son desarrollados por organizaciones distintas. Al realizar este trabajo, Appia ayudará a crear un lenguaje técnico compartido que permitirá a las instituciones nacionales e internacionales confiar en el trabajo de las demás.
Consideramos que este esfuerzo es un paso importante dentro de un conjunto más amplio de iniciativas para fortalecer las instituciones, los estándares y las prácticas de evaluación que requieren los sistemas avanzados de IA.
Nuestro reciente plan para la gobernanza democrática de la IA de frontera ofrece una hoja de ruta para ese trabajo. Propone un marco duradero para EE. UU., un Centro de Estándares e Innovación en IA (CAISI) fortalecido y una estrategia de resiliencia más amplia en todo el gobierno. También reconoce que los riesgos de frontera tienen alcance internacional. Los países deberían trabajar juntos para desarrollar marcos de seguridad compatibles, canales confiables para compartir hallazgos sobre riesgos y respuestas coordinadas ante incidentes.
La capacidad nacional y la cooperación internacional deberían reforzarse mutuamente. Instituciones sólidas como CAISI pueden desarrollar experiencia técnica, evaluar sistemas de frontera y respaldar un ecosistema de evaluación independiente. Una red de instituciones nacionales capaces puede entonces establecer métodos compartidos, reconocer evidencia confiable y brindar a los gobiernos la comprensión técnica común necesaria para actuar en conjunto.
Los estándares son centrales para ese esfuerzo y deben basarse en prácticas de evaluación creíbles y rigor técnico. En nuestro manual compartido para evaluaciones confiables de terceros, detallamos lo que las evaluaciones de frontera deben divulgar cada vez con mayor frecuencia: el sistema evaluado, su acceso a herramientas y entorno de evaluación, los métodos usados para extraer capacidades, los recursos disponibles y las comprobaciones realizadas para validar los resultados. También hemos puesto en práctica estos principios mediante alianzas de pruebas con CAISI de EE. UU. y AISI del Reino Unido, cuyo trabajo en evaluaciones de capacidades de frontera y salvaguardas contra el uso indebido biológico condujo a mejoras concretas en nuestros sistemas. Este trabajo cumple una función importante: sentar las bases de prácticas que puedan estandarizarse para verificar el desempeño de manera comparable.
Estas prácticas complementan la infraestructura de seguridad más amplia de OpenAI. Nuestro Preparedness Framework es la base sobre la que definimos y llevamos a la práctica nuestro enfoque para gestionar los riesgos más graves de los sistemas avanzados de IA, incluidas nuestras prácticas internas. Nuestro Frontier Governance Framework traslada partes relevantes de ese enfoque a un documento público de gobernanza centrado en obligaciones regulatorias específicas, incluidas la evaluación de riesgos, la presentación de informes sobre modelos, los controles de seguridad, la respuesta a incidentes y la incorporación de aportes de expertos externos. En conjunto, estos materiales ayudan a convertir compromisos generales en prácticas operativas que se pueden validar y mejorar.
El trabajo de Appia apunta al próximo desafío: lograr que esas prácticas sean interoperables entre organizaciones, jurisdicciones y la cadena de suministro.
OpenAI ya contribuye a un ecosistema más amplio de estándares y esfuerzos de preestandarización. Participamos en el Comité Técnico Conjunto 1, Subcomité 42 sobre Inteligencia Artificial, de la Organización Internacional de Normalización y la Comisión Electrotécnica Internacional(se abre en una nueva ventana) y en el Consorcio de Inteligencia Artificial liderado por el Instituto Nacional de Estándares y Tecnología(se abre en una nueva ventana); ayudamos a fundar el Frontier Model Forum y la Agentic Artificial Intelligence Foundation(se abre en una nueva ventana) de Linux Foundation; participamos en la Coalición para una Inteligencia Artificial Segura(se abre en una nueva ventana); formamos parte del comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido(se abre en una nueva ventana); y participamos en procesos del Grupo de Trabajo de Ingeniería de Internet(se abre en una nueva ventana) y la Alianza Fast Identity Online(se abre en una nueva ventana) para promover estándares técnicos interoperables.
En todos estos foros, ahora también a través de Appia, nuestro objetivo es convertir las lecciones del desarrollo de frontera en prácticas abiertas y con sustento técnico que gobiernos, empresas y evaluadores independientes puedan usar en distintas jurisdicciones.
