Ayudar a crear estándares compartidos para IA avanzada
Los modelos cada vez más capaces pueden reforzar la ciberdefensa, acelerar los descubrimientos científicos y ampliar el acceso al conocimiento experto. Pero también pueden generar riesgos de seguridad si se malinterpretan sus capacidades, sus salvaguardias son insuficientes o los gobiernos carecen de la información que necesitan para responder. Para materializar los beneficios de forma segura y con confianza, las sociedades necesitarán instituciones con la capacidad técnica y de gobernanza necesaria para evaluar, proteger y gobernar sistemas cada vez más capaces.
Esa es una de las razones por las que OpenAI ayudó a fundar la Appia Foundation(se abre en una ventana nueva), alojada por la Linux Foundation. Appia desarrollará especificaciones abiertas y modulares destinadas a traducir los estándares internacionales y los marcos consolidados en criterios prácticos de evaluación a lo largo de la cadena de valor de la IA. Su trabajo puede ayudar a desarrollar una capa de confianza crítica que hoy falta, mediante la cual terceros comprueben la conformidad con los estándares y generen evidencias más claras y reutilizables cuando modelos, infraestructuras y aplicaciones sean desarrollados por distintas organizaciones. Al llevar a cabo este trabajo, Appia ayudará a crear un lenguaje técnico compartido que permita a las instituciones nacionales e internacionales confiar en el trabajo de las demás.
Consideramos que este esfuerzo es un importante paso siguiente dentro de un conjunto más amplio de trabajos para reforzar las instituciones, los estándares y las prácticas de evaluación que requieren los sistemas avanzados de IA.
Nuestro reciente plan para la gobernanza democrática de la IA de frontera ofrece una hoja de ruta para ese trabajo. Propone un marco estadounidense duradero, un Center for AI Standards and Innovation (CAISI) reforzado y una estrategia de resiliencia más amplia en todo el gobierno. También reconoce que los riesgos de frontera tienen alcance internacional. Las naciones deberían trabajar juntas para desarrollar marcos de seguridad compatibles, canales de confianza para compartir conclusiones sobre riesgos y respuestas coordinadas ante incidentes.
La capacidad nacional y la cooperación internacional deberían reforzarse mutuamente. Instituciones sólidas como CAISI pueden desarrollar conocimientos técnicos, evaluar sistemas de frontera y apoyar un ecosistema de evaluación independiente. Una red de instituciones nacionales capaces puede entonces establecer métodos compartidos, reconocer evidencias fiables y proporcionar a los gobiernos la comprensión técnica común necesaria para actuar juntos.
Los estándares son esenciales para ese esfuerzo y deben basarse en prácticas de evaluación creíbles y en rigor técnico. En nuestro manual compartido para evaluaciones fiables realizadas por terceros, exponemos qué deben revelar cada vez más las evaluaciones de frontera: el sistema probado, su acceso a herramientas y el entorno de evaluación, los métodos utilizados para suscitar capacidades, los recursos disponibles y las comprobaciones realizadas para validar los resultados. También hemos puesto en práctica estos principios mediante colaboraciones de pruebas con US CAISI y UK AISI, cuyo trabajo sobre evaluaciones de capacidades de frontera y salvaguardias frente al uso indebido biológico dio lugar a mejoras concretas en nuestros sistemas. Este trabajo cumple una función importante: sentar las bases de prácticas que puedan estandarizarse para comprobar el rendimiento de forma comparable.
Estas prácticas complementan la infraestructura de seguridad más amplia de OpenAI. Nuestro Preparedness Framework constituye la base de cómo definimos y llevamos a la práctica nuestro enfoque para gestionar los riesgos más graves de los sistemas avanzados de IA, incluidas nuestras prácticas internas. Nuestro Marco de gobernanza de frontera aplica las partes pertinentes de ese enfoque en un documento público de gobernanza centrado en obligaciones regulatorias específicas, como la evaluación de riesgos, la elaboración de informes sobre modelos, los controles de seguridad, la respuesta a incidentes y la incorporación de aportaciones de expertos externos. En conjunto, estos materiales ayudan a convertir compromisos generales en prácticas operativas que pueden validarse y mejorarse.
El trabajo de Appia se orienta al siguiente reto: hacer que esas prácticas sean interoperables entre organizaciones, jurisdicciones y la cadena de suministro.
OpenAI ya contribuye a un ecosistema más amplio de estándares y esfuerzos de preestandarización. Participamos en el Comité Técnico Conjunto 1, Subcomité 42 sobre Inteligencia Artificial, de la Organización Internacional de Normalización y la Comisión Electrotécnica Internacional(se abre en una ventana nueva) y en el Consorcio de Inteligencia Artificial liderado por el Instituto Nacional de Estándares y Tecnología(se abre en una ventana nueva); ayudamos a fundar el Foro de Modelos de Frontera y la Fundación de Inteligencia Artificial Agéntica(se abre en una ventana nueva) de la Linux Foundation; participamos en la Coalición para la Inteligencia Artificial Segura(se abre en una ventana nueva); formamos parte del comité directivo de la Coalición para la Procedencia y Autenticidad de los Contenidos(se abre en una ventana nueva); y colaboramos en procesos del Grupo de Trabajo de Ingeniería de Internet(se abre en una ventana nueva) y la Alianza Fast Identity Online(se abre en una ventana nueva) para impulsar estándares técnicos interoperables.
En todos estos foros, ahora también a través de Appia, nuestro objetivo es convertir las lecciones del desarrollo de frontera en prácticas abiertas y técnicamente sólidas que gobiernos, empresas y evaluadores independientes puedan utilizar en distintas jurisdicciones.
