Reforzar la supervisión democrática en la seguridad nacional

La IA está cambiando la forma en que los gobiernos democráticos protegen a la población. Puede ayudar a detener ciberataques, proteger infraestructuras críticas, detectar amenazas antes y ofrecer a los empleados públicos una visión más clara durante una crisis. Bien utilizadas, estas herramientas pueden reforzar la seguridad nacional.

La supervisión democrática ayuda a garantizar que el ejercicio del poder público rinda cuentas ante la ciudadanía a la que sirve. A medida que la IA agiliza y potencia las labores de seguridad nacional, las instituciones responsables de supervisarlas también deben avanzar al mismo ritmo. La IA puede actuar a gran velocidad y escala a partir de un contexto incompleto u obsoleto, objetivos mal configurados o supuestos inadecuados, lo que dificulta detectar manualmente los errores antes de que se propaguen. La supervisión es especialmente importante cuando se utiliza la IA para la seguridad nacional, porque las decisiones pueden exigir confidencialidad y tener consecuencias de gran trascendencia.

Guiados por nuestros Principios de seguridad nacional, abordamos las implementaciones en este ámbito con salvaguardias, un criterio humano significativo y una supervisión adecuada, especialmente en contextos de gran trascendencia. Estos principios también dan prioridad a ayudar a las instituciones supervisoras a desarrollar la capacidad necesaria para supervisar el uso de la IA a gran velocidad y escala.

Las instituciones gubernamentales ya tienen competencias y responsabilidades establecidas para supervisar las actividades de seguridad nacional. Cuando la IA contribuye a esas actividades, puede ser necesario adaptar la supervisión. La supervisión tradicional requiere mucha mano de obra y se vuelve casi imposible cuando se pide a equipos pequeños, que emplean métodos propios de la era del papel, que revisen sistemas que funcionan a la velocidad de una máquina.

OpenAI considera que los sistemas más capaces requieren una supervisión más sólida, y nos aplicamos ese principio. Conforme a nuestro Marco de preparación, los modelos avanzados se someten a una revisión rigurosa antes de su implementación para comprender sus capacidades y determinar si las salvaguardias son suficientes. Ese escrutinio continúa tras la implementación mediante una supervisión permanente y la revisión de incidentes; lo aprendido sirve para reforzar las salvaguardias y orientar el futuro desarrollo de modelos.

OpenAI no desempeña una función de supervisión sobre el Gobierno, ni debería hacerlo. Esa responsabilidad recae en los cargos electos y en las instituciones públicas creadas para tal fin. En cambio, podemos apoyar con nuestra tecnología a las instituciones supervisoras mientras cumplen sus mandatos actuales.

Tres principios guiarán esta labor.

En primer lugar, la IA debe reforzar el criterio humano e institucional, no sustituirlo. Las decisiones sobre si la actuación del Gobierno es legal, adecuada y conforme a las normas y políticas aplicables corresponden a los organismos autorizados y a los órganos de supervisión constituidos legalmente.

En segundo lugar, el uso gubernamental de la IA debe ser trazable y comprensible para los órganos de supervisión autorizados. Los revisores deben poder entender cómo contribuyó la IA a una decisión, al tiempo que se protege la información clasificada, privada y sensible para la seguridad.

En tercer lugar, la IA debe utilizarse para fortalecer las instituciones democráticas de supervisión. La supervisión manual del uso gubernamental de la IA no puede ampliarse a gran escala. A medida que se adopte la IA en la seguridad nacional y en otras labores gubernamentales de gran trascendencia, los órganos de supervisión también deberán utilizarla de forma responsable, comprensible y conforme a sus mandatos.

Durante el próximo año, tenemos previsto impulsar esta iniciativa de las siguientes maneras:

• Colaboraremos con funcionarios autorizados para identificar oportunidades prácticas en las que las herramientas de IA o el apoyo técnico puedan mejorar la eficacia de la supervisión.

• Proporcionaremos 5 millones de dólares en formación, asistencia técnica y Créditos de OpenAI a los órganos de supervisión de gobiernos democráticos para favorecer la adopción y evaluación responsables de herramientas de IA.

• Colaboraremos con instituciones supervisoras para probar herramientas que ayuden a los revisores autorizados a examinar los registros relacionados con decisiones gubernamentales asistidas por IA —incluidas las entradas, las salidas y el uso de herramientas pertinentes— y comprender mejor cómo influyó la IA en los resultados. Cuando sea viable, las herramientas serán interoperables o independientes del modelo. Las instituciones participantes, y no OpenAI, conservarán el control de las pruebas, los resultados y las conclusiones, que solo estarán disponibles para funcionarios públicos autorizados.

• Colaboraremos con la sociedad civil y con expertos técnicos para que sus perspectivas orienten el desarrollo de estas herramientas por parte de OpenAI y la manera en que abordamos las responsabilidades que conllevan.

La IA puede concentrar el poder o ayudar a las instituciones democráticas a ejercerlo y controlarlo con mayor eficacia. La tecnología por sí sola no decidirá qué futuro tendremos, pero sí lo harán las decisiones que adopten ahora las instituciones humanas y las empresas.

Evaluaremos el progreso de esta iniciativa en función de si los revisores autorizados pueden cumplir mejor sus obligaciones y la ciudadanía cuenta con motivos más sólidos para confiar en que los sistemas gubernamentales de IA se utilizan según lo previsto.

A medida que evolucione el uso gubernamental de la IA, OpenAI seguirá apoyando a las instituciones responsables de supervisarla.