Fortalecer la supervisión democrática de la seguridad nacional

La IA está cambiando la forma en que los gobiernos democráticos protegen a su población. Puede ayudar a detener ciberataques, proteger infraestructura crítica, detectar amenazas antes y ofrecer a los servidores públicos un panorama más claro durante una crisis. Bien utilizadas, estas herramientas pueden fortalecer la seguridad nacional.

La supervisión democrática ayuda a garantizar que el ejercicio del poder público rinda cuentas ante la población a la que sirve. A medida que la IA vuelve más rápidas y eficaces las labores de seguridad nacional, las instituciones encargadas de supervisarlas también deben mantenerse al día. La IA puede actuar con rapidez y a gran escala a partir de información contextual incompleta o desactualizada, objetivos mal configurados o supuestos desalineados, lo que dificulta detectar manualmente los errores antes de que se propaguen. La supervisión es especialmente importante cuando se usa IA para la seguridad nacional, porque las decisiones pueden requerir confidencialidad y tener consecuencias graves.

Guiados por nuestros Principios de seguridad nacional, abordamos las implementaciones de seguridad nacional con salvaguardas, criterio humano significativo y una supervisión adecuada, especialmente en contextos de alto riesgo. Estos principios también priorizan ayudar a las instituciones de supervisión a desarrollar la capacidad necesaria para supervisar el uso de la IA con rapidez y a gran escala.

Las instituciones gubernamentales ya cuentan con facultades y responsabilidades establecidas para supervisar las actividades de seguridad nacional. Cuando la IA contribuye a esas actividades, es posible que la supervisión deba evolucionar. La supervisión tradicional exige mucho trabajo y se vuelve casi imposible cuando se pide a equipos pequeños, que emplean métodos de la era del papel, revisar sistemas que operan a la velocidad de las máquinas.

OpenAI considera que los sistemas más capaces requieren una supervisión más sólida, y aplicamos ese principio a nuestro propio trabajo. Según nuestro Marco de preparación, los modelos avanzados se someten a una revisión rigurosa antes de implementarse para comprender sus capacidades y determinar si las salvaguardas son suficientes. Ese escrutinio continúa después de la implementación mediante el monitoreo continuo y la revisión de incidentes; lo aprendido sirve para reforzar las salvaguardas y orientar el desarrollo futuro de modelos.

OpenAI no desempeña ni debe desempeñar una función de supervisión sobre el gobierno. Esa responsabilidad recae en los funcionarios electos y las instituciones públicas creadas para ese fin. En cambio, podemos apoyar con nuestra tecnología a las instituciones de supervisión mientras cumplen sus mandatos vigentes.

Tres principios guiarán este trabajo.

Primero, la IA debe reforzar, no reemplazar, el criterio humano e institucional. Las decisiones sobre si la conducta gubernamental es legal, apropiada y coherente con las normas y políticas aplicables corresponden a los organismos autorizados y a los órganos de supervisión legalmente constituidos.

Segundo, el uso gubernamental de la IA debe ser rastreable y comprensible para las autoridades de supervisión. Quienes realizan las revisiones deben poder entender cómo contribuyó la IA a una decisión, sin dejar de proteger la información clasificada, privada y sensible para la seguridad.

Tercero, la IA debe utilizarse para fortalecer a las instituciones democráticas de supervisión. La supervisión manual del uso gubernamental de la IA no puede realizarse a gran escala. A medida que se adopte la IA en la seguridad nacional y en otras labores gubernamentales de alto riesgo, los órganos de supervisión también deben utilizarla de forma responsable, comprensible y conforme a sus mandatos.

Durante el próximo año, planeamos impulsar esta iniciativa de las siguientes maneras:

• Trabajaremos con funcionarios autorizados para identificar oportunidades prácticas en las que las herramientas de IA o el apoyo técnico puedan hacer más eficaz la supervisión.

• Proporcionaremos 5 millones de dólares en capacitación, apoyo técnico y créditos de OpenAI a los órganos de supervisión de gobiernos democráticos para respaldar la adopción y evaluación responsables de herramientas de IA.

• Trabajaremos con instituciones de supervisión para probar herramientas que ayuden a los revisores autorizados a examinar los registros relacionados con decisiones gubernamentales asistidas por IA —incluidos los datos de entrada y salida pertinentes y el uso de herramientas— a fin de comprender mejor cómo influyó la IA en los resultados. Cuando sea posible, las herramientas serán interoperables o independientes del modelo. Las instituciones participantes, y no OpenAI, conservarán el control de las pruebas, los resultados y las conclusiones, que solo estarán disponibles para funcionarios gubernamentales autorizados.

• Colaboraremos con la sociedad civil y expertos técnicos para que sus perspectivas orienten la manera en que OpenAI desarrolla estas herramientas y aborda las responsabilidades que conllevan.

La IA puede concentrar el poder o ayudar a las instituciones democráticas a ejercerlo y controlarlo con mayor eficacia. La tecnología por sí sola no determinará qué futuro tendremos, pero sí lo harán las decisiones que tomen ahora las instituciones humanas y las empresas.

Evaluaremos el avance de esta iniciativa según si los revisores autorizados pueden cumplir mejor sus obligaciones y si el público tiene más motivos para confiar en que los sistemas gubernamentales de IA se utilizan según lo previsto.

A medida que evolucione el uso gubernamental de la IA, OpenAI seguirá apoyando a las instituciones responsables de supervisarla.