Nuestro enfoque para las alianzas gubernamentales y de seguridad nacional
Los gobiernos están comenzando a usar sistemas de IA de vanguardia para tareas cada vez más importantes, incluso en seguridad nacional. Eso crea nuevos imperativos para que los laboratorios de IA, los gobiernos y la sociedad civil trabajen juntos sobre cómo deben usarse estas herramientas en contextos sensibles.
Creemos que las sociedades democráticas deben poder usar la IA para proteger a las personas, defender la infraestructura crítica, prestar servicios públicos y responder a amenazas emergentes, incluso en áreas como la ciberdefensa y la seguridad biológica, donde la IA puede dar una ventaja significativa a quienes defienden. Pero los sistemas de IA cada vez más capaces deben implementarse de formas que refuercen la rendición de cuentas democrática, el juicio humano significativo y el Estado de derecho, y que fortalezcan las instituciones democráticas en lugar de concentrar el poder.
Hoy publicamos los Principios de seguridad nacional de OpenAI para ofrecer transparencia sobre cómo abordamos las alianzas gubernamentales y los usos de nuestra tecnología en seguridad nacional.
Estos principios reflejan un esfuerzo transversal de toda la empresa para desarrollar un enfoque más integral de nuestro trabajo en el ámbito de la seguridad nacional y la aplicación de la ley a medida que nuestra tecnología sigue avanzando. Trabajamos con un destacado experto en seguridad nacional, David Kris, para ayudar a facilitar el proceso y aportar su criterio independiente; realizamos sesiones de escucha en toda la empresa, e involucramos a empleados que representan a diversos equipos, desde investigación y seguridad hasta políticas públicas y alianzas gubernamentales.
Los publicamos ahora mientras ampliamos nuestro trabajo con el gobierno de EE. UU. y socios aliados en áreas defensivas críticas, en particular ciberseguridad y bioseguridad. En el último mes, como parte de nuestro programa de ciberdefensa Daybreak, ya establecimos alianzas de Trusted Access for Cyber con Australia, Canadá, Japón, la República de Corea, Francia, Alemania, Polonia, los Países Bajos e instituciones de la UE como ENISA. También tenemos una alianza creciente y de confianza con el gobierno del Reino Unido en torno a ciberseguridad, pruebas y evaluación. Estamos adoptando un enfoque similar en bioseguridad. El mes pasado también anunciamos la ampliación del acceso de confianza a nuestro modelo GPT‑Rosalind para socios seleccionados del gobierno de EE. UU. y aliados que apoyan misiones de salud pública y biodefensa.
Estos principios se aplican a nuestras alianzas actuales y futuras en seguridad nacional y aplicación de la ley, incluido nuestro trabajo existente con el Departamento de Guerra. Cuando anunciamos nuestro acuerdo a principios de este año, articulamos varias restricciones contractuales: no usar la tecnología de OpenAI para vigilancia nacional masiva, no usar la tecnología de OpenAI para dirigir sistemas de armas autónomas y no usar la tecnología de OpenAI para decisiones automatizadas de alto impacto. Esas restricciones son coherentes con los principios que compartimos hoy.
Creemos que lo correcto es ser claros sobre cómo puede y no puede usarse nuestra tecnología, y ser transparentes al respecto. Pero muchas de las preguntas más trascendentes sobre la IA en el gobierno, especialmente en seguridad nacional, deben responderse mediante el proceso democrático. El papel de empresas como la nuestra es ayudar a informar esas decisiones, no tomarlas por nuestra cuenta. Por eso apoyamos los esfuerzos legislativos para establecer salvaguardas en torno a algunos de los usos militares de mayor riesgo de la IA, incluso en los contextos de vigilancia nacional, sistemas de armas autónomas y otros usos de alto riesgo que afectan directamente la seguridad nacional de EE. UU.
Lee los principios aquí(se abre en una nueva ventana).
