Nuestro enfoque de las alianzas gubernamentales y de seguridad nacional
Los gobiernos están empezando a utilizar sistemas de IA de vanguardia para trabajos cada vez más importantes, incluso en seguridad nacional. Esto hace imprescindible que los laboratorios de IA, los gobiernos y la sociedad civil colaboren para definir cómo deben utilizarse estas herramientas en contextos sensibles.
Creemos que las sociedades democráticas deben poder usar la IA para proteger a las personas, defender infraestructuras críticas, prestar servicios públicos y responder a amenazas emergentes, también en ámbitos como la ciberdefensa y la seguridad biológica, donde la IA puede dar una ventaja significativa a quienes defienden. Sin embargo, los sistemas de IA cada vez más capaces deben desplegarse de forma que refuercen la rendición de cuentas democrática, el juicio humano significativo y el Estado de derecho, y que fortalezcan las instituciones democráticas en lugar de concentrar el poder.
Hoy publicamos los Principios de seguridad nacional de OpenAI para ofrecer transparencia sobre cómo abordamos las alianzas con gobiernos y los usos de nuestra tecnología en seguridad nacional.
Estos principios reflejan un esfuerzo transversal en toda la empresa para desarrollar un enfoque más completo de nuestro trabajo en el ámbito de la seguridad nacional y la aplicación de la ley a medida que nuestra tecnología sigue avanzando. Contamos con un destacado experto en seguridad nacional, David Kris, para ayudar a facilitar el proceso y aportar su criterio independiente, organizamos sesiones de consulta interna en toda la empresa e involucramos a empleados de diversos equipos, desde investigación y seguridad hasta políticas públicas y alianzas gubernamentales.
Los publicamos ahora al ampliar nuestro trabajo con el Gobierno de EE. UU. y socios aliados en ámbitos defensivos críticos, especialmente ciberseguridad y bioseguridad. En el último mes, como parte de nuestro programa de ciberdefensa Daybreak, ya hemos establecido alianzas de Trusted Access for Cyber con Australia, Canadá, Japón, la República de Corea, Francia, Alemania, Polonia, los Países Bajos e instituciones de la UE como ENISA. Mantenemos también una alianza cada vez más amplia y de confianza con el Gobierno del Reino Unido en ciberseguridad, pruebas y evaluación. Estamos adoptando un enfoque similar en bioseguridad. El mes pasado también anunciamos la ampliación del acceso de confianza a nuestro modelo GPT‑Rosalind para determinados socios del Gobierno de EE. UU. y aliados que respaldan misiones de salud pública y biodefensa.
Estos principios se aplican a nuestras alianzas actuales y futuras en seguridad nacional y aplicación de la ley, incluido nuestro trabajo actual con el Departamento de Guerra. Cuando anunciamos nuestro acuerdo a principios de este año, estipulamos varias restricciones contractuales: prohibición de usar la tecnología de OpenAI para la vigilancia interna masiva, prohibición de usar la tecnología de OpenAI para dirigir sistemas de armas autónomos y prohibición de usar la tecnología de OpenAI para decisiones automatizadas de alto impacto. Esas restricciones son coherentes con los principios que compartimos hoy.
Creemos que lo correcto es explicar con claridad cómo puede y cómo no puede utilizarse nuestra tecnología, y ser transparentes al respecto. Pero muchas de las preguntas más trascendentales sobre la IA en la administración pública, especialmente en seguridad nacional, deben responderse mediante el proceso democrático. El papel de empresas como la nuestra es contribuir a fundamentar esas decisiones, no tomarlas por nuestra cuenta. Por eso apoyamos iniciativas legislativas para establecer salvaguardias en torno a algunos de los usos militares de la IA de mayor riesgo, incluidos los contextos de vigilancia interna, sistemas de armas autónomos y otros usos de alto riesgo que afectan directamente a la seguridad nacional de EE. UU.
Consulta los principios aquí(se abre en una ventana nueva).
