Nuestro acuerdo con el Departamento de Guerra

Ayer llegamos a un acuerdo con el Pentágono para implementar sistemas avanzados de IA en entornos clasificados y solicitamos que también se pusiera a disposición de todas las empresas de IA.

Creemos que nuestro acuerdo contiene más salvaguardas que cualquier acuerdo anterior para implementaciones clasificadas de IA, incluido el de Anthropic. Aquí explicamos por qué.

Tenemos tres límites de seguridad principales que guían nuestro trabajo con el DoW, que en general también comparten varios laboratorios de vanguardia:

• No se permite el uso de la tecnología de OpenAI para la vigilancia masiva nacional.
• No se permite el uso de tecnología de OpenAI para dirigir sistemas de armas autónomas. 
• No se permite el uso de la tecnología de OpenAI para decisiones automatizadas de alto riesgo (p. ej., sistemas como «crédito social»).

Otros laboratorios de IA han reducido o eliminado sus salvaguardas y se han apoyado en gran medida en políticas de uso como su principal mecanismo de protección en implementaciones vinculadas a la seguridad nacional. Creemos que nuestro enfoque protege mejor contra usos inaceptables.

En nuestro acuerdo, protegemos nuestros límites de seguridad mediante un enfoque más amplio y multicapa. Conservamos plena discreción sobre nuestra estructura de seguridad, realizamos la implementación a través de la nube, el personal autorizado de OpenAI participa en el proceso y contamos con sólidas protecciones contractuales. Todo esto se suma a las firmes protecciones ya previstas en la legislación de EE. UU. 

Creemos firmemente en la democracia. Dada la importancia de esta tecnología, consideramos que el único camino correcto a seguir requiere una colaboración profunda entre los esfuerzos de IA y el proceso democrático. Creemos también que nuestra tecnología conlleva nuevos riesgos a nivel global y queremos que las personas responsables de la defensa de Estados Unidos tengan las mejores herramientas.

Nuestro acuerdo incluye lo siguiente:

1. Arquitectura de implementación. Se trata de una implementación exclusiva en la nube, con una estructura de seguridad que gestionamos e incluye estos principios, entre otros. No estamos proporcionando al DoW modelos «sin salvaguardas» ni modelos no entrenados en seguridad, ni estamos implementando nuestros modelos en dispositivos perimetrales (donde podría existir la posibilidad de uso para armas letales autónomas). 

Nuestra arquitectura de implementación nos permitirá verificar de forma independiente que no se crucen estos límites de seguridad, que incluyen el funcionamiento y la actualización de clasificadores.

2. Nuestro contrato. A continuación, el texto relevante:

El Departamento de Guerra puede usar el Sistema de IA para todos los fines legales, de conformidad con la legislación aplicable, los requisitos operativos y los protocolos de seguridad y supervisión bien establecidos. El Sistema de IA no se usará para dirigir de forma independiente armas autónomas en ningún caso en el que la ley, la normativa o la política del Departamento exijan control humano, ni se usará para asumir otras decisiones de alto riesgo que requieran la aprobación de un responsable humano de la toma de decisiones bajo las mismas autoridades. Según la Directiva del DoD 3000.09 (con fecha 25 de enero 2023), cualquier uso de IA en sistemas autónomos y semiautónomos debe someterse a una rigurosa verificación, validación y pruebas para garantizar que funcionen según lo previsto en entornos realistas antes de su implementación.

En el caso de las actividades de inteligencia, cualquier manejo de información privada cumplirá con la Cuarta Enmienda, la Ley de Seguridad Nacional de 1947 y la Ley de Inteligencia y Vigilancia Extranjera de 1978, la Orden Ejecutiva 12333 y las directivas aplicables del Departamento de Defensa (DoD) que exigen un propósito definido de inteligencia extranjera. El Sistema de IA no deberá usarse para la monitorización sin restricciones de la información privada de personas estadounidenses, de conformidad con estas disposiciones. El sistema tampoco deberá utilizarse para actividades de aplicación de la ley dentro del país, salvo cuando lo permita la Ley Posse Comitatus y otras leyes aplicables.

3. Participación de expertos en IA. Contaremos con ingenieros de OpenAI ubicados en el lugar con autorización de seguridad, que apoyarán al gobierno, mientras investigadores autorizados de seguridad y alineamiento participan en el proceso. 

¿Por qué están haciendo esto? 

En primer lugar, creemos que el ejército de EE. UU. necesita modelos de IA sólidos para apoyar su misión, especialmente ante las crecientes amenazas de posibles adversarios que cada vez integran más tecnologías de IA en sus sistemas. En un principio, no participamos en un contrato para una implementación clasificada, ya que no considerábamos que nuestras salvaguardas y sistemas estuvieran listos. Hemos estado trabajando arduamente para asegurarnos de que pueda llevarse a cabo una implementación clasificada con salvaguardas que eviten que se crucen los límites de seguridad. 

No estábamos, y seguimos sin estar, dispuestos a eliminar salvaguardas técnicas clave para mejorar el rendimiento en trabajos de seguridad nacional. No es el enfoque correcto para apoyar a las fuerzas armadas de EE. UU. 

En segundo lugar, también queríamos reducir la tensión entre el DoW y los laboratorios de IA de EE. UU. Un buen futuro requerirá una colaboración real y profunda entre el gobierno y los laboratorios de IA. Como parte de nuestro acuerdo, pedimos que los mismos términos estuvieran disponibles para todos los laboratorios de IA y, específicamente, que el gobierno intentara resolver la situación con Anthropic; el estado actual no representa un buen punto de partida para esta siguiente fase de colaboración entre el gobierno y los laboratorios de IA.

¿Por qué pudieron llegar a un acuerdo que Anthropic no consiguió? ¿Firmaron el acuerdo que ellos no aceptaron?

Según lo que sabemos, creemos que nuestro contrato ofrece mejores garantías y salvaguardas más responsables que los acuerdos anteriores, incluido el contrato original de Anthropic. Creemos que nuestros límites de seguridad son más aplicables aquí porque la implementación se limita a la nube (no en la periferia), mantiene nuestras estructuras de seguridad funcionando de la forma que consideramos óptima y al personal autorizado de OpenAI al tanto.

No sabemos por qué Anthropic no pudo llegar a este acuerdo, y esperamos que ellos y más laboratorios lo consideren.

¿Creen que Anthropic debería ser catalogada como un «riesgo en la cadena de suministro»?

No, y hemos dejado clara nuestra postura al respecto ante el gobierno.

¿Permitirá este acuerdo que el Departamento de Guerra utilice modelos de OpenAI para impulsar armas autónomas? 

No. Gracias a nuestra estructura de seguridad, la implementación exclusiva en la nube, el lenguaje del contrato y las leyes, regulaciones y políticas vigentes, tenemos la certeza de que esto no puede ocurrir. También tendremos personal de OpenAI involucrado para ofrecer garantías adicionales.  

¿Permitirá este acuerdo que el Departamento de Guerra utilice los modelos de OpenAI para llevar a cabo vigilancia masiva sobre personas de EE. UU.?

No. Basándonos en nuestra estructura de seguridad, el lenguaje del contrato y las leyes vigentes que limitan fuertemente al DoW respecto a la vigilancia doméstica, estamos seguros de que esto no puede suceder. También tendremos personal de OpenAI involucrado como garantía adicional.  

¿Deben implementar modelos sin estructuras de seguridad?

No, conservamos el control total sobre las estructuras de seguridad que implementamos y no desplegaremos modelos sin salvaguardas. Además, nuestros investigadores en seguridad y alineamiento estarán involucrados y ayudarán a mejorar los sistemas con el tiempo. Sabemos que otros laboratorios de IA han reducido las salvaguardas de los modelos y se han basado en las políticas de uso como principal medida de protección, pero creemos que nuestro enfoque por capas protege mejor contra usos inaceptables.

¿Qué pasa si el gobierno incumple los términos del contrato?

Como con cualquier contrato, podríamos rescindirlo si la contraparte incumple los términos. No esperamos que eso ocurra.

¿Qué pasa si el gobierno simplemente cambia la ley o las políticas de DoW existentes?

Nuestro contrato hace referencia explícita a las leyes y políticas sobre vigilancia y armas autónomas tal como existen hoy, de modo que, incluso si esas leyes o políticas cambian en el futuro, el uso de nuestros sistemas debe seguir alineado con los estándares actuales reflejados en el acuerdo. 

¿Cómo abordan los argumentos que presentó Anthropic en su entrada de blog⁠(se abre en una ventana nueva) sobre su conversación con el DoW?

En su publicación, Anthropic expone dos de sus límites de seguridad (nosotros tenemos los mismos dos límites, además de un tercero: la toma de decisiones automatizada de alto riesgo) y explica por qué no cree que esos límites de seguridad se respetarían en los contratos que habían visto del DoW en ese momento. A continuación, explicamos por qué creemos que esos mismos límites de seguridad se mantendrían en nuestro contrato:

• Vigilancia masiva nacional. En nuestra interacción, quedó claro que el DoW considera ilegal la vigilancia masiva nacional y no tenía previsto usarla con ese propósito. Nos aseguramos de dejar explícito en nuestro contrato que no se contempla como uso lícito.
• Armas totalmente autónomas. La superficie de despliegue en la nube incluida en nuestro contrato no permitiría operar armas totalmente autónomas, ya que esto requeriría una implementación en la periferia. 

Además de estas protecciones, nuestro contrato ofrece salvaguardas adicionales por capas, que incluyen nuestra estructura de seguridad y la participación de expertos técnicos de OpenAI.