Notre accord avec le ministère de la Défense

Hier, nous avons conclu un accord avec le Pentagone pour déployer des systèmes d’IA avancés dans des environnements classifiés, et nous leur avons également demandé de les rendre accessibles à toutes les entreprises d’IA.

Nous pensons que notre accord comporte plus de garde-fous que tout accord précédent concernant le déploiement d’IA en milieu classifié, y compris celle d’Anthropic. En voici la raison.

Nous avons mis en place trois grandes limites de sécurité qui guident notre travail avec le ministère de la Défense, et qui sont généralement partagées par plusieurs autres laboratoires de pointe :

• Aucune utilisation de la technologie OpenAI n'est autorisée à des fins de surveillance de masse à l’échelle nationale.
• Aucune utilisation de la technologie d’OpenAI n'est autorisée pour diriger des systèmes d’armes autonomes.
• Aucune utilisation de la technologie OpenAI n'est autorisée pour des décisions automatisées à fort enjeu (par ex. systèmes tels que « Crédit social »).

D’autres laboratoires d’IA ont réduit ou supprimé leurs garde-fous de sécurité et se sont principalement appuyés sur des politiques d’utilisation comme principales mesures de protection dans les déploiements en matière de sécurité nationale. Nous pensons que notre approche est plus efficace lorsqu'il s'agit de protéger contre les utilisations inacceptables.

Dans notre accord, nous protégeons nos limites de sécurité par une approche plus large et à plusieurs niveaux. Nous conservons un contrôle total sur notre architecture de sécurité : nous procédons au déploiement par infonuagique, le personnel d’OpenAI dûment accrédité demeure impliqué, et nous bénéficions de solides protections contractuelles. Tout cela s’ajoute aux protections existantes robustes prévues par la loi américaine.

Nous croyons fermement en la démocratie. Compte tenu de l’importance de cette technologie, nous pensons que la seule bonne voie à suivre exige une collaboration étroite entre les efforts en IA et le processus démocratique. Nous pensons également que notre technologie va introduire de nouveaux risques dans le monde, et nous voulons que les personnes chargées de défendre les États-Unis disposent des meilleurs outils.

Notre accord inclut :

1. Architecture de déploiement. Il s’agit d’un déploiement exclusivement infonuagique, avec une architecture de sécurité que nous exploitons et qui intègre ces principes, et d'autres. Nous ne fournissons pas au Département de la Défense des modèles « sans garde-fous » ni des modèles non entraînés en matière de sécurité, et nous ne déployons pas nos modèles sur des appareils en périphérie (où il pourrait exister un risque d’utilisation pour des armes létales autonomes).

Notre architecture de déploiement nous permettra de vérifier de manière indépendante que ces limites de sécurité ne sont pas franchies, notamment en exécutant et en mettant à jour des classificateurs.

2. Notre contrat. Voici le langage pertinent :

Le ministère de la Défense peut utiliser le système d’IA à toutes fins licites, conformément au droit applicable, aux exigences opérationnelles et aux protocoles de sécurité et de supervision bien établis. Le système d’IA ne sera pas utilisé pour diriger de manière indépendante des armes autonomes dans tout cas où la loi, la réglementation ou la politique du ministère exige un contrôle humain, ni pour assumer d’autres décisions à enjeux élevés qui exigent l’approbation d’un décideur humain en vertu des mêmes autorités. Conformément à la directive 3000.09 du Département de la Défense (datée du 25 janvier 2023), toute utilisation de l’IA dans des systèmes autonomes ou semi-autonomes doit faire l’objet d’une vérification, d’une validation et d’essais rigoureux afin de s’assurer qu’ils fonctionnent comme prévu dans des environnements réalistes avant leur déploiement.

Dans le cadre des activités de renseignement, tout traitement de renseignements privés respectera le quatrième amendement, la Loi sur la sécurité nationale de 1947, la Loi sur la surveillance du renseignement étranger de 1978, le décret présidentiel 12333, ainsi que les directives applicables du Département de la Défense exigeant un objectif de renseignement étranger clairement défini. Le système d’IA ne doit pas être utilisé pour la surveillance non encadrée des informations personnelles de personnes américaines, conformément à ces autorités. Le système ne doit pas non plus être utilisé pour des activités nationales d’application de la loi, sauf dans la mesure permise par la Posse Comitatus Act et d’autres lois applicables.

3. Participation d’experts en IA. Nous aurons des ingénieurs d’OpenAI dûment accrédités déployés sur le terrain pour appuyer le gouvernement, avec la participation de chercheurs accrédités en sécurité et en alignement.

Pourquoi faites-vous cela?

Premièrement, nous estimons que l’armée américaine a absolument besoin de modèles d’IA puissants pour soutenir sa mission, surtout face aux menaces croissantes d’adversaires potentiels qui intègrent de plus en plus les technologies d’IA à leurs systèmes. Au départ, nous n’avons pas conclu immédiatement un contrat pour un déploiement en milieu classifié, car nous estimions que nos mécanismes de protection et nos systèmes n’étaient pas encore prêts. Nous avons depuis travaillé intensivement pour permettre un tel déploiement tout en mettant en place des protections afin que certaines limites de sécurité ne soient pas franchies.

Nous n’étions pas—et ne sommes toujours pas—disposés à supprimer des mécanismes techniques essentiels de protection afin d’améliorer les performances dans le cadre de travaux liés à la sécurité nationale. Ce n’est pas la bonne approche pour soutenir l’armée américaine.

Deuxièmement, nous voulions aussi désamorcer la situation entre le ministère de la Défense et les laboratoires d’IA américains. Un avenir positif exigera une collaboration réelle et approfondie entre le gouvernement et les laboratoires d’IA. Dans le cadre de cette entente, nous avons demandé que les mêmes conditions soient offertes à tous les laboratoires d’IA et, plus précisément, que le gouvernement tente de régler la situation avec Anthropic; la situation actuelle constitue un très mauvais point de départ pour cette nouvelle phase de collaboration entre le gouvernement et les laboratoires d’IA.

Pourquoi avez-vous pu conclure une entente alors qu’Anthropic n’a pas pu le faire? Avez-vous signé l’entente qu’ils ont refusé de conclure?

D’après ce que nous savons, nous estimons que notre contrat offre de meilleures garanties et des mécanismes de protection plus responsables que les ententes antérieures, y compris le contrat initial d’Anthropic. Nous estimons que nos limites de sécurité sont plus facilement applicables dans ce contexte, puisque le déploiement exclusivement infonuagique (et non en périphérie), maintient notre architecture de sécurité selon l’approche que nous jugeons la plus appropriée et garde du personnel d’OpenAI dûment accrédité dans la boucle.

Nous ne savons pas pourquoi Anthropic n’a pas pu conclure cet accord, et nous espérons qu’ils envisageront, ainsi que d’autres laboratoires, de le faire.

Pensez-vous qu’Anthropic devrait être désignée comme un « risque lié à la chaîne d’approvisionnement »?

Non, et nous avons clarifié notre position à ce sujet auprès du gouvernement.

Cet accord permettra-t-il au ministère de la Défense d’utiliser les modèles d’OpenAI pour alimenter des armes autonomes?

Non. Compte tenu de notre architecture de sécurité, de notre déploiement exclusivement infonuagique, des dispositions du contrat ainsi que des lois, règlements et politiques en vigueur, nous sommes convaincus que cela ne peut pas se produire. Nous aurons également du personnel d’OpenAI inclus dans la boucle pour une assurance supplémentaire.

Cette entente permettra-t-elle au ministère de la Défense d’utiliser les modèles d’OpenAI pour mener une surveillance de masse des citoyens américains?

Non. Compte tenu de notre architecture de sécurité, des dispositions du contrat et des lois en vigueur qui limitent fortement la surveillance intérieure par le ministère de la Défense, nous sommes convaincus que cela ne peut pas se produire. Nous aurons également du personnel d’OpenAI inclus dans la boucle pour une assurance supplémentaire.

Devez-vous déployer des modèles sans architecture de sécurité?

Non, nous conservons un contrôle total sur l’architecture de sécurité que nous déployons et ne déploierons pas de modèles sans garde-fous de sécurité. De plus, nos chercheurs en sécurité et en alignement seront impliqués et aideront à améliorer les systèmes au fil du temps. Nous savons que d’autres laboratoires d’IA ont réduit les garde-fous des modèles et se sont appuyés principalement sur des politiques d’utilisation comme principale mesure de protection, mais nous estimons que notre approche à plusieurs niveaux protège mieux contre les usages inacceptables.

Que se passe-t-il si le gouvernement ne respecte pas les conditions du contrat?

Comme pour tout contrat, nous pourrions y mettre fin si la contrepartie enfreint les conditions. Nous ne nous attendons pas à ce que cela se produise.

Que se passerait-il si le gouvernement modifiait simplement la loi ou les politiques actuelles du ministère de la Défense?

Notre contrat fait explicitement référence aux lois et aux politiques sur la surveillance et les armes autonomes telles qu’elles existent aujourd’hui, de sorte que, même si ces lois ou politiques changent à l’avenir, l’utilisation de nos systèmes devra rester conforme aux normes actuelles prévues dans l’entente.

Comment répondez-vous aux arguments qu’Anthropic a avancés dans son billet de blogue⁠(s'ouvre dans une nouvelle fenêtre) au sujet de ses discussions avec le ministère de la Défense?

Dans son billet, Anthropic mentionne deux de ses limites (nous avons les mêmes deux limites, ainsi qu’une troisième : la prise de décisions automatisée dans des situations à enjeux élevés) et explique pourquoi elle ne croyait pas que ces limites seraient respectées dans les contrats qu’elle avait vus du ministère de la Défense à ce moment-là. Voici pourquoi nous croyons que ces mêmes limites de sécurité s’appliqueraient à notre contrat :

• Surveillance de masse à l’échelle nationale. Il était clair, lors de nos échanges, que le ministère de la Défense considère la surveillance de masse à l’intérieur du pays comme illégale et n’avait pas l’intention d’utiliser ces systèmes à cette fin. Nous avons précisé dans notre contrat que cela n’était pas couvert par l’utilisation légale.
• Armes entièrement autonomes. La surface de déploiement infonuagique couverte par notre contrat ne permettrait pas d’alimenter des armes entièrement autonomes, car cela nécessiterait un déploiement en périphérie.

En plus de ces protections, notre contrat prévoit des mesures de protection supplémentaires par niveaux, notamment notre architecture de sécurité et la présence d’experts techniques d’OpenAI dans la boucle.