Notre accord avec le Department of War américain

Hier, nous avons conclu un accord avec le Pentagone pour déployer des systèmes d’IA avancés dans des environnements classifiés, et nous leur avons également demandé de les rendre accessibles à toutes les entreprises d’IA.

Nous pensons que notre accord comporte plus de garde-fous que tout accord précédent pour le déploiement d’IA en milieu classifié, y compris celui d’Anthropic. En voici la raison.

Trois lignes rouges guident notre travail avec le Department of War américain (DoW), et elles sont généralement partagées par plusieurs autres laboratoires de pointe :

• Aucune utilisation de la technologie OpenAI n’est autorisée à des fins de surveillance de masse à l’échelle nationale.
• Aucune utilisation de la technologie d’OpenAI n’est autorisée pour piloter des systèmes d’armes autonomes. 
• Aucune utilisation de la technologie OpenAI n’est autorisée pour des décisions automatisées à enjeux élevés (par exemple, des systèmes de notation sociale).

D’autres laboratoires d’IA ont réduit ou supprimé leurs garde-fous et s’appuient principalement sur des politiques d’utilisation comme mécanisme de protection dans leurs déploiements liés à la sécurité nationale. Nous pensons que notre approche protège mieux contre les utilisations inacceptables.

Dans notre accord, nous protégeons nos lignes rouges par une approche plus large et à plusieurs niveaux. Nous conservons un contrôle total sur notre dispositif de sécurité : le déploiement se fait exclusivement dans le cloud, du personnel d’OpenAI habilité reste impliqué et nous bénéficions de protections contractuelles solides. Tout cela vient s’ajouter aux solides protections déjà prévues par le droit américain. 

Nous croyons fermement en la démocratie. Compte tenu de l’importance de cette technologie, nous pensons que la seule voie viable exige une collaboration étroite entre les efforts en IA et le processus démocratique. Nous pensons également que notre technologie introduira de nouveaux risques, et nous voulons que les personnes chargées de défendre les États-Unis disposent des meilleurs outils.

Notre accord inclut :

1. Architecture de déploiement. Il s’agit d’un déploiement exclusivement dans le cloud, avec un dispositif de sécurité que nous opérons et qui intègre ces principes ainsi que d’autres. Nous ne fournissons pas au DoW de modèles sans garde-fous de sécurité ni de modèles non entraînés à la sécurité, et nous ne déployons pas nos modèles sur des appareils en périphérie (où ils pourraient être utilisés pour des armes létales autonomes). 

Notre architecture de déploiement nous permettra de vérifier de manière indépendante que ces lignes rouges sont respectées, notamment en exécutant et en mettant à jour des classificateurs.

2. Notre contrat. Voici le langage pertinent :

Le DoW peut utiliser le système d’IA à toutes fins licites, conformément au droit applicable, aux exigences opérationnelles et aux protocoles de sécurité et de supervision bien établis. Le système d’IA ne sera pas utilisé pour diriger de manière indépendante des armes autonomes dans tout cas où la loi, la réglementation ou la politique du département exige un contrôle humain, ni pour assumer d’autres décisions à enjeux élevés qui exigent l’approbation d’un décideur humain en vertu des mêmes autorités. Conformément à la directive 3000.09 du Département de la Défense américain, DoD, (datée du 25 janvier 2023), toute utilisation de l’IA dans des systèmes autonomes ou semi-autonomes doit faire l’objet d’une vérification, d’une validation et d’essais rigoureux afin de s’assurer qu’ils fonctionnent comme prévu dans des environnements réalistes avant leur déploiement.

Dans le cadre des activités de renseignement, tout traitement de renseignements privés respectera le quatrième amendement, la Loi sur la sécurité nationale de 1947, la Loi sur la surveillance du renseignement étranger de 1978, le décret présidentiel 12333, ainsi que les directives applicables du DoD exigeant un objectif de renseignement étranger clairement défini. Le système d’IA ne doit pas être utilisé pour surveiller sans restriction les informations privées de ressortissants américains, conformément à ces autorités. Le système ne doit pas non plus être utilisé pour des activités nationales d’application de la loi, sauf dans la mesure permise par la Posse Comitatus Act et d’autres lois applicables.

3. Implication d’experts en IA. Nous aurons des ingénieurs d’OpenAI dûment accrédités déployés sur le terrain pour appuyer le gouvernement, avec la participation de chercheurs accrédités en sécurité et en alignement. 

Pourquoi faites-vous cela ? 

Premièrement, nous estimons que l’armée américaine a absolument besoin de modèles d’IA puissants pour soutenir sa mission, surtout face aux menaces croissantes d’adversaires potentiels qui intègrent de plus en plus les technologies d’IA à leurs systèmes. Au départ, nous n’avons pas conclu immédiatement un contrat pour un déploiement en milieu classifié, car nous estimions que nos mécanismes de protection et nos systèmes n’étaient pas encore prêts. Nous avons depuis travaillé intensivement pour permettre un tel déploiement tout en mettant en place des protections afin que certaines lignes rouges ne soient pas franchies. 

Nous n’étions pas—et ne sommes toujours pas—disposés à supprimer des mécanismes techniques essentiels de protection afin d’améliorer les performances dans le cadre de travaux liés à la sécurité nationale. Ce n’est pas la bonne approche pour soutenir l’armée américaine. 

Deuxièmement, nous voulions aussi désamorcer la situation entre le DoW et les laboratoires d’IA américains. Un avenir favorable exigera une collaboration réelle et approfondie entre le gouvernement et les laboratoires d’IA. Dans le cadre de cet accord, nous avons demandé que les mêmes conditions soient offertes à tous les laboratoires d’IA et, plus précisément, que le gouvernement tente de régler la situation avec Anthropic ; la situation actuelle constitue un très mauvais point de départ pour cette nouvelle phase de collaboration entre le gouvernement et les laboratoires d’IA.

Pourquoi avez-vous pu conclure un accord alors qu’Anthropic n’a pas pu le faire ? Avez-vous signé l’accord qu’ils ont refusé de conclure ?

D’après ce que nous savons, nous estimons que notre contrat offre de meilleures garanties et des mécanismes de protection plus responsables que les accords antérieurs, y compris le contrat initial d’Anthropic. Nous estimons que nos lignes rouges sont plus facilement applicables dans ce contexte, puisque le déploiement exclusivement dans le cloud (et non en périphérie), maintient notre architecture de sécurité selon l’approche que nous jugeons la plus appropriée et garde du personnel d’OpenAI dûment accrédité impliqué.

Nous ne savons pas pourquoi Anthropic n’a pas pu conclure cet accord, et nous espérons qu’ils envisageront, ainsi que d’autres laboratoires, de le faire.

Pensez-vous qu’Anthropic devrait être désignée comme un « risque lié à la chaîne d’approvisionnement » ?

Non, et nous avons clarifié notre position à ce sujet auprès du gouvernement.

Cet accord permettra-t-il au DoW d’utiliser les modèles d’OpenAI pour alimenter des armes autonomes ? 

Non. Compte tenu de notre architecture de sécurité, de notre déploiement exclusivement dans le cloud, des dispositions du contrat ainsi que des lois, règlements et politiques en vigueur, nous sommes convaincus que cela ne peut pas se produire. Du personnel d’OpenAI restera également impliqué afin d’apporter une garantie supplémentaire.  

Cet accord permettra-t-il au DoW d’utiliser les modèles d’OpenAI pour mener une surveillance de masse des citoyens américains ?

Non. Compte tenu de notre architecture de sécurité, du libellé du contrat et des lois existantes qui restreignent fortement le DoW en matière de surveillance intérieure, nous sommes convaincus que cela ne peut pas se produire. Du personnel d’OpenAI restera également impliqué afin d’apporter une garantie supplémentaire.  

Devez-vous déployer des modèles sans architecture de sécurité ?

Non, nous conservons un contrôle total sur l’architecture de sécurité que nous déployons et ne déploierons pas de modèles sans garde-fous de sécurité. De plus, nos chercheurs en sécurité et en alignement seront impliqués et aideront à améliorer les systèmes au fil du temps. Nous savons que d’autres laboratoires d’IA ont réduit les garde-fous des modèles et se sont appuyés principalement sur des politiques d’utilisation comme principale mesure de protection. Nous estimons que notre approche à plusieurs niveaux protège mieux contre les utilisations inacceptables.

Que se passe-t-il si le gouvernement ne respecte pas les conditions du contrat ?

Comme pour tout contrat, nous pourrions y mettre fin si l’autre partie ne respecte pas ses conditions. Nous ne pensons pas que cela se produira.

Que se passerait-il si le gouvernement modifiait simplement la loi ou les politiques actuelles du DoW ?

Notre contrat fait explicitement référence aux lois et aux politiques en vigueur aujourd’hui concernant la surveillance et les armes autonomes, de sorte que, même si ces lois ou politiques changent à l’avenir, l’utilisation de nos systèmes devra rester conforme aux normes actuelles prévues dans l’accord. 

Comment répondez-vous aux arguments qu’Anthropic a avancés dans leur article de blog⁠(ouverture dans une nouvelle fenêtre) au sujet de ses discussions avec le DoW ?

Dans leur article, Anthropic mentionne deux de leurs lignes rouges (nous avons ces mêmes lignes rouges, ainsi qu’une troisième : la prise de décisions automatisée dans des situations à enjeux élevés) et explique pourquoi ils ne croyaient pas que ces limites seraient respectées dans les contrats qu’ils avaient vus du DoW à ce moment-là. Voici pourquoi nous croyons que ces mêmes lignes rouges s’appliqueraient à notre contrat :

• Surveillance de masse à l’échelle nationale. Il était clair, lors de nos échanges, que le DoW considère la surveillance de masse à l’intérieur du pays comme illégale et n’avait pas l’intention d’y recourir. Nous avons précisé dans notre contrat que cela ne relevait pas d’un usage légal.
• Armes entièrement autonomes. La surface de déploiement dans le cloud couverte par notre contrat ne permettrait pas d’alimenter des armes entièrement autonomes, car cela nécessiterait un déploiement en périphérie. 

En plus de ces protections, notre contrat prévoit des mesures de protection supplémentaires, organisées en plusieurs niveaux, notamment notre dispositif de sécurité ainsi que l’implication d’experts techniques d’OpenAI.