Notre approche des partenariats gouvernementaux et de sécurité nationale

Les gouvernements commencent à utiliser des systèmes d’IA de pointe pour des travaux de plus en plus importants, notamment en sécurité nationale. Cela crée de nouvelles obligations pour les laboratoires d’IA, les gouvernements et la société civile, qui doivent collaborer afin de déterminer comment ces outils devraient être utilisés dans des contextes sensibles. 

Nous croyons que les sociétés démocratiques devraient pouvoir utiliser l’IA pour protéger les personnes, défendre les infrastructures essentielles, fournir des services publics et répondre aux menaces émergentes, y compris dans des domaines comme la cyberdéfense et la sécurité biologique, où l’IA peut donner un avantage réel aux défenseurs. Toutefois, les systèmes d’IA de plus en plus puissants doivent être déployés de façon à renforcer la responsabilité démocratique, le jugement humain significatif et la primauté du droit, ainsi qu’à consolider les institutions démocratiques plutôt qu’à concentrer le pouvoir.

Aujourd’hui, nous publions les Principes de sécurité nationale d’OpenAI afin d’offrir plus de transparence sur notre approche des partenariats gouvernementaux et des usages de notre technologie en matière de sécurité nationale.

Ces principes reflètent un effort mené à l’échelle de l’entreprise pour élaborer une approche plus complète de notre travail dans les domaines de la sécurité nationale et de l’application de la loi, à mesure que notre technologie continue de progresser. Nous avons fait appel à David Kris, un expert reconnu en sécurité nationale, pour faciliter le processus et apporter son jugement indépendant; nous avons aussi tenu des séances d’écoute dans toute l’entreprise et consulté des employés représentant diverses équipes, de la recherche et de la sécurité aux politiques publiques et aux partenariats gouvernementaux.

Nous les publions maintenant alors que nous élargissons notre collaboration avec le gouvernement américain et des partenaires alliés dans des domaines défensifs essentiels, en particulier la cybersécurité et la biosécurité. Au cours du dernier mois, dans le cadre de notre programme de cyberdéfense Daybreak⁠, nous avons déjà établi des partenariats d’accès de confiance en cybersécurité avec l’Australie, le Canada, le Japon, la République de Corée, la France, l’Allemagne, la Pologne, les Pays-Bas et des institutions de l’UE comme l’ENISA. Nous entretenons également un partenariat de confiance en pleine croissance avec le gouvernement du Royaume-Uni en matière de cybersécurité, de tests et d’évaluation. Nous adoptons une approche semblable en biosécurité. Le mois dernier, nous avons également annoncé un accès de confiance élargi à notre modèle GPT‑Rosalind pour certains partenaires du gouvernement américain et de pays alliés qui appuient des missions de santé publique et de biodéfense.

Ces principes s’appliquent à nos partenariats actuels et futurs en matière de sécurité nationale et d’application de la loi, y compris notre collaboration existante avec le département de la Guerre. Lorsque nous avons annoncé notre entente plus tôt cette année, nous avons énoncé plusieurs restrictions contractuelles : aucune utilisation de la technologie d’OpenAI pour la surveillance intérieure de masse, aucune utilisation de la technologie d’OpenAI pour diriger des systèmes d’armes autonomes, et aucune utilisation de la technologie d’OpenAI pour des décisions automatisées à enjeux élevés. Ces restrictions sont conformes aux principes que nous présentons aujourd’hui.

Nous croyons qu’il est juste d’être clairs sur la façon dont notre technologie peut et ne peut pas être utilisée, et de faire preuve de transparence à ce sujet. Cependant, bon nombre des questions les plus lourdes de conséquences au sujet de l’IA au sein des gouvernements, surtout en matière de sécurité nationale, devraient être tranchées par le processus démocratique. Le rôle d’entreprises comme la nôtre est d’éclairer ces décisions, et non de les prendre seules. C’est pourquoi nous appuyons les efforts législatifs visant à établir des garde-fous autour de certaines des utilisations militaires de l’IA les plus risquées, notamment dans les contextes de la surveillance intérieure, des systèmes d’armes autonomes et d’autres usages à haut risque qui touchent directement la sécurité nationale des États-Unis.

Lire les principes ici⁠(s'ouvre dans une nouvelle fenêtre).