Notre approche des partenariats gouvernementaux et de sécurité nationale

Les gouvernements commencent à utiliser des systèmes d’IA de pointe pour des tâches de plus en plus importantes, notamment en matière de sécurité nationale. Cela impose aux laboratoires d’IA, aux gouvernements et à la société civile de nouvelles exigences de coopération sur la manière dont ces outils doivent être utilisés dans des contextes sensibles. 

Nous pensons que les sociétés démocratiques doivent pouvoir utiliser l’IA pour protéger les personnes, défendre les infrastructures critiques, fournir des services publics et répondre aux menaces émergentes, notamment dans des domaines comme la cyberdéfense et la sécurité biologique, où l’IA peut donner un avantage réel aux défenseurs. Mais des systèmes d’IA de plus en plus performants doivent être déployés de manière à renforcer la responsabilité démocratique, le discernement humain effectif et l’État de droit, ainsi que les institutions démocratiques, plutôt qu’à concentrer le pouvoir.

Aujourd’hui, nous publions les Principes de sécurité nationale d’OpenAI afin d’expliquer en toute transparence notre approche des partenariats gouvernementaux et des usages de notre technologie liés à la sécurité nationale.

Ces principes reflètent un effort mené à l’échelle de l’entreprise pour élaborer une approche plus complète de notre travail dans les domaines de la sécurité nationale et de l’application de la loi, à mesure que notre technologie progresse. Nous avons fait appel à David Kris, éminent expert en sécurité nationale, pour faciliter le processus et apporter son jugement indépendant ; nous avons organisé des séances d’écoute dans toute l’entreprise et consulté des employés représentant diverses équipes, de la recherche et de la sécurité à la politique publique et aux partenariats gouvernementaux.

Nous les publions aujourd’hui alors que nous développons notre collaboration avec le gouvernement américain et des partenaires alliés dans des domaines défensifs critiques, en particulier la cybersécurité et la biosécurité. Au cours du mois écoulé, dans le cadre de notre programme de cyberdéfense Daybreak⁠, nous avons déjà établi des partenariats Trusted Access for Cyber avec l’Australie, le Canada, le Japon, la République de Corée, la France, l’Allemagne, la Pologne, les Pays-Bas et des institutions de l’UE comme l’ENISA. Nous entretenons également avec le gouvernement britannique un partenariat de confiance en pleine expansion autour du cyber, des tests et de l’évaluation. Nous adoptons une approche similaire en matière de biosécurité. Le mois dernier, nous avons également annoncé un accès de confiance élargi à notre modèle GPT‑Rosalind pour certains partenaires du gouvernement américain et de pays alliés qui soutiennent des missions de santé publique et de biodéfense.

Ces principes s’appliquent à nos partenariats actuels et futurs en matière de sécurité nationale et d’application de la loi, y compris notre collaboration existante avec le ministère de la Guerre. Lorsque nous avons annoncé notre accord plus tôt cette année, nous avons formulé plusieurs restrictions contractuelles : aucune utilisation de la technologie d’OpenAI à des fins de surveillance intérieure de masse, aucune utilisation de la technologie d’OpenAI pour diriger des systèmes d’armes autonomes, et aucune utilisation de la technologie d’OpenAI pour des décisions automatisées à fort enjeu. Ces restrictions sont conformes aux principes que nous présentons aujourd’hui.

Nous pensons qu’il est juste d’expliquer clairement comment notre technologie peut ou ne peut pas être utilisée, et de faire preuve de transparence à ce sujet. Mais nombre des questions les plus déterminantes concernant l’IA dans l’action publique, en particulier en matière de sécurité nationale, doivent être tranchées par le processus démocratique. Le rôle d’entreprises comme la nôtre est d’éclairer ces décisions, et non de les prendre seules. C’est pourquoi nous soutenons les efforts législatifs visant à établir des garde-fous autour de certains des usages militaires de l’IA les plus risqués, notamment dans les contextes de la surveillance intérieure, des systèmes d’armes autonomes et d’autres usages à haut risque qui touchent directement la sécurité nationale des États-Unis.

Lire les principes ici⁠(ouverture dans une nouvelle fenêtre).