Renforcer le contrôle démocratique de la sécurité nationale

L’IA transforme la manière dont les gouvernements démocratiques protègent leur population. Elle peut aider à stopper les cyberattaques, à sécuriser les infrastructures critiques, à détecter plus tôt les menaces et à donner aux agents publics une vision plus claire en temps de crise. Bien utilisés, ces outils peuvent renforcer la sécurité nationale.

Le contrôle démocratique contribue à garantir que l’exercice de la puissance publique reste soumis à l’obligation de rendre des comptes à la population qu’elle sert. Alors que l’IA accélère et améliore les activités de sécurité nationale, les institutions chargées de les contrôler doivent elles aussi suivre le rythme. L’IA peut agir rapidement et à grande échelle sur la base d’un contexte incomplet ou obsolète, d’objectifs mal configurés ou d’hypothèses mal alignées, rendant les erreurs plus difficiles à détecter manuellement avant qu’elles ne se propagent. Le contrôle est particulièrement important lorsque l’IA est utilisée pour la sécurité nationale, car les décisions peuvent, par nécessité, être couvertes par le secret et avoir de lourdes conséquences.

Guidés par nos Principes de sécurité nationale, nous abordons les déploiements liés à la sécurité nationale avec des mesures de protection, un jugement humain véritable et un contrôle approprié, surtout dans les contextes à enjeux élevés. Ces principes font également de l’aide aux institutions chargées du contrôle une priorité, afin qu’elles puissent superviser l’utilisation de l’IA rapidement et à grande échelle.

Les institutions publiques disposent déjà de pouvoirs et de responsabilités établis pour contrôler les activités de sécurité nationale. Lorsque l’IA contribue à ces activités, le contrôle peut devoir évoluer. Le contrôle traditionnel exige beaucoup de travail et devient presque impossible lorsque de petites équipes appliquant des méthodes héritées de l’ère du papier doivent examiner des systèmes fonctionnant à la vitesse des machines.

OpenAI estime que des systèmes plus performants exigent un contrôle renforcé, et nous nous l’appliquons également. Dans le cadre de notre cadre de préparation, les modèles avancés font l’objet d’un examen rigoureux avant leur déploiement afin de comprendre leurs capacités et de déterminer si les mesures de protection sont suffisantes. Cet examen se poursuit après le déploiement grâce à une surveillance continue et à l’analyse des incidents, les enseignements tirés servant à renforcer les mesures de protection et à développer de futurs modèles.

OpenAI n’exerce aucun rôle de contrôle sur le gouvernement, et ne devrait pas le faire. Cette responsabilité incombe aux élus et aux institutions publiques créées à cette fin. Nous pouvons plutôt mettre notre technologie au service des institutions de contrôle dans l’exercice de leurs mandats actuels.

Trois principes guideront ce travail.

Premièrement, l’IA doit renforcer le jugement humain et institutionnel, et non le remplacer. Il appartient aux organismes habilités et aux organes de contrôle légalement constitués de déterminer si l’action du gouvernement est légale, appropriée et conforme aux règles et politiques applicables.

Deuxièmement, l’utilisation de l’IA par les pouvoirs publics doit être traçable et intelligible pour les organes de contrôle habilités. Les examinateurs doivent pouvoir comprendre comment l’IA a contribué à une décision tout en protégeant les informations classifiées, privées et sensibles sur le plan de la sécurité.

Troisièmement, l’IA doit servir à renforcer les institutions de contrôle démocratique. Le contrôle manuel de l’utilisation de l’IA par les pouvoirs publics n’est pas viable à grande échelle. À mesure que l’IA est adoptée dans la sécurité nationale et d’autres activités publiques à enjeux élevés, les organes de contrôle doivent également pouvoir l’utiliser de manière responsable, intelligible et conforme à leurs mandats.

Au cours de l’année à venir, nous prévoyons de faire progresser cette initiative comme suit :

• Nous travaillerons avec les responsables habilités afin de repérer les applications concrètes où des outils d’IA ou une assistance technique peuvent rendre le contrôle plus efficace.

• Nous consacrerons 5 millions de dollars à la formation, à l’assistance technique et à l’octroi de crédits OpenAI aux organes de contrôle des gouvernements démocratiques afin de favoriser l’adoption et l’évaluation responsables des outils d’IA.

• Nous travaillerons avec les institutions de contrôle pour expérimenter des outils aidant les examinateurs habilités à étudier les dossiers liés aux décisions publiques assistées par l’IA, notamment les données d’entrée, les résultats et l’utilisation des outils, afin de mieux comprendre l’influence de l’IA sur les décisions finales. Dans la mesure du possible, les outils seront interopérables ou indépendants du modèle. Les institutions participantes, et non OpenAI, conserveront le contrôle des éléments probants, des résultats et des conclusions, qui resteront accessibles uniquement aux responsables publics habilités.

• Nous consulterons la société civile et des experts techniques afin que leurs points de vue éclairent la manière dont OpenAI développe ces outils et assume les responsabilités qui les accompagnent.

L’IA peut concentrer le pouvoir ou aider les institutions démocratiques à l’exercer et à le contrôler plus efficacement. La technologie ne déterminera pas à elle seule l’avenir qui nous attend, mais les choix que font aujourd’hui les institutions et les entreprises, eux, le détermineront.

Nous évaluerons les progrès de cette initiative selon que les examinateurs habilités sont mieux à même de remplir leurs obligations et que le public a davantage de raisons de croire que les systèmes d’IA des pouvoirs publics sont utilisés comme prévu.

À mesure que l’utilisation de l’IA par les pouvoirs publics évoluera, OpenAI continuera de soutenir les institutions chargées de son contrôle.