Renforcer le contrôle démocratique en matière de sécurité nationale

L’IA transforme la façon dont les gouvernements démocratiques protègent leur population. Elle peut aider à contrer les cyberattaques, à sécuriser les infrastructures essentielles, à détecter les menaces plus tôt et à donner aux fonctionnaires une vision plus claire en temps de crise. Bien utilisés, ces outils peuvent renforcer la sécurité nationale.

Le contrôle démocratique aide à garantir que l’exercice de la puissance publique demeure assujetti à la population qu’elle sert. À mesure que l’IA accélère et améliore les activités de sécurité nationale, les institutions chargées de les contrôler doivent elles aussi suivre le rythme. L’IA peut agir rapidement et à grande échelle en fonction d’un contexte incomplet ou périmé, d’objectifs mal configurés ou d’hypothèses mal alignées, ce qui rend les erreurs plus difficiles à détecter manuellement avant qu’elles se propagent. Le contrôle est particulièrement important lorsque l’IA sert à la sécurité nationale, car les décisions peuvent devoir rester secrètes et entraîner de lourdes conséquences.

Guidés par nos principes de sécurité nationale, nous abordons les déploiements liés à la sécurité nationale avec des mesures de protection, un jugement humain éclairé et un contrôle approprié, surtout dans les contextes à enjeux élevés. Ces principes accordent aussi la priorité au renforcement des capacités des institutions de contrôle afin qu’elles puissent superviser l’utilisation de l’IA rapidement et à grande échelle.

Les institutions gouvernementales disposent déjà de pouvoirs et de responsabilités établis pour contrôler les activités de sécurité nationale. Lorsque l’IA contribue à ces activités, les mécanismes de contrôle peuvent devoir évoluer. Le contrôle traditionnel exige beaucoup de travail et devient presque impossible lorsque de petites équipes utilisant des méthodes de l’ère du papier doivent examiner des systèmes fonctionnant à la vitesse des machines.

OpenAI estime que des systèmes plus performants exigent un contrôle plus rigoureux, et nous nous appliquons ce principe. Dans le cadre de notre cadre de préparation, les modèles avancés font l’objet d’un examen rigoureux avant leur déploiement afin de comprendre leurs capacités et de déterminer si les mesures de protection sont suffisantes. Cet examen se poursuit après le déploiement grâce à une surveillance continue et à l’analyse des incidents; les leçons tirées servent à renforcer les mesures de protection et à orienter le développement futur des modèles.

OpenAI n’exerce aucun contrôle sur le gouvernement, et ne devrait pas le faire. Cette responsabilité incombe aux élus et aux institutions publiques établies à cette fin. Nous pouvons plutôt mettre notre technologie au service des institutions de contrôle dans l’exercice de leurs mandats actuels.

Trois principes guideront ce travail.

Premièrement, l’IA doit renforcer le jugement humain et institutionnel, et non le remplacer. Il revient aux organismes autorisés et aux organes de contrôle légalement constitués de déterminer si les actions du gouvernement sont légales, appropriées et conformes aux règles et politiques applicables.

Deuxièmement, l’utilisation gouvernementale de l’IA doit être traçable et compréhensible pour les organismes de contrôle autorisés. Les examinateurs doivent pouvoir comprendre comment l’IA a contribué à une décision, tout en protégeant les renseignements classifiés, privés et sensibles sur le plan de la sécurité.

Troisièmement, l’IA doit servir à renforcer les institutions de contrôle démocratique. Le contrôle manuel de l’utilisation gouvernementale de l’IA ne peut pas être déployé à grande échelle. À mesure que l’IA est adoptée dans les activités de sécurité nationale et d’autres fonctions gouvernementales à enjeux élevés, les organes de contrôle doivent aussi l’utiliser de façon responsable, compréhensible et conforme à leurs mandats.

Au cours de la prochaine année, nous comptons faire progresser cette initiative comme suit :

• Nous collaborerons avec les responsables autorisés pour cerner les possibilités concrètes où des outils d’IA ou un soutien technique peuvent accroître l’efficacité du contrôle.

• Nous offrirons aux organes de contrôle des gouvernements démocratiques 5 millions de dollars en formation, en soutien technique et en crédits OpenAI afin de favoriser l’adoption et l’évaluation responsables des outils d’IA.

• Nous collaborerons avec les institutions de contrôle pour mettre à l’essai des outils aidant les examinateurs autorisés à étudier les dossiers liés aux décisions gouvernementales assistées par l’IA, notamment les entrées, les sorties et l’utilisation des outils pertinentes, afin de mieux comprendre l’incidence de l’IA sur les résultats. Dans la mesure du possible, les outils seront interopérables ou indépendants des modèles. Les institutions participantes, et non OpenAI, conserveront le contrôle des éléments de preuve, des résultats et des conclusions, qui ne seront accessibles qu’aux responsables gouvernementaux autorisés.

• Nous consulterons la société civile et des spécialistes techniques afin que leurs points de vue éclairent la manière dont OpenAI développe ces outils et assume les responsabilités qui les accompagnent.

L’IA peut concentrer le pouvoir ou aider les institutions démocratiques à l’exercer et à le contrôler plus efficacement. La technologie seule ne décidera pas de notre avenir, mais les choix que font aujourd’hui les institutions humaines et les entreprises le détermineront.

Nous évaluerons les progrès de cette initiative selon la capacité accrue des examinateurs autorisés à remplir leurs obligations et l’existence de raisons plus solides pour le public de croire que les systèmes d’IA gouvernementaux sont utilisés comme prévu.

À mesure que l’utilisation gouvernementale de l’IA évoluera, OpenAI continuera de soutenir les institutions chargées de son contrôle.