API OpenAI

Nous lançons une API pour accéder aux nouveaux modèles d’IA développés par OpenAI. Contrairement à la plupart des systèmes d’IA conçus pour un cas d’utilisation unique, l’API offre aujourd’hui une interface polyvalente de type « texte en entrée, texte en sortie », permettant aux utilisateurs de l’essayer sur pratiquement toutes les tâches en langue anglaise. Vous pouvez maintenant demander d’accéder à l’API afin de l’intégrer à vos produits, de développer une toute nouvelle application ou de nous aider à explorer les forces et les limites de cette technologie.

À partir d'une invite de texte donnée, l'API renvoie une complétion de texte, en essayant de correspondre au modèle que vous lui avez fourni. Vous pouvez la « programmer » en lui montrant quelques exemples de ce que vous souhaitez qu'elle fasse; son succès varie généralement en fonction de la complexité de la tâche. L’API permet également d’affiner les performances sur des tâches spécifiques en s’entraînant à partir d’un jeu de données (petit ou volumineux) d’exemples que vous fournissez, ou en apprenant à partir des commentaires humains fournis par des utilisateurs ou des annotateurs.

Nous avons conçu l'API pour qu'elle soit à la fois simple à utiliser pour tout le monde, mais aussi suffisamment flexible pour rendre les équipes d'apprentissage automatique plus productives. En fait, plusieurs de nos équipes utilisent maintenant l’API afin de se concentrer sur la recherche en apprentissage automatique plutôt que sur les problèmes liés aux systèmes distribués. Aujourd’hui, l’API exécute des modèles avec des poids issus de la famille GPT‑3⁠(s'ouvre dans une nouvelle fenêtre), offrant de nombreuses améliorations en termes de rapidité et de débit. L’apprentissage automatique évolue très rapidement, et nous mettons constamment à niveau notre technologie pour que nos utilisateurs restent à jour.

Le rythme des progrès dans ce domaine signifie qu'il existe fréquemment de nouvelles applications surprenantes de l'IA, tant positives que négatives. Nous nous réservons le droit de suspendre l’accès à l’API en cas d’usage abusif évident, notamment pour des actions de harcèlement, de pourriel, de radicalisation ou d’astroturfing. Mais nous savons aussi que nous ne pouvons pas anticiper toutes les conséquences possibles de cette technologie. C’est pourquoi nous lançons aujourd’hui une version bêta privée plutôt qu’une disponibilité générale, tout en développant des outils pour aider les utilisateurs à mieux contrôler le contenu renvoyé par notre API, et en menant des recherches sur les aspects liés à la sécurité des technologies linguistiques (comme l’analyse, l’atténuation et l’intervention sur les biais nuisibles). Nous partagerons ce que nous apprenons afin que nos utilisateurs et la communauté au sens large puissent créer des systèmes d'IA plus positifs pour l'humain.

En plus de constituer une source de revenus pour nous aider à couvrir les coûts⁠ dans la poursuite de notre mission⁠, l’API nous a poussés à affiner notre concentration sur la technologie d’IA à usage général — en faisant progresser la technologie, en la rendant utilisable et en considérant ses impacts dans le monde réel. Nous espérons que l'API abaissera considérablement la barrière⁠(s'ouvre dans une nouvelle fenêtre) à la production de produits bénéfiques alimentés par l'IA, ce qui se traduira par des outils et des services difficiles à imaginer aujourd'hui.

Vous souhaitez explorer l’API? Joignez-vous à des entreprises comme Algolia⁠(s'ouvre dans une nouvelle fenêtre), Quizlet⁠(s'ouvre dans une nouvelle fenêtre) et Reddit⁠(s'ouvre dans une nouvelle fenêtre), ainsi qu’à des chercheurs d’institutions comme le Middlebury Institute⁠(s'ouvre dans une nouvelle fenêtre) dans notre bêta privée⁠(s'ouvre dans une nouvelle fenêtre).

En fin de compte, ce qui nous importe le plus⁠, c'est de veiller à ce que l'intelligence artificielle générale profite à tous. Nous considérons le développement de produits commerciaux comme un moyen essentiel d’assurer les financements nécessaires à notre réussite.

Nous savons également qu'il sera difficile de déployer en toute sécurité des systèmes d'IA performants dans le monde entier. En publiant cette API, nous travaillons en étroite collaboration avec nos partenaires pour identifier les problématiques qui se posent lorsque les systèmes d'IA sont utilisés en situation réelle. Cela nous aidera à orienter nos efforts pour comprendre comment se déroulera le déploiement des futurs systèmes d’IA, et ce que nous devons faire pour nous assurer qu’ils soient sécuritaires et bénéfiques pour tous.

Nous avons fait ce choix pour trois raisons principales. Premièrement, la commercialisation de la technologie finance nos travaux de recherche, de sécurité et de politique en matière d'IA.

Deuxièmement, plusieurs des modèles sous-jacents à l'API sont très volumineux, nécessitant beaucoup d'expertise pour leur développement et leur déploiement, ce qui les rend très coûteux à exploiter. Il est donc difficile pour quiconque, à l'exception des grandes entreprises, de tirer profit de la technologie sous-jacente. Nous espérons que cette API permettra aux petites entreprises et aux organisations d'accéder plus facilement à des systèmes d'IA puissants.

Troisièmement, le modèle API nous permet de réagir plus facilement en cas d'utilisation abusive de la technologie. Comme il est difficile de prédire les cas d'utilisation en aval de nos modèles, il semble intrinsèquement plus sécuritaire de les publier via une API et d'élargir leur accès au fil du temps, plutôt que de publier un modèle en source ouverte dont l'accès ne peut être ajusté s'il s'avère avoir des applications nuisibles.

L'une de nos principales préoccupations concernant GPT‑2 était l'utilisation malveillante du modèle (p. ex., à des fins de désinformation), qu'il est difficile d'empêcher une fois le modèle accessible en source ouverte. Pour l'API, nous sommes en mesure de mieux prévenir les abus en limitant l'accès aux clients et aux cas d'utilisation approuvés. Avant toute mise en ligne, les applications proposées doivent passer par une vérification obligatoire en production. Lors des vérifications de production, nous évaluons les applications selon plusieurs axes, en posant des questions telles que : S’agit-il d’un cas d’utilisation actuellement pris en charge?, Dans quelle mesure l’application est-elle ouverte?, Quel est le niveau de risque de l’application?, Comment planifiez-vous de gérer les abus potentiels? et Qui sont les utilisateurs finaux de votre application?.

Nous révoquons l'accès à l'API pour les cas d'utilisation qui causent, ou sont destinés à causer un préjudice physique, émotionnel ou psychologique aux personnes, y compris, mais sans s'y limiter, le harcèlement, la tromperie intentionnelle, la radicalisation, l'astroturfing ou le pourriel, ainsi que les applications dépourvues de mesures suffisantes pour limiter les abus des utilisateurs finaux. En acquérant davantage d'expérience pratique dans l'utilisation de l'API, nous affinerons continuellement les catégories d'utilisation que nous pouvons prendre en charge, afin d'élargir le spectre des applications supportées et de créer des catégories plus précises pour celles à propos desquelles nous avons des préoccupations liées à un usage abusif.

L'un des facteurs clés que nous prenons en compte pour approuver les utilisations de l'API est la mesure dans laquelle une application présente un comportement ouvert ou contraint par rapport aux capacités génératives sous-jacentes du système. Les applications ouvertes de l’API (c’est-à-dire celles qui permettent de générer facilement de grandes quantités de texte personnalisable à partir d'invites variées) sont particulièrement vulnérables aux abus. Les contraintes qui peuvent rendre les cas d’utilisation génératifs plus sécuritaires incluent la conception de systèmes qui maintient l’humain dans la boucle, les restrictions d’accès aux utilisateurs finaux, le post-traitement des sorties, la filtration du contenu, les limitations de longueur entrée/sortie, la surveillance active et les limitations de topicalité.

Nous poursuivons également nos recherches sur les potentielles utilisations abusives des modèles accessibles via l’API, notamment avec des chercheurs tiers grâce à notre programme d’accès académique⁠(s'ouvre dans une nouvelle fenêtre). Nous commençons actuellement avec un nombre très limité de chercheurs et disposons déjà de certains résultats de nos partenaires académique du Middlebury Institute⁠(s'ouvre dans une nouvelle fenêtre) et de l’Université de Washington et de l’Allen Institute for AI⁠(s'ouvre dans une nouvelle fenêtre). Nous avons déjà reçu des dizaines de milliers de candidatures pour ce programme et nous accordons actuellement la priorité aux applications axées sur la recherche en matière d'équité et de représentation.

Atténuer les effets négatifs tels que les biais préjudiciables est une question complexe, d'une importance capitale pour l'ensemble du secteur. Comme nous le discutons dans l'article GPT‑3⁠(s'ouvre dans une nouvelle fenêtre) et la fiche modèle⁠(s'ouvre dans une nouvelle fenêtre), nos modèles d'API présentent des biais qui seront reflétés dans le texte généré. Voici les mesures que nous mettons en place pour résoudre ces problèmes :

• Nous avons élaboré des recommandations pour accompagner les développeurs dans l’identification et la gestion des éventuels problèmes de sécurité.
• Nous travaillons en étroite collaboration avec les utilisateurs afin de comprendre leurs cas d’utilisation et développer des outils permettant de détecter les biais préjudiciables et d’intervenir pour les atténuer.
• Nous menons nos propres recherches sur les manifestations de biais préjudiciables ainsi que sur des enjeux plus larges liés à l’équité et à la représentation, ce qui nous aidera à orienter notre travail grâce à une meilleure documentation des modèles existants ainsi qu’à diverses améliorations des modèles futurs.
• Nous reconnaissons que les biais constituent un problème qui se manifeste à l'intersection d'un système et d'un contexte déployé ; les applications conçues à l'aide de notre technologie sont des systèmes sociotechniques. Nous travaillons donc avec nos développeurs pour nous assurer qu'ils mettent en place des processus appropriés et des systèmes impliquant l'intervention humaine afin de surveiller les comportements indésirables.

Notre objectif est de continuer à approfondir notre compréhension des risques potentiels liés à l'API dans chaque contexte d'utilisation, et d'améliorer en permanence nos outils et processus afin de contribuer à minimiser ces risques.

Mis à jour le 18 septembre 2020