API OpenAI

Nous publions une API permettant d’accéder aux nouveaux modèles d’IA développés par OpenAI. Alors que la majorité des systèmes d’IA sont conçus pour un usage spécifique, cette API propose une interface polyvalente sur un modèle de texte en entrée et texte en sortie, adaptée à quasiment toutes les tâches en anglais. Vous pouvez maintenant demander d’accéder à l’API pour l’intégrer à vos produits, développer de nouvelles applications ou contribuer à repousser les limites de cette technologie.

L’API analyse tout prompt saisi et tente de générer une réponse textuelle qui en respecte le ton, la forme ou le contenu. En lui donnant quelques exemples, vous pouvez la « programmer » afin d’orienter ses réponses : les résultats seront plus ou moins fiables selon la complexité de ce que vous lui demandez. L’API permet également d’affiner les performances sur des tâches ciblées en s’entraînant à partir d’un jeu de données, petit ou volumineux, ou en s’appuyant sur des commentaires fournis par des utilisateurs ou des annotateurs humains.

L’API a été pensée pour être accessible aux non-spécialistes tout en offrant la souplesse nécessaire aux équipes spécialisées en machine learning. Nos équipes sont de plus en plus nombreuses à utiliser l’API afin de se libérer des contraintes des systèmes distribués et de se concentrer sur la recherche en machine learning. L’API repose désormais sur des modèles de la famille GPT‑3⁠(ouverture dans une nouvelle fenêtre), offrant de meilleures performances en termes de rapidité et de débit. Le machine learning évolue sans cesse. Nous adaptons continuellement notre technologie pour que nos utilisateurs bénéficient des dernières avancées.

Le rythme d’innovation dans ce domaine entraîne l’apparition régulière d’applications surprenantes de l’IA, qui peuvent avoir des conséquences positives comme négatives. Nous nous réservons le droit de suspendre l’accès à l’API en cas d’usage abusif évident, notamment pour des actions de harcèlement, de spam, de radicalisation ou d’astroturfing. Étant donné que toutes les conséquences de cette technologie ne peuvent être anticipées, nous avons choisi un lancement en bêta privée. Nous développons également des outils pour aider les utilisateurs à mieux contrôler les contenus générés, tout en menant des recherches sur les enjeux de sécurité liés au langage, comme l’analyse, la gestion et l’atténuation des biais préjudiciable. Nous partagerons ouvertement nos découvertes afin d’aider nos utilisateurs et la communauté à élaborer des systèmes d’IA qui servent positivement les intérêts humains.

En plus de financer partiellement⁠ notre mission⁠, l’API nous a permis de recentrer nos efforts sur le développement d’une IA généraliste en faisant progresser la technologie, en facilitant son adoption et en intégrant une réflexion sur ses effets concrets. Nous espérons que l’API réduira considérablement les obstacles⁠(ouverture dans une nouvelle fenêtre) à la création de produits utiles basés sur l’IA et favorisera l’apparition de solutions inédites qui transformeront notre quotidien.

Vous souhaitez découvrir l’API ? Participez à notre bêta privée⁠(ouverture dans une nouvelle fenêtre) aux côtés d’entreprises comme Algolia⁠(ouverture dans une nouvelle fenêtre), Quizlet⁠(ouverture dans une nouvelle fenêtre), et Reddit⁠(ouverture dans une nouvelle fenêtre), ainsi que des chercheurs d’institutions comme le Middlebury Institute⁠(ouverture dans une nouvelle fenêtre).

Notre objectif ultime⁠ est de faire en sorte que l’intelligence artificielle générale profite à l’ensemble de la société. Nous considérons le développement de produits commerciaux comme un moyen essentiel d’assurer les financements nécessaires à notre réussite.

Nous savons également qu'il sera difficile de déployer en toute sécurité des systèmes d'IA performants dans le monde entier. En publiant cette API, nous travaillons en étroite collaboration avec nos partenaires pour identifier les problématiques qui se posent lorsque les systèmes d'IA sont utilisés en situation réelle. Cette collaboration orientera nos efforts pour préparer le déploiement des prochaines générations d’IA, tout en assurant leur sécurité et leur utilité pour tous.

Nous avons fait ce choix pour trois raisons principales. D’abord, la commercialisation de la technologie finance nos travaux de recherche, de sécurité et de politique en matière d'IA.

Deuxièmement, de nombreux modèles sur lesquels repose l'API sont volumineux. Leur développement et leur déploiement requièrent donc une grande expertise et leur exécution est très coûteuse. Cela empêche la plupart des acteurs, à l’exception des grandes entreprises, de bénéficier pleinement de cette technologie. Nous espérons que cette API permettra aux petites entreprises d'accéder plus facilement à des systèmes d'IA puissants.

Troisièmement, le modèle API nous permet de réagir plus facilement en cas d'utilisation abusive de la technologie. Il est difficile de prédire comment nos modèles seront utilisés à l'avenir, c'est pourquoi nous préférons les diffuser via une API et en élargir l'accès au fil du temps, plutôt que de diffuser un modèle open source, dont l'accès ne peut être modifié en cas de dérive.

L'une de nos principales préoccupations concernant GPT‑2 était l'utilisation malveillante du modèle (par exemple, à des fins de désinformation), qu'il est difficile d'empêcher une fois le modèle accessible en open source. L’accès à l’API est limité aux clients et aux cas d’utilisation approuvés afin d’éviter les abus. Avant toute mise en ligne, les applications proposées doivent passer par un examen obligatoire en production. Les examens en production servent à évaluer les applications selon plusieurs critères, en posant des questions telles que : Ce cas d’utilisation est-il pris en charge actuellement ?, Dans quelle mesure l’application est-elle ouverte ?, Quels sont les risques encourus ?, Comment comptez-vous limiter les abus ?, et Qui sont les utilisateurs finaux de votre application ?.

Nous révoquons l'accès à l'API pour les cas d'utilisation qui causent, ou sont destinés à causer un préjudice physique, émotionnel ou psychologique aux personnes, y compris, mais sans s'y limiter, le harcèlement, la tromperie intentionnelle, la radicalisation, l'astroturfing ou le spam, ainsi que les applications dépourvues de mesures suffisantes pour limiter les abus des utilisateurs finaux. En acquérant une plus grande expérience pratique de l'API, nous affinerons continuellement les catégories d'utilisation que nous pouvons prendre en charge, afin d’élargir le spectre des applications prises en charge tout en créant des catégories plus précises pour celles présentant des risques d’abus.

Lors de l’examen des usages de l’API, nous évaluons notamment le degré d’ouverture ou de restriction du comportement de l’application vis-à-vis des capacités génératives du système. Les applications ouvertes de l’API, qui permettent de générer facilement de grandes quantités de texte personnalisable à partir de requêtes variées, sont particulièrement vulnérables aux abus. Certaines contraintes peuvent sécuriser les cas d'utilisation générative, notamment l'intégration d'un être humain dans la boucle, les restrictions d'accès pour l'utilisateur final, le post-traitement des résultats, le filtrage du contenu, les limites de longueur des entrées/sorties, la surveillance active et les restrictions thématiques.

Nous poursuivons également nos recherches sur la potentielle utilisation abusive des modèles accessibles via l’API, en collaboration avec des chercheurs externes grâce à notre programme d’accès universitaire⁠(ouverture dans une nouvelle fenêtre). Pour le moment ,nous travaillons avec un petit nombre de chercheurs et disposons déjà de premiers retours de nos partenaires universitaires du Middlebury Institute⁠(ouverture dans une nouvelle fenêtre), de l’Université de Washington et de l’Allen Institute for AI⁠(ouverture dans une nouvelle fenêtre). Nous recevons déjà des dizaines de milliers de candidatures pour ce programme, en privilégiant actuellement celles centrées sur la recherche autour de l’équité et de la représentation.⁠(ouverture dans une nouvelle fenêtre)

L'atténuation des effets négatifs tels que les biais préjudiciables est une question complexe, d'une importance capitale pour l'ensemble du secteur. Comme expliqué dans l’article sur GPT‑3⁠(ouverture dans une nouvelle fenêtre) et dans la fiche du modèle⁠(ouverture dans une nouvelle fenêtre), nos modèles d’API présentent des biais qui se reflètent dans les textes générés. Voici les mesures que nous mettons en place pour résoudre ces problèmes :

• Nous avons élaboré des recommandations pour accompagner les développeurs dans l’identification et la gestion des éventuels problèmes de sécurité.
• Nous travaillons en étroite collaboration avec les utilisateurs afin de comprendre leurs cas d’utilisation et développer des outils permettant de détecter les biais préjudiciables et de les atténuer.
• Nous effectuons nos propres recherches sur les biais préjudiciables et sur les questions d’équité et de représentation afin d’améliorer la documentation des modèles actuels et d’optimiser modèles futurs.
• Le biais se manifeste là où un système rencontre son contexte d’utilisation. Conscients que nos applications sont des systèmes sociotechniques, nous aidons les développeurs à mettre en place des processus adaptés et une supervision humaine afin de limiter les comportements problématiques.

Nous poursuivons un double objectif : affiner notre compréhension des risques liés à l’utilisation de l’API et améliorer de manière continue les moyens mis en œuvre pour les maîtriser.

Mis à jour le 18 septembre 2020