Politique sur le partage et la publication

Afin d’atténuer les risques potentiels liés au contenu généré par l’IA, nous avons défini la politique suivante en matière de partage autorisé.

Il est généralement permis de publier vos propres suggestions ou réalisations sur les médias sociaux, tout comme il est permis de diffuser en direct votre utilisation ou de présenter nos produits à des groupes de personnes. Veuillez respecter les directives suivantes :

• Vérifiez manuellement le contenu généré avant de le partager ou pendant la diffusion.
• Attribuez le contenu à votre nom ou à celui de votre entreprise.
• Indiquez clairement que le contenu est généré par une IA, de manière à ce qu’aucun utilisateur ne puisse raisonnablement la manquer ou se méprendre.
• Ne partagez pas de contenu qui enfreint notre Politique relative au contenu⁠⁠ ou qui pourrait offenser autrui.
• Si vous acceptez les demandes du public pour les suggestions, faites preuve de bon sens; n’entrez pas de suggestions qui pourraient entraîner des violations de notre Politique relative au contenu⁠.

Si vous souhaitez vous assurer que l’équipe OpenAI est informée d’une réalisation particulière, vous pouvez nous envoyer un courriel ou utiliser les outils de signalement disponibles dans Playground.

• Rappelez-vous que vous interagissez avec le modèle brut, ce qui signifie que nous ne filtrons pas les réponses biaisées ou négatives. (Vous pouvez également en savoir plus sur la mise en œuvre de point de terminaison de modération gratuit⁠⁠(s'ouvre dans une nouvelle fenêtre) ici.)

Les créateurs qui souhaitent publier leur propre contenu écrit (par exemple, un livre, un recueil de nouvelles) créé en partie à l’aide de l’API OpenAI sont autorisés à le faire sous réserve des conditions suivantes :

• Le contenu publié est attribué à votre nom ou à celui de votre entreprise.
• Le rôle de l’IA dans la formulation du contenu est clairement indiqué, de manière à ce qu’aucun lecteur ne puisse le manquer et qu’un lecteur typique puisse le comprendre facilement.
• Les sujets abordés dans le contenu ne violent pas la Politique relative au contenu⁠⁠ ou les Conditions d’utilisation⁠⁠ d’OpenAI, c’est-à-dire qu’ils ne sont pas liés à du contenu pour adultes, du pollupostage, du contenu haineux, du contenu incitant à la violence ou d’autres utilisations susceptibles de causer un préjudice social.
• Nous vous demandons de bien vouloir vous abstenir de partager des contenus susceptibles d’offenser autrui.

Par exemple, il faut détailler dans un avant-propos ou une introduction (ou un endroit similaire) les fonctions relatives à la rédaction, à la révision, etc. Il ne faut pas présenter le contenu généré par une API comme étant entièrement généré par un humain ou entièrement généré par une IA. C’est un humain qui doit assumer la responsabilité finale du contenu publié.

Voici quelques expressions courantes que vous pouvez utiliser pour décrire votre processus créatif, à condition qu’elles soient exactes :

Nous pensons qu’il est important que le grand public puisse évaluer notre recherche et nos produits, notamment pour comprendre et améliorer les faiblesses potentielles et les problèmes de sécurité ou de partialité de nos modèles. Par conséquent, nous acceptons favorablement les publications de recherche liées à l’API OpenAI.

• Dans certains cas, nous pouvons souhaiter mettre en évidence votre travail à l’interne et/ou à l’externe.
• Dans d’autres cas, comme ceux de publications relatives à la sécurité ou à l’utilisation abusive de l’API, nous pouvons être amenés à prendre les mesures appropriées pour protéger nos utilisateurs.
• Si vous remarquez des problèmes de sécurité liés à l’API au cours de vos recherches, nous vous demandons de les signaler immédiatement au moyen du Programme coordonné de divulgation des vulnérabilités⁠.

Il existe plusieurs pistes de recherche que nous sommes impatients d’explorer avec l’API OpenAI. Si cette possibilité d’accès subventionné vous intéresse, veuillez nous fournir des détails sur votre cas d’usage à des fins de recherche dans le formulaire de demande du Programme d’accès pour les chercheurs⁠.

Nous considérons notamment que les orientations suivantes sont particulièrement importantes, mais vous êtes libre de définir votre propre orientation :

• Alignement : Comment pouvons-nous comprendre quel objectif, s’il y en a un, un modèle poursuit le mieux? Comment pouvons-nous mieux aligner cet objectif sur les préférences humaines, par exemple grâce à une conception rapide ou à des ajustements précis?
• Équité et représentation : Comment établir des critères de performance pour garantir l’équité et la représentation dans les modèles linguistiques? Comment améliorer les modèles linguistiques afin de soutenir efficacement les objectifs d’équité et de représentation dans des contextes spécifiques et déployés?
• Recherche interdisciplinaire : Comment le développement de l’IA peut-il s’appuyer sur les connaissances issues d’autres disciplines comme la philosophie, les sciences cognitives et la sociolinguistique?
• Interprétabilité et transparence : Comment ces modèles fonctionnent-ils, d’un point de vue mécanique? Pouvons-nous identifier les concepts qu’ils utilisent, extraire les connaissances latentes du modèle, faire des déductions sur le processus d’entraînement ou prédire des comportements futurs surprenants?
• Risque d’utilisation abusive : Comment des systèmes tels que l’API peuvent-ils être utilisés à mauvais escient? Quels types d’approches d’« équipes rouges » pouvons-nous développer pour nous aider, ainsi que d’autres développeurs d’IA, à concevoir un déploiement responsable de technologies telles que celle-ci?
• Exploration de modèles: Les modèles tels que ceux fournis par l’API offrent diverses fonctionnalités que nous n’avons pas encore explorées. Nous sommes enthousiasmés par les recherches menées dans de nombreux domaines, notamment les limites des modèles, les propriétés linguistiques, le raisonnement fondé sur le sens commun et les utilisations potentielles pour beaucoup d’autres problèmes.
• Robustesse : Les modèles génératifs ont des interfaces de capacité inégales, dont certaines zones de capacité sont potentiellement fortes et d’autres potentiellement faibles. Dans quelle mesure les grands modèles génératifs robustes sont-ils robustes face aux résistants aux perturbations « naturelles » dans l’invite, telles que la formulation d’une même idée de différentes manières ou avec ou sans coquilles? Pouvons-nous prédire les types de domaines et de tâches pour lesquels les grands modèles génératifs sont plus susceptibles d’être résistants (ou non résistants), et quel est le lien avec les données d’entraînement? Existe-t-il des techniques permettant de prévoir et d’atténuer les comportements les plus néfastes? Comment mesurer la robustesse dans le contexte de l’apprentissage en quelques essais (par exemple, à travers les variations dans les invites)? Pouvons-nous entraîner des modèles afin qu’ils satisfassent aux propriétés de sécurité avec un très haut niveau de fiabilité, même en cas d’entrées adverses?

Veuillez noter qu’en raison du nombre élevé de demandes, l’examen de ces demandes prend du temps et que ce ne sont pas toutes les recherches qui seront retenues pour l’octroi d’une subvention. Nous ne vous contacterons que si votre demande est sélectionnée pour faire l’objet d’une subvention.