Soutenir les efforts de l’Europe pour garantir un écosystème d’IA digne de confiance

L’IA permet aujourd’hui de créer et de modifier des contenus de nouvelles façons. À mesure que ces outils gagnent en capacités et se démocratisent, il est important que chacun dispose d’informations contextuelles sur les contenus qu’il consulte en ligne.

Aujourd’hui, à la suite de la publication par la Commission européenne du Code de bonnes pratiques sur la transparence des contenus générés par l’IA, OpenAI annonce son soutien à ce Code et à l’ambition qu’il porte. Ce Code constitue une étape importante dans la mise en œuvre de l’AI Act de l’UE et dans la construction d’un écosystème numérique plus transparent.

Ce soutien s’inscrit dans le prolongement de plusieurs années de recherche interne, de développement de produits et de collaboration avec l’ensemble de l’écosystème afin de renforcer la provenance des contenus générés par l’IA. OpenAI développe et adopte des normes de provenance depuis 2024, année où nous avons commencé à intégrer des métadonnées C2PA à notre outil de génération d’images DALL·E 3. Depuis, nous avons continué à renforcer la provenance grâce à l’amélioration des méthodes de marquage et de détection, à de nouvelles recherches et au lancement de notre premier outil public de vérification. Forts de cette expertise acquise au fil des années, nous avons contribué à l’élaboration de ce Code aux côtés de centaines d’autres parties prenantes afin de favoriser un écosystème d’IA digne de confiance.  

Cette initiative s’inscrit dans notre approche plus large de la gouvernance de l’IA en Europe. En 2025, OpenAI a été la première entreprise américaine à signer le Code de bonnes pratiques de l’UE pour les modèles d’IA à usage général, reflétant notre conviction que des règles claires et applicables peuvent favoriser un développement responsable de l’IA tout en donnant aux entreprises la visibilité nécessaire pour continuer à innover. Nous soutenons ce nouveau Code dans le même esprit. Faire progresser la transparence des contenus générés par l’IA est un effort collectif qui mobilise l’ensemble de l’écosystème et requiert la contribution des acteurs à chaque étape de la chaîne de valeur. L’AI Act de l’UE et ce Code en tiennent compte, et nous nous engageons à jouer notre rôle en respectant les exigences applicables à nos produits concernés.  

Alors que les outils d’IA s’adaptent aux façons dont les personnes créent, imaginent et partagent du contenu, il est important qu’elles puissent comprendre l’origine des contenus et les interpréter en toute confiance. Les signaux de provenance peuvent y contribuer en fournissant des informations sur la source d’un contenu, la manière dont il a été créé ou modifié, ainsi que sur son authenticité. La provenance peut également contribuer à protéger l’écosystème numérique en facilitant la détection des campagnes de désinformation et en préservant l’intégrité des processus électoraux.  

Des méthodes de provenance efficaces, fiables et robustes doivent être développées collectivement et fonctionner à l’échelle de l’écosystème. C’est pourquoi nous collaborons avec des coalitions comme la C2PA, qui réunit des organisations de presse, des fabricants d’appareils, des plateformes en ligne et des fournisseurs d’IA afin de faire progresser des normes interopérables. Les métadonnées C2PA constituent un fondement important de la provenance. Elles permettent d’associer à un contenu des informations sur son origine, la manière dont il a été créé ou modifié, ainsi que sur l’entité ayant validé ces informations. Mais les métadonnées ne sont pas infaillibles. Elles peuvent être supprimées, perdues lors des téléchargements ou des transferts, ou altérées par des transformations telles qu’un changement de format de fichier, un redimensionnement ou une capture d’écran. Pour renforcer la résilience de la provenance, nous adoptons une approche multicouche qui combine plusieurs signaux et mécanismes de protection intégrés à nos outils.

Au cours des dernières années, nous avons développé une approche multicouche, fondée sur la collaboration de l’ensemble de l’écosystème, afin de renforcer la confiance en ligne grâce à notre démarche en matière de provenance des contenus. Nos travaux actuels comprennent notamment :

• Identifiants de contenu C2PA⁠(ouverture dans une nouvelle fenêtre) pour les images : Nous avons commencé à intégrer des métadonnées C2PA aux images créées et modifiées par DALL·E 3 dans ChatGPT et l’API OpenAI, puis avons continué à renforcer les signaux de provenance associés aux images générées par OpenAI.
• Plusieurs signaux pour les images générées par OpenAI : Les images générées avec ChatGPT, Codex et l’API OpenAI intègrent à la fois des métadonnées C2PA et des filigranes SynthID. Les métadonnées peuvent contenir des informations plus détaillées, tandis que le filigranage permet de préserver un signal dans différents contextes d’utilisation.
• Une expérience de vérification accessible au public : openai.com/verify permet de vérifier si des images prises en charge contiennent des signaux de provenance associés à des images générées par OpenAI.
• Contributions aux normes ouvertes. En 2024, OpenAI a rejoint le comité de pilotage de la C2PA, une initiative intersectorielle réunissant des éditeurs de logiciels, des fabricants d’appareils photo, des organisations médiatiques et des plateformes en ligne.
• Mesures de protection intégrées aux produits : La provenance vient compléter les politiques, les classificateurs, les canaux de signalement et les mécanismes d’application qui contribuent à réduire les usages trompeurs des contenus générés par l’IA, notamment l’usurpation d’identité et les tentatives de manipulation liées aux processus électoraux.

Bien que la provenance soit utile, il s’agit encore d’un domaine émergent. Les signaux peuvent se perdre à mesure que les contenus circulent en ligne : les métadonnées peuvent être supprimées, les filigranes peuvent se dégrader et les labels ne sont utiles que là où les utilisateurs rencontrent le contenu. Améliorer la fiabilité, la robustesse et l’interopérabilité des techniques de provenance nécessite encore d’importants efforts ainsi qu’une coopération étroite entre les acteurs de l’écosystème.

Le Code de bonnes pratiques fixe la bonne orientation : un niveau d’ambition élevé pour faire progresser les techniques de provenance. À mesure de sa mise en œuvre, il devra rester fondé sur des méthodes éprouvées dans la pratique tout en conservant la souplesse nécessaire pour tenir compte des limites des techniques actuelles.

OpenAI continuera de renforcer la transparence des contenus dans l’ensemble de ses produits, de contribuer au développement de normes interopérables et d’améliorer les outils de vérification. Nous nous réjouissons de poursuivre notre collaboration avec l’AI Office, les États membres et l’ensemble de la communauté de l’IA afin de bâtir un écosystème d’IA plus sûr et plus transparent.