Notre approche des règles de l’UE sur la provenance des textes

La provenance du contenu aide les personnes à comprendre d’où vient le contenu, comment il a été créé ou modifié et s’il contient des signaux associés à nos modèles. Nous avons déjà mis à la disposition du public des outils permettant d’identifier les images et les contenus audio générés par nos modèles. Aujourd’hui, nous présentons notre approche du filigranage de texte en réponse au règlement européen sur l’intelligence artificielle (AI Act) et expliquons comment elle s’inscrit dans notre démarche globale.

Le règlement européen sur l’intelligence artificielle exige des fournisseurs d’IA générative qu’ils rendent les textes générés identifiables dans un format lisible par machine. Le filigranage des textes et la détection des filigranes restent des technologies émergentes qui présentent des limites importantes, et les points de vue sur leurs avantages et leurs usages responsables continuent d’évoluer. Notre approche progressive tient compte à la fois des exigences de ce règlement et des limites de la technologie, en mettant l’accent sur la transparence quant à ce qu’un filigrane textuel peut ou ne peut pas indiquer aux utilisateurs :

• Dès aujourd’hui, les clients de l’API du monde entier pourront choisir d’activer le filigranage des textes pour certains modèles. Le filigranage des textes restera désactivé par défaut dans l’API.

• Au cours des prochaines semaines, nous ajouterons un filigrane invisible aux textes concernés produits par ChatGPT et Codex dans l’Union européenne.

• Il est désormais possible de demander l’accès à notre détecteur de filigrane de texte. Dans un premier temps, l’accès sera réservé aux chercheurs approuvés et aux organismes spécialisés qui peuvent nous aider à évaluer et à améliorer cette technologie.

  • Ce qui précède ne s’applique qu’à la provenance du texte : nos outils de vérification pour l’audio et les images, notamment notre outil web openai.com/verify⁠ et notre Content Provenance API⁠(ouverture dans une nouvelle fenêtre), resteront accessibles publiquement aux organisations qui souhaitent comprendre si une image ou un fichier audio a été généré par l’un de nos systèmes.

Notre technologie de filigranage de texte, textGrain, introduit un signal statistique invisible dans la manière dont le modèle choisit ses mots. Notre détecteur recherche ce signal afin d’évaluer si un passage contient un filigrane OpenAI. Vous trouverez plus de détails sur le fonctionnement de textGrain dans notre rapport technique⁠(ouverture dans une nouvelle fenêtre), qui sera mis à jour avec des informations supplémentaires dans les semaines à venir. Nous prévoyons également de rendre cette technologie disponible en open source afin que d’autres puissent s’appuyer dessus.

Dans nos évaluations, textGrain a obtenu des résultats égaux ou supérieurs à ceux des autres approches que nous avons testées, y compris SynthID pour le texte. Pour autant, de bonnes performances dans des conditions idéales ne garantissent pas une détection fiable au quotidien.

Les détecteurs peuvent commettre deux types d’erreurs : ils peuvent signaler la présence d’un filigrane alors qu’il n’y en a pas (faux positif) ou ne pas détecter un filigrane pourtant présent (faux négatif). Nos évaluations ci-dessous illustrent certains des défis :

• Les textes plus courts ou plus contraints sont plus difficiles à détecter. Avec un taux de faux positifs cible de 1 %, notre détecteur a identifié des filigranes dans environ 80 % des passages de 200 tokens, contre environ 95 % de ceux de 400 tokens, pour des contenus comme ceux portant sur la psychologie. Les taux de détection étaient nettement plus faibles pour des textes portant notamment sur les mathématiques, où le choix des mots est moins flexible.

• La modification peut affaiblir le filigrane. Dans une évaluation portant sur des passages de 400 tokens, remplacer 10 % des mots par des synonymes a fait baisser le taux de détection d’environ 92 % à 66 %. Le remplacement de 25 % des mots l’a fait baisser à 17 %.

Ces limitations contribuent à notre décision de réserver l’accès initial au détecteur de filigranes textuels aux chercheurs approuvés et aux organismes spécialisés, qui peuvent nous aider à en évaluer la fiabilité et les usages responsables.

Dans les différents benchmarks que nous utilisons pour évaluer Astra, notre dernier modèle de pointe, nous ne constatons pas de différence notable de performances avec ou sans filigranage.

Les filigranes textuels fournissent un signal limité quant au rôle joué par nos systèmes dans un passage. Il est important de comprendre ce que l’on peut et ne peut pas conclure à partir d’un résultat de détection.

• Un filigrane ne mesure pas la contribution humaine. Il peut indiquer qu’un système d’OpenAI a généré ou traité une partie d’un passage, mais pas l’ampleur de la contribution humaine en matière de jugement, de révision ou de créativité.

• Un filigrane n’établit ni la propriété ni la responsabilité. Il ne détermine pas à qui appartient le texte, si son utilisation était légale, si l’utilisation de l’IA devait être signalée ni qui en est responsable.

• Un filigrane n’identifie pas l’utilisateur. Il n’associe pas une personne, une organisation, un compte, un prompt ou une conversation au texte.

• Un filigrane ne vérifie pas l’exactitude. Il ne vous indique pas si un passage est vrai, trompeur, préjudiciable ou présenté dans le bon contexte.

• L’absence de filigrane détecté ne prouve pas que le texte a été rédigé par un humain. Le texte généré avec les outils d’OpenAI peut être trop court, modifié ou traduit pour que la détection fonctionne de manière fiable. Il peut également provenir d’un modèle non pris en charge, être antérieur au filigranage ou avoir été généré avec les outils d’une autre entreprise.

• Déploiement du filigranage de texte dans l’UE. Au cours des prochaines semaines, nous déploierons le filigranage de texte aux utilisateurs éligibles de ChatGPT et Codex, quel que soit leur forfait, uniquement dans l’UE. Au lancement, nous ne l’activerons pas par défaut à l’échelle mondiale. Cette approche régionale nous permet de tirer des enseignements de l’utilisation réelle et des retours reçus.

• Activation facultative du filigranage pour les clients de l’API. À partir d’aujourd’hui, les clients de l’API du monde entier pourront choisir de recevoir des sorties textuelles filigranées pour certains modèles. Cela leur permet de décider de la manière dont le filigranage s’inscrit dans leurs obligations de transparence et dans les expériences qu’ils proposent aux utilisateurs. Nous travaillons également avec des partenaires cloud afin de rendre le filigranage disponible dans les prochaines semaines pour les sorties des modèles OpenAI accessibles via leurs services.

• Accès au détecteur pour les chercheurs et les organismes spécialisés. Les chercheurs approuvés et les organismes spécialisés peuvent en faire la demande dès aujourd’hui. Conformément au Code de bonnes pratiques⁠(ouverture dans une nouvelle fenêtre), l’accès sera d’abord accordé au cas par cas afin de soutenir l’évaluation et l’amélioration de la provenance des textes. L’outil indiquera s’il détecte un filigrane OpenAI, sans identifier l’utilisateur ni révéler ses prompts ou ses conversations. Compte tenu du risque de filigranes non détectés et de faux positifs, nous ne rendrons pas l’outil accessible au public lors de son lancement.

Nous prévoyons de réexaminer chaque aspect de cette approche à mesure que la technologie, les normes et les données probantes évoluent.

Aucune technique de provenance ne suffit à elle seule, c’est pourquoi nous adoptons une approche à plusieurs niveaux qui combine des normes ouvertes, un filigranage durable et des outils de vérification.

Nous ajoutons des « Content Credentials » aux images générées concernées, sommes conformes à la norme C2PA⁠(ouverture dans une nouvelle fenêtre), intégrons des filigranes invisibles SynthID⁠(ouverture dans une nouvelle fenêtre) aux images et aux fichiers audio pris en charge et mettons à disposition la vérification des images et des fichiers audio via openai.com/verify⁠ et notre Content Provenance API⁠(ouverture dans une nouvelle fenêtre). Ces techniques se complètent : les Content Credentials peuvent enregistrer l’origine et l’historique d’un fichier, tandis que les filigranes invisibles peuvent préserver un signal lorsque les métadonnées sont supprimées.

Comme nous l’avons décrit dans nos travaux sur les mesures de protection des élections, la provenance peut aider les personnes et les plateformes à évaluer les contenus générés par l’IA potentiellement trompeurs, y compris les hypertrucages. Nous associons ces signaux à des politiques, à la détection des abus, aux signalements, aux enquêtes et aux mesures visant à faire respecter nos règles, et nous collaborons avec des chercheurs, des organismes de normalisation, des plateformes et la société civile pour rendre la provenance utile dans l’ensemble de l’écosystème.

Étendre les techniques de provenance aux textes implique de tenir compte de la facilité avec laquelle ceux-ci peuvent être réécrits, traduits ou modifiés. Comme nous l’avons expliqué en juin, notre approche doit refléter les limites pratiques des technologies actuelles. Nous continuerons à améliorer la détection, à étudier la résistance des filigranes à la modification et à la traduction, et à explorer des moyens de distinguer plus clairement les textes rédigés avec l’aide de l’IA de ceux rédigés par l’IA. Nous adapterons notre approche à mesure que les données probantes, les normes et les exigences réglementaires évolueront, et élargirons l’accès aux détecteurs lorsque nous estimerons que les résultats peuvent être interprétés de manière responsable.

Pour en savoir plus, consultez notre article du centre d’aide⁠(ouverture dans une nouvelle fenêtre).