Sora : un lancement responsable

À compter du 26 avril 2026, Sora n’est plus disponible.

Sora 2 et l’application Sora associent une génération vidéo de pointe et un nouveau mode de création collaborative. Ces nouvelles capacités nous ont poussés à y intégrer des mécanismes de sécurité dès les premiers instants. Notre approche repose sur des protections concrètes :

• Marquer les contenus générés par l’IA.  Chaque vidéo générée avec Sora inclut des données visibles et invisibles témoignant de son origine. Au lancement, toutes les vidéos intégreront un filigrane visible. Toutes les vidéos générées par Sora incluent également des métadonnées C2PA, une norme de signature élaborée par les acteurs de l’IA. De plus, nous avons mis au point des outils de recherche inversée fonctionnant sur les données audio et les images. Basés sur des systèmes qui ont déjà fait leurs preuves avec la fonction de génération d’images de ChatGPT et Sora 1, ils sont capables de déterminer avec précision si des vidéos ont été générées par Sora.
• Utilisation de personnages vous représentant sous réserve de consentement. Nous souhaitons que vous disposiez d’un contrôle total sur l’utilisation qui est faite de votre voix et de votre visage avec les personnages Sora. Nous avons mis en place des garde-fous destinés à garantir que votre voix et votre image, capturées dans des personnages, sont utilisées avec votre consentement. Vous seul décidez qui peut utiliser votre personnage, et vous pouvez révoquer ces accès à tout moment. Nous prenons aussi des mesures visant à bloquer les représentations de personnalités publiques, hormis celles qui utilisent les personnages. Vous disposez dans tous les cas d’une visibilité sur les vidéos qui incluent votre personnage, comme les brouillons créés par d’autres utilisateurs. Vous pouvez ainsi examiner et supprimer, voire signaler, toute vidéo incluant votre personnage. Nous appliquons également des garde-fous supplémentaires à toutes les vidéos contenant un personnage, et vous pouvez paramétrer le comportement de votre personnage, par exemple en demandant à ce qu’il porte en permanence un fédora.
• Garde-fous pour les adolescents. Sora prévoit des protections renforcées pour les plus jeunes, notamment des limitations liées aux contenus pour adultes. Le fil est pensé pour être approprié pour les adolescents : les profils adolescents ne sont pas recommandés aux adultes, et les adultes ne peuvent pas envoyer de messages aux adolescents. Un nouveau contrôle parental dans ChatGPT permet aux parents de déterminer si leurs enfants peuvent envoyer et recevoir des messages directs, ainsi que de désactiver la personnalisation du fil dans l’application Sora. Par défaut, le défilement continu dans Sora est limité pour les adolescents.
• Filtrage du contenu dangereux. Sora utilise plusieurs niveaux de défense pour assurer la sécurité du fil sans entraver la créativité. Les garde-fous visent à bloquer les contenus dangereux avant qu’ils soient créés en vérifiant les prompts et les sorties sur plusieurs images, ainsi que les transcriptions audio. Cela inclut les contenus sexuels, la propagande terroriste et la promotion de l’automutilation De plus, nous avons mis en place des équipes rouges pour détecter de nouveaux risques et avons resserré nos politiques relatives à la génération d’images en raison de l’amélioration du réalisme des sorties de Sora, et de l’ajout du mouvement et de l’audio. Enfin, les systèmes automatisés analysent la conformité de l’ensemble du contenu du fil à nos politiques d'utilisation globales⁠ et suppriment les contenus dangereux ou inappropriés pour les adolescents. Ces systèmes sont mis à jour à mesure que nous découvrons l’existence de nouveaux risques et sont complétés par des examens humains portant sur les risques présentant l’impact le plus grave.
• Garde-fous audio. L’ajout de l’audio à Sora impose de renforcer la sécurité. S’il est difficile de mettre au point des protections parfaites, nous poursuivons nos investissements dans le domaine. Sora analyse automatiquement les transcriptions des sons générés pour y détecter d’éventuelles violations de nos politiques et bloque les tentatives de création de morceaux de musique imitant des artistes vivants ou des œuvres existantes. Nos systèmes sont conçus pour détecter et bloquer ces prompts, et nous accédons aux demandes de retrait des créateurs qui estiment qu’une sortie Sora viole leurs droits sur leur œuvre.
• Contrôle des utilisateurs et recours. Vous choisissez quand et comment vous partagez vos vidéos, et vous pouvez supprimer les contenus que vous avez publiés à tout moment. Vos vidéos ne seront publiées sur le fil que si vous le décidez. Chaque vidéo, profil et commentaire peut être signalé, avec un processus de recours clair en cas de violation de nos politiques. Vous pouvez également choisir de bloquer des comptes à tout moment, ce qui empêchera ces utilisateurs de voir votre profil ou de vous contacter par message direct.