Sicher mit Sora erstellen

Ab dem 26. April 2026 ist das Sora-Produkt nicht mehr verfügbar.

Das Modell Sora 2 und die Sora-App bieten Videogenerierung auf dem neuesten Stand der Technik mit einer neuen Form gemeinschaftlicher Kreativität, und wir haben dafür gesorgt, dass Sicherheit von Anfang an integriert ist. Unser Ansatz basiert auf konkreten Schutzmaßnahmen:

• Kennzeichnung von KI-Inhalten. Jedes mit Sora generierte Video enthält sowohl sichtbare als auch unsichtbare Herkunftssignale. Alle Sora-Videos enthalten außerdem C2PA-Metadaten – eine branchenübliche Signatur. Zusätzlich betreiben wir interne Rückwärts-Suchtools für Bild und Audio, die Videos mit hoher Genauigkeit zu Sora zurückverfolgen können, basierend auf den erfolgreichen Systemen aus der ChatGPT‑Bildgenerierung und Sora 1. Viele Ausgaben tragen außerdem sichtbare, dynamisch bewegte Wasserzeichen, die den Namen der erstellenden Person enthalten.
• Bild-zu-Video-Umwandlung mit dem Erscheinungsbild realer Personen. Während wir Soras Schutzmaßnahmen weiter verstärken, fördern wir zugleich mehr kreative Entfaltung und Verbundenheit – unter anderem, indem wir es Menschen ermöglichen, Videos aus Fotos von Familienmitgliedern und Freund:innen zu erstellen. Nutzer:innen können Bilder mit Personen hochladen, um in Sora Videos zu erstellen, nachdem sie bestätigt haben, dass sie die Zustimmung der abgebildeten Personen sowie die Rechte zum Hochladen der Medien haben. Bild-zu-Video-Generierungen mit Personen unterliegen besonders strengen Sicherheitsleitlinien, die sogar strenger sind als das, was bei Sora-Charakteren (früher als Cameo-Funktion bekannt) erlaubt ist. Bilder, auf denen Kinder und jung aussehende Personen zu sehen sind, unterliegen noch strengeren Moderationsregeln und Schutzmaßnahmen dahingehend, was daraus erstellt werden darf. Auch beim Teilen enthalten diese Videos immer ein Wasserzeichen. 
• Einwilligungsbasierte Nutzung des Abbilds mithilfe von Charakteren. Wir haben Charaktere⁠(wird in einem neuen Fenster geöffnet) entwickelt, um dir umfassende Kontrolle über dein Abbild in Sora zu geben. Dein Abbild umfasst dein Erscheinungsbild und deine Stimme. Wir haben Schutzmechanismen eingeführt, die sicherstellen sollen, dass dein Audio und dein Abbild, die in Charakteren erfasst werden, nur mit deiner Zustimmung verwendet werden. Nur du entscheidest, wer deine Charaktere nutzen darf, und du kannst den Zugriff jederzeit widerrufen. Wir ergreifen auch Maßnahmen, um Darstellungen von Personen des öffentlichen Lebens zu blockieren, außer wenn sie die Charakter-Funktion nutzen. Videos, die deine Charaktere enthalten – einschließlich Entwürfe, die von anderen Nutzer:innen erstellt wurden – sind für dich immer sichtbar. So kannst du ganz einfach alle Videos mit deinem Charakter überprüfen und löschen – und bei Bedarf auch melden. Wir wenden bei allen Videos mit Charakteren zusätzliche Sicherheitsmechanismen an. Außerdem kannst du sogar noch strengere Schutzmechanismen aktivieren, die bestimmte Nutzungsarten einschränken. Dazu gehört, größere Veränderungen an deinem Aussehen zu begrenzen, peinliche Situationen zu vermeiden und deine Identität weitgehend konsistent zu halten.
• Schutzmechanismen für Jugendliche. Sora enthält verstärkte Schutzmechanismen für jüngere Nutzer:innen, darunter Einschränkungen bei nicht jugendfreien Inhalten. Der Feed ist so konzipiert, dass er für alle Sora-Nutzer:innen geeignet ist, und Inhalte, die möglicherweise schädlich, nicht sicher oder nicht altersgerecht sind, werden für Konten von Jugendlichen herausgefiltert. Teenager-Profile werden Erwachsenen nicht empfohlen, und Erwachsene können keine Nachrichten an Jugendliche initiieren. Die Kindersicherung in ChatGPT ermöglicht es Eltern, zu verwalten, ob Jugendliche Direktnachrichten senden und empfangen dürfen, und im Sora-App-Feed eine nicht personalisierte Ansicht auszuwählen. Standardmäßig gibt es für Teenager:innen außerdem Grenzen, wie lange sie in Sora ununterbrochen scrollen können.
• Filtern schädlicher Inhalte. Sora setzt auf mehrschichtige Schutzmechanismen, um den Feed sicher zu halten und gleichzeitig Raum für Kreativität zu lassen. Schon bei der Erstellung sorgen Schutzmechanismen dafür, nicht sichere Inhalte zu sperren, bevor sie entstehen – darunter sexuelle Darstellungen, Terrorpropaganda und Anreize zu Selbstverletzung. Dafür werden sowohl Prompt als auch Ausgaben über mehrere Videoframes und Audiotranskripte geprüft. Wir haben Red-Teaming eingesetzt, um neue Risiken zu untersuchen, und unsere Richtlinien im Vergleich zur Bildgenerierung verschärft, angesichts des höheren Realismus von Sora sowie der zusätzlichen Bewegung und des Tons. Zusätzlich zur Erstellung scannen automatisierte Systeme alle Inhalte im Feed anhand unserer globalen Nutzungsrichtlinien⁠ und filtern unsichere oder nicht altersgerechte Inhalte heraus. Diese Systeme werden kontinuierlich aktualisiert, sobald wir von neuen Risiken erfahren, und durch menschliche Überprüfung ergänzt, die sich auf die schwerwiegendsten Schäden konzentriert.
• Audio-Schutzmechanismen. Audio in Sora erhöht die Anforderungen an die Sicherheit. Auch wenn ein perfekter Schutz schwer zu erreichen ist, investieren wir weiterhin intensiv in diesen Bereich. Sora scannt automatisch die Transkripte der generierten Sprache auf mögliche Verstöße gegen die Richtlinien und sperrt außerdem Versuche, Musik zu erzeugen, die lebende Künstler oder bestehende Werke imitiert. Unsere Systeme sind darauf ausgelegt, solche Prompts zu erkennen und zu stoppen. Zudem respektieren wir Löschanfragen von Urhebern, die der Ansicht sind, dass ausgegebene Sora-Inhalte ihre Rechte an ihren Werken verletzen.
• Benutzerkontrolle und Beschwerdemöglichkeiten. Du entscheidest, wann und wie du deine Videos teilst – und kannst deine veröffentlichten Inhalte jederzeit entfernen. Videos werden nur dann im Feed geteilt, wenn du dich bewusst dafür entscheidest. Jedes Video, jedes Profil, jede Direktnachricht, jeder Kommentar und jeder Charakter kann wegen Missbrauch gemeldet werden, mit klaren Konsequenzen bei Verstößen gegen die Richtlinien. Du kannst jederzeit Konten sperren. Dadurch können andere weder dein Profil noch deine Beiträge sehen, deinen Charakter nicht verwenden und dich nicht per Direktnachricht kontaktieren.