Verantwortungsvolle Einführung von Sora

Ab dem 26. April 2026 ist das Sora-Produkt nicht mehr verfügbar.

Sora 2 und die Sora-App verbinden modernste Videogenerierung mit einer neuen Form gemeinschaftlicher Kreativität, und wir haben dafür gesorgt, dass Sicherheit von Anfang an integriert ist. Unser Ansatz basiert auf konkreten Schutzmaßnahmen:

• Kennzeichnung von KI-Inhalten.  Jedes mit Sora generierte Video enthält sowohl sichtbare als auch unsichtbare Herkunftssignale. Zum Start sind alle Ausgaben mit einem sichtbaren Wasserzeichen versehen. Alle Sora-Videos enthalten außerdem C2PA-Metadaten – eine branchenübliche Signatur. Zusätzlich betreiben wir interne Rückwärts-Suchtools für Bild und Audio, die Videos mit hoher Genauigkeit zu Sora zurückverfolgen können, basierend auf den erfolgreichen Systemen aus der ChatGPT‑Bildgenerierung und Sora 1.
• Einwilligungsbasierte Verwendung von Charakteren. Unser Ziel ist es, dir die vollständige Kontrolle über dein Abbild von Anfang bis Ende mit Sora-Charakteren zu geben. Wir haben Schutzmaßnahmen, die sicherstellen sollen, dass dein Audio und dein Bild, die in Charakteren erfasst werden, nur mit deiner Zustimmung verwendet werden. Nur du entscheidest, wer deine Charaktere nutzen darf, und du kannst den Zugriff jederzeit widerrufen. Wir ergreifen auch Maßnahmen, um Darstellungen von Personen des öffentlichen Lebens zu blockieren (außer natürlich, wenn sie die Charakter-Funktion nutzen). Videos, die deine Charaktere enthalten – einschließlich Entwürfe, die von anderen Nutzern erstellt wurden – sind für dich immer sichtbar. So kannst du ganz einfach alle Videos mit deinem Charakter überprüfen und löschen – und bei Bedarf auch melden. Wir wenden bei allen Videos mit Charakteren zusätzliche Sicherheitsmechanismen an. Außerdem kannst du festlegen, wie sich dein Charakter verhält – zum Beispiel, dass er immer einen Fedora-Hut trägt.
• Schutzmechanismen für Jugendliche. Sora enthält verstärkte Schutzmechanismen für jüngere Nutzer, darunter Einschränkungen bei nicht jugendfreien Inhalten. Der Feed ist so gestaltet, dass er für Teenager geeignet ist. Teenager-Profile werden Erwachsenen nicht empfohlen, und Erwachsene können keine Nachrichten an Teenager initiieren. Neue Kindersicherungen in ChatGPT ermöglichen es Eltern, zu verwalten, ob Teenager Direktnachrichten senden und empfangen dürfen, und im Sora-App-Feed eine nicht personalisierte Ansicht auszuwählen. Standardmäßig gibt es für Teenager außerdem Grenzen, wie lange sie in Sora ununterbrochen scrollen können.
• Filtern schädlicher Inhalte. Sora setzt auf mehrschichtige Schutzmechanismen, um den Feed sicher zu halten und gleichzeitig Raum für Kreativität zu lassen. Schon bei der Erstellung sorgen Schutzmechanismen dafür, unsichere Inhalte zu sperren, bevor sie entstehen – darunter sexuelle Darstellungen, Terrorpropaganda und Anreize zu Selbstverletzung. Dafür werden sowohl Eingaben als auch Output über mehrere Videoframes und Audiotranskripte geprüft. Wir haben Red-Teaming eingesetzt, um neue Risiken zu untersuchen, und unsere Richtlinien im Vergleich zur Bildgenerierung verschärft, angesichts des höheren Realismus von Sora sowie der zusätzlichen Bewegung und des Tons. Zusätzlich zur Erstellung scannen automatisierte Systeme alle Inhalte im Feed anhand unserer globalen Nutzungsrichtlinien⁠ und filtern unsichere oder nicht altersgerechte Inhalte heraus. Diese Systeme werden kontinuierlich aktualisiert, sobald wir von neuen Risiken erfahren, und durch menschliche Überprüfung ergänzt, die sich auf die schwerwiegendsten Schäden konzentriert.
• Audio-Schutzmechanismen. Audio in Sora erhöht die Anforderungen an die Sicherheit. Auch wenn ein perfekter Schutz schwer zu erreichen ist, investieren wir weiterhin intensiv in diesen Bereich. Sora scannt automatisch die Transkripte der generierten Sprache auf mögliche Verstöße gegen die Richtlinien und sperrt außerdem Versuche, Musik zu erzeugen, die lebende Künstler oder bestehende Werke imitiert. Unsere Systeme sind darauf ausgelegt, solche Prompts zu erkennen und zu stoppen. Zudem respektieren wir Löschanfragen von Urhebern, die der Ansicht sind, dass ausgegebene Sora-Inhalte ihre Rechte an ihren Werken verletzen.
• Benutzerkontrolle und Beschwerdemöglichkeiten. Du entscheidest, wann und wie du deine Videos teilst – und kannst deine veröffentlichten Inhalte jederzeit entfernen. Videos werden nur dann im Feed geteilt, wenn du dich bewusst dafür entscheidest. Jedes Video, jedes Profil und jeder Kommentar kann wegen Missbrauch gemeldet werden, mit klaren Konsequenzen bei Verstößen gegen die Richtlinien. Du kannst jederzeit Konten sperren. Dadurch können andere weder dein Profil sehen noch dich per Direktnachricht kontaktieren.