Laster inn …
Fra og med 26. april 2026 er ikke Sora-produktet tilgjengelig lenger.
Sora 2-modellen og Sora-appen gir deg banebrytende videogenerering med en ny måte å skape innhold sammen på, og vi har sørget for at sikkerhet er integrert helt fra starten av. Tilnærmingen vår er forankret i konkrete sikkerhetstiltak:
- Å skille mellom KI-generert innhold. Alle videoer som genereres med Sora, inneholder både synlige og usynlige opphavstegn. Alle Sora-videoer inneholder også C2PA-metadata – en signatur som er bransjestandard, og vi har interne verktøy for omvendt bilde- og lydsøk som kan spore videoer tilbake til Sora med høy nøyaktighet, basert på vellykkede systemer fra ChatGPTs bildegenerering og Sora 1. Mange utdata har også synlige, dynamiske vannmerker som inneholder navnet på opphavspersonen.
- Bilde-til-video med en reell persons utseende. I takt med at vi stadig styrker sikkerhetsmekanismene i Sora, åpner vi for mer kreativt uttrykk og større muligheter for å knytte bånd, blant annet ved å la brukerne lage videoer av bilder av familiemedlemmer og venner. Brukerne kan laste opp bilder av personer for å lage Sora-videoer, etter å ha bekreftet at de har samtykke fra personene som er avbildet og rettigheter til å laste opp innholdet. Bilde-til-video-genereringer med personer er underlagt særlig strenge sikkerhetsrestriksjoner, som er enda strengere enn hva som er tillatt med Sora-karakterer (tidligere kjent som cameo-funksjonen). Bilder som viser barn og personer som ser unge ut, er underlagt enda strengere moderering og retningslinjer for hva som kan lages basert på dem. Disse videoene vil også alltid ha vannmerke når de deles.
- Samtykkebasert bruk av karakterer. Vi har laget karakterer(åpnes i et nytt vindu) for å gi deg full kontroll over skikkelsen din i Sora. Skikkelsen din omfatter både hvordan du ser ut og stemmen din. Vi har retningslinjer som skal sikre at lyd- og bildeskikkelsen din, som brukes i karakterer, kun brukes med ditt samtykke. Bare du bestemmer hvem som kan bruke karakterene dine, og du kan når som helst trekke tilbake tillatelsen. Vi tar også tiltak for å blokkere avbildninger av offentlige personer, med unntak av de som bruker karakterfunksjonen. Videoer som inneholder karakterene dine, inkludert de som er laget av andre brukere, er alltid synlige for deg. Slik kan du enkelt se igjennom og slette (og om nødvendig rapportere) alle videoer der karakteren din er med. Vi legger også til ekstra sikkerhetsbegrensninger for alle videoer som inneholder en karakter, og du kan til og med aktivere enda strengere begrensninger som regulerer bruksområdene. Dette innebærer blant annet å begrense store endringer av utseendet ditt, å unngå at du havner i pinlige situasjoner og å stort sett holde identiteten din uforanderlig.
- Beskyttelsestiltak for tenåringer. Sora har innført strengere beskyttelsestiltak for yngre brukere, som begrensninger på vokseninnhold. Feeden er laget for å være egnet for alle Sora-brukere, og innhold som kan være skadelig, utrygt eller aldersuegnet, blir filtrert bort på tenåringskontoer. Tenåringsprofiler anbefales ikke til voksne og voksne kan ikke ta initiativ til meldingsutveksling med tenåringer. Med foreldrekontrollen i ChatGPT kan foreldre bestemme om tenåringer kan sende og motta direktemeldinger, samt velge en ikke-personlig tilpasset feed i Sora-appen. Og som standard har tenåringer også begrensninger på hvor mye de kan skrolle uten pause i Sora.
- Filtrering av skadelig innhold. Sora har flere forsvarslag for å gjøre feeden trygg samtidig som den gir rom for kreativitet. I innholdsgenereringen skal sikkerhetsmekanismene blokkere skadelig innhold før det blir laget, herunder seksuelt materiale, terrorpropaganda og oppfordringer til selvskading, ved å kontrollere både inndata og utdata på tvers av flere videorammer og lydtranskripsjoner. Vi har gjennomført en «red teaming»-øvelse for å kartlegge nye risikoer, og vi har skjerpet retningslinjene for bildegenerering på bakgrunn av Sora-teknologiens økte realisme og innføringen av bevegelse og lyd. Automatiserte systemer sjekker også alt innhold i feeden opp mot våre globale retningslinjer for bruk og filtrerer bort farlig og aldersuegnet materiale. Disse systemene oppdateres kontinuerlig etter hvert som vi får kunnskap om nye risikoer, og suppleres med manuell gjennomgang som fokuserer på de skadene som har størst innvirkning.
- Lydsikringstiltak. Å legge til lyd i Sora hever standarden for sikkerhet, og selv om perfekt beskyttelse er vanskelig, fortsetter vi å investere seriøst på dette området. Sora skanner automatisk transkripsjoner av generert tale for potensielle brudd på retningslinjer, og blokkerer også forsøk på å generere musikk som imiterer levende artister eller eksisterende verk. Systemene våre er designet for å oppdage og stoppe slike prompter, og vi respekterer forespørsler om fjerning fra skapere som mener at en Sora-utdata krenker arbeidet deres.
- Brukerkontroll og klagemuligheter. Du velger når og hvordan du vil dele videoene dine, og du kan når som helst fjerne det publiserte innholdet ditt. Videoer vil bare bli delt i feeden når du velger å gjøre det. Alle videoer, profiler, direktemeldinger, kommentarer og karakterer kan rapporteres for misbruk, og det finnes klare sanksjoner dersom retningslinjene brytes. Du kan også når som helst blokkere kontoer, noe som hindrer andre i å se profilen eller innleggene dine, bruke karakteren din og kontakte deg via direktemelding.
