Nalaganje …
Od 26. aprila 2026 naprej izdelek Sora ne bo več na voljo.
Model Sora 2 in aplikacija Sora omogočata najsodobnejše generiranje videa ter nov način skupnega ustvarjanja, pri čemer so varnostni mehanizmi vključeni že od samega začetka. Naš pristop temelji na konkretnih zaščitnih ukrepih:
- Razlikovanje vsebine, ustvarjene z UI Vsak video, ustvarjen s Soro, vključuje vidne in nevidne oznake izvora. Vsi videi Sora vsebujejo tudi metapodatke C2PA – industrijski standard za označevanje izvora – poleg tega uporabljamo interna orodja za povratno iskanje slik in zvoka, ki lahko z visoko natančnostjo sledijo izvoru videa v Sori, pri čemer izhajamo iz uspešnih rešitev generiranja slik v ChatGPT in Sora 1. Številni izhodi vključujejo tudi vidne, dinamično premikajoče se vodne žige z imenom ustvarjalca.
- Pretvorba slike v video z uporabo podobe resničnih oseb. Z nadaljnjim izboljševanjem zaščitnih ukrepov v Sori omogočamo več ustvarjalnega izražanja in povezovanja, tudi z možnostjo ustvarjanja videov iz fotografij družine in prijateljev. Uporabniki lahko naložijo slike z osebami in iz njih ustvarijo video, pri čemer potrdijo, da imajo soglasje upodobljenih oseb in pravico do uporabe gradiva. Takšne pretvorbe slike v video so podvržene posebej strogim zaščitnim ukrepom, še strožjim kot pri funkcionalnosti likov (prej znani kot funkcionalnost cameo). Slike, na katerih so otroci in osebe mladostnega videza, so predmet še strožjega moderiranja in zaščitnih omejitev glede tega, kaj je mogoče ustvariti na njihovi podlagi. Takšni videi bodo ob deljenju vedno opremljeni z vodnim žigom.
- Uporaba podobe na podlagi soglasja z liki Funkcionalnost likov(odpre se v novem oknu) omogoča nadzor nad lastno podobo v Sori. Podoba pomeni tudi videz in glas. Vzpostavljeni so zaščitni ukrepi, katerih namen je zagotoviti, da se zvočna in vizualna podoba, zajeta v likih, uporablja izključno z vašim soglasjem. O tem, kdo lahko uporablja vaš lik, odločate sami, dostop pa lahko kadar koli prekličete. Sprejemamo tudi ukrepe za preprečevanje upodabljanja javnih oseb, razen v primerih uporabe funkcionalnosti likov. Videi, ki vključujejo vaš lik – tudi osnutki drugih uporabnikov – so vam vedno na voljo za pregled. To omogoča enostaven pregled in brisanje (ter po potrebi prijavo) vsebin, ki vključujejo vaš lik. Za vse videe z liki veljajo dodatni zaščitni ukrepi, možno pa je vključiti tudi strožji način uporabe, ki dodatno omejuje dovoljene načine rabe. To vključuje omejitve večjih sprememb videza, preprečevanje postavljanja v neprijetne situacije ter ohranjanje doslednosti identitete.
- Zaščitni ukrepi za mladoletnike Sora vključuje okrepljene zaščitne mehanizme za mlajše uporabnike, vključno z omejitvami glede zrele vsebine. Vir je zasnovan tako, da je primeren za vse uporabnike, vsebine, ki bi lahko bile škodljive, nevarne ali starostno neprimerne, pa so za mladoletniške račune filtrirane. Profili mladoletnikov niso priporočeni odraslim, odrasli pa ne morejo začeti sporočanja z mladoletniki. Starševski nadzor v ChatGPT omogoča upravljanje pošiljanja in prejemanja neposrednih sporočil ter izbiro nepersonaliziranega vira v aplikaciji Sora. Privzeto imajo mladoletniki tudi omejitve glede količine neprekinjenega podrsavanja v Sori.
- Filtriranje škodljive vsebine Sora uporablja večplastne zaščitne mehanizme, ki zagotavljajo varnost vira, hkrati pa omogočajo ustvarjalnost. Pri ustvarjanju zaščitni ukrepi skušajo preprečiti nastanek nevarne vsebine – vključno s spolno vsebino, teroristično propagando in spodbujanjem samopoškodovanja – z analizo tako pozivov kot ustvarjenih vsebin v več video sličicah in zvočnih prepisih. Z izvajanjem simuliranih napadov (red teaming) raziskujemo nova tveganja, politike pa smo dodatno zaostrili glede na večjo stopnjo realizma ter vključitev gibanja in zvoka. Po generiranju avtomatizirani sistemi preverjajo vso vsebino vira glede na našo globalno Politiko uporabe ter izločajo nevarne ali starostno neprimerne vsebine. Ti sistemi se nenehno posodabljajo glede na nova tveganja in jih dopolnjuje človeški pregled, osredotočen na najresnejše primere škode.
- Zvočni zaščitni ukrepi. Možnost dodajanja zvoka v modelu Sora zahteva višje standarde glede varnosti, in čeprav je popolno zaščito težko zagotoviti, še naprej močno vlagamo v to področje. Sora samodejno pregleduje prepise generiranega govora in išče morebitne kršitve pravilnikov ter blokira poskuse ustvarjanja glasbe, ki posnema žive izvajalce ali obstoječa dela. Naši sistemi so zasnovani za zaznavanje in ustavljanje takšnih pozivov in spoštujemo zahteve za odstranitev, ki jih podajo ustvarjalci, ki menijo, da izhodni izdelek modela Sora krši pravice, ki izhajajo iz njihovega dela.
- Nadzor v rokah uporabnika in možnosti ukrepanja Uporabnik sam odloča, kdaj in kako deli svoje videe, objavljeno vsebino pa lahko kadar koli odstrani. Videi se v viru prikažejo le, če se uporabnik odloči za njihovo deljenje. Vsak video, profil, neposredno sporočilo, komentar in lik je mogoče prijaviti zaradi zlorabe, pri čemer so na voljo jasni postopki ukrepanja ob kršitvah pravil. Uporabnik lahko kadar koli blokira druge račune, s čimer prepreči, da bi drugi videli njegov profil ali objave, uporabljali njegov lik ali ga kontaktirali prek neposrednih sporočil.
