Model Sora 2 i aplikacija Sora nude najsavremenije generisanje videa uz nov način zajedničkog stvaranja, a pobrinuli smo se da bezbednost bude ugrađena od samog početka. Naš pristup počiva na konkretnim zaštitama:
Razlikovanje AI sadržaja. Svaki video generisan pomoću Sora uključuje i vidljive i nevidljive signale porekla. Svi Sora video-snimci takođe sadrže ugrađene C2PA metapodatke — standardni potpis u industriji — a održavamo i interne alate za obrnutu pretragu slika i zvuka koji mogu sa velikom preciznošću da povežu video-snimke sa platformom Sora, nadovezujući se na uspešne sisteme iz ChatGPT generisanja slika i Sora 1. Mnogi izlazi nose i vidljive, dinamički pokretne vodene žigove koji uključuju ime kreatora.
Slika-u-video sa likom stvarne osobe. Dok nastavljamo da jačamo zaštitne ograde u Sora, omogućavamo više kreativnog izražavanja i povezivanja, uključujući i to da ljudi mogu da prave video-snimke od fotografija porodice i prijatelja. Korisnici mogu da otpremaju slike sa ljudima kako bi pravili video-snimke u Sora, nakon što potvrde da imaju saglasnost osoba koje se pojavljuju i prava za otpremanje medija. Generisanja slika-u-video sa ljudima podležu naročito strogim bezbednosnim zaštitnim ogradama, čak strožim od onoga što je dozvoljeno uz Sora Characters (ranije poznato kao cameo funkcija). Slike koje uključuju decu i osobe koje izgledaju mlado podležu još strožijoj moderaciji i zaštitnim ogradama u vezi sa tim šta se od njih može napraviti. Ovi video-snimci će pri deljenju uvek imati i vodene žigove.
Ličnost zasnovana na pristanku uz characters. Napravili smo characters(отвара се у новом прозору) da bismo vam dali snažnu kontrolu nad svojim likom u Sora. Lik obuhvata vaš izgled i vaš glas. Imamo zaštitne ograde koje treba da obezbede da se vaš zvučni i vizuelni identitet zabeležen u characters koristi uz vaš pristanak. Samo vi odlučujete ko može da koristi vaše characters, a pristup možete opozvati u bilo kom trenutku. Takođe preduzimamo mere da blokiramo prikaze javnih ličnosti, osim onih koji koriste funkciju characters. Video-snimci koji uključuju vaše characters — uključujući nacrte koje su napravili drugi korisnici — uvek su vam vidljivi. To vam omogućava da lako pregledate i izbrišete (i, po potrebi, prijavite) sve video-snimke u kojima se pojavljuje vaš character. Takođe primenjujemo dodatne bezbednosne zaštitne ograde na svaki video sa character, a možete čak i da uključite još stroži skup zaštitnih ograda koje ograničavaju vrste upotrebe. To uključuje ograničavanje velikih promena vašeg izgleda, stavljanje u neprijatne situacije i održavanje vašeg identiteta uglavnom doslednim.
Zaštitne mere za tinejdžere. Sora uključuje jače zaštite za mlađe korisnike, uključujući ograničenja za sadržaj za odrasle. Feed je osmišljen tako da bude prikladan za sve korisnike Sora, a sadržaj koji može biti štetan, nebezbedan ili neprikladan za uzrast filtrira se za naloge tinejdžera. Profili tinejdžera se ne preporučuju odraslima, a odrasli ne mogu da započnu poruke sa tinejdžerima. Roditeljske kontrole u ChatGPT omogućavaju roditeljima da upravljaju time da li tinejdžeri mogu da šalju i primaju direktne poruke, kao i da izaberu nepersonalizovan feed u aplikaciji Sora. Podrazumevano, tinejdžeri imaju i ograničenja koliko dugo mogu neprekidno da skroluju u Sora.
Filtriranje štetnog sadržaja. Sora koristi višeslojne odbrane da bi feed bio bezbedan, a da pritom ostane prostor za kreativnost. Prilikom stvaranja, zaštitne ograde nastoje da blokiraju nebezbedan sadržaj pre nego što nastane — uključujući seksualni materijal, terorističku propagandu i promovisanje samopovređivanja — proverom i instrukcija i izlaza kroz više video kadrova i audio transkripte. Sprovodili smo red teaming da bismo istražili nove rizike, a pooštrili smo smernice u odnosu na generisanje slika s obzirom na veću realističnost platforme Sora i dodatak pokreta i zvuka. Pored samog generisanja, automatizovani sistemi skeniraju sav sadržaj u feed-u u odnosu na naše Global Usage Policies i filtriraju nebezbedan ili uzrastu neprikladan materijal. Ovi sistemi se stalno ažuriraju kako učimo o novim rizicima, a dopunjuje ih ljudski pregled usmeren na štete sa najvećim uticajem.
Zaštitne mere za audio. Dodavanje zvuka u Sora podiže lestvicu za bezbednost i, iako je savršenu zaštitu teško postići, nastavljamo ozbiljno da ulažemo u ovu oblast. Sora automatski skenira transkripte generisanog govora radi mogućih kršenja smernica, a takođe blokira pokušaje generisanja muzike koja imitira žive umetnike ili postojeća dela. Naši sistemi su osmišljeni da otkriju i zaustave takve instrukcije, a uvažavamo i zahteve za uklanjanje od autora koji veruju da neki izlaz iz Sora krši njihovo delo.
Kontrola korisnika i pravna zaštita. Vi birate kada i kako ćete deliti svoje video-snimke, a objavljeni sadržaj možete ukloniti u bilo kom trenutku. Video-snimci će biti podeljeni u feed samo kada vi to odlučite. Svaki video, profil, direktna poruka, komentar i character mogu se prijaviti zbog zloupotrebe, uz jasne mogućnosti zaštite kada se smernice prekrše. Takođe u svakom trenutku možete izabrati da blokirate naloge, čime ćete sprečiti druge da vide vaš profil ili objave, koriste vaš character i kontaktiraju vas putem direktne poruke.
