Учитавање…
Model Sora 2 i aplikacija Sora nude najsavremenije generisanje videa uz nov način zajedničkog stvaranja, a pobrinuli smo se da bezbednost bude ugrađena od samog početka. Naš pristup počiva na konkretnim zaštitama:
- Razlikovanje AI sadržaja. Svaki video generisan pomoću Sora uključuje i vidljive i nevidljive signale porekla. Svi Sora video-snimci takođe sadrže ugrađene C2PA metapodatke — standardni potpis u industriji — a održavamo i interne alate za obrnutu pretragu slika i zvuka koji mogu sa velikom preciznošću da povežu video-snimke sa platformom Sora, nadovezujući se na uspešne sisteme iz ChatGPT generisanja slika i Sora 1. Mnogi izlazi nose i vidljive, dinamički pokretne vodene žigove koji uključuju ime kreatora.
- Slika-u-video sa likom stvarne osobe. Dok nastavljamo da jačamo zaštitne ograde u Sora, omogućavamo više kreativnog izražavanja i povezivanja, uključujući i to da ljudi mogu da prave video-snimke od fotografija porodice i prijatelja. Korisnici mogu da otpremaju slike sa ljudima kako bi pravili video-snimke u Sora, nakon što potvrde da imaju saglasnost osoba koje se pojavljuju i prava za otpremanje medija. Generisanja slika-u-video sa ljudima podležu naročito strogim bezbednosnim zaštitnim ogradama, čak strožim od onoga što je dozvoljeno uz Sora Characters (ranije poznato kao cameo funkcija). Slike koje uključuju decu i osobe koje izgledaju mlado podležu još strožijoj moderaciji i zaštitnim ogradama u vezi sa tim šta se od njih može napraviti. Ovi video-snimci će pri deljenju uvek imati i vodene žigove.
- Ličnost zasnovana na pristanku uz characters. Napravili smo characters(отвара се у новом прозору) da bismo vam dali snažnu kontrolu nad svojim likom u Sora. Lik obuhvata vaš izgled i vaš glas. Imamo zaštitne ograde koje treba da obezbede da se vaš zvučni i vizuelni identitet zabeležen u characters koristi uz vaš pristanak. Samo vi odlučujete ko može da koristi vaše characters, a pristup možete opozvati u bilo kom trenutku. Takođe preduzimamo mere da blokiramo prikaze javnih ličnosti, osim onih koji koriste funkciju characters. Video-snimci koji uključuju vaše characters — uključujući nacrte koje su napravili drugi korisnici — uvek su vam vidljivi. To vam omogućava da lako pregledate i izbrišete (i, po potrebi, prijavite) sve video-snimke u kojima se pojavljuje vaš character. Takođe primenjujemo dodatne bezbednosne zaštitne ograde na svaki video sa character, a možete čak i da uključite još stroži skup zaštitnih ograda koje ograničavaju vrste upotrebe. To uključuje ograničavanje velikih promena vašeg izgleda, stavljanje u neprijatne situacije i održavanje vašeg identiteta uglavnom doslednim.
- Zaštitne mere za tinejdžere. Sora uključuje jače zaštite za mlađe korisnike, uključujući ograničenja za sadržaj za odrasle. Feed je osmišljen tako da bude prikladan za sve korisnike Sora, a sadržaj koji može biti štetan, nebezbedan ili neprikladan za uzrast filtrira se za naloge tinejdžera. Profili tinejdžera se ne preporučuju odraslima, a odrasli ne mogu da započnu poruke sa tinejdžerima. Roditeljske kontrole u ChatGPT omogućavaju roditeljima da upravljaju time da li tinejdžeri mogu da šalju i primaju direktne poruke, kao i da izaberu nepersonalizovan feed u aplikaciji Sora. Podrazumevano, tinejdžeri imaju i ograničenja koliko dugo mogu neprekidno da skroluju u Sora.
- Filtriranje štetnog sadržaja. Sora koristi višeslojne odbrane da bi feed bio bezbedan, a da pritom ostane prostor za kreativnost. Prilikom stvaranja, zaštitne ograde nastoje da blokiraju nebezbedan sadržaj pre nego što nastane — uključujući seksualni materijal, terorističku propagandu i promovisanje samopovređivanja — proverom i instrukcija i izlaza kroz više video kadrova i audio transkripte. Sprovodili smo red teaming da bismo istražili nove rizike, a pooštrili smo smernice u odnosu na generisanje slika s obzirom na veću realističnost platforme Sora i dodatak pokreta i zvuka. Pored samog generisanja, automatizovani sistemi skeniraju sav sadržaj u feed-u u odnosu na naše Global Usage Policies i filtriraju nebezbedan ili uzrastu neprikladan materijal. Ovi sistemi se stalno ažuriraju kako učimo o novim rizicima, a dopunjuje ih ljudski pregled usmeren na štete sa najvećim uticajem.
- Zaštitne mere za audio. Dodavanje zvuka u Sora podiže lestvicu za bezbednost i, iako je savršenu zaštitu teško postići, nastavljamo ozbiljno da ulažemo u ovu oblast. Sora automatski skenira transkripte generisanog govora radi mogućih kršenja smernica, a takođe blokira pokušaje generisanja muzike koja imitira žive umetnike ili postojeća dela. Naši sistemi su osmišljeni da otkriju i zaustave takve instrukcije, a uvažavamo i zahteve za uklanjanje od autora koji veruju da neki izlaz iz Sora krši njihovo delo.
- Kontrola korisnika i pravna zaštita. Vi birate kada i kako ćete deliti svoje video-snimke, a objavljeni sadržaj možete ukloniti u bilo kom trenutku. Video-snimci će biti podeljeni u feed samo kada vi to odlučite. Svaki video, profil, direktna poruka, komentar i character mogu se prijaviti zbog zloupotrebe, uz jasne mogućnosti zaštite kada se smernice prekrše. Takođe u svakom trenutku možete izabrati da blokirate naloge, čime ćete sprečiti druge da vide vaš profil ili objave, koriste vaš character i kontaktiraju vas putem direktne poruke.
