Lagi dimuat…
Model Sora 2 lan aplikasi Sora nawakake generasi video paling canggih kanthi cara anyar kanggo nggawe bareng, lan kita mesthekake keamanan wis dibangun wiwit awal banget. Pendekatan kita adhedhasar perlindhungan sing nyata:
- Mbedakake konten AI. Saben video sing digawe nganggo Sora kalebu sinyal asal-usul sing katon lan ora katon. Kabeh video Sora uga ngemot metadata C2PA—tandha tangan standar industri—lan kita njaga alat telusur gambar balik lan audio internal sing bisa nglacak video bali menyang Sora kanthi akurasi dhuwur, nerusake sistem sing wis sukses saka generasi gambar ChatGPT lan Sora 1. Akeh output uga nggawa watermark katon sing obah dinamis lan nyakup jeneng kreator.
- Gambar-dadi-video nganggo pasemon wong nyata. Nalika kita terus nguwatake guardrail Sora, kita mbukak luwih akeh ekspresi kreatif lan sesambungan, kalebu ngidini wong nggawe video saka foto kulawarga lan kanca. Pangguna bisa ngunggah gambar sing ana wonge kanggo nggawe video ing Sora, sawise nyatakake yen dheweke nduweni idin saka wong sing ditampilake lan hak kanggo ngunggah media kasebut. Generasi gambar-dadi-video sing ana wonge kena guardrail keamanan sing mligi ketat, malah luwih ketat tinimbang sing diidini nganggo Sora Characters (biyen dikenal minangka fitur cameo). Gambar sing kalebu bocah lan wong sing katon enom kena moderasi lan guardrail sing luwih ketat maneh babagan apa sing bisa digawe saka gambar kasebut. Video iki uga bakal tansah duwe watermark nalika dibagikake.
- Pasemon adhedhasar idin nganggo characters. Kita nggawe characters(mbukak ing jendhela anyar) kanggo menehi sampeyan kontrol sing kuwat marang pasemon sampeyan ing Sora. Pasemon kalebu tampilan lan swara sampeyan. Kita duwe guardrail sing dimaksudake kanggo mesthekake yen pasemon audio lan gambar sampeyan sing direkam ing characters digunakake kanthi idin sampeyan. Mung sampeyan sing mutusake sapa sing bisa nggunakake characters sampeyan, lan sampeyan bisa mbatalake akses kapan wae. Kita uga njupuk langkah kanggo mblokir penggambaran tokoh publik, kajaba sing nggunakake fitur characters. Video sing ngemot characters sampeyan—kalebu draf sing digawe pangguna liya—mesthi katon kanggo sampeyan. Iki ngidini sampeyan gampang mriksa lan mbusak (lan, yen perlu, nglaporake) video apa wae sing nampilake character sampeyan. Kita uga ngetrapake guardrail keamanan tambahan kanggo video apa wae sing nganggo character, lan sampeyan malah bisa nguripake set guardrail sing luwih ketat maneh sing matesi jinis panggunaan. Iki kalebu matesi owah-owahan gedhe ing tampilan sampeyan, nyelehake sampeyan ing kahanan sing ngisin-isini, lan njaga identitas sampeyan tetep konsisten sacara umum.
- Perlindhungan kanggo remaja. Sora kalebu perlindhungan sing luwih kuwat kanggo pangguna enom, kalebu watesan ing output diwasa. Feed dirancang supaya cocog kanggo kabeh pangguna Sora lan konten sing bisa mbebayani, ora aman, utawa ora cocog karo umur bakal disaring metu kanggo akun remaja. Profil remaja ora dianjurake marang wong diwasa lan wong diwasa ora bisa miwiti pesen karo remaja. Kontrol wong tuwa ing ChatGPT ngidini wong tuwa ngatur apa remaja bisa ngirim lan nampa DM, uga milih feed sing ora dipersonalisasi ing aplikasi Sora. Lan kanthi gawan, remaja uga duwe watesan babagan sepira akehe bisa terus nggulung ing Sora.
- Nyaring konten mbebayani. Sora nggunakake pertahanan berlapis kanggo njaga feed tetep aman nalika isih menehi ruang kanggo kreativitas. Nalika nggawe, guardrail ngupaya mblokir konten ora aman sadurunge digawe—kalebu materi seksual, propaganda teroris, lan promosi nyilakani awake dhewe—kanthi mriksa prompt lan output ing pirang-pirang frame video lan transkrip audio. Kita wis nindakake red teaming kanggo njelajah risiko anyar, lan kita wis ngencengi kabijakan dibandhingake karo generasi gambar amarga realisme Sora sing luwih dhuwur lan tambahan gerakan lan audio. Saliyane generasi, sistem otomatis mindhai kabeh konten feed miturut Kabijakan Panggunaan Global kita lan nyaring materi sing ora aman utawa ora cocog karo umur. Sistem iki terus dianyari nalika kita sinau babagan risiko anyar lan dilengkapi review manungsa sing fokus ing bebaya kanthi dampak paling gedhe.
- Perlindhungan audio. Nambah audio menyang Sora nambah standar keamanan, lan sanajan perlindhungan sing sampurna angel, kita terus nandur modal kanthi serius ing wilayah iki. Sora kanthi otomatis mindhai transkrip ucapan sing digawe kanggo kemungkinan pelanggaran kabijakan, lan uga mblokir upaya kanggo ngasilake musik sing niru artis sing isih urip utawa karya sing wis ana. Sistem kita dirancang kanggo ndeteksi lan mandhegake prompt kaya mangkono, lan kita ngurmati panjalukan take down saka kreator sing yakin yen output Sora nglanggar karya dheweke.
- Kontrol pangguna lan upaya perbaikan. Sampeyan milih kapan lan kepiye cara nuduhake video sampeyan, lan sampeyan bisa mbusak konten sing wis diterbitake kapan wae. Video mung bakal dibagikake menyang feed nalika sampeyan milih nglakoni. Saben video, profil, pesen langsung, komentar, lan character bisa dilaporake amarga penyalahgunaan, kanthi upaya perbaikan sing cetha nalika kabijakan dilanggar. Sampeyan uga bisa milih mblokir akun kapan wae, sing bakal nyegah wong liya ndeleng profil utawa kiriman sampeyan, nggunakake character sampeyan, lan ngubungi sampeyan liwat pesen langsung.
