Одговорно увођење модела Sora

Sora 2 и апликација Sora спајају најсавременије генерисање видеа са новим начином за заједничко креирање, а ми смо обезбедили да безбедност буде уграђена од самог почетка. Наш приступ се заснива на конкретним заштитним мерама:

• Разликовање AI садржаја.  Сваки видео генерисан помоћу Sora садржи и видљиве и невидљиве сигнале порекла. При покретању, сви резултати носе видљиви водени жиг. Сви Sora видео-снимци такође садрже уграђене C2PA метаподатке — индустријски стандардни потпис — а одржавамо и интерне алате за обрнуту претрагу слика и звука који могу са великом прецизношћу да повежу видео-снимке са Sora, надовезујући се на успешне системе из ChatGPT генерисања слика и Sora 1.
• Контрола лика заснована на пристанку помоћу ликова. Наш циљ је да вам уз Sora ликове омогућимо потпуну контролу над сопственим ликом, од почетка до краја. Имамо заштитне мере које треба да обезбеде да се ваш гласовни и визуелни лик забележен у ликовима користе уз ваш пристанак. Само ви одлучујете ко може да користи ваше ликове, а приступ можете да опозовете у било ком тренутку. Такође предузимамо мере да блокирамо приказе јавних личности (осим оних који, наравно, користе функцију ликова). Видео-снимци који укључују ваше ликове — укључујући нацрте које су направили други корисници — увек су вам видљиви. То вам омогућава да лако прегледате и избришете (и, ако је потребно, пријавите) све видео-снимке у којима се појављује ваш лик. Такође примењујемо додатне безбедносне заштитне мере на сваки видео са ликом, а можете чак и да подесите жељене поставке за понашање свог лика — на пример, да затражите да увек носи федору.
• Заштитне мере за тинејџере. Sora укључује јаче заштите за млађе кориснике, укључујући ограничења за садржај за одрасле. Фид је осмишљен тако да буде примерен тинејџерима, профили тинејџера се не препоручују одраслима, а одрасли не могу да започињу поруке са тинејџерима. Нове родитељске контроле у ChatGPT‑у омогућавају родитељима да управљају тиме да ли тинејџери могу да шаљу и примају директне поруке, као и да у апликацији Sora изаберу неперсонализован фид. Поред тога, тинејџери подразумевано имају и ограничења у томе колико дуго могу непрекидно да скролују у Sora.
• Филтрирање штетног садржаја. Sora користи слојевиту одбрану да би фид био безбедан, а да притом остави простор за креативност. При креирању, заштитне мере настоје да блокирају небезбедан садржај пре него што настане — укључујући сексуални материјал, терористичку пропаганду и промовисање самоповређивања — провером и инструкција и резултата кроз више видео кадрова и аудио транскрипата. Спровели смо red teaming како бисмо истражили нове ризике, а смернице смо пооштрили у односу на генерисање слика, с обзиром на већу реалистичност Sora и додавање покрета и звука. Поред самог генерисања, аутоматизовани системи скенирају сав садржај у фиду у односу на наше Глобалне смернице коришћења⁠ и филтрирају небезбедан или узрасту непримерен материјал. Ови системи се непрекидно ажурирају како сазнајемо за нове ризике и допуњују их људске провере усмерене на штете са највећим утицајем.
• Заштитне мере за звук. Додавање звука у Sora подиже лествицу када је реч о безбедности, и иако је савршену заштиту тешко постићи, настављамо озбиљно да улажемо у ову област. Sora аутоматски скенира транскрипте генерисаног говора ради могућих кршења смерница, а такође блокира покушаје генерисања музике која имитира живе уметнике или постојећа дела. Наши системи су осмишљени да открију и зауставе такве инструкције, а уважавамо и захтеве за уклањање од креатора који верују да неки резултат из Sora крши њихово дело.
• Корисничка контрола и правна заштита. Ви бирате када и како ћете делити своје видео-снимке, а свој објављени садржај можете да уклоните у било ком тренутку. Видео-снимци ће бити дељени у фид само када ви то изаберете. Сваки видео, профил и коментар може бити пријављен због злоупотребе, уз јасне механизме заштите када се смернице прекрше. Такође у сваком тренутку можете да блокирате налоге, што ће спречити друге да виде ваш профил или да вас контактирају путем директне поруке.